One - One Code All

Blog Content

python 非线性规划(scipy.optimize.minimize)

Python 统计学-科学计算   2014-05-22 10:48:35



一.非线性规划可以简单分两种,目标函数为凸函数 or 非凸函数。

凸函数的 非线性规划,比如fun=x^2+y^2+x*y,有很多常用的python库来完成,网上也有很多资料,比如CVXPY

非凸函数的 非线性规划(求极值),从处理方法来说,可以尝试以下几种:

1.纯数学方法,求导求极值;

2.使用神经网络,深度学习来处理,可参考反向传播算法中链式求导的过程;

3.寻找一些python库来做,本文介绍scipy.optimize.minimize的使用方法

二.库方法介绍

官方文档:https://docs.scipy.org/doc/scipy/reference/generated/scipy.optimize.minimize.html

来看下改方法的入参

scipy.optimize.minimize(fun, x0, args=(), method=None, jac=None, hess=None, hessp=None, bounds=None, constraints=(), tol=None, callback=None, options=None)

解释:

fun: 求最小值的目标函数

x0:变量的初始猜测值,如果有多个变量,需要给每个变量一个初始猜测值。minimize是局部最优的解法。

args:常数值,fun中没有数字,都以变量的形式表示,对于常数项,需要在这里给值。

method:求极值的方法,官方文档给了很多种。一般使用默认。每种方法我理解是计算误差,反向传播的方式不同而已,这块有很大理论研究空间

constraints:约束条件,针对fun中为参数的部分进行约束限制。


该方法在金融领域的应用:


我们手里有的数据是(输入)各只股票每天的交易价格,要得到的是(输出)每只股票价值占组合价值的比例,即权重。

马科维茨资产组合投资理论里没有价格,有的是每只股票的平均收益率和方差,二者的基础都是日收益率,所以先把日收益率求出来。接着求期望和协方差矩阵

解决这个问题的关键在于解最优化问题。Scipy的optimize是用来处理最优化问题的。在资产组合问题中使用 scipy.optimize.minimize 方法。

scipy.optimize.minimize(fun, x0, args=(), method=None, jac=None,  hess=None,  hessp=None, bounds=None, constraints=(), tol=None, callback=None, options=None)

参数很多,我们只需用到以下几个:

fun表示目标函数,即收益率

x0是参数的初始值,即要先给出权重的初始值,随意给,我是平均分配的

args是要提前传给目标函数的其他参数,包括每只股票的平均收益率和股票个数

method是求解方法,选择“SLSQP”

bounds是参数的取值范围,因为股票只能做多不能做空,所以是(0,1)

constraints约束条件,一个约束条件是一个字典,多个约束条件是由字典组成的序列。描述一个约束条件最主要由两部分:类型(等式还是不等式)和函数。


三.demo

1.计算 1/x+x 的最小值

def fun(args):
    a=args
    v=lambda x:a/x[0] +x[0]
    return v

if __name__ == "__main__":
    args = (1)  #a
    x0 = np.asarray((2))  # 初始猜测值
    res = minimize(fun(args), x0, method='SLSQP')
    print(res.fun)
    print(res.success)
    print(res.x)


执行结果:函数的最小值为2点多,可以看出minimize求的局部最优

2.计算  (2+x1)/(1+x2) - 3*x1+4*x3 的最小值  x1,x2,x3的范围都在0.1到0.9 之间

def fun(args):
    a,b,c,d=args
    v=lambda x: (a+x[0])/(b+x[1]) -c*x[0]+d*x[2]
    return v
def con(args):
    # 约束条件 分为eq 和ineq
    #eq表示 函数结果等于0 ; ineq 表示 表达式大于等于0  
    x1min, x1max, x2min, x2max,x3min,x3max = args
    cons = ({'type': 'ineq', 'fun': lambda x: x[0] - x1min},\
                {'type': 'ineq', 'fun': lambda x: -x[0] + x1max},\
                {'type': 'ineq', 'fun': lambda x: x[1] - x2min},\
                {'type': 'ineq', 'fun': lambda x: -x[1] + x2max},\
            {'type': 'ineq', 'fun': lambda x: x[2] - x3min},\
                {'type': 'ineq', 'fun': lambda x: -x[2] + x3max})
    return cons
    
if __name__ == "__main__":
    #定义常量值
    args = (2,1,3,4)  #a,b,c,d
    #设置参数范围/约束条件
    args1 = (0.1,0.9,0.1, 0.9,0.1,0.9)  #x1min, x1max, x2min, x2max
    cons = con(args1)
    #设置初始猜测值  
    x0 = np.asarray((0.5,0.5,0.5))
    
    res = minimize(fun(args), x0, method='SLSQP',constraints=cons)
    print(res.fun)
    print(res.success)
    print(res.x)


执行结果:

对于这种简单的函数,可以看出局部最优的求解和真实最优解相差不大,对于复杂的函数,x0的初始值设置,会很大程度影响最优解的结果。

ADD:

全局最优的函数: scipy.optimize.basinhopping

有一个缺点是无法设置约束,求全局的最优解的函数

https://docs.scipy.org/doc/scipy/reference/generated/scipy.optimize.basinhopping.html


上一篇:浏览器插件之页面多个关键词高亮
下一篇:python爬虫用到的库

The minute you think of giving up, think of the reason why you held on so long.