fmin_bfgs#
- scipy.optimize.fmin_bfgs(f, x0, fprime=None, args=(), gtol=1e-05, norm=inf, epsilon=np.float64(1.4901161193847656e-08), maxiter=None, full_output=0, disp=1, retall=0, callback=None, xrtol=0, c1=0.0001, c2=0.9, hess_inv0=None)[source]#
使用 BFGS 算法最小化函数。
- 参数:
- f可调用对象
f(x,*args)
要最小化的目标函数。
- x0ndarray
初始猜测,形状为 (n,)
- fprime可调用对象
f'(x,*args)
, 可选 f 的梯度。
- argstuple, 可选
传递给 f 和 fprime 的额外参数。
- gtolfloat, 可选
如果梯度范数小于 gtol 则成功终止。
- normfloat, 可选
范数的阶(Inf 为最大,-Inf 为最小)
- epsilonint 或 ndarray, 可选
如果 fprime 被近似,则使用此值作为步长。
- callback可调用对象, 可选
每次迭代后调用的可选用户提供的函数。调用形式为
callback(xk)
,其中xk
是当前的参数向量。- maxiterint, 可选
要执行的最大迭代次数。
- full_outputbool, 可选
如果为 True,除了
xopt
外,还返回fopt
、func_calls
、grad_calls
和warnflag
。- dispbool, 可选
如果为 True,则打印收敛消息。
- retallbool, 可选
如果为 True,则返回每次迭代的结果列表。
- xrtolfloat, 默认值: 0
x 的相对容差。如果步长小于
xk * xrtol
(其中xk
是当前参数向量),则成功终止。- c1float, 默认值: 1e-4
Armijo 条件规则的参数。
- c2float, 默认值: 0.9
曲率条件规则的参数。
- hess_inv0None 或 ndarray, 可选
初始逆 Hessian 估计,形状为 (n, n)。如果为 None(默认),则使用单位矩阵。
- f可调用对象
- 返回:
- xoptndarray
使 f 最小化的参数,即
f(xopt) == fopt
。- foptfloat
最小值。
- goptndarray
在最小值处的梯度值,f’(xopt),应接近 0。
- Boptndarray
1/f’’(xopt) 的值,即逆 Hessian 矩阵。
- func_callsint
函数调用次数。
- grad_callsint
梯度调用次数。
- warnflaginteger
1 : 超过最大迭代次数。2 : 梯度和/或函数调用没有变化。3 : 遇到 NaN 结果。
- allvecslist
每次迭代中 xopt 的值。仅当 retall 为 True 时返回。
另请参阅
minimize
多元函数最小化算法的接口。特别参阅
method='BFGS'
。
备注
使用 Broyden、Fletcher、Goldfarb 和 Shanno (BFGS) 的拟牛顿法优化函数 f,其梯度由 fprime 给出。
参数 c1 和 c2 必须满足
0 < c1 < c2 < 1
。参考文献
Wright 和 Nocedal ‘Numerical Optimization’, 1999, p. 198.
示例
>>> import numpy as np >>> from scipy.optimize import fmin_bfgs >>> def quadratic_cost(x, Q): ... return x @ Q @ x ... >>> x0 = np.array([-3, -4]) >>> cost_weight = np.diag([1., 10.]) >>> # Note that a trailing comma is necessary for a tuple with single element >>> fmin_bfgs(quadratic_cost, x0, args=(cost_weight,)) Optimization terminated successfully. Current function value: 0.000000 Iterations: 7 # may vary Function evaluations: 24 # may vary Gradient evaluations: 8 # may vary array([ 2.85169950e-06, -4.61820139e-07])
>>> def quadratic_cost_grad(x, Q): ... return 2 * Q @ x ... >>> fmin_bfgs(quadratic_cost, x0, quadratic_cost_grad, args=(cost_weight,)) Optimization terminated successfully. Current function value: 0.000000 Iterations: 7 Function evaluations: 8 Gradient evaluations: 8 array([ 2.85916637e-06, -4.54371951e-07])