scipy.optimize.

fmin_bfgs#

scipy.optimize.fmin_bfgs(f, x0, fprime=None, args=(), gtol=1e-05, norm=inf, epsilon=np.float64(1.4901161193847656e-08), maxiter=None, full_output=0, disp=1, retall=0, callback=None, xrtol=0, c1=0.0001, c2=0.9, hess_inv0=None)[source]#

使用 BFGS 算法最小化函数。

参数:

f可调用对象 f(x,*args): 要最小化的目标函数。
x0ndarray: 初始猜测，形状为 (n,)
fprime可调用对象 f'(x,*args), 可选: f 的梯度。
argstuple, 可选: 传递给 f 和 fprime 的额外参数。
gtolfloat, 可选: 如果梯度范数小于 gtol 则成功终止。
normfloat, 可选: 范数的阶（Inf 为最大，-Inf 为最小）
epsilonint 或 ndarray, 可选: 如果 fprime 被近似，则使用此值作为步长。
callback可调用对象, 可选: 每次迭代后调用的可选用户提供的函数。调用形式为 callback(xk)，其中 xk 是当前的参数向量。
maxiterint, 可选: 要执行的最大迭代次数。
full_outputbool, 可选: 如果为 True，除了 xopt 外，还返回 fopt、func_calls、grad_calls 和 warnflag。
dispbool, 可选: 如果为 True，则打印收敛消息。
retallbool, 可选: 如果为 True，则返回每次迭代的结果列表。
xrtolfloat, 默认值: 0: x 的相对容差。如果步长小于 xk * xrtol（其中 xk 是当前参数向量），则成功终止。
c1float, 默认值: 1e-4: Armijo 条件规则的参数。
c2float, 默认值: 0.9: 曲率条件规则的参数。
hess_inv0None 或 ndarray, 可选: 初始逆 Hessian 估计，形状为 (n, n)。如果为 None（默认），则使用单位矩阵。

返回:

xoptndarray: 使 f 最小化的参数，即 f(xopt) == fopt。
foptfloat: 最小值。
goptndarray: 在最小值处的梯度值，f’(xopt)，应接近 0。
Boptndarray: 1/f’’(xopt) 的值，即逆 Hessian 矩阵。
func_callsint: 函数调用次数。
grad_callsint: 梯度调用次数。
warnflaginteger: 1 : 超过最大迭代次数。2 : 梯度和/或函数调用没有变化。3 : 遇到 NaN 结果。
allvecslist: 每次迭代中 xopt 的值。仅当 retall 为 True 时返回。

另请参阅

minimize: 多元函数最小化算法的接口。特别参阅 method='BFGS'。

备注

使用 Broyden、Fletcher、Goldfarb 和 Shanno (BFGS) 的拟牛顿法优化函数 f，其梯度由 fprime 给出。

参数 c1 和 c2 必须满足 0 < c1 < c2 < 1。

参考文献

Wright 和 Nocedal ‘Numerical Optimization’, 1999, p. 198.

示例

>>> import numpy as np
>>> from scipy.optimize import fmin_bfgs
>>> def quadratic_cost(x, Q):
...     return x @ Q @ x
...
>>> x0 = np.array([-3, -4])
>>> cost_weight =  np.diag([1., 10.])
>>> # Note that a trailing comma is necessary for a tuple with single element
>>> fmin_bfgs(quadratic_cost, x0, args=(cost_weight,))
Optimization terminated successfully.
        Current function value: 0.000000
        Iterations: 7                   # may vary
        Function evaluations: 24        # may vary
        Gradient evaluations: 8         # may vary
array([ 2.85169950e-06, -4.61820139e-07])

>>> def quadratic_cost_grad(x, Q):
...     return 2 * Q @ x
...
>>> fmin_bfgs(quadratic_cost, x0, quadratic_cost_grad, args=(cost_weight,))
Optimization terminated successfully.
        Current function value: 0.000000
        Iterations: 7
        Function evaluations: 8
        Gradient evaluations: 8
array([ 2.85916637e-06, -4.54371951e-07])