asp.net 网站截图,赞赏分享wordpress代码,wordpress的文件权限,闸北区网站建设一、基本共轭方向算法 对于n维二次型函数的最小化问题:
f(x)=12xTQx−xTb
f(x)=\frac{1}{2}\boldsymbol{x^TQx-x^Tb}其中#xff0c;QQT0,x∈Rn。因为Q0,所以函数f有一个全局极小点,可以通过求解Qx=b得到。
基本共轭方向算法 给定初始点x(0)和一组关于Q共轭的方向…一、基本共轭方向算法 对于nn维二次型函数的最小化问题:
f(x)=12xTQx−xTb
f(x)=\frac{1}{2}\boldsymbol{x^TQx-x^Tb}其中QQT0,x∈Rn\boldsymbol{Q}=\boldsymbol{Q^T}>0, \boldsymbol{x} \in \mathbb{R^n}。因为Q0\boldsymbol{Q}>0,所以函数ff有一个全局极小点,可以通过求解Qx=b\boldsymbol{Qx=b}得到。
基本共轭方向算法 给定初始点x(0)\boldsymbol{x^{(0)}}和一组关于Q\boldsymbol{Q}共轭的方向d(0),d(1),…,d(n−1)\boldsymbol{d^{(0)},d^{(1)}, \dots,d^{(n-1)}},迭代公式为(k≥0表示迭代次数k \ge 0表示迭代次数)
g(k)∇f(x(k))Qx(k)−bak−g(k)Td(k)d(k)TQd(k)x(k1)x(k)akd(k)\boldsymbol{g^{(k)}} = \nabla f(\boldsymbol{x^{(k)}})=\boldsymbol{Qx^{(k)}-b}\\
a_k=-\frac{\boldsymbol{g}^{(k)T}\boldsymbol{d}^{(k)}}{\boldsymbol{d}^{(k)T}\boldsymbol{Qd}^{(k)}}\\
\boldsymbol{x^{(k+1)}}=\boldsymbol{x^{(k)}}+a_k\boldsymbol{d^{(k)}}二、定理及其证明
对于任意初始点x(0)\boldsymbol{x^{(0)}}基本共轭方向算法都能在nn次迭代之内收敛到唯一全局极小点x∗\boldsymbol{x^{*}}即x(n)x∗\boldsymbol{x^{(n)}}=\boldsymbol{x^{*}}.
证明由于方向d(i),i0,1,…,n−1\boldsymbol{d^{(i)}}, i=0, 1, \dots, n-1线性无关因此x∗−x(0)∈Rn\boldsymbol{x^{*}}-\boldsymbol{x^{(0)}} \in \mathbb{R}^n可以由它们线性表出即
x∗−x(0)β0d(0)β1x(1)⋯βn−1d(n−1)\boldsymbol{x^{*}}-\boldsymbol{x^{(0)}}=\beta_0\boldsymbol{d^{(0)}}+\beta_1\boldsymbol{x^{(1)}}+\dots+\beta_{n-1}\boldsymbol{d^{(n-1)}}其中βi,i0,1,…,n−1\beta_i, i = 0, 1, \dots, n-1为常数。 上式同时左乘d(k)TQ\boldsymbol{d}^{(k)T}\boldsymbol{Q}, d(k)TQ(x∗−x(0))βkd(k)TQd(k)\boldsymbol{d}^{(k)T}\boldsymbol{Q}(\boldsymbol{x^{*}}-\boldsymbol{x^{(0)}})=\beta_k \boldsymbol{d}^{(k)T}\boldsymbol{Q}\boldsymbol{d}^{(k)}整理下可得 βk−d(k)TQ(x∗−x(0))d(k)TQd(k)\beta_k=-\frac{\boldsymbol{d}^{(k)T}\boldsymbol{Q}(\boldsymbol{x^{*}}-\boldsymbol{x^{(0)}})}{\boldsymbol{d}^{(k)T}\boldsymbol{Qd}^{(k)}}迭代点x(k)\boldsymbol{x^{(k)}}可以写为 x(k)x(0)a0d(0)a1x(1)⋯ak−1d(k−1)\boldsymbol{x^{(k)}}=\boldsymbol{x^{(0)}}+a_0\boldsymbol{d^{(0)}}+a_1\boldsymbol{x^{(1)}}+\dots+a_{k-1}\boldsymbol{d^{(k-1)}}则 x(k)−x(0)a0d(0)a1x(1)⋯ak−1d(k−1)\boldsymbol{x^{(k)}}-\boldsymbol{x^{(0)}}=a_0\boldsymbol{d^{(0)}}+a_1\boldsymbol{x^{(1)}}+\dots+a_{k-1}\boldsymbol{d^{(k-1)}}上式同时左乘d(k)TQ\boldsymbol{d}^{(k)T}\boldsymbol{Q},因为g(k)Qx(k)−b,Qx∗b\boldsymbol{g^{(k)}} = \boldsymbol{Qx^{(k)}-b}, \boldsymbol{Qx^{*}=b},可得 d(k)TQ(x∗−x(0))d(k)TQ(x∗−x(k))−g(k)Td(k)\boldsymbol{d}^{(k)T}\boldsymbol{Q}(\boldsymbol{x^{*}}-\boldsymbol{x^{(0)}})=\boldsymbol{d}^{(k)T}\boldsymbol{Q}(\boldsymbol{x^{*}}-\boldsymbol{x^{(k)}})=-\boldsymbol{g}^{(k)T}\boldsymbol{d}^{(k)}所以 βk−g(k)Td(k)d(k)TQd(k)ak\beta_k=-\frac{\boldsymbol{g}^{(k)T}\boldsymbol{d}^{(k)}}{\boldsymbol{d}^{(k)T}\boldsymbol{Qd}^{(k)}}=a_k这说明x(n)x∗\boldsymbol{x^{(n)}}=\boldsymbol{x^{*}}. 证毕。