人工智能教程 - 數學基礎課程1.7 - 最優化方法2-3 最優化思路第三步核心,控制問題,目標函數

最優化思路第三步

Steps: k=0, 1, 2,…
tu

$F(\alpha) =f(x_k+\alpha.d_k)$
$x_k, d_k$ is fixed

$\therefore$其實就是一維問題，單變量的最優化問題。
我們要做的就是，告訴計算機兩件事情：

1. $x_k$點的確定，方向在哪裏
2. 什麼地方停下來

不管有多少變量，多少問題。最優化問題都能很快解決

Golden-section search

1980年，發明了一種算法：來來回回移動，套住一個區間，停在這裏.

In matlab, inexact line search 中的 inex_lsearch.m

Ex:

alpha = inex.lsearch(四個輸入)
四個輸入分別爲

1. $x_k$
2. $d_k$
3. 函數程序 ftest.m
4. 梯度程序 gtest.m

$\rightarrow$小的interval

---

控制問題

一維的控制
不僅拉直，而且用到的能量最小

$x(t)\begin{bmatrix} \Theta_1(t)\\ \Theta_2(t)\\ \overset{.}{\Theta_1'(t)}\\ \overset{.}{\Theta_2'(t)}\\ \end{bmatrix}$

矩陣前兩個爲偏角，後兩個爲角速度
$u(0), u(\Delta), u(2\Delta),..., u(n\Delta)$

平方和最小 <—> 控制最小，能量最小
約束條件 四維向量 = 0

$x_1^2+x_2=11$

$x_1+x_2^2=7$

$\begin{bmatrix} x_1\\ x_2\\ \end{bmatrix}=\begin{bmatrix} 3\\ 2\\ \end{bmatrix}$

$x_2=11-x_1^2$

$x_1+(11-x_1^2)^2=7$

$x_1^4-22x_1^2+x_1+114=0$ 一元四次方程
根據高斯代數積分定理
MatLab: $x_1$=roots([1 0 -22 1 114])

$x_1=\begin{bmatrix} 3.5844\\ 3\\ -3.7793\\ -2.8051\\ \end{bmatrix}$

$x_2$=11-x^2 enter =$\begin{bmatrix} -1.8481\\ 2\\ -3.2832\\ 3.1313\\ \end{bmatrix}$

$f_1(x)=x_1^2+x_2-11$

$f_2(x)=x_1+x_2^2-7$
$f_1(x)=0;f_2(x)=0$

目標函數： $f(x)=(x_1^2+x_2-11)^2+(x_1+x_2^2-7)^2$ 求最小值

$\bigtriangledown f=\begin{bmatrix} 4(x_1^2+x_2-11)x_1+2(x_1+x_2^2-7)\\ 2(x_1^2+x_2-11)+4(x_1+x_2^2-7)x_2\\ \end{bmatrix}$