AI笔记: 数学基础之导数的应用：泰勒Taylor公式

Taylor公式的应用

• 机器学习中广泛应用，数学建模，线性回归，预测等领域

关于Taylor公式

• Taylor公式是用一个函数在某点的信息描述其附近取值的公式，如果函数足够平滑，在已知函数在某一点的各阶导数值的情况下
• Taylor公式可以利用这些导数值来做系数构建一个多项式近似函数在这一点的邻域中的值
• 若函数f(x)在包含$x_0$的某个闭区间[a,b]上具有n阶函数, 且在开区间(a,b)上具有n+1阶函数,则对闭区间[a,b]上任意一点x, 有Taylor公式如下
• 注：$f^{(n)}(x)$表示f(x)的n阶导数； $R_n(x)$是Taylor公式的余项, 是$(x-x_0)^n$的高阶无穷小

$f(x) = \frac{f(x_0)}{0!} + \frac{f'(x_0)}{1!}(x-x_0) + \frac{f''(x_0)}{2!}(x-x_0)^2 + ... + \frac{f^{(n)(x_0)}}{n!}(x-x_0)^n + R_n(x)$

麦克劳林公式

• 在泰勒公式中，当$x_0 = 0$时，就变成了麦克劳林公式
• 注：$0! = 1, 1! = 1, n! = n*(n-1)!$

$f(x) = \frac{f(0)}{0!} + \frac{f'(0)}{1!} + \frac{f''(0)}{2!}x^2 + ... + \frac{f^{(n)}(0)}{n!}x^n + R_n(x)$

关于Taylor公式的余项

• Taylor公式：$f(x) = \sum_{k=0}^n \frac{f^{(k)}(x_0)}{k!} (x-x_0)^k + R_n(x)$
• 关于余项$R_n(x)$
  • 余项用于平衡误差
  • 佩亚诺(Peano)余项：$R_n(x) = o[(x-x_0)^n]$
    • 这里的’o’比较难以理解，它表示比$(x-x_0)^n$趋向于0的速度还快
    • 同理$o[x^2]$表示比$x^2 \to 0$的速度还快
    • $o[(x-x_0)^n]$表示$(x-x_0)^n$高阶无穷小
    • $\lim_{x \to x_0} \frac{o[(x-x_0)^n]}{(x-x_0)^n} = \lim_{x \to x_0} \frac{R_n(x)}{(x-x_0)^n} = 0$ 分子比分母更快的趋向于0，结果为0
    • 举例：$o[(x-x_0)^n]$ 可以表示成：$(x-x_0)^{n+1}、(x-x_0)^{n+2}、....$ 只要比$(x-x_0)^n$快就行，就是这个概念
    • 比如设 $R_n(x) = o[(x-x_0)^n] = (x-x_0)^{n+1}$, 则 $\lim_{x \to x_0} \frac{o[(x-x_0)^n]}{(x-x_0)^n} = \lim_{x \to x_0} \frac{(x-x_0)^{n+1}}{(x-x_0)^n} = \lim_{x \to x_0} x-x_0 = 0$
    • 我们称为这样的泰勒展开式为"含有佩亚诺(Peano)余项的n阶泰勒展开式"
  • 拉格朗日(Lagrange)余项：$R_n(x) = f^{(n+1)}[x_0 + \theta(x - x_0)] \frac{(x-x_0)^{n+1}}{(n+1)!}$
    • 其中 $x_0 + \theta(x - x_0) = \varphi$ , $0 < \theta < 1$, $x_0 < \varphi < x$
    • 可简写为：$R_n(x) = f^{(n+1)} (\varphi) \frac{(x-x_0)^{n+1}}{(n+1)!}$
    • 我们称为这样的泰勒展开式为"含有拉格朗日(Lagrange)余项的n阶泰勒展开式"
  • 这是两位数学家提出的余项

几个常见的初等函数的带有佩亚诺余项的麦克劳林公式

• $e^x = 1 + x + \frac{1}{2!}x^2 + ... + \frac{1}{n!}x^n + o(x^n)$
  • 这里$e^x$的n阶导数都是它本身, 无惧降维打击
  • 其次，$e^x = \sum_{n=0}^\infty \frac{x^n}{n!} \ \ x \in R$
  • 进行泰勒展开就有上式
• $sin x = x - \frac{1}{3!}x^3 + ... + \frac{(-1)^{m-1}}{(2m - 1)!} x^{2m -1} + o(x^{2m -1})$
  • $f(x) = sin x, x_0 = 0$
  • $sin'x=cosx、sin''x=-sinx、sin'''x=-cosx、sin^{(4)}x = sinx、sin^{(5)}x = cosx、sin^{(6)}x = -sin x、...$
  • $sinx=0+\frac{1}{1!}x + \frac{0}{2!} + \frac{-1}{3!}x^3 + \frac{0}{4!} + \frac{1}{5!}x^5 + \frac{0}{6!} + \frac{-1}{7!}x^7 + ...$
  • 由此推出上式
• $cos x = 1 - \frac{1}{2!}x^2 + \frac{1}{4!}x^4 - ... + \frac{(-1)^m}{(2m)!}x^{2m} + o(x^{2m})$
  • 同理$sin x$
• $ln(1+x) = x - \frac{1}{2}x^2 + \frac{1}{3}x^3 - ... + \frac{(-1)^{n-1}}{n} x^n + o(x^n)$
  • 这里是复合函数求导
  • $f(x) = ln(1+x)$
  • $f'(x) = \frac{1}{1+x}, f''(x), f'''(x), ....$
  • 同理推出上式
• $\frac{1}{1 - X} = 1 + x + x^2 + ... + x^n + o(x^n)$
• $(1+x)^m = 1 + mx + \frac{m(m-1)}{2!}x^2 + ... + \frac{m(m-1)...(m-n+1)}{n!}x^n + o(x^n)$

泰勒公式的应用

• 求自然常数e的具体值，将$e^x$进行泰勒展开, 令$x=1$即可
• 欧拉公式(第一宇宙公式)的证明
  • $e^{ix} = cos x + isinx$, 其中 $i^2 = -1$, $i$为虚数单位
  • 当$x=\pi$时，$e^{i \pi} + 1 = 0$
• 下文会有更多相关应用说明