Deducción: Newton-Raphson y su orden cuadrático

La fórmula de Newton por la recta tangente y por el Teorema Fundamental del Cálculo, y la demostración completa con Taylor de que su ecuación del error es cuadrática.

Camino 1: la recta tangente

  1. En el iterado actual xkx_k, la recta tangente a la curva y=f(x)y=f(x) es

    y=f(xk)+f(xk)(xxk)y=f(x_k)+f'(x_k)(x-x_k)
  2. La tangente es la mejor aproximación lineal de ff cerca de xkx_k, así que tomamos como siguiente iterado el punto donde la tangente se anula (y=0y=0):

    0=f(xk)+f(xk)(xk+1xk)    xk+1=xkf(xk)f(xk)0=f(x_k)+f'(x_k)(x_{k+1}-x_k)\;\Rightarrow\; x_{k+1}=x_k-\frac{f(x_k)}{f'(x_k)}

Camino 2: Teorema Fundamental del Cálculo

  1. Escribimos ff mediante el Teorema Fundamental del Cálculo desde xkx_k y aproximamos la integral con un rectángulo (integrando constante f(xk)f'(x_k), la misma idea que en la deducción de Euler):

    f(x)=f(xk)+xkxf(t)dt    f(xk)+f(xk)(xxk)f(x)=f(x_k)+\int_{x_k}^{x}f'(t)\,dt\;\approx\; f(x_k)+f'(x_k)(x-x_k)
  2. Evaluamos en x=αx=\alpha, donde f(α)=0f(\alpha)=0, y despejamos α\alpha:

    0f(xk)+f(xk)(αxk)    αxkf(xk)f(xk)0\approx f(x_k)+f'(x_k)(\alpha-x_k)\;\Rightarrow\;\alpha\approx x_k-\frac{f(x_k)}{f'(x_k)}
  3. Esa aproximación de α\alpha es el siguiente iterado. Aproximar la integral con cuadraturas más ricas (trapecio, punto medio, Simpson) produce métodos de orden mayor por esta misma vía.

Demostración del orden 2 (ecuación del error)

  1. Sea α\alpha raíz simple (f(α)=0f(\alpha)=0, f(α)0f'(\alpha)\ne 0), ek=xkαe_k=x_k-\alpha el error y c2=12f(α)f(α)c_2=\frac{1}{2}\frac{f''(\alpha)}{f'(\alpha)}. Desarrollamos f(xk)f(x_k) por Taylor en torno a α\alpha; el término constante f(α)f(\alpha) desaparece:

    f(xk)=f(α)ek+12f(α)ek2+O(ek3)=f(α)[ek+c2ek2]+O(ek3)f(x_k)=f'(\alpha)\,e_k+\frac{1}{2}f''(\alpha)\,e_k^2+\mathcal{O}(e_k^3)=f'(\alpha)\bigl[e_k+c_2e_k^2\bigr]+\mathcal{O}(e_k^3)
  2. Desarrollamos también la derivada:

    f(xk)=f(α)+f(α)ek+O(ek2)=f(α)[1+2c2ek]+O(ek2)f'(x_k)=f'(\alpha)+f''(\alpha)\,e_k+\mathcal{O}(e_k^2)=f'(\alpha)\bigl[1+2c_2e_k\bigr]+\mathcal{O}(e_k^2)
  3. Dividimos ambos desarrollos. El factor f(α)f'(\alpha) se cancela y, usando 11+2c2ek=12c2ek+O(ek2)\frac{1}{1+2c_2e_k}=1-2c_2e_k+\mathcal{O}(e_k^2):

    f(xk)f(xk)=(ek+c2ek2)(12c2ek)+O(ek3)=ekc2ek2+O(ek3)\frac{f(x_k)}{f'(x_k)}=\bigl(e_k+c_2e_k^2\bigr)\bigl(1-2c_2e_k\bigr)+\mathcal{O}(e_k^3)=e_k-c_2e_k^2+\mathcal{O}(e_k^3)
  4. Restamos α\alpha en la fórmula de Newton y sustituimos: los términos lineales en eke_k se cancelan y queda la ecuación del error cuadrática. El método de Newton tiene orden p=2p=2.

    ek+1=xk+1α=ekf(xk)f(xk)=c2ek2+O(ek3)e_{k+1}=x_{k+1}-\alpha=e_k-\frac{f(x_k)}{f'(x_k)}=c_2e_k^2+\mathcal{O}(e_k^3)