Comprendre l'erreur de troncature et d'arrondi dans le système de points flottants IEEE?

Question

J'essaie de comprendre la théorie derrière la recherche de la valeur optimale $ H $ pour la différenciation dans cette définition:

$$ frac {f (x + h) - f (x)} {h} $$

Comme $ H $ tend à 0.

Voici ma compréhension:

1. L'erreur de troncature provient de dire en approximant la valeur de $ f (x + h) $ en utilisant la série Taylor. Dans ce cas, il se pourrait que:

$$ f (x + h) approx f (x) + hf '(x) + frac {h ^ 2} {2!} f' '(x) + o (h ^ 3) $$

2. Laisser $ f '(x) $ pour être le sujet puisque nous voulons trouver le gradient $ f' (x) $, nous avons

$$ f '(x) = frac {f (x) - (hf' (x) + frac {h ^ 2} {2!} f '' (x) + o (h ^ 3))} { h} $$ $$ implique f '(x) = frac {f (x + h) -f (x)} {h} - frac {h} {2} f' '(x) + o ( h ^ 2) $$

Intuitivement, nous pouvons nous arrêter ici en laissant $ h approx sqrt epsilon $ où $ epsilon $ est la machine epsilon, nous pouvons donc limiter notre erreur de troncature. Mais supposons que nous continuons, alors notre erreur de troncature est $ frac {h} {2} f '' (x) $.

3. Ensuite, l'erreur d'arrondi provient de l'interaction des sommes dans l'équation de différenciation:

$$ frac {f (x + h) - f (x)} {h} = frac {[f (x) + hf '(x) + o (h ^ 2)] - f (x)} { H} $$

Mais pour $ f '(x) environ 1 $ et puisque nous avons $ h approx sqrt epsilon $, nous avons

$$ frac {f (x + h) - f (x)} {h} approx 1 pm frac { epsilon} {h} $$

Ce qui signifie que l'erreur d'arrondi est approximativement $ frac { epsilon} {h} $, qui concorde avec le fait que le côté gauche de l'équation est en fait $ f '(x) $ également, juste que nous avons réussi à Réduisez l'erreur d'arrondi à ce qui est vu sur le côté droit.

4. Maintenant, nous voyons que notre erreur de troncature varie linéairement avec $ h $ tandis que notre erreur d'arrondi varie inversement avec $ h $. Pour trouver la valeur optimale $ H $, nous assimilons les deux erreurs:

dollars 1 $.

Laissant $ h $ le sujet, nous avons $$ h = sqrt {2 epsilon} $$ qui signifie que l'optimal $ h $ est autour de $ h = sqrt { epsilon} $ comme prévu.

Ma compréhension est-elle correcte? Le facteur final de 2 à la fin est-il important?

Grand problème dans l'argument ci-dessus: au point 3, on utilise déjà le fait que $ h = sqrt epsilon $. Cela ne va-t-il pas déjà vaincre le but de trouver le $ H $ optimal?