Erreurs numériques et stabilité

Erreurs numériques et stabilité

1. Représentation des nombres en machine

Un ordinateur ne représente les nombres réels qu'avec une précision finie (en général en virgule flottante, sur $64$ bits pour le type "double" usuel, soit environ $15$-$16$ chiffres décimaux significatifs). Tout calcul introduit potentiellement une petite erreur d'arrondi, de l'ordre de $\varepsilon_{\text{machine}} \approx 10^{-16}$ pour le double.

Erreur absolue et erreur relative : si $\tilde x$ est une valeur approchée de $x$, on définit :

L'erreur relative est souvent plus pertinente : une erreur absolue de $1$ est négligeable si $x=10^{10}$, mais catastrophique si $x=10^{-3}$.

2. Propagation des erreurs dans les opérations élémentaires

Addition/soustraction : si $\tilde a = a+\delta_a$ et $\tilde b = b+\delta_b$, alors $\tilde a+\tilde b = (a+b)+(\delta_a+\delta_b)$ : les erreurs absolues s'additionnent (au pire, en valeur absolue).

Phénomène de cancellation catastrophique : lorsqu'on soustrait deux nombres très proches, l'erreur relative du résultat peut devenir énorme, même si les erreurs absolues initiales sont minimes. Exemple : si $a=1{,}000001$ et $b=1{,}000000$ (connus chacun avec une erreur absolue $\approx10^{-7}$), alors $a-b = 0{,}000001 = 10^{-6}$, mais l'erreur absolue sur ce résultat (qui reste $\approx10^{-7}$) représente maintenant une erreur relative de $10\%$ sur le résultat — alors qu'elle n'était que de $10^{-7}$ sur $a$ et $b$ séparément.

Exemple classique de reformulation pour éviter la cancellation : pour résoudre $x^2-2px+q=0$ avec $p$ grand et $q$ petit, la formule usuelle $x = p\pm\sqrt{p^2-q}$ souffre de cancellation pour la racine proche de $0$ (différence de deux quantités proches). On préfère alors calculer d'abord la racine "facile" $x_1=p+\sqrt{p^2-q}$ (somme, pas de cancellation), puis utiliser la relation produit des racines $x_1 x_2=q$ pour obtenir $x_2 = q/x_1$ sans soustraction dangereuse.

3. Conditionnement d'un problème

Le conditionnement mesure la sensibilité de la solution d'un problème à de petites perturbations des données d'entrée. Pour une fonction $f$ et une perturbation relative $\varepsilon$ de l'entrée $x$, le conditionnement (relatif) est approximativement :

Un problème est dit bien conditionné si $\kappa$ est petit (les petites erreurs sur les données restent petites sur le résultat), et mal conditionné si $\kappa$ est grand (de minuscules erreurs d'entrée peuvent être amplifiées énormément).

Exemple : pour $f(x)=\sqrt{x}$, $\kappa(x) = \left|\dfrac{x\times\frac{1}{2\sqrt x}}{\sqrt x}\right| = \dfrac12$ : c'est un problème bien conditionné, peu sensible. En revanche, pour $f(x)=\dfrac{1}{x-1}$ près de $x=1$, le conditionnement explose ($f$ varie extrêmement vite), traduisant une grande sensibilité.

Important : le conditionnement est une propriété du problème mathématique lui-même, indépendante de l'algorithme utilisé pour le résoudre. Un problème mal conditionné restera difficile à résoudre précisément quel que soit l'algorithme.

4. Stabilité d'un algorithme

La stabilité d'un algorithme, à l'inverse, décrit comment celui-ci propage (ou amplifie) les erreurs d'arrondi au cours de ses propres calculs intermédiaires, même pour résoudre un problème bien conditionné. Un algorithme instable peut donner des résultats très imprécis (ou complètement faux), même appliqué à un problème bien conditionné, à cause d'une accumulation ou amplification d'erreurs à chaque étape.

Exemple classique (calcul d'une suite récurrente) : la suite définie par $I_0=\ln(6/5)$ et $I_n = \dfrac1n - 5I_{n-1}$ (provenant du calcul de $\int_0^1 \frac{x^n}{x+5}dx$) vérifie mathématiquement $I_n\to0$, mais le calcul numérique de cette récurrence, démarré avec $I_0$ légèrement arrondi, voit son erreur initiale multipliée par $-5$ à chaque étape : après quelques itérations seulement, les valeurs calculées deviennent absurdes (négatives ou explosant en valeur absolue), bien que la suite exacte reste positive et tende vers $0$. C'est un algorithme numériquement instable, car le facteur d'amplification ($-5$, en valeur absolue $>1$) fait croître l'erreur exponentiellement.

5. Stabilité : critère qualitatif

De façon générale, un algorithme itératif de la forme $e_{n+1} \approx \lambda\, e_n$ sur l'erreur $e_n$ est :
- Stable si $|\lambda|\leq1$ (l'erreur ne croît pas, ou décroît) ;
- Instable si $|\lambda|>1$ (l'erreur est amplifiée à chaque étape, donc explose exponentiellement après suffisamment d'itérations).

Remède pratique courant : lorsqu'une récurrence "vers l'avant" est instable, on peut souvent la rendre stable en la parcourant "à l'envers" (de $n$ grand vers $n$ petit), si le problème s'y prête, car le facteur d'amplification est alors inversé ($1/\lambda$, qui devient $<1$ si $|\lambda|>1$).

6. Exemple résolu de synthèse

Énoncé : on veut calculer $f(x) = \sqrt{x+1}-\sqrt{x}$ pour $x$ grand (par exemple $x=10^{10}$). Pourquoi le calcul direct est-il numériquement mauvais, et quelle reformulation éviter ce problème ?

Résolution : pour $x$ grand, $\sqrt{x+1}$ et $\sqrt{x}$ sont deux nombres très proches : leur soustraction directe souffre de cancellation catastrophique (perte de précision relative). On reformule en multipliant par la quantité conjuguée :

Cette nouvelle expression ne comporte qu'une somme au dénominateur (pas de soustraction de quantités proches), donc elle est numériquement stable et se calcule sans perte de précision, même pour $x$ très grand.