Méthode de Brent

En analyse numérique, la méthode de Brent est un algorithme de recherche d'un zéro d'une fonction combinant la méthode de dichotomie, la méthode de la sécante et l’interpolation quadratique inverse. À chaque itération, elle décide laquelle de ces trois méthodes est susceptible d’approcher au mieux le zéro, et effectue une itération en utilisant cette méthode. L'idée principale est d'utiliser la méthode de la sécante ou d'interpolation quadratique inverse parce qu'elles convergent vite, et de revenir à la méthode de dichotomie si besoin est. L'idée d'allier ces méthodes différentes est due à Theodorus Dekker (en) (1969) et à Richard Brent (1973).

La méthode de Chandrupatla en est une variante plus simple et qui converge plus rapidement pour les fonctions plates au voisinage de leurs racines.

Méthode de Dekker

L'idée de combiner les méthodes de dichotomie et de la sécante remonte à Dekker.

On suppose vouloir résoudre l'équation f(x) = 0. À l'image de la méthode de dichotomie, la méthode de Dekker est initialisée par deux points, notés a₀ et b₀, tels que f(a₀) et f(b₀) soient de signes opposés. Si f est continue sur [a₀, b₀], le théorème des valeurs intermédiaires indique l'existence d'une solution entre a₀ et b₀.

À chaque itération, trois points entrent en jeu:

• b_k est l'itération courante, c'est-à-dire l'approximation courante de la racine de f;
• a_k est le contrepoint, c'est-à-dire un point tel que f(a_k) et f(b_k) soient de signes opposés. Ainsi, l'intervalle [a_k ; b_k] contient à coup sûr la solution. De plus, |f(b_k)| doit être plus petit (en valeur absolue) que |f(a_k)|, de telle sorte que b_k soit une meilleure approximation de la racine que a_k;
• b_k−1 est l'itération précédente (pour la première itération, on pose b_k-1 = a₀).

Deux candidats à la prochaine itération sont calculés: le premier est obtenu par la méthode de la sécante

$s=b_{k}-{\frac {b_{k}-b_{k-1}}{f(b_{k})-f(b_{k-1})}}f(b_{k}),$

et le second par la méthode de dichotomie

$m={\frac {a_{k}+b_{k}}{2}}.$

Si le résultat de la méthode de la sécante, s, tombe entre b_k et m, alors il peut devenir le prochain itéré (b_k+1 = s), et dans le cas contraire, le point milieu entre en jeu (b_k+1 = m).

Alors, la valeur du nouveau contrepoint est choisie de telle sorte que f(a_k+1) et f(b_k+1) soient de signes opposés. Si f(a_k) et f(b_k+1) sont de signes opposés, alors le contrepoint ne change pas : a_k+1 = a_k. Sinon, f(b_k+1) et f(b_k) sont de signes opposés et le nouveau contrepoint devient a_k+1 = b_k.

Finalement, si |f(a_k+1)| < |f(b_k+1)|, alors a_k+1 est probablement une meilleure approximation de la solution que b_k+1, et par suite, les valeurs de a_k+1 et b_k+1 sont échangées.

En arrivant à ce point, la méthode vient de réaliser une itération. La méthode est répétée jusqu'à convergence.

Méthode de Brent

La méthode de Dekker est efficace si f se comporte raisonnablement bien. Toutefois, dans certaines circonstances, chaque itération emploie la méthode de la sécante mais la suite des b_k converge très lentement (en particulier, |b_k − b_k−1| peut devenir arbitrairement petit). Dans une telle configuration, la méthode de Dekker nécessite alors plus d'itérations que la méthode de dichotomie.

Brent propose une petite modification pour éviter ce problème: un test supplémentaire doit être vérifié avant que le résultat de la méthode de la sécante soit accepté comme la prochaine itération. En particulier, si l'étape précédente utilisait la méthode de dichotomie, l'inégalité

$|s-b_{k}|<{\begin{matrix}{\frac {1}{2}}\end{matrix}}|b_{k}-b_{k-1}|$

doit être vraie, sinon le point milieu m devient le prochain itéré. Si l'étape précédente utilisait l'interpolation, alors l'inégalité

$|s-b_{k}|<{\begin{matrix}{\frac {1}{2}}\end{matrix}}|b_{k-1}-b_{k-2}|$

est utilisée à la place. Cette modification permet de remplacer la méthode de la sécante par la méthode de dichotomie lorsque la première progresse trop lentement. Brent a prouvé que cette méthode requiert au plus N² itérations, où N représente le nombre d'itérations pour la méthode de dichotomie. Si la fonction f se comporte bien, la méthode de Brent utilise au choix l'interpolation quadratique inverse ou l'interpolation linéaire, auquel cas la vitesse de convergence est superlinéaire.

La méthode de Brent se base sur l'interpolation quadratique inverse plutôt que l'interpolation linéaire (qui apparaît dans la méthode de la sécante) si f(b_k), f(a_k) et f(b_k−1) sont distincts. Ceci améliore significativement l'efficacité. Par conséquent, la condition pour accepter la valeur d'interpolation s est modifiée: s doit tomber entre (3a_k + b_k) / 4 et b_k.

Exemple

On cherche à identifier une racine de f(x) = (x + 3)(x − 1)². On prend [a₀; b₀] = [−4; 4/3] comme intervalle initial. On a f(a₀) = −25 et f(b₀) = 0,48148 (tous les nombres de cette section sont tronqués); ainsi les conditions f(a₀) f(b₀) < 0 et |f(b₀)| ≤ |f(a₀)| sont vérifiées. Nous allons détailler l'utilisation de Brent, qui utilise soit l'interpolation linéaire (abrégée en IL) soit l'interpolation quadratique inverse (IQI).

Graphe de f(x) = (x + 3)(x − 1)²

1. Dans la première itération, on utilise une IL entre (b₋₁; f(b₋₁)) = (a₀; f(a₀)) = (−4; −25) et (b₀; f(b₀)) = (1,33333; 0,48148), ce qui conduit à s = 1,23256. Cette valeur tombe entre (3a₀ + b₀) / 4 et b₀ et, par conséquent, cette valeur est acceptée. En outre, f(1,23256) = 0,22891, ce qui donne a₁ = a₀ et b₁ = s = 1,23256;
2. Dans la deuxième itération, une IQI entre (a₁; f(a₁)) = (−4; −25) et (b₀; f(b₀)) = (1,33333; 0,48148) et (b₁; f(b₁)) = (1,23256; 0,22891) donne 1,14205; cette valeur est entre (3a₁ + b₁) / 4 et b₁. De plus, l'inégalité |1,14205 − b₁| ≤ |b₀ − b₋₁| / 2 est satisfaite; cette valeur est donc retenue. Enfin, comme f(1,14205) = 0,083582, on pose a₂ = a₁ et b₂ = 1,14205;
3. Dans la troisième itération, on utilise une IQI entre (a₂; f(a₂)) = (−4; −25) et (b₁; f(b₁)) = (1,23256; 0,22891) et (b₂; f(b₂)) = (1,14205; 0,083582), ce qui donne 1,09032. Cette valeur est entre (3a₂ + b₂) / 4 et b₂;mais la condition supplémentaire de Brent bloque: en effet, l'inégalité |1,09032 − b₂| ≤ |b₁ − b₀| / 2 n'est pas vérifiée: la valeur en cours est donc rejetée. À la place, on calcule le point milieu de l'intervalle [a₂; b₂]: m = −1,42897. On a f(m) = 9,26891; on pose alors a₃ = a₂ et b₃ = −1,42897;
4. Dans la quatrième itération, la valeur −1,15448 est obtenue par IQI entre (a₃; f(a₃)) = (−4; −25) et (b₂; f(b₂)) = (1,14205; 0,083582) et enfin (b₃; f(b₃)) = (−1,42897; 9,26891). Cette valeur ne tombe pas entre (3a₃ + b₃) / 4 et b₃). Par conséquent, on calcule à la place le milieu m = −2,71449; on a f(m) = 3,9393. On pose finalement a₄ = a₃ et b₄ = −2,71449;
5. Dans la cinquième itération, une IQI donne −3,45500, qui tombe dans l'intervalle requis. Toutefois, l'itération précédente était une étape de dichotomie et l'inégalité |−3,45500 − b₄| ≤ |b₄ − b₃| / 2 doit être satisfaite, ce qui n'est pas le cas. On utilise alors le point milieu m = −3,35724, pour lequel f(m) = −6,78239. Ainsi, m devient le nouveau contrepoint: a₅ = −3,35724 et b₅ = b₄;
6. Dans la sixième itération, l'IQI est interdite car b₅ = b₄. Par conséquent, on la remplace par une IL entre (a₅; f(a₅)) = (−3,35724; −6,78239) et (b₅; f(b₅)) = (−2,71449; 3,93934). Il en résulte s = −2,95064, qui satisfait toutes les conditions. On calcule f(s) = 0,77032 et on pose a₆ = a₅ et b₆ = −2,95064;
7. Dans la septième itération, on utilise encore une IQI ce qui donne s = −3,00219, qui vérifie toutes les conditions. Maintenant, f(s) = −0,03515, et on pose donc a₇ = b₆ et b₇ = −3,00219 (a₇ et b₇ sont échangés afin que |f(b₇)| ≤ |f(a₇)| soit vraie);
8. Dans la huitième itération, on ne peut considérer une IQI parce que a₇ = b₆. L'IL donne à la place s = −2,99994, valeur qui est acceptée;
9. Dans les itérations suivantes, la racine x = −3 est approchée rapidement: b₉ = −3 + 6 × 10⁻⁸ et b₁₀ = −3 – 3 × 10⁻¹⁵.

Algorithme

• Entrée de a, b, un pointeur vers une sous-routine pour f, e une précision désirée
• calculer f(a)
• calculer f(b)
• si f(a) f(b) >= 0 alors sortie (erreur) fin si
• si |f(a)| < |f(b)| alors échanger (a,b) fin si
• c := a
• mflag := vrai
• tant que f(b) != 0 ou |b − a|>e (condition de convergence)
  • si f(a) ≠ f(c) et f(b) ≠ f(c) alors
    • $s:={\frac {af(b)f(c)}{(f(a)-f(b))(f(a)-f(c))}}+{\frac {bf(a)f(c)}{(f(b)-f(a))(f(b)-f(c))}}+{\frac {cf(a)f(b)}{(f(c)-f(a))(f(c)-f(b))}}$ (interpolation quadratique inverse)
  • sinon
    • $s:=b-f(b){\frac {b-a}{f(b)-f(a)}}$ (règle de la sécante)
  • fin si
  • si s n'est pas entre (3a + b)/4 et b ou (mflag est vrai et |s−b| ≥ |b−c| / 2) ou (mflag est faux et |s−b| ≥ |c−d| / 2) alors
    • $s:={\frac {a+b}{2}}$
    • mflag := vrai
  • sinon
    • mflag := faux
  • fin si
  • calculer f(s)
  • d := c
  • c := b
  • si f(a) f(s) < 0 alors b := s sinon a := s fin si
  • si |f(a)| < |f(b)| alors échange (a,b) fin si
• fin tant que
• sortir b (renvoi de la racine)

Implémentations

Brent (1973) a publié une implémentation en Algol 60. La bibliothèque Netlib contient une implémentation en Fortran. La fonction MATLAB nommée fzero ou la fonction solve de PARI/GP sont d'autres exemples d'implémentation de la méthode de Brent.

Voir aussi

Notes et références

• (en) Cet article est partiellement ou en totalité issu de l’article de Wikipédia en anglais intitulé « Brent's method » (voir la liste des auteurs).

Bibliographie

• Atkinson (1989). An Introduction to Numerical Analysis (2nd ed.), Section 2.8. John Wiley and Sons (ISBN 0-471-50023-2)
• R.P. Brent (1973). Algorithms for Minimization without Derivatives, Chapter 4. Prentice-Hall, Englewood Cliffs, NJ (ISBN 0-13-022335-2). L'édition originale est disponible sur la page professionnelle de l'auteur à l'Université nationale australienne.
• T.J. Dekker (1969). "Finding a zero by means of successive linear interpolation." In B. Dejon and P. Henrici (eds), Constructive Aspects of the Fundamental Theorem of Algebra, Wiley-Interscience, London. (ISBN 0471-20300-9)

Liens externes

• (en) Module for Brent's Method par John H. Mathews
• La bibliothèque « cpp_brent »^{(Archive.org • Wikiwix • Archive.is • Google • Que faire ?)} contient une implémentation en C++.

Articles connexes

Méthode de Powell (en), une variante de la méthode de Brent permettant la recherche d'un minimum d'une fonction