Seppo Linnainmaa

mathématicien finlandais

Seppo Ilmari Linnainmaa, né le à Pori[1], est un mathématicien et informaticien finlandais. Il s'est fait connaitre en créant la version moderne de la rétropropagation du gradient (rétropropagation).

Seppo Linnainmaa
une illustration sous licence libre serait bienvenue
Biographie
Naissance
Nationalité
Formation
Activités
Autres informations
A travaillé pour
Directeur de thèse
Martti Tienari (d)Voir et modifier les données sur Wikidata

Éléments de biographie

modifier

Seppo Linnainmaa a obtenu en 1970 une maîtrise, avec un mémoire dans lequel il introduit un mode inverse de différenciation automatique[2]. En 1974, il obtient le premier doctorat décerné en informatique à l'université d'Helsinki[3].

Il est nommé professeur adjoint en 1976. De 1989 à 2007, il est professeur-chercheur au Centre de recherche technique VTT de Finlande et est retraité depuis 2007.

Il a aussi été professeur invité à l'université du Maryland, aux États-Unis, en 1984-1985.

De 1986 à 1989, il préside la Société finlandaise d'intelligence artificielle.

Algorithme de rétropropagation

modifier

La rétropropagation d'erreur explicite et efficace dans des réseaux de type réseaux de neurones arbitraires, discrets, éventuellement peu connectés, a été décrite pour la première fois dans la thèse de maîtrise de Linnainmaa en 1970[2],[4], bien que sans référence aux réseaux de neurones[5], lorsqu'il a introduit le mode inverse de différenciation automatique (DA) pour calculer efficacement la dérivée d'une fonction composée différentiable qui peut être représentée sous forme de graphique, en appliquant récursivement la règle de chaîne aux éléments constitutifs de la fonction[3],[4],[6]. Linnainmaa a publié le premier cette méthode, à la suite de Gerardi Ostrowski qui l'avait utilisée dans le contexte de certains modèles de processus en génie chimique environ cinq ans plus tôt, mais sans l'avoir publiée.

Avec l'apparition de puces et d’ordinateurs de plus en plus rapides et puissants, l'usage de cette méthode s'est répandu et elle a de nombreuses applications. Ainsi, la rétropropagation des erreurs dans les perceptrons multicouches, une technique utilisée en apprentissage automatique, est un cas particulier de la différentiation automatique en mode inverse.

Références

modifier
  1. (fi) Suomen professorit 1640–2007, Helsinki, Professoriliitto, (ISBN 978-952-99281-1-8), p. 405.
  2. a et b (en) « Seppo Linnainmaa (Mathematician and Computer Scientist) », OnThisDay.com (consulté le ).
  3. a et b Andreas Griewank, « Who Invented the Reverse Mode of Differentiation? », dans Documenta Matematica, Extra Volume ISMP, (S2CID 15568746), p. 389–400.
  4. a et b (en) Linnainmaa, « Taylor expansion of the accumulated rounding error », BIT Numerical Mathematics, vol. 16, no 2,‎ , p. 146–160 (DOI 10.1007/BF01931367, S2CID 122357351).
  5. (en) Jürgen Schmidhuber, « Who Invented Backpropagation? », .
  6. (en) Andreas Griewank et Andrea Walther, Evaluating Derivatives : Principles and Techniques of Algorithmic Differentiation, Philadelphie, Society for Industrial and Applied Mathematics, , 2e éd., 459 p. (ISBN 978-0-89871-659-7 et 978-0-89871-776-1, DOI 10.1137/1.9780898717761, lire en ligne), p. 12.

Voir aussi

modifier

Articles connexes

modifier

Liens externes

modifier