Modèle de langage de raisonnement
Un modèle de langage de raisonnement ou grand modèle de raisonnement ou simplement modèle de raisonnement (en anglais : reasoning language model ou RLM) est un grand modèle de langage (LLM) entraîné pour résoudre des tâches qui nécessitent plusieurs étapes de raisonnement, éventuellement via un système d'IA agentique. Ce type de modèle peut éventuellement être programmé pour s'auto-entrainer et s'auto-améliorer (Self-Reasoning Language Model).
Cet article ne cite pas suffisamment ses sources ().
Cette notion ne doit pas être confondue avec la notion de modèle de raisonnement utilisée en psychologie (modèle de raisonnement spatial[1] ou de raisonnement temporel[2] par exemple), bien que des ponts soient possibles entre ces domaines.
Fonctionnement
modifierComparé aux grands modèles de langage classiques, les modèles de raisonnement suivent une étape supplémentaire d'entraînement, souvent à base d'apprentissage par renforcement.
Un grand modèle de raisonnement produit, dans son espace latent, un raisonnement étape par étape avant de fournir un résultat final. Ce raisonnement est fréquemment appelé raisonnement par « chaîne de pensée » (abrégé CoT de l'anglais Chain of Thought) qui s'apparente à un processus de raisonnement humain via une décomposition en étapes pouvant être décrit par des mots et des phrases. On peut considérer cela comme une imitation de la méthode pensée à voix haute, comme un système 2 de la pensée, en opposition au système 2 de la pensée des LLM[3].
Cependant les modèles de langage peuvent aussi raisonner autrement qu'en mode textuel et autrement qu'avec des mots : en mode dit de « pensées latentes », qui sont des représentations internes plus rapides mais très difficiles à interpréter pour un observateur humain.
En étudiant ces pensées latentes, on a découvert que celles qui mènent à de bonnes ou de mauvaises réponses suivent des motifs distincts, permettant a priori à un classifieur bien programmé d’évaluer la qualité du raisonnement avant même que le modèle ne produise une réponse. En se basant sur cette hypothèse, des chercheurs ont proposé d'ainsi optimiser et corriger les raisonnements internes d'un modèle de raisonnement pour améliorer nettement ses performances, tout en étant plus efficace que les chaînes de pensée verbales traditionnelles[4].
Historique
modifierAu milieu des années 2020, de nombreux travaux de recherche portent sur l'amélioration des capacités de raisonnement des modèles de langage, via par exemple l'auto-diagnostic et l'auto‑correction, la vérification étape par étape, l’optimisation par préférences humaines et les benchmarks avancés, en distinguant bien généralisation et mémorisation et en se basant sur les revues d'études portant sur le raisonnement mathématique, les chaînes de pensée, les modèles de raisonnement renforcé et les mécanismes cognitifs inspirés de l’humain[5].
En , l'entreprise OpenAI annonce o1, un grand modèle de langage spécialisé pour le raisonnement, suivi quelques mois plus tard par Google qui, en décembre introduit dans Gemini une fonctionnalité qui exécute des tâches de recherche en plusieurs étapes.
En , l'entreprise chinoise DeepSeek publie R1, un modèle aux performances comparables à o1 à moindre coût.
Le mois suivant, OpenAI annonce Deep Research basé sur son modèle o3, permettant aux utilisateurs de lancer des tâches de recherche complexes et de générer des rapports complets intégrant diverses sources du Web.
En , l'entreprise française Mistral AI dévoile à son tour son propre modèle de raisonnement baptisé Magistral[6].
Avantages
modifierLes grands modèles de raisonnement obtiennent généralement de meilleurs performances sur de nombreuses tâches par rapport aux autres grands modèles de langage. Ils tendent notamment à mieux réussir dans les tâches de logique, de mathématiques et de programmation que les grands modèles de langage standards.
Inconvénients
modifierCoût de calcul
modifierLes modèles de raisonnement nécessitent souvent beaucoup plus de calculs pour générer une réponse que les modèles de langage classique. En effet, leur fonctionnement implique la génération de nombreuses chaînes de réponses possibles et l'utilisation d'un autre modèle d'IA pour évaluer chacune d'elles et renvoyer celle la mieux notée.
Temps de génération
modifierEn raison de la tendance des modèles de langage de raisonnement à produire des sorties verbeuses, le temps nécessaire pour générer une sortie augmente considérablement par rapport à un grand modèle de langage standard.
Anthropomorphisme
modifierL'utilisation de termes familiers tels que « raisonnement » ou « pensée » pour décrire la manière dont ces programmes fonctionnent sous-entend qu'ils seraient capables de « raisonner » ou « penser » de la même manière que les humains. Ceci n'est pas exact et peut induire l'utilisateur en erreur (par anthropomorphisme), l'amenant à accorder une confiance excessive aux résultats. Néanmoins, les réseaux de neurones sont dans une certaine mesure inspirées par les neurones du cerveau. Et la notion informatique de raisonnement s'inspire en partie de principes statistiques et mathématiques, mais aussi en partie de théories de « modèles internes opérants » (issues de la théorie des modèles mentaux élaborée par Philip Johnson-Laird lui-même inspiré par les travaux du psychologue écossais Kenneth Craik publié dans les années 1940), par exemple utilisés pour « mieux comprendre une activité cognitive particulière : la résolution de problèmes arithmétiques verbaux »[7].
On a constaté qu'un LLM peut parfois en quelque sorte "mentir" quand on lui demande de générer des explications sur son cheminement de pensée, son raisonnement ; celles-ci ne sont pas toujours fidèles à ce que le modèle fait réellement, bien qu'il soit tentant d'interpréter ces explications comme le processus utilisé par le LLM pour résoudre une tâche[8].
Notes et références
modifier- ↑ Charlaine St-Jean, Johanne April, Nathalie Bigras et Marilyn Dupuis-Brouillette, « Modèles de raisonnement spatial : une revue de littérature », Revue canadienne des jeunes chercheures et chercheurs en éducation, vol. 8, no 1, (ISSN 1916-9221, lire en ligne, consulté le )
- ↑ CREPAULT, J. (2003). Raisonnement etpsychogenèse du temps: de Starring aux paradigmes et modèles du raisonnement temporel. connaIssances: un siècle de travaux, 99.| https://www.torrossa.com/gs/resourceProxy?an=5129127&publisher=FZ2990#page=109
- ↑ (en) Hongru Wang, Deng Cai, Wanjun Zhong et Shijue Huang, « Self-Reasoning Language Models: Unfold Hidden Reasoning Chains with Few Reasoning Catalyst », dans Findings of the Association for Computational Linguistics: ACL 2025, Association for Computational Linguistics, (ISBN 979-8-89176-256-5, DOI 10.18653/v1/2025.findings-acl.291), p. 5578-5596.
- ↑ Hanwen Du, Yuxin Dong et Xia Ning, Latent Thinking Optimization: Your Latent Reasoning Language Model Secretly Encodes Reward Signals in Its Latent Thoughts, (DOI 10.48550/arXiv.2509.26314, lire en ligne)
- ↑ « exemple de cartographie des avancées de la science informatique, avec Litmaps », sur app.litmaps.com (consulté le )
- ↑ Célia Séramour, « Mistral AI se démarque avec son modèle de raisonnement Magistral », sur L'Usine digitale, (consulté le )
- ↑ Catherine Thevenot et Patrick Perret, « Le développement du raisonnement dans la résolution de problèmes : l'apport de la théorie des modèles mentaux », Développements, vol. 2, no 2, , p. 49–56 (ISSN 2103-2874, DOI 10.3917/devel.002.0049, lire en ligne, consulté le ).
- ↑ Guillaume Serries, « L'IA ne "raisonne" pas, démystification d'un battage médiatique », sur ZDNET, (consulté le )
Voir aussi
modifierArticles connexes
modifierBibliographie
modifier- Moraïtis P (2003) Un modele de raisonnement pour agents autonomes fondé sur l’argumentation. Journées Nationales de Modeles de Raisonnement (JNMR’03), Paris, France (November 2003) | https://helios2.mi.parisdescartes.fr/~moraitis/webpapers/Moraitis-JNMR03-longversion.pdf
