IA générative et science : les limites selon Richard Sutton
Richard Sutton, expert en IA, critique les limites de l'IA générative pour la découverte scientifique. Selon lui, elle ne peut évaluer ses propres résultats, essentiel pour la science. Il cite des systèmes comme AlphaGo et AlphaFold comme exemples de véritables découvertes.
« Generative AI can be extremely useful, even when it just mimics, if it is faster, or cheaper, or smaller, or more customizable, or more copy-able, than the thing being mimicked, » — The Decoder
Que faut-il retenir ?
- Richard Sutton affirme que l'IA générative ne peut pas évaluer ses propres résultats, essentiel pour la science.
- Il illustre son propos avec une blague de chercheur : les parties nouvelles ne sont pas bonnes et les parties bonnes ne sont pas nouvelles.
- Sutton cite AlphaGo, AlphaFold et Claude Code comme exemples de systèmes capables de vraies découvertes.
- Il explique que la découverte nécessite trois étapes : variation, évaluation et rétention sélective.
Pourquoi cette nouvelle compte-t-elle ?
Cette critique souligne les limites actuelles de l'IA générative pour la recherche scientifique. Elle aide les professionnels à comprendre quand et comment utiliser ces outils, et oriente les développements futurs vers des systèmes capables d'évaluation autonome, cruciale pour les découvertes.
💬 Richard Sutton, Lauréat du Turing Award
Public concerné : développeurs, entreprises
Pourquoi l'IA générative ne peut-elle pas faire de vraie science selon Richard Sutton ?
Parce qu'elle manque de capacité à évaluer ses propres résultats, une étape essentielle pour la découverte scientifique. Elle peut imiter ou créer au hasard, mais ne peut juger la qualité des nouvelles idées sans mécanisme d'évaluation externe.
