Quand Le Monde confond science et plausibilité sur l'IA
Critique d’un article du Monde qui affirme que l’IA ne peut pas sortir du champ pour lequel elle a été conçue. Le texte oppose à ces affirmations plausibles les preuves empiriques de la recherche en neurosciences et en IA.
Cet article date de plus d’un an. Certains constats ont pu évoluer depuis.
Pourquoi privilégier les raccourcis médiatiques face aux preuves empiriques de la recherche nous égare
Quand même Le Monde se met à «décoder» l'IA en confondant science et plausibilité, on comprend que le monde ne tourne pas rond.
Des affirmations plausibles mais scientifiquement douteuses
Le Monde écrit en prétendant lever des malentendus que l'IA «n'a pas la capacité de ressentir, d'éprouver des émotions, de manifester de la curiosité, de sortir du champ pour lequel elle a été conçue, ni d'avoir une forme de conscience d'elle-même».
C'est plausible et relayé dans l'immense majorité des médias, mais évidemment faux. Quiconque utilise l'IA aujourd'hui sait qu'elle sort du champ pour lequel elle a été conçue.
ChatGPT et ses analogues ont fondamentalement été conçus pour prédire le mot d'après; tout le reste est émergent.
L'émergence: un principe universel mal compris
Dans la même veine, au niveau de réalité le plus fondamental qu'on connaisse, notre seul objectif en tant qu'intelligence non-artificielle est de minimiser l'énergie (les lois de la physique); tout le reste est émergent.
Qui peut ainsi prétendre que les comportements artificiels émergents de certaines IA d'aujourd'hui ne sont pas du ressenti, de l'émotion, ou tout autre concept qu'on pense humain encore aveuglés par l'anthropocentrisme?
Ce que dit vraiment la science
Pendant qu'on vend des théories plausibles sur les plateaux, la science basée sur les preuves empiriques progresse. À la croisée des chemins entre neurosciences et AI (neuro AI) notamment, les preuves empiriques sont indéniables.
ChatGPT et les modèles de langage entraînés à prédire le mot d'après font émerger un comportement (ou type de calcul) compatible avec celui de notre cerveau.
Apprendre à structurer des données du monde (visuelles, textuelles, etc.) fait indéniablement émerger des comportements similaires à ceux de notre cerveau. Plus on expose des réseaux de neurones artificiels ou toute autre machine de Turing déformable à des données de nos cinq sens, plus l'écart de comportement entre nous et l'IA se resserre.
Un problème plus large
Dans un monde où la plausibilité est devenue science, comme pour le COVID-19, l'éducation ou l'information quantique, mieux vaut lire l'un des derniers papiers de Daniel Jamins (Stanford Neuro AI Lab) que de lire Le Monde.
Le défi n'est pas seulement celui de l'IA, mais celui d'un journalisme scientifique qui privilégie trop souvent les raccourcis séduisants aux preuves empiriques. Dans un domaine en évolution aussi rapide, cette approche devient dangereuse pour la compréhension publique des enjeux.