Déconstruire les mythes de l'IA: de l'émergence à la co-pensée humain-IA
Des benchmarks comme ARC-AGI montrent que des machines commencent à résoudre des tâches de compositionnalité. Le texte décrit ces capacités émergentes et plaide pour la co-pensée humain-IA plutôt que pour la course aux modèles.
Cet article date de plus d’un an. Certains constats ont pu évoluer depuis.
Des capacités émergentes à la révolution cognitive en cours
Pour la première fois dans l'histoire, des machines démontrent des capacités non nulles sur des tâches qui exigent de la compositionnalité (cette faculté qui permet d'assembler des concepts) sans s'appuyer sur des données mémorisées. Des benchmarks comme ARC-AGI (et sa version 2 tout juste publiée) démontrent cette rupture cognitive. Non pas l'apocalypse anthropologique fantasmée par certains, mais une avancée scientifique majeure dont nous devons saisir les implications avec lucidité et responsabilité.
Au-delà des «distributions probabilistes de tokens»
Réduire encore les LLMs à de simples «distributions probabilistes de tokens» relève désormais de l'aveuglement intellectuel: ces modèles développent des capacités émergentes qui relèvent de l'«intuition» et du «raisonnement» (des mots aux sens multiples). L'apprentissage statistique n'est que le moteur.
Cette émergence n'est pas une conjecture mais un fait quantifiable: on a mesuré notamment que le «temps de cohérence» des LLMs (leur capacité à maintenir un raisonnement sans erreur sur une série de tâches) double tous les 7 mois environ.
Le parallèle avec la cognition humaine
Pour un physicien, le parallèle avec notre propre cognition est saisissant: le cerveau humain lui-même ne manipule pas de représentations symboliques parfaites: nos capacités d'abstraction et de compositionnalité sont approximatives et émergentes. Nos capacités de correction d'erreurs au sens computationnel aussi.
Les LLMs actuels partagent ces limitations. L'anthropocentrisme qui pousse à croire l'IA fondamentalement «autre» sur ces points, tout comme l'iacentrisme qui pousse à croire l'IA fondamentalement «semblable» sur d'autres, constituent des biais cognitifs qu'il faut dépasser.
L'enjeu de la co-pensée humain-IA
L'IA est un ensemble d'outils d'une puissance inédite dont la valeur dépend de notre maîtrise collective et de nos objectifs humains. L'enjeu n'est pas tant la course effrénée aux modèles pharaoniques, mais la co-pensée humain-IA, l'intégration dans nos pratiques quotidiennes.
Nous n'avons pas à choisir entre «simple outil statistique» et «véritable intelligence»: ces perspectives sont valides à différents niveaux d'analyse, tout comme en physique où plusieurs descriptions décrivent la même réalité.
L'opportunité suisse
La Suisse dispose d'une opportunité historique. Dépassons les fantasmes et les peurs pour nous concentrer sur l'essentiel: développer une culture de co-pensée, former les générations futures à de nouvelles compétences humain-IA hybrides, et bâtir un avenir où l'IA nous aide à résoudre des problèmes humains.