Réflexion sur l’IA et la notion de super-intelligence : un débat essentiel

20 février 2025

Maxime Moffront

Senior Consultant

Le vulgarisateur EGO a récemment publié une vidéo intitulée Le problème existentiel de l’usine à trombones, explorant un concept bien connu dans le domaine de l’intelligence artificielle (IA) : le Paperclip Problem. Ce scénario hypothétique illustre les risques liés à une IA mal alignée sur les valeurs humaines (l’alignement vise à l’amélioration de la cohérence entre les intentions des créateurs et le résultat donné par l’outil). Bien que la vidéo soit pertinente et bien illustrée, elle présente deux limites majeures : l’absence de définition claire des notions d’IA et de super-intelligence. Cette omission, loin d’être anodine, reflète un enjeu fondamental du débat entre deux philosophies autour de l’IA : les doomers (qui recherchent une diminution des avancées en mettant en avant les risques sous-jacents à cette technologie) et les accélérationnistes (qui cherchent à accélérer l’évolution de l’IA pour permettre la découverte de solutions aux autres problématiques de notre monde).

ia sur intelligence — *Image générée par l’IA*

Une généralisation excessive du concept d’IA

L’une des principales failles de l’argumentation réside dans la généralisation du terme « IA ». Il est souvent utilisé comme une entité unique, alors qu’il englobe en réalité un ensemble hétérogène de technologies aux fonctionnements et finalités très variés. Cette confusion mène à un biais cognitif bien documenté : le biais de représentativité. En d’autres termes, nous avons tendance à attribuer à l’ensemble du domaine de l’IA les capacités spécifiques de certaines de ses branches.

Les récentes avancées en IA concernent principalement les modèles de génération, notamment les Transformers (pour le texte) et les modèles de Diffusion (pour l’image, l’audio et la vidéo). L’impact du non-alignement de ces technologies est souvent très visible, comme en témoigne la controverse autour de Google Gemini et son supposé « wokisme ». Pourtant, ces modèles ne font que maximiser la reproduction d’un style humain en fonction des données et des instructions fournies.D’autres formes d’IA fonctionnent différemment, à l’image de Web Diplomacy AI, qui repose sur un réseau d’agents intelligents spécialisés. Dans ce cas, l’IA n’est pas une entité monolithique, mais un ensemble d’agents distincts, chacun avec ses propres forces et limites. Cette diversité dans les approches de l’IA démontre l’importance de préciser de quelle IA il est question avant d’en tirer des conclusions générales.

Les limites de l’hypothèse de la super-intelligence

Le second point problématique de la vidéo concerne l’absence de définition de la super-intelligence. Ce concept fait débat au sein des communautés spécialisées. Certains philosophes des technologies estiment que les sociétés humaines, en elles-mêmes, constituent déjà une forme de super-intelligence. L’exemple du crayon dans I, Pencil de Leonard Read illustre bien cette idée : aucun individu ne peut, seul, fabriquer un crayon, mais la société, grâce à son organisation collective, en est capable. Une autre définition possible de la super-intelligence repose sur la capacité à surpasser l’humain dans certaines tâches. Si tel est le critère retenu, alors nos machines actuelles, capables d’exécuter des calculs complexes en une fraction de seconde, sont déjà des super-intelligences.

Ces définitions posent toutefois un problème majeur : l’anthropomorphisation. Nous avons tendance à projeter des intentions humaines sur ces technologies, comme nous le faisons en percevant des visages dans des formes aléatoires (phénomène de paréidolie). Or, une IA ne ressent ni peur ni désir ; elle suit simplement un ensemble d’instructions définies par des humains.

L’analogie de l’usine à trombones illustre bien cette confusion. Dans ce scénario, l’IA est décrite comme maximisant la production de trombones au détriment de tout autre objectif. Pourtant, chaque choix effectué dans ce cadre l’est par des concepteurs humains, bien avant que l’IA ne soit mise en action. L’illusion d’un but intrinsèque à l’IA provient de notre tendance à lui attribuer une conscience et une finalité qui ne sont, en réalité, que des projections humaines.

Vers une approche raisonnée de l’IA

En biologie, un phénomène similaire existe avec la théorie de l’évolution. La sélection naturelle est souvent perçue comme un processus intentionnel favorisant les traits « bénéfiques », alors qu’il ne s’agit en réalité que d’un mécanisme statistique réduisant la prévalence des traits diminuant les chances de reproduction. Ainsi, nul besoin d’une finalité prédéterminée pour expliquer l’évolution du vivant.

De la même manière, l’IA évolue sous l’impulsion de ses concepteurs et des usages qu’ils lui attribuent. Plutôt que d’opposer doomers et accélérationnistes, il semble plus pertinent d’adopter une posture mesurée : apprécier l’innovation et ses promesses, tout en restant vigilants quant à ses impacts sociaux et environnementaux. Une approche raisonnée et durable de l’IA est essentielle pour éviter des dérives potentiellement dommageables.

Loin d’une vision alarmiste ou d’un optimisme aveugle, il est nécessaire de poser des définitions claires et de mener une réflexion approfondie sur les implications réelles de l’IA, afin d’en faire un levier de progrès au service de la société.

Si vous avez des questions sur votre projet IA, nous sommes là pour y répondre !

On se contacte ?