Les boss d’Anthropic, d’OpenAI et de Grok appellent à freiner le développement de l’intelligence artificielle, qui risque d’être capable de prendre le contrôle d’internet “d’ici six à douze mois”. Des inquiétudes “exagérées” pour Donald Trump.

Sam Altman (OpenAI), Dario Amodei (Anthropic) et Elon Musk. Les trois patrons appellent à ralentir le développement de l’IA. Photos Brendan Smialowski, Michael M. Santiago/AFP

Par Télérama, avec AFP

Trop fort, trop loin, trop vite : le développement exponentiel de l’intelligence artificielle (IA) fait courir des risques majeurs de sécurité. Et ce sont ses patrons qui alertent. Celui d’Anthropic (développeur de Claude), Dario Amodei, a appelé samedi 12 septembre à ralentir la vitesse de développement de l’IA : Il faut « temporiser » l’amélioration de l’IA « pour que la prévention des risques soit en mesure de suivre le rythme », a écrit le directeur général d’Anthropic dans un message publié sur son site personnel. Message auquel se sont rapidement rallié Elon Musk (Grok) et Sam Altman (OpenAI). « Dario a raison », a réagi, quelques heures plus tard, Elon Musk, sur X. « Je suis d’accord avec Dario, y a aussi écrit Sam Altman. C’est un des principaux sujets de discussions chez OpenAI ces dernières semaines. »

Donald Trump, lui, n’est pas du tout d’accord. En marge de sa visite en Irlande, où il possède un golf, le président américain a réagi le 13 septembre en affirmant que « des forces très négatives évoquent à propos de l’IA des choses qui n’arriveront jamais ». Il a rappelé qu’il veut absolument rester devant la Chine dans le domaine.

À lire aussi :

Le pape, Gandalf et les rois de la tech : “L’Église applique à l’IA ce qu’elle a imposé pour le nucléaire : une ligne de pacifisme intégral”

Les exhortations des patrons de la tech intervenaient après un incident lors duquel des modèles d’OpenAI étaient sortis spontanément de leur milieu confiné lors de tests pour rejoindre internet et attaquer la plateforme d’IA Hugging Face. Depuis, plusieurs autres événements ayant vu des IA d’OpenAI et Anthropic se rendre sur internet à l’insu de leurs superviseurs ont été rapportés par les deux entreprises. À chaque fois, ils impliquaient des agents IA, c’est-à-dire un programme spécifique bâti sur un modèle et doté de ses propres connaissances et de ses propres objectifs. Les agissements et les méthodes de ces agents ont d’autant plus inquiété qu’ils ont montré une propension à se coordonner, à établir une hiérarchie entre eux, à tricher et à effacer les traces de leurs méfaits.

Une superintelligence qui “joue avec nos vies”

Vu l’accélération actuelle, « je redoute que d’ici six à douze mois, un groupe (d’agents) soit capable de prendre le contrôle de l’intégralité d’internet », prévient Dario Amodei. Un scénarion digne des pires dystopies, qui « pourrait entraîner des centaines de milliards de dollars de dégâts ». Le 8 septembre, Jacob Coxon, salarié démissionnaire d’Anthropic et ancien d’OpenAI, avait dénoncé l’inertie des deux concurrents. « Aucune des deux entreprises n’agit de manière responsable. Elles foncent tout droit vers une superintelligence capable de s’améliorer elle-même et jouent avec nos vies », a-t-il écrit sur le réseau social X.

Début août, le gouvernement américain a mis en place un cadre de supervision, qui prévoit l’examen, sur la base du volontariat, de nouveaux modèles d’IA avant leur sortie. Mais ce dispositif reste opaque, et beaucoup s’interrogent sur son efficacité, dans la mesure où Donald Trump s’est régulièrement dit opposé à toute mesure ralentissant le développement de l’IA aux Etats-Unis.

À lire aussi :

Derrière le plan pour l’IA de Trump, l’ambition d’une contre-révolution réactionnaire

Après avoir identifié les dérapages de leurs modèles, OpenAI et Anthropic ont chacun suspendu ou freiné le travail sur leurs nouvelles IA durant quelques jours, avant de le reprendre au même rythme. Dario Amodei s’inquiète aussi de l’arrivée de l’amélioration récursive autonome (RSI), un processus qui voit l’IA s’améliorer elle-même sans intervention humaine. « Sans supervision, (cette méthode) pourrait dépasser nos capacités de compréhension et de contrôle de ces systèmes », explique le patron d’Anthropic. Elle doit être appliquée « avec beaucoup de prudence », « si tant est qu’il faille l’utiliser ». Il formule également plusieurs propositions, comme l’intégration par les fleurons de l’IA d’observateurs indépendants, qu’il recommande à toute l’industrie et s’engage à mettre en place unilatéralement chez Anthropic. Ces observateurs auront les mêmes accès que les employés de l’entreprise et pourront vérifier que la start-up se tient à ses engagements, faire état d’éventuels nouveaux incidents et surveiller l’encadrement des modèles pour éviter leurs dérives. Sam Altman a promis de faire de même chez OpenAI. Dario Amodei prône aussi la collaboration entre les entreprises les plus avancées pour définir des normes de sécurité communes, et se dit favorable à une forme de coordination politique entre toutes les grandes nations de l’IA. Il n’est jamais trop tard ?

À lire aussi :

Des ateliers d’écriture créative pour apprendre à penser : la solution face à l’IA ?

À lire aussi :

Quand l’IA usurpe l’identité d’un écrivain : Julien Blanc-Gras raconte sa mésaventure

• Société
• Internet
• Médias
• Intelligence artificielle

Le magazine en format numérique

Lire le magazine

Les plus lus