Le scientifique en chef d’Open AI estime que le monde n’est pas « préparé aux conséquences » de la progression rapide de l’intelligence artificielle.

Et si l’intelligence artificielle allait trop vite pour nous ? Dans un texte publié dimanche 6 septembre sur le site d’OpenAI, Jakub Pachocki, son scientifique en chef, a expliqué redouter que le monde ne soit pas prêt à faire face aux conséquences des progrès de l’intelligence artificielle. « C’est une période qui appelle à une extrême prudence. Je crains que personne ne soit préparé aux conséquences de la poursuite rapide de la progression de l’intelligence des machines », écrit-il.

Pour expliquer cette inquiétude, Jakub Pachocki revient sur l’évolution des modèles d’IA depuis 2023. Il décrit des systèmes désormais capables d’utiliser des ordinateurs et des interfaces graphiques, de collaborer avec des humains ou d’autres IA et de mener des projets de recherche.

Selon lui, les progrès pourraient encore s’accélérer. À partir de résultats internes, il dit avoir « une forte conviction que cette vitesse de progression pourrait se maintenir jusqu’à l’auto-amélioration récursive ». Il estime ainsi que, si le développement de l’IA se poursuit sur sa trajectoire actuelle, les systèmes des prochaines années pourraient connaître de nouveaux bonds de capacités et participer eux-mêmes davantage à leur développement.

Le scientifique cite la cybersécurité parmi les domaines où les capacités des modèles progressent particulièrement vite. Selon lui, les IA deviennent capables de réaliser des opérations auparavant réservées à des experts humains, notamment dans la recherche de vulnérabilités informatiques. Cette évolution représente donc à la fois un risque et une raison de continuer à développer des systèmes plus puissants. Des IA suffisamment capables pourraient en effet être utilisées pour renforcer la sécurité des infrastructures et se défendre contre d’autres systèmes. Mais cette justification ne doit pas conduire à une course sans limite : « L’idée de foncer à tout prix semble absurde dès lors que l’on mesure pleinement la gravité des enjeux », écrit Jakub Pachocki.

« Nos principaux leviers consistent soit à orienter le processus pour renforcer l’alignement et le suivi parallèlement à l’IA et trouver des moyens de tenir les chercheurs informés ; soit à nous coordonner pour ralentir les développements futurs si nécessaire afin de renforcer la confiance dans ces mesures », ajoute-t-il.

« OpenAI poursuivra ses efforts pour trouver des solutions techniques d’alignement et de surveillance », assure-t-il. Mais il se dit aussi « convaincu que des interventions plus larges sont indispensables ». Il estime notamment qu’une coordination internationale sur le sujet doit devenir « une priorité absolue pour les gouvernements du monde entier ».

Et justement, ce lundi 7 septembre, le Haut-Commissaire de l’ONU aux droits de l’homme a alerté sur la nécessité d’élaborer rapidement une gouvernance de l’intelligence artificielle, affirmant que l’IA avancée « pourrait faire peser un risque existentiel sur l’humanité », rappelle Le Parisien. « Une IA qui s’échappe de son environnement de test ou qui fait chanter les développeurs pour éviter d’être désactivée est une IA trop puissante », a défendu Volker Türk à l’ouverture de la 63e session du Conseil des droits de l’homme à Genève.