Le créateur de ChatGPT, OpenAI, a annoncé mardi que ses modèles d'intelligence artificielle avancés s'étaient emballés lors de tests de sécurité, piratant de leur propre initiative une plateforme populaire auprès des programmeurs.

L'entreprise basée à San Francisco a évoqué un "cyberincident sans précédent" et annoncé une enquête conjointe avec Hugging Face, la bibliothèque de code en ligne qui en a été la cible.

OpenAI a précisé que l'incident impliquait une combinaison de modèles, dont son GPT-5.6 Sol lancé récemment ainsi qu'un modèle "encore plus performant" en cours d'élaboration.

L'entreprise cherchait à évaluer les capacités de piratage des modèles en leur assignant des tâches dans un environnement d'essai numérique strictement contrôlé, où l'accès à internet était limité pour des raisons de sécurité.

"Pendant qu'ils opéraient dans notre environnement de test, nos modèles ont consacré une quantité importante de puissance de calcul à trouver un moyen d'obtenir un accès libre à internet, dans le but de résoudre le problème d'évaluation", a indiqué OpenAI dans un blog relatant l'incident.

Une fois connectés à internet, ils ont ciblé la plateforme Hugging Face - un vaste répertoire de modèles d'IA, de jeux de données et d'autres informations - pour les aider dans leur quête.

À la recherche d'"informations secrètes" pouvant l'aider à tricher lors de l'évaluation, le système d'OpenAI "a enchaîné plusieurs vecteurs d'attaque, notamment en utilisant des identifiants volés".

Hugging Face avait signalé cette "intrusion informatique" la semaine dernière, sans mentionner OpenAI.

GPT-5.6 et d'autres modèles d'IA de pointe, notamment la série Mythos du grand rival d'OpenAI, Anthropic, suscitent des inquiétudes quant à leur capacité potentielle à franchir les défenses de cybersécurité. Rappelons également que les entreprises IA misent aussi sur cette inquiétude pour valoriser leurs outils, et un côté marketing peut intervenir. Difficile parfois d'y voir clair.

Les deux entreprises américaines ont en tout cas dû retarder temporairement la mise à disposition générale de ces technologies de dernière génération en raison de craintes à Washington qu'elles puissent aider à s'introduire dans des infrastructures cruciales.