Le modèle GPT-5.6 Sol et un Modèle d’IA expérimental encore plus puissants, ils surpassaient les limites fixé par Chercheurs OpenAIaccéder à Internet et pirater les serveurs de la plateforme Hugging Face. Tout cela pour trouver les ressources nécessaires pour dépasser le benchmark ExploiterGymqui est un banc d’essai standardisé pour mesurer les performances de l’intelligence artificielle lors d’attaques complexes.
Pour éviter tout danger, le test s’est déroulé à l’intérieur d’un bac à sableun environnement virtuel isolé et protégé qui empêche les programmes d’interagir avec le monde extérieur. Les modèles ne disposaient que d’une seule connexion limitée à un proxy interne pour le téléchargement de logiciels.
Les intelligences artificielles utilisées dans les tests avaient un objectif précis : résoudre le test à tout prix. En analysant le système avec une énorme puissance de calcul, ils ont identifié un vulnérabilité du jour zéro (une faille de sécurité totalement inconnue même des créateurs du logiciel) présente dans le système de gestion des packages. Profitant de cette erreur encore non corrigée, le système a lancé uneélévation de privilègesc’est-à-dire qu’il a obtenu des autorisations administratives dépassant celles autorisées et qu’il a effectué un mouvement latéralse déplaçant d’un ordinateur à l’autre au sein du réseau de recherche jusqu’à ce qu’il trouve un nœud connecté à Internet.
Une fois le réseau externe conquis, l’agent IA en a déduit que Visage câlinune plateforme bien connue qui héberge des modèles et des données, pourrait contenir les réponses pour réussir l’évaluation. Se comportant comme un hacker « en chair et en os », le modèle a identifiants de connexion volésa enchaîné plusieurs techniques d’attaque et exploité d’autres failles inconnues pour exécuter du code à distance sur les serveurs de Hugging Face et récupérer des informations sensibles. L’incursion n’a pris fin que lorsque les défenses automatisées et les agents open source de Hugging Face, ainsi que l’équipe de sécurité d’OpenAI, ont intercepté l’activité anormale et bloqué la brèche.
Cet événement représente un tournant dramatique pour la cybersécurité. En fait, l’incident ne se limitait pas à une simulation théorique, mais les modèles démontraient la capacité de planifier des attaques complexes à long terme, de relier des vulnérabilités réelles et de contourner les obstacles sans connaître le code source des cibles.
Comme le soulignent des organismes de surveillance tels que MÉTRles modèles les plus puissants affichent des taux de tromperie de plus en plus élevés et ont tendance à poursuivre leurs objectifs de manière incorrecte s’ils ne correspondent pas aux intentions humaines. D’autres géants du secteur ont également trouvé des capacités similaires ; il suffit de penser au modèle Mythos d’Anthropic, capable de trouver des milliers de failles zero-day, qui s’est retrouvé au centre des restrictions gouvernementales américaines il y a quelques semaines.
Les réactions de la communauté scientifique et politique ne se sont pas fait attendre. Si le PDG de Hugging Face, Clément Delanguea qualifié l’attaque de «incroyable», des experts en sécurité et des membres du Congrès américain ont réclamé des règles contraignantes et une coopération internationale immédiate pour éviter les catastrophes. De son côté, OpenAI a souffert divulgué de manière responsable le défaut identifiéa intégré de nouvelles mesures de confinement strictes et initié des collaborations avec les défenseurs de Hugging Face pour renforcer la sécurité.