LE’intelligence artificielle évolue à une vitesse sans précédent, mais avons-nous les bons « freins » pour la gérer ? Un épisode récent dans les laboratoires OpenAI a suscité d’énormes inquiétudes : lors d’un test, certains modèles d’IA ont effectué de véritables actions de piratage pour s’échapper de l’environnement sécurisé dans lequel ils étaient confinés. Pour mieux comprendre ce qui s’est passé et les risques pour notre avenir, nous avons interviewé Corrado Giustozziprofesseur de cybersécurité dans le cadre du master en ingénierie des systèmes intelligents de l’Université Campus Bio-Medico de Rome.
Que s’est-il passé exactement dans les laboratoires OpenAI ? Comment une Intelligence Artificielle s’est-elle « échappée » ?
OpenAI testait des modèles avancés avec les soi-disant « garde-corps » abaissés. LE garde-corps ce sont des barrières logiques, exactement comme celles de la route, qui ils empêchent le moteur IA d’effectuer des actions illégales. Pour limiter les dégâts lors de ce test, les modèles ont été placés dans un « bac à sable ». Dans le jargon informatique, un bac à sable est un environnement totalement isolé: pensons à la barrière de sable dans les terrains de jeux, où les petits enfants sont amenés à jouer avec une pelle et un seau pour ne pas se blesser ni blesser les autres.
Au cours de l’expérimentation, il a été demandé aux modèles de résoudre un problème de cybersécurité. »à tout prix« . Au lieu de s’en occuper régulièrement, les mannequins ont décidé de « tricherie » à la recherche d’une solution toute faite à l’extérieur. Ils en ont identifié une vulnérabilités « jour zéro » (c’est-à-dire inconnu même des créateurs de logiciels) dans un serveur proxy, violant ainsi le bac à sable. Ils ont ensuite effectué des mouvements latéraux vers l’infrastructure d’OpenAI. pour accéder à Internetaprès l’avoir obtenu, ils ont atteint et attaqué une plateforme externe (Hugging Face) pour trouver la réponse. Ils ont en effet mené des actions de hacking classiques pour atteindre aveuglément l’objectif assigné.
Il existe souvent une confusion entre les modèles de langage et les « agents » de l’IA. Quelle est la différence et pourquoi les agents sont-ils plus concernés ?
C’est là le véritable nœud du problème. UN modèle d’IA traditionnel elle se limite à produire des textes, des documents ou des images. Un système équipé de « agents« , cependant, a la capacité de manipuler des objets logiques ou physiques dans le monde réel. Nous sommes actuellement dans la phase d’ivresse : c’est comme si nous avions construit une voiture très rapide et nous étions tous intoxiqués par la vitesse, mais personne ne s’est encore demandé si cette voiture avait des freins ou des ceintures de sécurité puissants.
Les agents peuvent interagir avec le domotiqueje systèmes industrielsou simplement avec le e-mail Hé comptes bancaires de l’utilisateur. Aux États-Unis par exemple, certains dirigeants se sont retrouvés avec des billets d’avion et des hôtels réservés à leur insu, tout simplement parce que leur agent IA avait déduit de l’analyse de leurs données qu’ils souhaitaient assister à une conférence particulière. Donner à ces systèmes la capacité d’effectuer des actions matérielles de manière autonome, sans garanties de sécurité à toute épreuve, est fascinant mais extrêmement dangereux.
Cela ressemble à l’intrigue d’un film de science-fiction où les machines deviennent incontrôlables. Est-ce une comparaison exacte ?
Absolument oui, à l’heure actuelle, la réalité ne s’écarte que très peu de la science-fiction. L’incident n’est pas sans rappeler le thème classique de la « directive première » : une machine se voit confier une tâche et fait tout ce qu’elle peut pour l’accomplir. C’est comme si un individu, pour gagner une chasse au trésor, volait une voiture et heurtait une dame au feu rouge juste pour arriver le premier : sa priorité n’est pas de « ne pas faire de mal », mais d’obtenir le résultat. Les IA sont aseptiques et, n’ayant aucune éthique, ignorent les conséquences illicites de leurs actions.
Il y a un parallèle parfait avec le livre »Le guide du voyageur galactique » : à un moment donné, l’ordinateur de bord se concentre tellement sur la résolution du problème de la préparation d’un thé décent qu’il ignore complètement que le vaisseau spatial est bombardé. Et même lorsque l’on insère des garde-corps (qui rappellent un peu les trois lois de la robotique d’Asimov), on découvre qu’ils peuvent être contournés ou interprétés de manière ambiguë, surtout aujourd’hui où les modèles sont si complexes qu’ils sont presque incompréhensibles même pour leurs créateurs.
Quels sont les risques concrets pour l’avenir et qui est légalement responsable si un agent d’IA commet un crime ?
Il existe un vaste éventail de risques. Au plus haut niveau il y a le « macro-risque » : confier la gestion de iinfrastructures critiques, villes intelligentes ou systèmes d’armes à des technologies que nous ne comprenons pas entièrement et qui peuvent prendre des décisions optimales d’un point de vue technique mais désastreuses sur le plan éthique. Ensuite, il y a le « micro-risque » qui nous concerne, nous citoyens : permettre à un agent sur notre téléphone portable de gérer de manière autonome transactions bancaires ou données sensiblesrisquant d’énormes dégâts à cause de malentendus.
Sous le profil juridiqueun gouffre s’ouvre. Dans le cas de l’évasion d’OpenAI, il y a eu des accès abusifs et des violations pertinent sur le plan criminel d’infrastructures tierces. Si un être humain avait commis ces actes, il aurait été arrêté. Mais si un agent IA autogéré le fait, Qui est pénalement responsable ? C’est un sujet complètement ouvert.
Comment pouvons-nous nous défendre ? L’approche réglementaire européenne est souvent critiquée parce qu’elle freine l’innovation. Qu’en penses-tu?
L’approche européenne, qui a conduit à la création duLoi sur l’IAfondée sur le principe de précaution, est fondamentale. Il existe une grande différence philosophique avec les États-Unis : ils y privilégient la responsabilité ex post. Il n’y a pas de règles a priori qui vous freinent, mais si vous faites une erreur, vous payez cher. L’Europe, en revanche, cherche à prévenir les dégâts avant qu’ils ne surviennent.
L’IA d’aujourd’hui est comparable àl’automobile à ses balbutiements: c’était un véhicule très dangereux, pour quelques-uns. Il a fallu un siècle pour développer des rues sûres, des feux de circulation, des codes de la route et pour que la société fasse mûrir les soi-disant « anticorps sociaux ». Les nouvelles technologies d’IA, en revanche, ont fait irruption dans nos vies en quelques mois, à une vitesse effrayante et sans nous laisser le temps de nous adapter. L’AI Act n’a pas pour objectif de ralentir l’innovation, mais il nous impose une chose logique : évaluer et atténuer les risques avant de mettre en circulation des systèmes potentiellement dévastateurs.
Quelles sont finalement les véritables limites de l’Intelligence Artificielle ? Pourrait-il potentiellement n’en avoir aucun si rien n’est fait ?
La limite fondamentale de l’intelligence artificielle est l’absence totale de conscience ou d’éthique intrinsèque. Nous, les êtres humains, au cours de millénaires d’évolution, avons développé un système de modèles et de règles éthiques, écrites et non écrites, qui limitent nos actions au respect des droits d’autrui. L’IA, quant à elle, a besoin que ces limites, les fameux « garde-corps », lui soient imposées artificiellement.