En Italie, le débat sur les dangers des deepfakes a repris après que la Première ministre, Giorgia Meloni, a rapporté que de fausses photos circulaient en ligne dans lesquelles son visage se retrouvait sur le corps d’une femme en sous-vêtements. Les programmes qui génèrent de telles photos seront bientôt interdits dans toute l’UE.
Le Conseil de l’UE et le Parlement européen sont parvenus à un accord sur une série d’amendements à l’Ai Act, le règlement européen sur l’intelligence artificielle entré en vigueur en août 2024. L’accord, qui doit désormais être formellement adopté par les deux institutions, fait partie du septième paquet de simplification de la réglementation de l’UE (appelé « Omnibus VII ») et introduit deux innovations importantes : l’interdiction explicite des systèmes d’intelligence artificielle utilisés pour créer des images sexuelles non consensuelles (appelées nudifiers) ou des abus sexuels sur des enfants. matériel et un report des délais pour que les entreprises se conforment aux règles sur les systèmes à haut risque.
Changer la loi
La loi Ai a été adoptée en mai 2024 après des années de négociations et est entrée en vigueur en août de la même année. Il s’agit du premier cadre réglementaire organique au monde sur l’intelligence artificielle.
La réglementation contenait déjà des interdictions absolues, par exemple la reconnaissance biométrique massive en temps réel dans l’espace public ou les systèmes de contrôle social, mais elle ne concernait pas encore le cas des deepfakes sexuels, un phénomène encore peu répandu ni connu. Les législateurs ont donc profité de la demande de la Commission de simplifier les règles du texte, pour combler cette lacune.
« En plus des mesures de simplification, nous interdisons les applications de nudité et, bien sûr, la production de pédopornographie à l’aide de systèmes d’intelligence artificielle. De cette façon, nous disposons des outils nécessaires pour intervenir si les fournisseurs n’interviennent pas sur les systèmes d’intelligence artificielle qui compromettent les droits fondamentaux ou la dignité humaine », a déclaré le Parti libéral irlandais. Michael McNamaral’un des locuteurs du texte.
L’interdiction des deepfakes sexuels
Les nudificateurs sont des applications (souvent également disponibles gratuitement en ligne) qui utilisent l’intelligence artificielle pour générer des images ou des vidéos dans lesquelles une personne peut être représentée nue ou dans des poses sexuellement explicites, sans son consentement. En Italie, avec une loi entrée en vigueur en octobre dernier, la production et la diffusion de ces images ont été interdites. Mais l’UE va plus loin en interdisant complètement tout programme susceptible de les produire.
L’accord introduit un nouvel article dans le règlement qui interdit trois comportements distincts : placer sur le marché européen des systèmes d’intelligence artificielle spécifiquement conçus pour créer de tels contenus ; des systèmes de marché sans « mesures de sécurité raisonnables » pour empêcher ce type d’utilisation ; et enfin, pour ceux qui utilisent ces systèmes (les soi-disant déployeurs), les utilisent délibérément à cette fin. L’interdiction couvre les images, les vidéos et le contenu audio.
La même logique s’applique aux matériels d’abus sexuels sur enfants générés artificiellement : l’accord interdit explicitement tout système conçu pour les créer ou qui ne dispose pas de mesures adéquates pour empêcher leur génération.
« Il est absurde qu’aujourd’hui, trois clics suffisent pour manipuler des images de femmes et d’enfants et créer des photos de nus ou du matériel pornographique. Aujourd’hui, nous mettons un terme définitif à ce type de violence contre les personnes et les enfants », a déclaré la Verte néerlandaise Kim van Sparrentak. L’eurodéputé a garanti que « les exemptions accordées à l’industrie ne l’emporteront pas sur notre sécurité », car « l’intelligence artificielle doit toujours être sûre et ne doit pas discriminer ni constituer un danger pour les droits fondamentaux ».
Les entreprises auront jusqu’au 2 décembre 2026 pour adapter leurs systèmes à ces exigences. Ceux qui ne s’y conforment pas s’exposent à des amendes pouvant aller jusqu’à 35 millions d’euros ou 7 % du chiffre d’affaires annuel mondial, le montant le plus élevé étant retenu.
Une année supplémentaire pour les systèmes à haut risque
Le deuxième grand chapitre de l’accord concerne la feuille de route pour les systèmes classés à « haut risque », donnant plus de temps aux entreprises pour s’adapter à toute une série de nouvelles obligations : enregistrer le système dans une base de données européenne, documenter son fonctionnement et les données sur lesquelles il a été formé, démontrer qu’il a été testé et que les risques sont maîtrisés, assurer un encadrement humain dans son utilisation et se soumettre à une vérification par des organismes indépendants avant sa mise sur le marché.
La loi Ai distingue deux types de systèmes à haut risque. Le premier type est un logiciel « pur » : par exemple, un algorithme qui analyse les CV d’embauche, un système de reconnaissance faciale ou un programme utilisé par les forces de l’ordre. Le deuxième type est l’intelligence artificielle embarquée dans un objet physique : le logiciel d’un stimulateur cardiaque, le système de freinage automatique d’une voiture, les capteurs intelligents d’une machine industrielle. Pour les deux types, les délais sont décalés : le premier groupe devra être en conformité à partir de décembre 2027, le second à partir d’août 2028. La raison de ce report est pratique : se conformer à la loi nécessite des normes techniques précises (comment certifier qu’un algorithme est « suffisamment sécurisé » ?) et des autorités nationales désignées vers lesquelles les entreprises peuvent s’adresser pour des contrôles. Ni l’un ni l’autre ne sont encore prêts.
Le filigrane de l’IA générative
Un autre changement concerne le sens inverse : l’obligation de marquer les contenus générés par l’intelligence artificielle (appelé watermarking) est avancée et non reportée. Avec cet accord, les systèmes d’IA générative devront appliquer des techniques de marquage à leurs produits (photos, vidéos et textes) d’ici le 2 décembre 2026, plutôt que d’ici le 2 février 2027 comme prévu initialement dans la proposition de la Commission. Le filigrane est un outil qui vous permet de détecter et de suivre le contenu d’origine artificielle, réduisant ainsi le risque de désinformation et de manipulation.
Moins de bureaucratie pour les PME
L’accord étend également certaines exemptions déjà prévues pour les petites et moyennes entreprises (PME) aux soi-disant « small mid-caps » (en anglais Small Mid-Cap, Smc), c’est-à-dire aux entreprises qui, bien qu’ayant dépassé les seuils de taille des PME, restent de taille relativement petite. Ces entités, exclues de certaines obligations procédurales prévues par la loi sur l’IA, pourront développer et distribuer des systèmes d’intelligence artificielle avec une charge bureaucratique réduite. L’objectif affiché est d’éviter que la législation pénalise de manière disproportionnée les entreprises qui ne disposent pas des ressources d’un grand opérateur industriel ou technologique.