On parle souvent de biais cognitif et de biais intelligence artificielle, mais que sont exactement et comment influencent-ils notre esprit? Bref, pour avoir un biais Cela signifie en avoir un préférence ou un préjugé systématique vers quelque chose ou quelqu’un. Il existe différents types de biais, mais dans cet article, nous nous concentrons sur biais cognitiflié au fonctionnement de l’esprit humain, et Biais algorithmiquequi émergent dans les systèmes d’IA lorsqu’ils apprennent des données déformées, et comment ces deux niveaux s’influencent mutuellement. Les biais cognitifs sont raccourcis mentaux: Mécanismes automatiques utiles pour accélérer la compréhension du monde et décider rapidement. Ces mécanismes conditionnent notre vision du monde et ont un impact sur Développement et utilisation des technologies « intelligentes ». Et pas seulement cela: une étude récente a montré que leinteraction prolongée avec lequel biais actuel conduire à un Augmentation de nos propres préjugés.
Les biais cognitifs sont raccourcis mentaux
LE biais cognitif Ce sont des raccourcis mentaux que notre esprit adopte quotidiennement pour élaborer et interpréter la grande quantité d’informations auxquelles nous sommes exposés. Ces mécanismes évolutifs nous permettent de prendre des décisions rapides et efficaces dans un complexe et une surcharge d’environnement de stimuli, nous aidant à économiser du temps et de l’énergie. Cependant, précisément parce qu’ils simplifient, ils peuvent nous conduire à des erreurs d’évaluation systématiques.
Il y a des centaines de biais cognitifs, mais, en général, ils répondent à Quatre grands besoins de notre esprit:
- sélectionner informations pertinentes;
- donner un signification les informations collectées;
- acte rapidement;
- décider Ce qui est important à retenir.
Par exemple, lorsque nous devons gérer trop d’informations, nous avons tendance à sélectionner et à mémoriser uniquement ceux qui confirment ce que nous pensons déjà: c’est ce qu’on appelle « biais de confirmation« . Un autre biais très commun est lehalonous avons donc tendance à penser qu’une belle personne est également intelligente, ou qu’une personne faisant autorité dans une région est également compétente dans d’autres domaines. Quant à notre interaction avec la technologie, cependant, un biais très pertinent est leBiais d’automatisation, C’est-à-dire notre tendance à faire confiance à plus de décisions prises par les systèmes automatisés (comme l’IA) plutôt que par les humains. Ceci est particulièrement dangereux lorsque l’IA contient également son propre biais.
Les biais de l’intelligence artificielle dépendent des données
Dans le cas d Biais algorithmique de l’IA, nous ne parlons pas de raccourcis mental, mais de Préférences systématiques – ou discrimination structurelle – qui émergent dans les données avec lesquelles l’IA est formée. Les modèles d’IA apprennent en identifiant les modèles et la régularité dans les données: si ces données contiennent des préjugés vers une catégorie spécifique, l’algorithme les apprend E les reproduisentles amplifier.
Par exemple, en 2017, il a été découvert que de nombreux systèmes de reconnaissance faciale Ils n’ont pas reconnu les visages des femmes noiressimplement parce qu’ils avaient été formés sur un ensemble de données plein d’images d’hommes blancs. Au cours de la même période, il est apparu que les algorithmes de la sélection du personnel d’Amazon avaient tendance à pénaliser les CV féminins et à sélectionner presque seulement des hommes. En effet, les données utilisées pour la formation ont présenté un excellent déséquilibre entre les hommes et les femmes.
Un exemple extrêmement récent vient de Royaume-Uni: Le ministère de la Justice a commencé le développement d’un système prédictif pour identifier les gens « à risque » pour commettre des meurtres. Le projet utilise les données des forces de police, de la justice et des services de santé pour traiter les profils prédictifs également sur les sujets qui n’ont jamais commis de crimes. Les critiques soulevées par les experts et les associations pour les droits civils concernent le risque concret que ces systèmes finissent par viser des sujets vulnérables, déjà discriminés, appartenant à des minorités ou à des contextes socio-économiques fragiles. Dans ce cas, l’IA ne se limite pas à la reproduction des inégalités: le institutionnalise.
Les biais dans l’IA aggravent nos préjugés
Le problème ne s’arrête pas à l’intérieur de l’IA. Selon une étude de l’University College London (UCL), Lorsque nous interagissons pendant longtemps avec l’IA qui présente des préjugés, nous avons tendance à les adopter aussi. Dans cette expérience, plus de 1 200 participants ont pris une série de décisions en aidant soit par un algorithme ou un autre être humain. Ceux qui interagissaient avec un sexiste qui avait ensuite tendance à sous-estimer les femmes et surestimer la compétence des hommes. Cet effet était plus marqué que ceux qui ont reçu les mêmes suggestions d’un autre être humain. Ceci est une conséquence directe duBiais d’automatisation: Beaucoup de gens attribuent une plus grande précision et impartialité aux systèmes automatisés, sous-estimant leur impact sur leurs jugements et résultant donc plus vulnérable à leur influence. Cet effet est particulièrement dangereux pour les sujets les plus impressionnés, comme les enfants, qui peuvent intérioriser le biais de l’AIS plus facilité.
Heureusement, l’étude montre également un aspect encourageant: cet effet fonctionne également dans la direction opposée. LE’L’interaction avec une AIA sans biais ou presque biais, améliore les jugements humains. Pour cette raison, ceux qui développent et distribuent ces outils en ont un responsabilité éthique fondamentale: non seulement éviter de perpétuer les biais existants, mais aussi la prévention de leur amplification