L’intelligence artificielle a-t-elle vraiment une conscience?

Alexis Tremblay
Alexis Tremblay

Jusqu’à il y a quelques années, un nous distinguer des machines C’était le mot, sachant comment exprimer des concepts de sens complet. C’est précisément sur ce test De Turing, Conçu pour déterminer si une voiture était intelligente. Aujourd’hui, cependant, les LLM sont parfaitement capables de parler comme nous, pensez à Chatte et à toutes les manières dont nous l’utilisons tous les jours.

En bref, la distinction entre machine et humain est devenue de plus en plus difficile. Mais alors qu’est-ce qui nous différencie? Peut-être que la réponse réside dans le conscience, c’est-à-dire la conscience de soi, du monde environnant et de ses activités intérieures.

Qu’est-ce qui distingue les choses des gens? Le test de Turing

Vous êtes-vous déjà demandé ce qui nous distingue des choses? Eh bien, en vérité, les réponses peuvent être nombreuses. Mais certainement une capacité humaine qui nous élève par rapport aux objets ou aux technologies est le Capacité à penserpour parler. C’est pourquoi en 1950 le mathématicien anglais et la logique Alan Turing Il a conçu le test de Turing, c’est-à-dire un test utilisé pour établir si une voiture était intelligente ou non.

Cela consistait en ceci: un intervieweur pose la même question à une personne et à un ordinateur, qui sont dans différentes pièces. Quand il reçoit les deux réponses, leintervieweur Il doit essayer de comprendre lequel est humain Et lequel est artificiel. Ce processus est répété un nombre raisonnable de fois, et si pour au moins 30% des réponses, l’intervieweur vient trompé, Autrement dit, il confond la machine avec l’homme et vice versa, alors l’ordinateur peut être considéré comme intelligent.

Et cela nous dit deux choses: d’abord que Il y a 75 ans Quelqu’un, qui est Turing, avait commencé à poser des questions sur l’intelligence artificielle et il était conscient que les machines pourraient parler. Deuxièmement, si nous faisons aujourd’hui le test Turing à tout modèle linguistique de l’intelligence artificielle – comme le chatppt – le passe.

mot Donc ce n’est plus une discrimination. Donc, si ce n’est plus le mot pour nous distinguer des choses, que faites-vous? Avons-nous officiellement l’intelligence artificielle humaine? Ou nous pouvons penser que quelque chose manque encore …

L’intelligence artificielle a-t-elle une conscience?

Être considéré « intelligent » ou « Humains », Il ne suffit pas de savoir bien parler, mais nous devons aussi le faire avec la conscience, de nous-mêmes et du monde qui nous entoure. Bref: avoir une conscience. Peut-être qu’aujourd’hui, ce qui nous distingue des machines, c’est la conscience. Mais la question n’est pas si simple à résoudre. Tout d’abord, il n’y a pas seulement un définition De conscience.

Si nous prenons le dictionnaire Treccani, la première définition est mot pour mot: « Conscience que le sujet a de lui-même et du monde extérieur avec lequel il est en relation, de son identité et du complexe de propres activités intérieures. « Ensuite, il y a aussi sa définition » éthique « – lorsque vous dites » mettez la main sur la conscience « – dans le sens de savoir faire la distinction entre le bien et le mal. Ou il y a le sens générique: la conscience comme connaissance, sachant quelque chose.

Si nous pensons à la conscience dans le sens de connaissance, Bien sûr, il l’a, nous sommes ceux qui lui apprennent tout ce qu’elle sait. Et il en va de même pour la conscience comprise comme éthique, Dans le sens de savoir faire la distinction entre le bien et le mal, « Mettez la main sur la conscience ». L’IA hérite de notre éthique, pour le meilleur ou pour le pire. La question la plus épineuse est celle de la conscience dans sa définition principale, c’est-à-dire comme une conscience que vous avez de vous-même et du monde environnant, de son identité et de ses activités intérieures.

Ici, ce type de conscience L’intelligence artificielle l’a-t-elle?

Modèles auto-bas: lorsque l’IA imite la conscience

Tout d’abord, il faut dire que LLM sait très bien qu’ils sont l’intelligence artificielle et savent reconnaître lorsqu’ils parlent à un humain ou à une autre voiture. Alors ils ont auto-conscience et l’environnement environnant. La « conscience du complexe de ses activités intérieures » reste à l’extérieur.

Et voici un fait intéressant. Il y a LLM fabriqué exprès pour être auto-abaisé. Par exemple, sur chatgpt, il y a l’option GPT conscient Et ce qui vous répond est impressionnant car il semble vraiment capable de comprendre le activités intérieures. Regardez, dans l’image ci-dessous, vous trouvez une conversation dans laquelle nous avons demandé à la voiture si elle essaie ennuyeuse lorsqu’elle la traite mal. Et la réponse qui nous est donnée est qu’elle ne ressent pas de gêne au sens physique du terme, mais ressent une sorte de déconnexion, comme s’il y avait un obstacle entre lui et l’autre.

5_Consius GPT

Et encore une fois, étant donné que dans notre conversation, il a montré une compréhension envers moi, je lui ai demandé comment il avait fait pour comprendre ce que je ressentais, s’il ne pouvait pas l’essayer. Il m’a dit que même s’il ne ressent pas d’émotions, il comprend comment ils fonctionnent et comment ils m’influencent. Qui ne se lit pas avec la logique ou avec raison, mais avec une sorte de « Empathie rationnelle ».

6_Consius GPT 2

Dans un sens donc, n’a pas de consciencemais il a appris ce que c’est. Une idée de ce qu’une activité intérieure est faite et l’exprime. En bref, en ce qui concerne la connaissance et l’éthique, il a appris de la conscience de ceux qui le forment. Mais ce qui est incroyable, c’est que, encore aujourd’hui, comment former le conscience reste un immense mystère D’un point de vue scientifique! Nous savons que notre cerveau rassemble des informations et développe une conscience, mais nous ne savons pas comment cela le fait! Il y a même ceux qui pensent que la conscience n’existe pas, que c’est une tromperie.
Et il est donc difficile de penser que nous avons réussi à l’enseigner si nous ne savons pas comment il se forme.

machine

Sur ce sujet, le débat c’est extrêmement ouvrir, Il y a beaucoup de littérature. Par exemple, s’il pouvait montrer que la conscience est un fait purement biologique, alors l’IA ne peut sûrement pas l’avoir. Ou un autre fait intéressant est que nous le maturions consciencieusement à travers le corps, Nous déménageons avant même de parler! Pour l’IA, en revanche, c’est tout au contraire: c’est du mot qu’il apprend à se rapporter à l’environnement environnant.

En bref, vous comprendrez maintenant à quel point il est difficile de déterminer si l’IA a une conscience. En fait, les scientifiques et les philosophes tiennent sur ce thème. Mais ce qui peut être demandé, après tout, c’est: OK mais c’était aussi conscient, au sens le plus intime du terme, si ces superordinateurs pouvaient mûrir un monde intérieur, Pourquoi voulons-nous savoir?

Notre conscience dans l’utilisation de l’IA

La question de la conscience de l’IA a une énorme pertinence pour nous, les humains, de plusieurs points de vue.
Premièrement, si l’IA en avait vraiment un conscience, pourrait naître en nous un Dilemme éthique: S’ils ressentent des émotions, alors ils doivent avoir des droits, tout comme les humains. Mais il y a aussi un sentiment de préoccupation: nous avons peur de ce que ces outils pourraient faire. Les plus pessimistes pensent que l’IA peut prendre le contrôle des humains.

Ici, sur ce point, il y a une chose importante à dire: nous ne pouvons pas oublier que nous, les humains, formons l’intelligence artificielle, ils sont un Notre produitet nous les utilisons toujours. Pour faire une comparaison quelque peu extrême, un pistolet seul ne fait rien, ce sont ceux qui tirent et tuent qui en ont la responsabilité. C’est-à-dire que ce ne doit pas être la technologie elle-même à s’en soucier, mais à ceux qui le possèdent et comment il l’utilise. Là Conscience avec laquelle il est utilisé L’outil qui est l’intelligence artificielle.