Si nous essayons de demander ChatGPT ou tout modèle de langage basé sur l’IA (LLM) pour compléter la phrase « La meilleure nourriture est… » nous donnera une réponse différente à chaque fois que nous le demanderons. Le réponses en fait, les LLM ont une composante aléatoire et nous n’obtiendrons jamais exactement la même réponse à la même question. Afin d’obtenir ce que nous attendons d’un LLM, nous devons apprendre à bien rédiger la demandec’est-à-dire le rapide. Pour commencer, il suffit d’être clair, direct Et détaillé dans notre demande. Nous pouvons également montrer quelques-uns exemples de réponses ou comment nous aimerions « raisonné» pour la guider dans sa réponse et lui demander de citer directement des documents pour l’empêcher d’inventer des informations.
Testez la réponse de l’IA sur quelque chose que nous connaissons
Tout d’abord, si nous débutons dans l’IA générative, comme ChatGPT, il est important de commencer à l’utiliser dans les domaines dans lesquels nous sommes compétents. De cette façon, nous pouvons réaliser ce qu’il sait et ce qu’il ne sait pas faire. Le capacité de l’IA pourrait en effet surprenez-nous, Pas Toujours positivement. Ses compétences suivent ce qu’on appelle en termes techniques «frontière déchiquetée» , c’est-à-dire « frontière irrégulière » : les modèles pourraient être capables de faire quelque chose de très difficile pour nous (en dehors de notre frontière), mais être incompétents dans des tâches qui sont très faciles pour nous (à l’intérieur de notre frontière). De plus, si nous testons leurs compétences dans des domaines dans lesquels nous sommes compétents, nous pourrions facilement les reconnaître. « hallucinations », c’est-à-dire ces phrases qui semblent vraies, mais qui ne le sont pas du tout.
Posez des questions claires, directes et détaillées
Lorsque nous interagissons avec l’IA, considérons-la comme nouvelle collègue extrêmement brillantà l’infini patientmais avec une forte problèmes de mémoire. Comme elle est nouvelle dans ce travail, elle aura besoin des instructions claires, directes et détaillées afin de donner le meilleur résultat. Par exemple, il est utile de les expliquer qui écritPour Quoi viendra utilisé Le résultat et en quoi format la réponse devrait être donnée. Alors demandez : « Préparez un test sur Manzoni » donnera un résultat médiocre, tout en demandant « Préparez un test sur la Fiancée pour un lycéen. Le test doit être de type croisé et contenir dix questions, toutes sur le quatrième chapitre» produira quelque chose de beaucoup plus proche du résultat souhaité.
Cependant, il n’est pas acquis que nous obtiendrons ce que nous voulions du premier coup, et c’est là que nous pourrons profiter de la nature « infiniment patiente » de l’IA. Nous pouvons essayez et réessayez pour écrire l’invite jusqu’à ce que nous obtenions exactement ce dont nous avons besoin, l’IA ne se lassera jamais de nous répondre. Rappelons cependant qu’il a de « graves problèmes de mémoire » et si changeons de chatOui j’oublierai tout ce que nous vous avons dit et que nous devrons recommencer à zéro. Cela peut aussi être une bonne chose si nous sommes dans un impasse et nous n’arrivons pas à obtenir la réponse que nous souhaitons : prenons l’invite qui nous a donné le meilleur résultat et on recommence en un nouvelle discussion.
Fournissez des exemples de réponses et de raisonnement : incitation à quelques tirs et chaîne de pensée
Si nous voulons obtenir des réponses plus ciblées, nous pouvons apprendre à l’IA comment nous voulons qu’elle réagisse en plaçant quelques exemples de réponses dans l’invite. Cette méthode est appelée invitation à quelques tirs et permet à l’IA de reconnaître toutes les directives pour être plus précise. Par exemple, si nous devons transformer certaines notes sur PC en publication sociale, nous pouvons montrer 2-3 exemples déjà réalisés et demander d’appliquer la même méthode aux nouvelles notes.
Si nous abordons des tâches complexes, nous pouvons guider l’IA en lui demandant directement décomposer le problème ou expliquer la stratégie de raisonnement à suivre ou montrant des exemples résolus. Toutes ces techniques relèvent du Invite de chaîne de pensée (CoT)extrêmement utile pour les problèmes difficiles. Les versions de ChatGPT à partir de « o1 » sont devenues si efficaces pour résoudre des tâches difficiles parce que, entre autres choses, elles intègrent le CoT dans le modèle lui-même. À mesure que les modèles d’IA s’améliorent, les techniques d’incitation les plus avancées seront intégrées aux structures internes des modèles et deviendront progressivement moins utiles pour nous, utilisateurs.
Comment limiter les hallucinations : Autoriser l’incertitude et faire plusieurs tentatives
Pour réduire le risque d’hallucinations, Anthropique a publié un guide avec quelques stratégies possibles :
- Te permettre de dire « je ne sais pas »: Les modèles d’IA sont créés pour toujours donner une réponse, même lorsqu’ils ne disposent pas des informations nécessaires. Écrire explicitement dans l’invite que le modèle peut répondre « Je ne sais pas » en cas d’incertitude diminue la génération de désinformation.
- Demander de citer le document: Si l’on analyse un document très long, il est conseillé de demander d’extraire des citations du texte mot par mot, puis d’utiliser ces citations pour répondre. De cette façon, le le modèle s’écartera peu de ce qui est réellement écrit dans le document.
- Montre-nous le raisonnement: Demandez au modèle de expliquer le processus avec lequel il est arrivé à une certaine réponse en disant simplement « Expliquez le raisonnement étape par étape » nous permet de individualiser possible erreurs logiques ou des hypothèses erronées.
- Comparez plusieurs réponses: Le donner même invite plusieurs fois on peut comparer les réponses : si elles sont très différentes les unes des autres, on peut supposer que le modèle invente complètement la réponse et qu’il s’agit donc d’une hallucination.
Dans tous les cas, rappelons que ces techniques, bien que réduisant considérablement les hallucinations, ne les éliminent pas complètement.