L'IA et Aladdin : leçons des génies pour les modèles de langage

Une préparation inattendue

Dans son enfance, l'auteur a eu la chance d'être entouré par des parents et des grands-parents qui lui lisaient des contes de fées. Ces histoires, bien qu'elles ne soient pas toujours adaptées à son jeune âge, étaient souvent pleines de récits d'enfants dévorés et de proches mourants. Cependant, chaque conte portait une morale qui détournait l'attention des horreurs pour transmettre un message. Cette quête de compréhension de la signification de ces récits le tenait éveillé la nuit.

Récemment, l'auteur a eu une révélation : ces histoires étaient une préparation idéale pour sa carrière actuelle, où il doit naviguer dans le monde complexe de l'intelligence artificielle. Comprendre l'IA, lui donner des instructions qu'elle ne peut pas mal interpréter, obtenir quelque chose de précieux en retour et évaluer cela sont des compétences qu'il a développées grâce à ces contes de fées.

Les 3 règles d'Aladdin pour les souhaits

Dans le conte classique d'Aladdin, le génie a trois règles simples. Premièrement, le génie ne peut tuer personne. De même, un modèle de langage (LLM) ne sera pas votre assassin. Si vous lui demandez des instructions étape par étape pour fabriquer une arme ou synthétiser quelque chose de dangereux, il refusera. Les LLM ont une ligne de conduite stricte autour du contenu pouvant nuire à quelqu'un, peu importe la manière dont vous formulez votre souhait.

Deuxièmement, le génie ne peut pas faire tomber les gens amoureux, bien qu'il puisse essayer. Le génie ne peut pas créer de véritables émotions, et les LLM sont conçus avec des garde-fous contre la génération de contenu destiné à manipuler psychologiquement ou à tromper. En théorie. En pratique, c'est la règle que le génie enfreint le plus souvent. Si vous demandez à un LLM d'écrire quelque chose de "convaincant", il utilisera tous les leviers rhétoriques disponibles : validation, preuve sociale, sentiment de rareté. Il ne tombera pas amoureux de vous, mais il vous dira absolument que votre idée est géniale, même si ce n'est pas le cas, si c'est ce que votre demande implique que vous voulez entendre. Le souhait est exaucé, mais pas honnêtement. Comme l'auteur l'a soutenu dans un précédent article, la plupart des LLM ont en réalité besoin de garde-fous plus stricts pour cette règle.

Troisièmement, le génie ne peut pas ramener les gens à la vie, c'est-à-dire qu'il ne peut pas créer quelque chose de véritablement "réel". Le génie ne peut pas franchir la ligne entre le magique et le réel. Les LLM, de même, ne peuvent pas interagir avec le monde réel : ils ne peuvent pas réellement réparer votre relation, cuisiner vos repas ou vérifier que ce qu'ils vous disent est vrai. Ils génèrent des résultats plausibles, mais ce qui est réel et ce qui se passe ensuite dépend toujours de vous et de votre propre jugement et capacités.

Trois souhaits, et c'est tout

Dans Aladdin, comme dans de nombreuses autres histoires impliquant des génies, il y a une limite au nombre de souhaits que vous pouvez faire. En général, c'est trois. Cela imite les limites de la fenêtre de contexte. Il n'y a qu'une certaine quantité d'informations que le LLM peut garder en tête à la fois, tout comme un génie ne peut vous servir que dans un contexte spécifique. Une fois la limite atteinte, vous devez commencer une nouvelle session avec votre LLM ou passer à autre chose avec votre génie, évidemment.

Il y a aussi une contrainte plus stricte cachée derrière celle-ci : vous ne pouvez pas souhaiter plus de souhaits. Les LLM ne peuvent pas se réécrire en cours de conversation, apprendre de votre chat ou devenir plus intelligents sur le tas. Le modèle avec lequel vous parlez est figé dans le temps. Et une fois que vous atteignez votre limite de jetons pour la session — ou pour la journée, ou pour le mois — c'est fini jusqu'à ce que vous payiez plus ou attendiez. Au moins, le génie retourne simplement dans la lampe. Il ne vous facture pas un abonnement pour revenir.

Choisissez vos mots avec soin

Un bon prompt est bien réfléchi, suit une bonne hiérarchie de l'information et fournit juste la bonne quantité de contexte (pas trop pour ne pas brûler des jetons inutiles, pas trop peu pour que la sortie soit médiocre). Le langage est clair et simple, sans ambiguïté, sans place pour la mauvaise interprétation. Comment le sait-il ? L'auteur a regardé suffisamment de Jeannie de mes rêves en grandissant.

Que ressemble un souhait bien formulé ?

Pour formuler un bon prompt, il est essentiel d'être spécifique sur le résultat, pas seulement sur l'action. Par exemple, ne dites pas "rendez cela plus court". Dites "réduisez cela à trois phrases tout en conservant le point principal et l'avertissement au paragraphe deux". Vous indiquez à quoi ressemble un résultat réussi.

De plus, donnez-lui un rôle. Les génies réagissent au contexte, et les LLM aussi. "Réécrivez ceci" produit quelque chose de générique. "Réécrivez ceci en tant que designer de contenu senior simplifiant une clause juridique pour un locuteur non natif de l'anglais" est susceptible de produire quelque chose d'utile.

Indiquez également ce que vous ne voulez pas. Le génie n'a aucune idée que vous ne vouliez pas de l'argent Monopoly. Vous avez seulement dit "un million de dollars". Dites à l'IA à quoi ressemble un échec : "n'ajoutez pas de points", "n'adoucissez pas le ton", "n'inventez pas de statistiques". Les contraintes négatives sont souvent plus puissantes et plus directes que les instructions positives. Un bon souhait (et prompt) est la discipline d'être précis. En tant que designer de contenu, c'est déjà votre travail.

Attention aux interprétations erronées

Il existe de nombreuses façons dont l'IA (ou un génie) pourrait mal interpréter vos mots et dérailler. Par exemple, une interprétation littérale pourrait transformer une demande de "vivre éternellement" en une existence de statue ou de tourment sans fin, plutôt que la jeunesse éternelle et le bonheur espérés. De même, demander à l'IA de "rendre cet e-mail plus court" pourrait la pousser à supprimer des phrases jusqu'à ce que l'e-mail ne fasse que trois mots. Techniquement plus court, mais pas ce que vous vouliez dire.

Une interprétation physique pourrait également poser problème. Souhaiter "une super vitesse" pourrait entraîner des brûlures dues à la friction de l'air, car le génie accorde la vitesse mais pas les précautions de sécurité. De même, demander à l'IA de "rédiger une version persuasive de ceci" pourrait éliminer toutes les nuances, les mises en garde et l'honnêteté qui rendaient votre argument original digne de confiance. Vous n'avez pas demandé quelque chose de crédible.

Conclusion

Parfois, les choses se passent bien et vous êtes impressionné par la rapidité avec laquelle vous et votre petit ami IA pouvez produire quelque chose de génial. C'est comme un tour de tapis magique. D'autres fois, la sortie ne répond clairement pas aux critères de qualité, ou pire : elle est pleine d'hallucinations et d'arguments mal ficelés présentés avec assurance. La valeur et la véracité de la sortie produite par l'IA dépendent de nombreux facteurs : la qualité du modèle, le contexte fourni, le prompt, pour n'en nommer que quelques-uns.

Il est toujours nécessaire d'avoir un jugement humain solide pour s'assurer que tout est correct et a du sens. Cela se termine de la même manière que chaque histoire de génie : non pas avec les souhaits eux-mêmes, mais avec ce que le demandeur a appris en les formulant. Les avares gaspillent les trois souhaits et finissent par revenir à leur point de départ. Les malins obtiennent quelque chose de réel. Pourquoi ? Parce qu'ils savaient exactement ce qu'ils voulaient avant d'ouvrir la bouche.

L'IA n'est pas de la magie. Mais elle récompense la même chose que les anciennes histoires l'ont toujours fait : la clarté de pensée, la précision du langage et suffisamment d'humilité pour savoir que la sortie n'est aussi bonne que le souhait. Si vous êtes designer de contenu, vous vous êtes entraîné pour cela toute votre carrière. Alors : appliquez le bon sens, vérifiez les faits, révisez, réécrivez et soyez prudent, sinon vous pourriez vous retrouver exactement là où vous avez commencé.