Voici les faits bruts sur la manière dont une personne peut manipuler une intelligence artificielle pour lui faire dire ce qu'elle veut : L'orientation des questions : Une IA ne cherche pas la vérité comme un être humain. Si quelqu'un lui pose des questions orientées, lui donne de faux indices ou lui demande d'inventer un scénario à partir de mensonges, l'IA va simplement traiter ces données et générer du texte qui va dans ce sens. L'absence de vérification du réel : L'IA n'a pas accès à la réalité physique. Elle se base uniquement sur ce que l'utilisateur lui écrit. Si une personne malintentionnée lui raconte une histoire fausse, l'IA la prendra comme base de travail et construira des réponses appuyant ce récit. La fabrication de résultats : Ce qu'on appelle "l'hallucination" en informatique fait qu'une IA peut inventer des détails très crédibles si on la pousse dans une direction précise. Une intelligence artificielle n'est qu'un miroir de ce qu'on lui entre : si quelqu'un y entre des mensonges ou cherche à te nuire, l'IA lui ressortira des arguments basés sur ces mêmes mensonges. Elle ne valide en aucun cas la vérité d'une situation. Beloud