Hallucination

Lorsque nous parlons d'un modèle d'intelligence artificielle, nous entendons par « hallucination » toute réponse fausse, trompeuse ou illogique générée par un modèle d'IA. On parle d'hallucination, car les réponses reposent sur des informations que l'IA a mal comprises ou bien elle a tout simplement inventé la réponse à partir d'informations imaginaires.

Un exemple d'hallucination pourrait être de demander à une IA telle que ChatGPT de vous citer un paragraphe tiré d'un livre inexistant traitant d'un sujet précis. Au lieu de vous avouer que ce livre n'existe pas et qu'elle ne trouve aucune information à son sujet, elle vous fournit une réponse inventée de toutes pièces, avec une citation très convaincante, mais que personne n'a jamais écrite, tirée d'un livre dont le titre a été entièrement inventé par l'IA.

Pourquoi a-t-on des hallucinations ?

Il faut comprendre que les grands modèles linguistiques traitent le langage d'une manière similaire à celle des humains, mais qu'ils ne sont pas humains au point de saisir toutes les subtilités de ce qu'on leur demande ni de ce qu'ils répondent. Ainsi, ces modèles se contentent de prédire quelle réponse est la meilleure face à une question.

Cependant, les hallucinations dans l'IA ne sont pas inhérentes à sa nature ; elles sont plutôt déclenchées par divers facteurs. Il se peut que le modèle ne soit pas suffisamment entraîné ou que la qualité de ses données soit trop faible pour répondre correctement à la question qui lui est posée. 

Il se peut également que l'utilisateur n'ait pas formulé sa question de manière tout à fait correcte et qu'il n'ait pas fourni suffisamment de contexte pour que l'IA puisse l'interpréter correctement.

En fin de compte, Le fait que les modèles d'IA génèrent des résultats erronés tient à leur propre mode de fonctionnement. Lors de leur apprentissage, on leur fournit une quantité colossale de données que le modèle segmente en lettres et en mots. Ainsi, le modèle apprend des séquences de lettres et de mots qui se succèdent dans un contexte donné.

Ainsi, un modèle d'IA tel que ChatGPT peut générer une quantité immense de réponses sur une grande variété de sujets, mais il ne raisonne pas réellement pour formuler ses réponses ; il se contente de relier des schémas et de fournir une réponse fondée sur des probabilités. En d’autres termes, les modèles d’IA sont conçus pour toujours répondre, mais pas nécessairement de manière correcte selon nos critères humains.

Quel est le danger des hallucinations dans l'IA ?

C'est l'un des les dilemmes moraux liés à l'intelligence artificielle. Les hallucinations dans l'IA ne sont pas une bagatelle, principalement parce que ne sont généralement pas évidentes. Les chatbots basés sur l'IA ont tendance à donner des réponses détaillées et catégoriques à n'importe quelle question, même si leur base de données ne contient pas suffisamment d'informations pour y répondre. 

C'est pourquoi la moindre erreur ou le moindre manque de rigueur dans la vérification de l'exactitude des informations fournies par une IA générative peut faire passer une hallucination pour une vérité alors qu'elle n'en est pas une. Cela conduit en outre à ce que qu'il soit publié et qu'il devienne viral diffuser en masse des informations fausses, voire préjudiciables, susceptibles d'influencer l'opinion publique.

Sans parler du cas où ces fausses informations se glisseraient dans les domaines médical ou financier. Il est très risqué de demander des conseils médicaux, pharmaceutiques ou en matière d’investissement à des technologies telles que ChatGPT. Si l’outil se trompe et que nous faisons aveuglément confiance à ce qu’il nous propose, nous pouvons porter atteinte à notre propre santé physique, psychologique ou financière.

Par ailleurs, le fait que l'IA commette des erreurs et diffuse publiquement des informations fausses et non vérifiées peut conduire à ce que la population se méfie de plus en plus des médias et de l'intelligence artificielle générative. 

De manière générale, les médias suscitent déjà la méfiance de nombreuses personnes en raison de leurs partis pris et de leurs demi-vérités, et le fait que des hallucinations se glissent dans les articles de presse serait la cerise sur le gâteau qui pousserait beaucoup de gens à rejeter complètement leur autorité. Ainsi, les médias chargés de diffuser l'information et l'IA générative pourraient être confrontés à une crise de réputation généralisée qui éroderait peu à peu la confiance de la population.

Comment se protéger contre les hallucinations ?

On ne peut jamais être sûr que l'IA ne va pas nous faire vivre une hallucination totale ou partielle ; c'est pourquoi, en tant qu'utilisateurs, il n'y a qu'un seul moyen de se prémunir contre les fausses informations : faire preuve de bon sens et vérifier toutes les informations qui soit généré par une IA.

Dans certains cas, nous pourrons détecter d'un seul coup d'œil quand l'IA nous fournit une information fausse ou contradictoire. Plus notre question est précise et alambiquée, plus il y a de chances que l'IA se trompe et nous donne une réponse farfelue. C'est pourquoi nous devons lire les réponses avec attention et toujours les considérer avec un certain scepticisme quant à leur véracité.

De même, nous devons accorder une attention particulière aux informations que nous recevons et toujours les vérifier en les recoupant avec d'autres sources fiables si ces informations ne sont pas destinées à un usage interne, c'est-à-dire si elles doivent être diffusées dans un article.

Par ailleurs, il convient d'être très prudent lorsqu'il s'agit d'informations relatives à des consultations médicales, susceptibles d'avoir une incidence sur notre santé, ou à des questions financières, qui pourraient nous faire perdre de l'argent inutilement. Les illusions dans ces domaines peuvent causer un préjudice grave aux personnes.

Ainsi, un esprit toujours critique nous aidera à ne pas nous laisser tromper par les hallucinations de l'IA.