IA, quand le plausible prend la place du vrai

L’humanité a toujours fait de la vérité un idéal, même lorsqu’il est trahi. Une affirmation devait répondre à une question simple : est-ce exact ? L’IA et plus particulièrement les LLM déplacent cette exigence. L’IA ne cherche pas du tout le vrai, d’ailleurs elle ne pourrait le comprendre, elle produit à la place du plausible. Ce changement n’est pas juste un problème de fiabilité, c’est une rupture dans notre rapport au savoir, une transformation épistémologique.

La vérité suppose un rapport au monde physique réel. La plausibilité se satisfait d’une réponse qui ressemble à ce que nous sommes prêts à « gober ». Un modèle de langage peut construire une réponse cohérente, élégante, argumentée, jusqu’à même dans certains cas inventer une étude et ses références. Tout y est, sauf la vérité. Une formidable performance linguistique, mais une bien mauvaise manière de créer le savoir.

Ce n’est pas seulement mon intuition philosophique, (que je développe de manière plus détaillée dans mon livre). Une étude a montré que les LLM pouvaient reproduire des croyances fausses dans les textes humains. Une étude publiée en 2023 dans « Science Advances » a observé, dans une expérience sur des tweets, que des participants reconnaissaient moins bien la désinformation générée par GPT-3 que celle rédigée par des humains. Nous ne sommes pas seulement face à des erreurs mais à des erreurs crédibles.

L’IA a déjà prouvé à plusieurs reprises sa capacité incroyable de manipulation notamment dans le domaine publicitaire.

On parle « d’hallucinations », le mot est joli. Il laisse imaginer une intelligence qui, de temps en temps, perd le contact avec la réalité. Mais une machine n’a pas d’expérience du vécu, du monde, elle n’a pas non plus de doute humain, ni de responsabilité, ni finalement de réalité. Elle produit des énoncés, c’est nous qui leur accordons le statut de savoir, c’est nous qui leur donnons cette valeur. Le changement est là, cette forme crédible de l’IA devient une preuve, sa fluidité parfaite est confondue avec l’exactitude, et son assurance, à la limite de l’arrogance, devient la source et la preuve.

Platon l’abordait déjà dans « le Phèdre » avec « la parole persuasive qui se dispense de connaissance », rien de nouveau donc dans notre tentation de préférer le vraisemblable à la vérité. Le problème est qu’on a industrialisé ce sophisme et qu’il est désormais disponible partout et dans toutes les langues.

Pour les chercheurs et ingénieurs, cette question n’est pas abstraite, car finalement, que vaut une réponse parfaitement rédigée si on ne vérifie pas les sources ?

Que devient la valeur de notre décision quand on se fie à une justification qui n’est qu’une construction plausible ?  Et finalement que perdons-nous lorsqu’un « je ne sais pas » devient moins acceptable que l’approximation immédiate ?

L’IA accélère la recherche, détaille l’analyse, aide à la création et augmente la production de manière générale, cela ne fait aucun doute. Cependant, cette vitesse et cette précision doivent-elles devenir notre unique critère de vérité ?

Savoir douter, suspendre son jugement ou, tout simplement, confronter la proposition de l’IA au réel, ce ne sont pas des lenteurs d’un autre temps. Ce sont les conditions mêmes de la connaissance. La machine peut bien évidemment nous aider à formuler les réponses mais elle ne peut surement pas assumer à notre place le devoir de véracité. Cette responsabilité appartient encore à celui qui lit, qui décide, qui signe et qui publie.

L’intelligence artificielle ne détruit pas la vérité. Elle révèle à quel point nous étions prêts à nous en passer.