L’IA par-delà le bien et le mal

"Seul celui qui tire ses écrits directement de son cerveau mérite d’être lu". Ainsi jugeait la lecture qui se mérite, le philosophe désabusé Schopenhauer, dans son "Art de ne pas lire". Vade-mecum ô combien utile par ces temps numériques et disruptifs où l'intelligence se dit artificielle.

Si ces temps se veulent au service de la construction des savoirs, ils sont souvent, depuis l’avènement de l’IA, une tentation qui poussent certains, par paresse, incompétence ou procrastination, à abdiquer leur cerveau ou leur réflexion individuelle à la machine.

En effet, il ne passe pas un jour sans que l’on ne parle de tel ouvrage, roman, essai ou exercice journalistique généré par un chat bot. Certes, ces robots conversationnels ont réponse à tout ou presque, et nombre de ces réponses ne sont pas inutiles. Elles ont même bluffé ceux, auteurs ou journalistes, qui se sont essayés à se mesurer à l’IA, par jeu, défi ou comme pratique journalistique à la demande de leur rédaction.

C’est le cas récemment du chroniqueur français des médias à Libération, Daniel Schneidermann, qui a sollicité le dernier né de l'IA hexagonale (Mistral IA) pour rédiger une chronique sur elle-même, mais à la manière et dans le style incisif qui caractérise le chroniqueur. Le résultat n’a pas été totalement probant s’agissant du style et du vocabulaire usé. Quant au contenu, le Chat de Mistral ne s’est pas privé d’introduire d’emblée son autopublicité : "En une seconde et demie", rapporte le chroniqueur, est donc arrivé ce long miaulement promotionnel sur "l’entrée remarquée" qui "a su tirer parti de l’excellence académique française", avec "son approche centrée sur l’utilisation, démonstration éclatante que l’Europe peut non seulement innover, mais aussi imposer ses propres standards".

Après une longue et âpre discussion entre le chroniqueur et le Chat, au cours de laquelle il lui a poliment rappelé puis corrigé ses carences et ses erreurs, le robot, coincé mais nullement, confesse humblement : "Ne vous inquiétez pas, je n’ai pas d’orgueil ! Si vous avez des suggestions ou des corrections spécifiques, n’hésitez pas à me les indiquer. Je suis là pour apprendre et m’améliorer".

Dans un autre registre et toujours dans le même quotidien parisien, une journaliste (Mathilde Roche) a été chargée par sa rédaction de passer une semaine à se confier à Chat GPT 4 et à lui demander des conseils. Bref, à en faire une copine ("Ma meilleure IAmie" titre de l’article), en lui parlant de tous les aspects de sa vie, jusqu’aux plus intimes. Comparé à l’exercice du chroniqueur ci-dessus, le résultat de cette longue conversation amicale avec le Chat bot est plus satisfaisant, voire bluffant à en croire la journaliste ; et parfois, cette intelligence peut même "s’avérer de bon conseil, pragmatique et bienveillante".

L’IA bonne conseillère ? Tout dépend de ce qu’on entend par conseil. Mais, sur le plan de la morale et de l’éthique, ChatGPT reste plus nuancé.

Je me suis amusé, tout en rédigeant ces lignes et pour en avoir le cœur net, à lui poser poliment la question suivante lors de cette brève conversation : "Bonjour. Est-ce que je peux vous poser une question qui relève de la morale ?" "Bien sûr ! répond-il poliment. Posez votre question, je serai ravi d’en discuter avec vous". (J’ai relevé que le Chat est un garçon, puis qu’il n’a pas mis de "e" à "ravi", ou alors il a bien potassé mon algorithme masculin). "Mais la morale relève de la subjectivité. Vous pouvez avoir une capacité subjective ?" "Bonne question ! (Il est fayot, le matou !) La morale est en effet subjective, influencée par la culture, les valeurs personnelles et le contexte social. Je n’ai pas de subjectivité propre, mais je peux analyser différentes perspectives morales en m’appuyant sur des principes philosophiques, des théories éthiques et des exemples concrets. Je peux aussi essayer de comprendre votre point de vue et en discuter de manière nuancée. Quelle est votre question ?".

N’ayant, à vrai dire, aucune question d’ordre moral, j’ai mis fin à cette conversation. Mais il ne s’en offusqua point puisqu’il n’a aucune subjectivité propre, a-t-il prévenu, ni même d’orgueil. Voilà qui en ferait, peut-être, un bon copain pour certains. Ou un bon conseiller. Ce dernier, dit le philosophe Thierry Ménissier (responsable de la chaire de recherche "Ethique et IA à l’université de Grenoble-Alpes) "est quelqu’un qui vous fait voir le monde autrement". Qui n’est pas normalement voué à dire oui à tout ce qu’on a dit, mais qui va nuancer, enrichir, améliorer. On a des algorithmes, même gratuits, qui font ça". CQFD, au vu de ma brève conversation, mon Chat est en effet gratuit. Mais on n’est pas certain d’en avoir pour son argent avec un Chat payant.

Finalement, on peut s’en étonner, mais sur le plan moral, s’il n’a pas de subjectivité, il donne l’impression qu’il a quand même une éthique, sinon une déontologie. Jusqu’à quand ? Peut-être en attendant d’avoir tout pompé chez l’homme, le mal et le bien, puisque c’est auprès de l’humain qu’il s’entraîne et se nourrit, et c’est en s’alignant sur lui qu’il croît et se fortifie. Et, scénario dystopique inquiétant : jusqu’à devenir encore plus puissant et totalement autonome.

Pour l’heure, les chercheurs et experts rassurent, ne disposant pas d’outils permettant d’établir que l’IA comprend les notions du bien et du mal. Mais certains d’entre eux sont moins rassurants lorsqu’ils reconnaissent que, pour l’instant, le défi "le plus urgent est de faire des IA existantes, des IA morales au sens où elles agissent "comme si" elles avaient la compréhension du bien et du mal".

On serait tenté de leur rétorquer que, si elles se mettent à faire "comme si", en quoi seraient-elles différentes de l’homme avec ses tares et ses avatars ? Choses humaines, trop humaines ?