Ecouter la chronique lue par une I.A
“Au commencement était le verbe…” : de la fiction à la réalité
Tout d’abord, l’idée de combiner systématiquement des mots entre eux, comme le fait l’IA, ne date pas d’hier. Alexandre GEFEN nous parle du fantasme de la machine combinatoire décrite pas Jonathan SWIFT dans son livre Voyages de Gulliver ou encore de la bibliothèque de Babel de BORGES dans laquelle nous pouvons trouver toutes les combinaisons possibles de l’alphabet. Celle-ci contient donc aussi bien des textes sans sens que tous les chef-d’œuvres de l’humanité. Cette nouvelle de BORGES n’arrive pas par hasard au milieu du XXème siècle. A cette époque, la cybernétique amène les concepts de données et de programme et cet ouvrage ne fait qu’envisager le remplacement de l’auteur par un dispositif dans lequel le langage pourrait parler de lui-même. Dans les années soixante, Gilles DELEUZE et Michel FOUCAULT mettent en avant le “modèle machinique” et minimise l’importance de la parole humaine. Les progrès techniques aidant, Il apparait rapidement que oui les textes peuvent être écrit automatiquement et que l’informatique va en permettre la production.
Mais cette production n’est pas innocente, elle est remplie d’implicites qui définissent son cadre et influence la production elle-même.
Les 3 biais de l’intelligence artificielle : Une créativité bien conditionnée
Tout d’abord l’origine : d’où viennent ces mots que CHAT GPT manie si habilement ?
Alexandre GEFEN nous explique que ”l’intelligence” de l’IA repose sur la combinaison des mots entre eux. Autrement dit, la construction du texte par CHAT GPT se base sur la théorie linguistique du structuralisme dont la figure de proue est Ferdinand de SAUSSURE (1857-1913). L’IA ne construit pas un texte parce qu’elle “pense” par elle-même, mais va chercher dans le corpus de texte de sa base de données les mots qui sont le plus souvent associés au thème de votre demande. Ce qui est capital ici est que le texte généré dépend directement des œuvres ingurgitées par la machine. Ce simple constat est vertigineux car le choix des textes utilisés par l’IA est fondamental : Imaginez le potentiel de manipulation et de propagande d’une IA unique qui serait aussi couramment utilisé que Google au quotidien. En grattant un peu ce qu’implique le fonctionnement de l’IA, nous devinons aisément les enjeux colossaux qui se cachent derrière et nous comprenons pourquoi les grandes puissances ont dors et déjà entamées une compétition féroce pour imposer la leur.
Ensuite, il y a l’importance de la récurrence des mots dans les choix de l’IA.
Elle est en quelque sorte prisonnière d’une doxa statistique : ce qui prévaut est ce qui revient souvent. Elle n’évoquera pas les pensées minoritaires, sauf si nous y faisons explicitement référence (Et si les ouvrages y faisant référence ont été mis dans le corpus de l’IA). Mais comment savoir qu’une pensée divergente existe si l’IA que l’on interroge n’y fait pas allusion spontanément ? Ou si elle nous dit que cette pensée n’existe pas, alors que ses programmateurs ont juste volontairement omis de l’intégrer à son corpus ?
Enfin, il y a la censure.
Car les réponses de CHAT GPT ont été lissées par des opérateurs (de vrais humains) qui avaient des consignes éthiques, politique ou religieuse pour atteindre in fine une neutralité que l’auteur qualifie de “mainstream”. Il s’agissait de ne pas heurter les usagers ne partageant pas la culture et les références des fondateurs de CHAT GPT et ainsi leur permettre d’accepter plus facilement le contenu divulgué. L’auteur souligne la fadeur des propositions de CHAT GPT. Son avis est prudent, mesuré et le résultat en matière de création s’en ressent nous dit-il. Il note à ce sujet l’importante différence existante entre CHAT GPT-3, l’ancêtre, et l’actuel, comme s’il avait en quelque sorte été castré par ce lissage politiquement correct.
CHAT GPT est-il le diable ?
Mon but n’est pas de relever les tares du fonctionnement de l’IA pour la condamner mais simplement d’éclaircir comment elle structure le texte produit pour apprécier de manière critique la production qu’elle propose. Il y a toujours des “règles du jeu”, et, si nous ne les connaissons pas nous pouvons facilement en être dupe. D’autre part, rien ne dit que nous ne puissions pas inventer de nouvelles règles ou modifier celles existantes. C’est le chemin emprunté par l’union européenne qui planche actuellement sur une réglementation de l’intelligence artificielle.
Alexandre GEFEN insiste, quant à lui, sur les potentiels, notamment créatifs de CHAT GPT. Il parle des expériences créatives menées par des artistes en s’appuyant sur l’IA :
“The Road” de Ross GODWIN (2019) est une série de textes dont le point commun est de mettre en scène et en acte un rêve d’automatisation et d’artificialisation du langage littéraire.
David JHAVE JOHNSTON crée des poèmes avec une “augmentation” de neurones artificiels.
Hito STEYERL travaille le genre du film documentaire avec le “deep learning” (la méthode d’apprentissage de CHAT GPT)
Certains dessinateurs ont produit des BD à partir des productions de Midjourney (l’équivalent de CHAT GPT dans la production d’images) : Ainsi Thierry MURRAT a sorti “intitial_A” le 3 octobre 2023. L’histoire d’une jeune fille solitaire dans un monde futuriste qui dialogue avec une voix désincarnée.
Ce qui lui fait dire que l’IA n’est désormais plus seulement une fiction, mais un outil à produire des fictions, éventuellement, en collaboration avec des écrivains.
Que dire de plus ?
CHAT GPT révolutionne la production de textes, notamment littéraire, et interroge sur la notion de créativité et même d’artiste. Son potentiel est capable de réinventer la manière dont les artistes peuvent produire des textes et même des images. Tout comme la révolution industrielle a complétement changer la production économique ; notre rapport au travail ; ou les réseaux-sociaux, nos interactions. Je rejoins l’auteur de cet essai et pense qu’il est important de comprendre ce qu’implique l’utilisation d’un tel outil pour pouvoir le “maitriser” et non pas “être maitrisé” par lui ou ceux qui l’ont créé.
Et CHAT GPT qu’est-ce qu’il en pense ?
Je lui ai posé la question suivante : “je veux, dans un style littéraire, une réponse à la question : “CHAT GPT est-il le diable ?”
Voici sa réponse :
Le mystère qui entoure la nature de ChatGPT est digne d’une intrigue digne des plus grandes œuvres littéraires. Est-il le diable déguisé en code et en algorithmes, ou bien une création de l’humanité destinée à éclairer nos esprits ? Comme Faust hésitant à vendre son âme, nous sommes confrontés à la tentation de la technologie. ChatGPT, un outil puissant, peut être utilisé pour le bien ou le mal. Il appartient à l’humanité de décider comment dompter cette puissance et quelle histoire écrira-t-elle pour l’avenir.
Je vous laisse apprécier… ou pas
