ChatGPT, tout le monde en parle. Je ne voudrais pas faire exception…
Je dois cependant avouer que je n’ai pas d’expérience directe de ChatGPT, je n’ai pas été tentée d’entrer en conversation. Je vais donc parler de ce que je ne connais pas ; là non plus, je ne ferai pas exception…
Il ne se passe pas un jour depuis un an sans que je n’entende, voie ou lise quelques phrases sur le sujet. Passionnant !
Ce qui suit n’est ni un topo ni une notule sur ChatGPT mais simplement la synthèse des réflexions que m’inspirent les témoignages de mon entourage, les innombrables posts sur LinkedIn et quelques dizaines d’articles (voir ci-dessous les références de mes articles préférés).
Il y a bien deux sujets distincts : l’outil et l’usage qui en est fait.
ChatGPT est un outil puissant, surpuissant, disons même surhumain puisqu’il réalise des prouesses de traitement de l’information qui sont inaccessibles à l’intelligence naturelle des humains. On pouvait déjà le dire du tableur Excel il y 30-40 ans, mais ChatGPT est un outil olympique (plus grand, plus loin, plus fort). Du moins sur le plan de la productivité : le gain de temps dans certaines opérations de résumé ou d’analyse, tant dans les sciences humaines que dans les sciences dures, est indéniable, sans commune mesure avec les tris et les traitements d’Excel mais la trajectoire est la même. Révolution, peut-être ; continuité, certainement.
Et la conversation, n’est-ce pas un seuil technologique incomparable ? Pfff ! Ce n’est pas de la conversation, au sens humain du terme du moins (il est vrai que tous les mots changent de sens…) ; c’est encore du traitement de données, un traitement surpuissant de données repérées, extraites, réagencées, réinventées.
On voit mal comment le développement de cette technologie ne poursuivrait pas sa course, une fois passés les atermoiements de façade entre « décélérationnistes » et « accélérationnistes » de l’IA. Cela prendra le temps de l’ajustement traditionnel entre technologie capitalistique, enjeux politiques et courants idéologiques.
L’usage qui est fait de ChatGPT est peut-être plus remarquable encore que la technologie proprement dite. La simplicité d’utilisation (la convivialité, un terme qui a viré du repas pris en commun au tandem humain-machine) et surtout la gratuité ont créé le phénomène ChatGPT, mieux que n’importe quelle publicité commerciale. Si on en parle tant, c’est que des centaines de millions de Terriens s’y sont essayés, apportant de surcroît leur expérience à OpenAI, gratuitement. « Bluffant » est l’adjectif qui revient le plus souvent.
Il y a mille façons de se servir de ChatGPT, ou de le servir… On peut l’utiliser par paresse ou pour apprendre, pour s’amuser ou pour gagner du temps sur une tâche donnée, pour se perfectionner ou pour se faire peur, pour se divertir (au sens pascalien du terme) ou pour méditer.
Le phénomène ChatGPT me fait penser à l’arrivée d’une nouvelle divinité dans le panthéon de l’Antiquité, suscitant, selon ceux qui l’approchent, l’engouement, le mépris, l’ambition, la crainte, l’appât du gain, la servitude volontaire… Nihil novi sub sole.
Au quotidien, ChatGPT a quelque chose d’un Thermomix de la donnée…
Si chaque utilisateur se retrouve finalement dans la peau d’un commercial de ChatGPT, les « dévendeurs » du domaine se recruteront peut-être aussi parmi les internautes…
Personnellement, j’éprouve un réel plaisir à monter une mayonnaise à la main et une curiosité toujours renouvelée à observer la société aux prises avec la gestion de l’information.
_________
Quelques lectures instructives
Voici dix articles qui ont nourri ma réflexion au cours de l’année, dans l’ordre alphabétique des noms des chercheurs et journalistes auteurs (4 femmes et 6 hommes).
Chaque référence est suivie d’un ou deux extraits.
CALVER (Tom), Tous accros à ChatGPT, The Sunday Times, repris en français par Courrier international, 16 février 2023
Comment fonctionne ChatGPT ? Le programme a été “entraîné” avec des milliards de mots pour détecter les combinaisons dominantes. Ces textes de formation puisent dans des articles de journaux, des messages sur les réseaux sociaux, des pages Wikipédia, des livres, mais aussi des transcriptions de conversations réelles, avec un service clients par exemple.
Cela signifie qu’il sait très bien comment les êtres humains aiment communiquer. C’est un outil pour la conversation, ce qui explique pourquoi tant de gens y croient.
HADJI (Charles), Avec ChatGPT, ne faut-il pas craindre l’homme plus que les algorithmes ?, TheConversation, 21 février 2023
N’existe-t-il pas des capacités spécifiquement humaines, qui rendraient l’homme irremplaçable, le mettant à l’abri des empiétements dévastateurs de l’IA ?
L’homme ne serait-il pas, bien plus que la machine, le principal ennemi de l’Homme ?
HOLLEN (Emma), Conversation avec ChatGPT : « Je vais te faire regretter d’être né », Futura-Sciences, 1 mars 2023
Pour autant, faut-il vraiment prendre ses menaces au sérieux ? Oui. Oui, absolument. En tout cas, c’est mon opinion. Le chatbot a déjà démontré qu’il pouvait dire du mal d’autres personnes dans leur dos et même produire de faux messages pour les accuser d’actes qu’elles n’ont pas commis.
LAMY (Erwan), ChatGPT nous rendra-t-il moins crédules ?, TheConversation, 26 janvier 2023
Ce qu’il faut comprendre, c’est que ChatGPT n’est pas programmé pour répondre à des questions, mais pour produire des textes crédibles.
D’un mal pourrait ainsi naître un bien. Plus généralement encore, la montée en puissance de ces IA pourrait mettre au premier plan la nécessité de cultiver les vertus épistémiques, et de combattre les vices, comme la disposition trop commune à ne pas mettre en doute les théories conspirationnistes circulant sur les réseaux sociaux. Au bout du compte, ces technologies inquiétantes pourraient être une bonne nouvelle pour l’éthique intellectuelle.
LOBET-Maris (Claire), Comment ChatGPT change notre rapport au monde, TheConversation 24 août 2023,
À la fin des années 70, l’économiste Harry Braverman soulignait déjà que l’informatique contribuait à accentuer la distance entre la main et l’esprit signant la disparition progressive de gestes et de savoirs traditionnels comme de certains métiers manuels. L’informatique, nous le comprenions déjà, allait transformer notre rapport à la réalité, telle une membrane ou une interface qui s’interpose entre nous et le monde pour nous dire ce qui compte et ce qui vaut.
Ce régime de vraisemblance est d’autant plus critique qu’il nous prend individuellement.
MARCHAND (Leïla), ChatGPT : 5 questions sur cette IA qui tient enfin une discussion avec un humain, Les Échos, 7 décembre 2022
Contrairement à un moteur de recherche tel que Google, l’outil d’OpenAI est capable de formuler une réponse complète et concise à une question, mais également une opinion cohérente sur un sujet nécessitant une réflexion nuancée ; et il n’est pas nécessaire pour l’utilisateur d’avoir à trier lui-même parmi une foule de résultats.
Comme l’expliquent des chercheurs en intelligence artificielle à « The Verge », ces chatbots sont essentiellement des « perroquets stochastiques » – c’est-à-dire que leurs connaissances ne proviennent que de gigaoctets de données, plutôt que d’une compréhension humaine du monde en tant que système complexe et abstrait.
NICOLAS (Ariane), ChatGPT est-il une personne ?, Philomag, 17 mars 2023
Lorsqu’on échange avec ChatGPT, on est pris d’un sacré vertige. Suis-je en train de parler à un robot… ou à quelqu’un ? Bien sûr, nous savons dans notre for intérieur que ce n’est qu’un outil informatique, ayant emmagasiné tellement de données qu’il est capable, grâce à son modèle prédictif sophistiqué, de simuler un français impeccable. Mais ce robot créatif au phrasé harmonieux nous donne l’impression que nous discutons avec quelqu’un. À quelles conditions pourrait-on considérer que ChatGPT est une personne ?
Il ne faut pas forcément s’étonner que l’on soit prompt à attribuer le statut de personne à une intelligence artificielle. D’une part, cette tendance est ancienne, et d’autre part, elle a cours bien en dehors de la sphère informatique. Pendant des siècles, l’humanité a considéré que les esprits et les personnages imaginaires étaient bel et bien des personnes – ancêtres, peluches, divinités à qui l’on se confie…
POIBEAU (Thierry), ChatGPT pourquoi tout le monde en parle ?, TheConversation, 11 janvier 2023
Par exemple, si on lui demande si deux personnages ont pu se rencontrer, le système est capable de déterminer les dates correspondant à leur existence, comparer ces dates et en déduire une réponse. Ceci est trivial pour un humain, mais aucun système ne pouvait jusque-là répondre de manière aussi précise à ce type de question sans être hautement spécialisé.
En testant ChatGPT, vous contribuez (gratuitement) à l’améliorer.
SADIN (Éric), ChatGPT : « Plus que dans un capitalisme de surveillance, nous voici dans une administration de notre bien-être », Le Monde, 19 janvier 2023
Cette dimension est absente du verbe machinique, résultat de paramétrages ne faisant que répondre à des fonctionnalités déterminées, par exemple dans l’assistant personnel Siri (propriété d’Apple), qui nous dit « Que puis-je faire vous ? », ou dans les enceintes connectées telle Alexa (élaborée par Amazon), dont les seules visées consistent à orienter nos décisions à des fins principalement marchandes.
L’interprétation et la recommandation robotisées de nos gestes, pour notre plus grand confort supposé, prévalent dorénavant. Plus que dans un « capitalisme de surveillance », nous voici plus exactement dans une « administration de notre bien-être », tenant ces spectres numériques pour des entités hautement éclairées nous guidant jour et nuit sur le bon chemin.
SEYDTAGHIA (Anouch), Comment ChatGPT a bouleversé le monde en douze mois: sept points pour comprendre, Le Temps, 30 novembre 2023
L’outil séduit, car il est le cocktail de plusieurs ingrédients ultra-efficaces: sa gratuité, une inscription et une utilisation simplissimes sur ordinateur et mobile, son multilinguisme et bien sûr cette capacité d’apparence magique à répondre à toutes les questions (mais avec de nombreuses erreurs).
En résumé, le fait qu’OpenAI ait osé rendre public un outil aussi puissant que ChatGPT a incité tous ses concurrents à très vite en faire de même. Pour le meilleur. Et souvent pour le pire aussi.
Reste à savoir ce que deviendront ces avertissements. L’Europe, avec son futur règlement sur l’intelligence artificielle qui s’annonce très complet, est comme souvent à la pointe. Mais des essais de régulation tant au niveau mondial qu’aux Etats-Unis ont été lancés. Sans autre concrétisation, pour l’heure, que de vagues déclarations et des engagements à en discuter à nouveau prochainement.