As a rule, I believe schools should probably forbid chatbots and other generative AI. I also believe that most won’t, but that elite schools probably will, and that over time this will lead to some weird effects on the education and labor markets—but I will leave that to the economists to sort out.
Une fois n’est pas coutume, je crois que Matthew Butterick se trompe lourdement. Non seulement les instits et les profs ne devraient pas interdire l’utilisation des agents conversationnels, et plus généralement des « intelligences » dites artificielles, mais ils devraient étudier leurs tenants et leurs aboutissants pour les incorporer de la manière la plus appropriée dans leurs pratiques pédagogiques.
Les exemples de ce professeur d’histoire qui demande à ses étudiants de corriger les dissertations écrites par ChatGPT et de ce professeur de gestion qui impose l’utilisation des technologies génératives pour faire certains devoirs me semblent bien plus judicieux. J’ai écrit trop d’articles et enregistré trop d’épisodes de podcast sur ce sujet pour être dupe. C’est précisément parce que j’ai conscience du danger que je ne crois pas qu’on puisse l’écarter du revers de la main.
Les « intelligences » dites artificielles sont des technologies « prescriptives » pour reprendre le mot d’Ursula Franklin, ou des « instruments d’oppression » pour reprendre le mien, et nous devons empêcher les gamins de s’y laisser prendre. Les problèmes soulevés par Butterick — l’attribution des sources, l’administration de la preuve, la compréhension par l’émancipation — sont précisément les sujets qui doivent motiver l’existence de nos systèmes éducatifs.
L’école nous apprend à être humains. Y compris, plus encore, quand notre monde est dominé par les machines.
Plus prosaïquement, je n’ai aucun doute que la maitrise des technologies génératives sera un facteur déterminant dans le futur monde du travail. Nos parents ont construit leur carrière sur leur capacité à utiliser les applications de traitement de texte et de feuilles de calcul1, j’ai construit ma carrière sur ma capacité à utiliser un moteur de recherche, les adultes de demain construiront leur carrière sur leur capacité à jeter des sorts aux machines. Ils doivent savoir pourquoi et comment (ne pas) s’en servir, ou bien ils seront asservis.
Voilà pourquoi je crains que la prochaine « semaine de la presse et des médias à l’école » soit aussi ma dernière. Il ne faut plus seulement expliquer ce qui constitue une information, ce qui fait la particularité du professionnel de l’information qu’est le journaliste, et ainsi comprendre les ressorts de la désinformation. Il faudrait maintenant déconstruire la notion même de vérité, ce qui fait la particularité des machines à mentir que sont les « intelligences » dites artificielles, et ainsi comprendre les ressorts de l’attaque par déni de service que notre culture affronte.
Je ne sais pas comment le faire en deux heures. Je ne sais pas comment le faire sans effrayer les gamins — ou plus probablement les amuser en me conduisant comme un vieux con qui hurle contre les nuages. Je ne sais pas comment le faire sans dénoncer l’inconséquence criminelle du ministère qui m’accueille dans ses murs. Je ne sais pas comment le faire sans plonger dans une profonde dépression. Je ne sais pas comment le faire… alors j’ai demandé à ChatGPT.
« Les gens peuvent prendre plusieurs mesures pour éviter d’être trompés », me suggère-t-il, « ils peuvent être sceptiques à propos de tout contenu qui semble trop parfait ou qui semble être trop beau pour être vrai. Ils peuvent également vérifier la source du contenu, chercher des preuves supplémentaires, ou demander l’avis d’experts. » Cela m’effraie, parce que c’est tout le nœud du problème (qu’est-ce qu’une source ? qu’est-ce qu’une preuve ? qu’est-ce qu’un expert ?). Les technologies génératives ne font que le centupler.
Lentement mais musicalement. Retrouvez la bande-son électro-jazz de « Lentement » sur Apple Music et sur Spotify. De l’entrée en matière poignante de Lakecia Benjamin, qui sample le fameux « this is not the way things are supposed to be » d’Angela Davis, à la conclusion délicieusement groovy de Christian McBride, qui revient avec son trio New Jawn, on ne déroche jamais dans cette édition pleine d’énergie. Pour vous remettre de vos émotions, écoutez donc Your Mother Should Know, le bel album de reprises des Beatles enregistré par Brad Mehdldau à la philharmonie de Paris.
Ici
Vous ne serez pas surpris d’apprendre que j’ai écrit un article sur les agents conversationnels. Le test de Turing n’a jamais évalué les capacités conversationnelles des « intelligences » dites artificielles, mais plutôt nos aptitudes émotionnelles. Nous le ratons encore et encore, et c’est tout naturel :
Par un contraste assez jouissif, les grosses bébêtes pas du tout artificielles qui narrent les audiolivres se sont rebellées contre les entreprises (et les machines) qui pensaient pouvoir les exploiter sans contrepartie :
Bref, Arnaud a réussi à me faire rechuter, alors que j’avais promis-juré-craché que je ne parlerais plus des « intelligences » dites artificielles pendant quelque temps. Après un épisode sur l’« affaire Cnet » que je mentionnais dans la dernière édition de Lentement, nous nous sommes rappelé ce que nous aimions dans les technologies… pour mieux les critiquer :
Sur un tout autre sujet, j’ai changé ma manière de préparer mon café matinal. Selon les critères contemporains de bon gout, mon café serait excessivement corsé, ce que je veux bien croire. Les nouveaux standards de l’industrie me permettent surtout d’économiser 20 % de café, ce qui n’est pas rien quand on suit la courbe des prix :
Je continue à lire plus vite que je publie mes fiches de lecture. Pour tenter de réduire l’écart, j’ai expédié ma critique de la leçon inaugurale du cours d’interaction humain-machine de Wendy Mackay, qui m’a laissé sur ma faim :
Une imprimerie devant laquelle je suis passé cent fois sans la remarquer, une vigne qui mange les murs du château de Montjuic, et l’une des plus jolies portes de l’un des plus jolis villages de la planète, voici les photos du mois :
- La maison de poupée (Paris)
- Porte #5 (Cluny)
- Imprimerie générale lyonnaise (Lyon)
- Dimension #16 (Barcelone)
Ailleurs
À propos du nouvel album de Your Mother Should Know, Ethan Hein rappelle quelques-unes des meilleures reprises des Beatles par Brad Mehdldau :
Brad Mehldau has a new album out of solo piano arrangements of Beatles songs (plus one David Bowie song for some reason.) It’s a good one!
Malgré quelques assertions un peu hâtives, j’avais apprécié Le français est à nous !, un petit livre écrit par Maria Candea et Laélia Véron comme une réponse aux controverses créées de toutes pièces pour vendre un certain journal conservateur. Dans un autre contexte (quatre ans plus tard), sur un autre support (sa version papier plutôt que mon édition numérique), et surtout depuis un autre pays (la Suisse), le point de vue de Matthias Wiesmann est triplement passionnant :
J’ai trouvé ce livre très franco-français. Cela ne veut pas dire que le texte soit mauvais, ou inexact, ou que ne sois pas d’accord avec ses positions – la discussion sur les genre m’a parue tout à fait à propos – mais je me serais attendu à quelque chose de moins étriqué d’un ouvrage qui porte le sous-titre de petit manuel d’émancipation linguistique. La grosse ironie, c’est que de mon point de vue, le texte reproduit en mineur, les maux reprochés au articles du Figaro : on dénonce la vénération des conversations de salon, mais le livre est structuré en bonne part en réponse à des articles de journaux, le français est dénoncé comme mécanisme nationaliste qui met en exergue la nation et l’étranger, mauvais par essence, en même temps, l’étranger n’est que très rarement évoqué dans le livre et jamais pour comparer. On vante la diversité par rapport au dogme, mais on parle un minimum des variation hors de la France.
La lumière produite par les diodes électroluminescentes nous tue-t-elle à petit feu ? La question mérite d’être posée :
The last decade, or perhaps 15 years, has involved a huge set of changes in how humans interact with technology, and, in particular, with how we light. For all but the last few decades of human history, lighting involved incandescence: Glowing things. Fire, candles, lanterns, and even older light bulbs are all incandescent sources. Florescent lighting has been around for a bit, first in commercial spaces, and then in homes. But, in the last decade, the shift has been to LED lighting in everything - light bulbs, phones, TVs, computer monitors, even e-ink readers. They’re cheap and efficient. What we haven’t really asked is, “How do they impact humans?”
Nous pouvons changer nos ampoules et éteindre nos écrans, mais les villes ont changé leurs ampoules et refusent de les éteindre. Or après quelques années, la couche de phosphore assurant la blancheur de l’éclairage des diodes peut se décoller, et les lampadaires virent au violet. Je devrais m’en réjouir, mais je sais à quel point cela est mauvais pour notre santé :
Lots of cities settled on 4,000 K, the lunar glow of high-end sports-car headlights — and, not coincidentally, one of the easiest and therefore cheapest white LEDs to manufacture. It was a startling switch from the more romantic, orange glow of sodium vapor. Less Paris by moonlight, more Porsche on the Autobahn. […] “There’s a laminate on the fixture that gives it its white color,” he says. “As that laminate began to degrade, it caused the color tint to change toward purple.”
Et pour celle des animaux :
Among the many looming ecological disasters that terrify us today, one that only a handful of people have contemplated as sufficiently looming and terrifying is the loss of the bats in our belfry. According to “The Darkness Manifesto” (Scribner), by the Swedish ecologist Johan Eklöf, most churches in southwest Sweden had bat colonies back in the nineteen-eighties, and now most of them don’t. Light pollution, his research suggests, has been a major culprit: “District after district has installed modern floodlights to show the architecture it’s proud of, all the while the animals—who have for centuries found safety in the darkness of the church towers and who have for 70 million years made the night their abode—are slowly but surely vanishing from these places.”
Le comble ? L’éclairage public ne réduit ni les accidents ni la criminalité, bien au contraire :
A 2015 study published in the Journal of Epidemiology and Community Health found that streetlights don’t prevent accidents or crime, but do cost a lot of money. The researchers looked at data on road traffic collisions and crime in 62 local authorities in England and Wales and found that lighting had no effect, whether authorities had turned them off completely, dimmed them, turned them off at certain hours, or substituted low-power LED lamps. […] The truth is bad outdoor lighting can decrease safety by making victims and property easier to see. A Chicago Alley Lighting Project showed a correlation between brightly lit alleyways and increased crime.
La réalité dépasse la fiction, parce que des millions de personnes neutralisées par une arme de distraction massive ne distinguent plus la fiction de la réalité. Nous vivons bel et bien dans le meilleur des mondes, c’est-à-dire la pire des dystopies, où des travailleurs exploités font danser les travailleurs qu’ils exploitent pour le plaisir d’autres travailleurs exploités :
The trend started, as so many do, on TikTok. Amazon customers, watching packages arrive through Ring doorbell devices, asked the people making the deliveries to dance for the camera. The workers—drivers for “Earth’s most customer-centric company” and therefore highly vulnerable to customer ratings—complied. The Ring owners posted the videos. “I said bust a dance move for the camera and he did it!” read one caption, as an anonymous laborer shimmied, listlessly. Another customer wrote her request in chalk on the path leading up to her door. do a dance, the ground ordered, accompanied by a happy face and the word smile. The driver did as instructed. His command performance received more than 1.3 million likes.
ChatGPT est « une image JPEG floue du web », dit l’auteur de science-fiction Ted Chiang :
What I’ve described sounds a lot like ChatGPT, or most any other large language model. Think of ChatGPT as a blurry jpeg of all the text on the Web. It retains much of the information on the Web, in the same way that a jpeg retains much of the information of a higher-resolution image, but, if you’re looking for an exact sequence of bits, you won’t find it; all you will ever get is an approximation. But, because the approximation is presented in the form of grammatical text, which ChatGPT excels at creating, it’s usually acceptable. You’re still looking at a blurry jpeg, but the blurriness occurs in a way that doesn’t make the picture as a whole look less sharp.
Le journalisme est lui-même un algorithme de compression destructif, rétorque l’auteur de non-fiction Jeff Jarvis :
For what is journalism itself but lossy compression of the world? To save space, the journalist cannot and does not save or report everything known about an issue or event, compressing what is learned into so many available inches of type. For that matter, what is a library or a museum or a curriculum but lossy compression — that which fits? What is culture but lossy compression of creativity? As Umberto Eco said, “Now more than ever, we realize that culture is made up of what remains after everything else has been forgotten.”
Les deux ont tort, bien sûr, parce que comparaison n’est pas raison. Ethan Mollick voit les « intelligences » dites artificielles comme une « prothèse pour l’imagination », et je ne peux m’empêcher de penser à la béquille de C. S. Lewis2 :
It’s easy to look at these developments and start to panic, thinking that AI is on the cusp of replacing human creativity altogether. But I don’t think we should see this as competition. In fact, the strength of AI is that it can help us break through the parts of the creative process that many humans are bad at, and let us become better at generating ideas ourselves.
Des « auteurs » commencent d’ailleurs à « écrire » des « livres » de toutes pièces avec ChatGPT, tu parles d’une prothèse :
There could be thousands of new books submitted in February alone due to authors not having to disclose whether they used ChatGPT. Most of these are low-quality books presented to the Kindle store to make a quick buck. Hundreds of tutorials have sprung up on YouTube, TikTok and Reddit, demonstrating how to make a book in just a few hours. Subjects include get-rich-quick schemes, dieting advice, software coding tips and recipes. There are even paid courses authors have made for walking through using AI to write books, from beginning to end.
La réalité dépasse la fiction, les algorithmes singent les humains, alors des humains abrutis par les algorithmes rejettent le témoignage de leurs yeux et de leurs oreilles et demandent à d’autres humaines de prouver qu’ils ne sont pas des algorithmes :
Last April, 27-year-old Nicole posted a TikTok video about feeling burned out in her career. When she checked the comments the next day, however, a different conversation was going down. “Jeez, this is not a real human,” one commenter wrote. “I’m scared.” “No legit she’s AI,” another said. Nicole, who lives in Germany, has alopecia. It’s a condition that can result in hair loss across a person’s body. Because of this, she’s used to people looking at her strangely, trying to figure out what’s “off,” she says over a video call. “But I’ve never had this conclusion made, that [I] must be CGI or whatever.”
Enfin… les vôtres, peut-être. ↩︎
« Un homme parfait n’agirait jamais par sens du devoir ; il voudrait toujours la bonne chose plus que la mauvaise. Le devoir n’est qu’un substitut de l’amour (de Dieu et des autres), comme une béquille, qui est un substitut d’une jambe », écrit-il dans l’une de ses « lettres aux enfants », « La plupart d’entre nous ont parfois besoin de cette béquille, mais il est évidemment idiot de l’utiliser quand nos propres jambes (ou nos propres amours, gouts, habitudes, etc.) peuvent faire le voyage d’elles-mêmes ! » ↩︎