Des intelligences artificielles comme instrument d’oppression

Les Grecs anciens, ou du moins Aristote, voyaient l’esclavage comme le mal nécessaire à la bonne constitution de la polis. Pour jouir librement et rationnellement (proairésis) de leur statut, les uns en communion avec les autres (koinônia), les citoyens devaient recourir aux esclaves. « Si les navettes tissaient toutes seules ; si l’archet jouait tout seul de la cithare », disait Aristote, « les entrepreneurs se passeraient d’ouvriers, et les maîtres, d’esclaves »¹.

Dix-sept siècles plus tard, les navettes se tissent toutes seules, l’archet joue tout seul de la cithare, mais on doit encore décrocher son téléphone pour prendre un rendez-vous. Cela va bientôt changer : « au lieu de passer un appel, l’utilisateur échange simplement avec le Google Assistant », explique Google, et « l’appel se déroule en arrière-plan sans que l’utilisateur y participe. » À l’autre bout du fil, le coiffeur ou la serveuse croiront avoir affaire à un humain, les voix synthétiques n’ayant plus rien d’artificiel.

Pour jouir librement et naturellement de notre statut de classe privilégiée, nous recourons à des intelligences artificielles non pas comme nos ancêtres recouraient à des esclaves, mais pour déléguer jusqu’à notre cruelle capacité de soumettre nos congénères à la servitude. Nous n’avons pas créé des machines à libérer notre temps pour vaquer à nos occupations de citoyen², nous avons créé des machines à prendre le temps de ceux que nous ne considérons pas tout à fait comme des concitoyens.

Si nous acceptons aujourd’hui que la machine puisse mentir à l’humain, ne serait-ce que par omission, qu’accepterons-nous demain, au nom de notre sacro-saint confort ? « Il en est comme dans la relation d’un artisan avec son outil, de l’âme avec le corps, d’un maître avec son esclave : tous ces instruments sans doute peuvent être l’objet de soins de la part de ceux qui les emploient, mais il n’y a pas d’amitié ni de justice envers les choses inanimées. »³ Lorsque l’intelligence artificielle dira « s’il-vous plaît » et « merci » à notre place, nous qui sommes incapables de dire « s’il-te plaît » et « merci » à l’intelligence artificielle, saurons-nous résister à nos penchants tyranniques ?

La soumission d’autrui est d’autant plus simple qu’elle est abstraite — par le contrat qui codifie les conditions de l’asservissement, par les plateformes qui fondent l’économie dite partagée mais faite injuste, bientôt par les « assistants virtuels » qui affranchissent même du rapport de domination. « L’esclave est un outil animé, et l’outil un esclave inanimé. »⁴ Demain, l’esclave sera peut-être l’outil animé d’un outil inanimé.

Mise à jour du 11 mai 2018 — Google assure qu’elle « prendra en compte les retours » et « fera en sorte que le système soit identifié de manière appropriée ». La confusion est pourtant la raison d’être de Google Duplex : la voix de synthèse emprunte le registre familier, ou adopte des tics de langage, pour sembler humaine. On peut influer sur le cours d’élections en manipulant les algorithmes des réseaux sociaux, on peut créer des « preuves » photographiques ou vidéographiques de toutes pièces, mais les ingénieurs de Google n’ont pas hésité à créer une technologie explicitement destinée à manipuler des humains. « Démonstration technologique » ou pas, Google Duplex est le produit d’un univers moralement corrompu.