L’IA menace-t-elle la démo­­­­­­­cra­­­­­­­tie ? Si la tyran­­­­­­­nie des robots tueurs relève encore du fantasme, des voyants sont au rouge en ce qui concerne l’ac­­­­­­­cès à l’in­­­­­­­for­­­­­­­ma­­­­­­­tion et nos capa­­­­­­­ci­­­­­­­tés de déli­­­­­­­bé­­­­­­­ra­­­­­­­tion collec­­­­­­­tive.

IA et démo­­­­­­­cra­­­­­­­tie : nos exis­­­­­­­tences en sont désor­­­­­­­mais impré­­­­­­­gnées. La première, de plus en plus. La seconde, on serait tenté de dire de moins en moins… Beau­­­­­­­coup de ques­­­­­­­tions viennent à l’es­­­­­­­prit quand on s’in­­­­­­­ter­­­­­­­roge sur l’uti­­­­­­­li­­­­­­­sa­­­­­­­tion de l’IA en démo­­­­­­­cra­­­­­­­tie. Des poli­­­­­­­tiques ont-ils recours à l’IA pour prendre des déci­­­­­­­sions ? Les géants de la tech influencent-ils le jeu démo­­­­­­­cra­­­­­­­tique ?

Essayons avant tout de comprendre en quoi l’IA nous affecte direc­­­­­­­te­­­­­­­ment, nous, citoyens et citoyennes qui vivons dans une société plus démo­­­­­­­cra­­­­­­­tique qu’ailleurs. Un voyant d’alerte est dès aujourd’­­­­­­­hui au rouge vif : l’am­­­­­­­pleur de la désin­­­­­­­for­­­­­­­ma­­­­­­­tion.

Désin­­­­­­­for­­­­­­­ma­­­­­­­tion et démo­­­­­­­cra­­­­­­­tie ne font pas bon ménage

Des orga­­­­­­­ni­­­­­­­sa­­­­­­­tions telles que l’OCDE¹ (pas du tout un club de gauchistes tech­­­­­­­no­­­­­­­phobes) tirent la sonnette d’alarme. Un rapport de 2024² rappelle que « les débats et les socié­­­­­­­tés démo­­­­­­­cra­­­­­­­tiques reposent sur un fonde­­­­­­­ment : des indi­­­­­­­vi­­­­­­­dus bien infor­­­­­­­més. Or, on assiste à une montée en puis­­­­­­­sance de la propa­­­­­­­ga­­­­­­­tion d’élé­­­­­­­ments d’in­­­­­­­for­­­­­­­ma­­­­­­­tion faux ou trom­­­­­­­peurs, souvent dans le cadre de campagnes déli­­­­­­­bé­­­­­­­rées de désin­­­­­­­for­­­­­­­ma­­­­­­­tion ». Dans des domaines aussi impor­­­­­­­tants que la santé publique, la sécu­­­­­­­rité ou le dérè­­­­­­­gle­­­­­­­ment clima­­­­­­­tique, la désin­­­­­­­for­­­­­­­ma­­­­­­­tion sème le doute et aggrave les clivages, ce qui n’aide pas à agir dans l’in­­­­­­­té­­­­­­­rêt commun.

Ce n’est pas un phéno­­­­­­­mène nouveau « mais le numé­­­­­­­rique a profon­­­­­­­dé­­­­­­­ment trans­­­­­­­formé sa portée et son impact. Les tech­­­­­­­no­­­­­­­lo­­­­­­­gies numé­­­­­­­riques permettent désor­­­­­­­mais à n’im­­­­­­­porte quel indi­­­­­­­vidu doté d’une connexion à l’in­­­­­­­ter­­­­­­­net de produire des conte­­­­­­­nus et de les diffu­­­­­­­ser », sans être limité par des règles déon­­­­­­­to­­­­­­­lo­­­­­­­giques ou une rigueur scien­­­­­­­ti­­­­­­­fique.

Tout n’est pas à jeter, « cette acces­­­­­­­si­­­­­­­bi­­­­­­­lité accrue offre un accès inédit au savoir, peut favo­­­­­­­ri­­­­­­­ser la parti­­­­­­­ci­­­­­­­pa­­­­­­­tion citoyenne et peut conduire à une couver­­­­­­­ture inno­­­­­­­vante de l’ac­­­­­­­tua­­­­­­­lité, mais elle consti­­­­­­­tue aussi un terreau fertile pour la propa­­­­­­­ga­­­­­­­tion rapide d’élé­­­­­­­ments d’in­­­­­­­for­­­­­­­ma­­­­­­­tion faux et trom­­­­­­­peurs ». D’après le même rapport, « la montée en puis­­­­­­­sance du recours à l’in­­­­­­­tel­­­­­­­li­­­­­­­gence arti­­­­­­­fi­­­­­­­cielle géné­­­­­­­ra­­­­­­­tive va encore accroître l’am­­­­­­­pleur de ce défi ».

Pile ou face 

Comme toujours, on peut voir le verre à moitié vide ou à moitié plein. Côté cock­­­­­­­tail sympa : l’IA géné­­­­­­­ra­­­­­­­tive « démo­­­­­­­cra­­­­­­­tise la créa­­­­­­­tion de contenu : tout le monde peut deve­­­­­­­nir « auteur » ». Toute­­­­­­­fois, comme l’ex­­­­­­­plique Dariusz Jemiel­­­­­­­niak³, elle permet aussi « une mani­­­­­­­pu­­­­­­­la­­­­­­­tion à une échelle sans précé­dent. Deep­­­­­­­fakes, textes géné­­­­­­­rés par l’IA, images ou vidéos synthé­­­­­­­tiques : la fron­­­­­­­tière entre vérité et fiction devient de plus en plus floue ». Pour ce spécia­­­­­­­liste, « le problème n’est pas qu’un acteur unique contrôle la vérité [comme ce serait le cas d’un régime tyran­­­­­­­nique, ndlr], mais que la vérité se noie dans un océan de conte­­­­­­­nus géné­­­­­­­rés⁴ ». 

Pas de panique, on peut encore regar­­­­­­­der son JT du soir sans crier au complot ! Mais un devoir de vigi­­­­­­­lance s’im­­­­­­­pose, pour éviter des consé­quences graves. Car en termes de démo­­­­­­­cra­­­­­­­tie, l’am­­­­­­­pleur actuelle de la désin­­­­­­­for­­­­­­­ma­­­­­­­tion n’est pas à prendre à la légère⁵. Cela fait peser un risque majeur sur nos démo­­­­­­­cra­­­­­­­ties, iden­­­­­­­ti­­­­­­­fié par la philo­­­­­­­sophe Hannah Arendt : « Ce qui permet à une dicta­­­­­­­ture tota­­­­­­­li­­­­­­­taire ou à toute autre dicta­­­­­­­ture de régner, c’est que les gens ne sont pas infor­­­­­­­més ; comment pouvez-vous avoir une opinion si vous n’êtes pas informé ? Si tout le monde vous ment en perma­­­­­­­nence, la consé­quence n’est pas que vous croyez les mensonges, mais plutôt que personne ne croit plus rien. […] Et un peuple qui ne peut plus rien croire ne peut plus se déci­­­­­­­der. Il est privé non seule­­­­­­­ment de sa capa­­­­­­­cité d’agir, mais aussi de sa capa­­­­­­­cité de penser et de juger. Et avec un tel peuple, vous pouvez alors faire ce que vous voulez. »

On parle ici de désin­­­­­­­for­­­­­­­ma­­­­­­­tion consciente ou volon­­­­­­­taire, qu’il est (peut-être) possible de contrer par la sensi­­­­­­­bi­­­­­­­li­­­­­­­sa­­­­­­­tion, l’édu­­­­­­­ca­­­­­­­tion, la régu­­­­­­­la­­­­­­­tion… Mais avec l’IA, le problème s’ag­­­­­­­grave encore ! En effet, pour produire du contenu, l’IA doit être entrai­­­­­­­née sur les données mises à sa dispo­­­­­­­si­­­­­­­tion. Lorsque l’IA est entrai­­­­­­­née sur des infor­­­­­­­ma­­­­­­­tions erro­­­­­­­nées, des fake news et toute l’in­­­­­­­fox puisée sur Inter­­­­­­­net, il y a de très fortes chances qu’elle (re)produise encore davan­­­­­­­tage d’er­­­­­­­reurs (en toute inno­­­­­­­cence, si l’on peut dire). L’ef­­­­­­­fet d’em­­­­­­­bal­­­­­­­le­­­­­­­ment pour­­­­­­­rait mettre en danger l’in­­­­­­­ter­­­­­­­net dans son ensemble.

Qui peut tirer profit d’une telle situa­­­­­­­tion ? Comme toujours, les plus puis­­­­­­­sants : on pense en premier lieu aux régimes tota­­­­­­­li­­­­­­­taires mais dans une moindre mesure aussi à des person­­­­­­­na­­­­­­­li­­­­­­­tés poli­­­­­­­tiques en recherche d’élec­­­­­­­teurs. Bien entendu, le créneau est tentant aussi pour des entre­­­­­­­prises peu regar­­­­­­­dantes sur les moyens d’ac­­­­­­­croitre leurs profits… Or, sachant que les boites qui mettent en place des systèmes d’IA sont elles-mêmes des machines à gros sous, cela fait froid dans le dos. Heureu­­­­­­­se­­­­­­­ment, nous ne sommes pas tota­­­­­­­le­­­­­­­ment dému­­­­­­­nis pour réagir.

Un « sismo­­­­­­­graphe cultu­­­­­­­rel »

Pour nous prému­­­­­­­nir des dérives anti­­­­­­­dé­­­­­­­mo­­­­­­­cra­­­­­­­tiques liées à l’IA, nous pouvons mettre en place diffé­­­­­­­rents pare-feux : de la régu­­­­­­­la­­­­­­­tion sur le plan légal⁶ ; de la diver­­­­­­­sité et de la trans­­­­­­­pa­­­­­­­rence sur le plan écono­­­­­­­mique et tech­­­­­­­nique ; enfin, au niveau cultu­­­­­­­rel, nous avons à construire ou à renfor­­­­­­­cer une « conscience sociale », car « une société consciente des dangers est mieux armée pour s’en défendre⁷ ». 

Sur ce point, nous avons (peut-être) encore un coup d’avance. Grâce… à la litté­­­­­­­ra­­­­­­­ture et au cinéma ! Nous savons déjà à quoi nous sommes expo­­­­­­­sés, car notre imagi­­­­­­­naire est peuplé d’avan­­­­­­­cées tech­­­­­­­no­­­­­­­lo­­­­­­­giques plus ou moins fantai­­­­­­­sistes. L’IA a vu le jour dans les récits de science-fiction, sous forme d’en­­­­­­­ne­­­­­­­mie surpuis­­­­­­­sante ou d’al­­­­­­­liée précieuse. Selon Dariusz Jemiel­­­­­­­niak, « ces récits nous aident à nous prépa­­­­­­­rer psycho­­­­­­­lo­­­­­­­gique­­­­­­­ment aux chan­­­­­­­ge­­­­­­­ments à venir, mais aussi à conce­­­­­­­voir des systèmes en étant davan­­­­­­­tage conscients des risques qu’ils peuvent engen­­­­­­­drer ». La science-fiction remplit donc la fonc­­­­­­­tion d’un « sismo­­­­­­­graphe cultu­­­­­­­rel ».

Le côté « grand spec­­­­­­­tacle » ne doit pas nous leur­­­­­­­rer. De 1984 à The Crea­­­­­­­tor en passant par Blade Runner, I, Robot, Chap­­­­­­­pie, Matrix, et les inévi­­­­­­­tables fran­­­­­­­chises Termi­­­­­­­na­­­­­­­tor et Star Wars, le cadre est dans tous les cas de figure celui d’une société broyée par les systèmes de domi­­­­­­­na­­­­­­­tion et les inéga­­­­­­­li­­­­­­­tés. L’IA n’y est jamais une tech­­­­­­­no­­­­­­­lo­­­­­­­gie neutre ni imper­­­­­­­méable aux rapports de pouvoir.

Il serait simpliste de croire que ces block­­­­­­­bus­­­­­­­ters nous mettent seule­­­­­­­ment en garde contre un système infor­­­­­­­ma­­­­­­­tique hors de contrôle (ce qui, à en croire certains, ne serait pas si farfelu⁸). Par exemple, la pola­­­­­­­rité entre les rôles du robot tueur et celui du protec­­­­­­­teur indé­­­­­­­fec­­­­­­­tible met en relief les côtés clair et obscur d’une même inven­­­­­­­tion. La ques­­­­­­­tion du sens est donc centrale : dans quel but une tech­­­­­­­no­­­­­­­lo­­­­­­­gie est-elle déve­­­­­­­lop­­­­­­­pée ? Une fois opéra­­­­­­­tion­­­­­­­nelle, au service de quelle cause la met-on ? Suivant quelles règles ?

Le problème est bien plus poli­­­­­­­tique que tech­­­­­­­no­­­­­­­lo­­­­­­­gique. C’est le projet dans lequel s’ins­­­­­­­crit leur utili­­­­­­­sa­­­­­­­tion et leur program­­­­­­­ma­­­­­­­tion qui fera des robots (plus ou moins auto­­­­­­­nomes) des machines à tuer ou des auxi­­­­­­­liaires serviables. Le contexte et la vision orientent la concep­­­­­­­tion et l’uti­­­­­­­li­­­­­­­sa­­­­­­­tion de la tech­­­­­­­no­­­­­­­lo­­­­­­­gie, quitte à y mettre un frein lorsque les risques sont trop élevés.

« Tout ça, ça veut dire que l’ave­­­­­­­nir n’est pas écrit. Il n’y a pas de destin mais ce que nous faisons de nous-mêmes⁹ », dira John Connor, futur leader de la résis­­­­­­­tance dans Termi­­­­­­­na­­­­­­­tor, dans un plai­­­­­­­doyer simple mais limpide en faveur du libre-arbitre. Libre-arbitre qui ne peut s’exer­­­­­­­cer qu’à condi­­­­­­­tion d’être correc­­­­­­­te­­­­­­­ment informé – on en revient à cet enjeu crucial.

Ce qui est déter­­­­­­­mi­­­­­­­nant n’est pas unique­­­­­­­ment le type de tech­­­­­­­no­­­­­­­lo­­­­­­­gie utilisé (même si certaines sont intrin­­­­­­­sèque­­­­­­­ment dange­­­­­­­reuses), mais aussi le contexte, en vue de quels projets, dans quelles pers­­­­­­­pec­­­­­­­tives. À quoi voulons-nous que serve l’IA ? Réali­­­­­­­ser des vidéos comiques ? Écrire des CV ? Se moquer de quelqu’un ? Boos­­­­­­­ter la crois­­­­­­­sance écono­­­­­­­mique ? Assu­­­­­­­rer l’ordre et la sécu­­­­­­­rité ? Déve­­­­­­­lop­­­­­­­per une puis­­­­­­­sance mili­­­­­­­taire ? Contrô­­­­­­­ler des popu­­­­­­­la­­­­­­­tions ? D’une certaine façon, tous ces usages sont déjà d’ac­­­­­­­tua­­­­­­­lité.

Vivre ensemble

Faisons encore un détour par notre média­­­­­­­thèque virtuelle : le film Je suis ton homme¹⁰ se risque à explo­­­­­­­rer le sujet sensible des rela­­­­­­­tions amou­­­­­­­reuses humain/machine. Dans cette comé­­­­­­­die roman­­­­­­­tique de science-fiction, Alma teste un programme lui propo­­­­­­­sant d’en­­­­­­­ta­­­­­­­mer une rela­­­­­­­tion avec un androïde. L’ex­­­­­­­pé­­­­­­­rience met en exergue le côté à la fois flat­­­­­­­teur et trom­­­­­­­peur, voire égocen­­­­­­­trique, des rapports de tout ordre avec des machines dont le mode de fonc­­­­­­­tion­­­­­­­ne­­­­­­­ment est de satis­­­­­­­faire leurs inter­­­­­­­­­­­­­lo­­­­­­­cu­­­­­­­teurs : « Tout est illu­­­­­­­sion comme sur une scène de théâtre, très loin de la vie véri­­­­­­­table avec ses confron­­­­­­­ta­­­­­­­tions, ses échecs et ses désillu­­­­­­­sions¹¹. »

Coha­­­­­­­bi­­­­­­­ter avec des êtres program­­­­­­­més pour répondre sans cesse à nos attentes nous empê­­­­­­­che­­­­­­­rait à terme de coha­­­­­­­bi­­­­­­­ter avec nos semblables (avec ce que cela suppose de conflits, de contra­­­­­­­dic­­­­­­­tions, de compro­­­­­­­mis…). Ce n’est pas tant la rela­­­­­­­tion humain/robot qui est inter­­­­­­­­­­­­­ro­­­­­­­gée, mais la capa­­­­­­­cité des humains à vivre ensemble. Indé­­­­­­­pen­­­­­­­dam­­­­­­­ment des ques­­­­­­­tions éthiques, il s’agit donc bien d’un enjeu démo­­­­­­­cra­­­­­­­tique majeur. Dès aujourd’­­­­­­­hui, pour certaines personnes, des chat­­­­­­­bots¹² font fonc­­­­­­­tion de confi­dent, de psy, de théra­­­­­­­peute, de conseiller, de coach, de rédac­­­­­­­teur, de traduc­­­­­­­teur… Mais le rapport avec une IA ne néces­­­­­­­site pas de débat, de désac­­­­­­­cords, de réci­­­­­­­pro­­­­­­­cité, de compré­­­­­­­hen­­­­­­­sion mutuelle, d’em­­­­­­­pa­­­­­­­thie. Or, le croi­­­­­­­se­­­­­­­ment de points de vue et les échanges – déjà mis à mal par les bulles de filtres dans lesquelles nous enferment les réseaux sociaux – sont l’es­­­­­­­sence même de la démo­­­­­­­cra­­­­­­­tie. Pour la préser­­­­­­­ver, il faut apprendre à déli­­­­­­­bé­­­­­­­rer et à prendre des déci­­­­­­­sions ensemble. Avec ou sans intel­­­­­­­li­­­­­­­gence arti­­­­­­­fi­­­­­­­cielle, la démo­­­­­­­cra­­­­­­­tie a besoin d’in­­­­­­­tel­­­­­­­li­­­­­­­gence collec­­­­­­­tive.

Conclu­­­­­­­sion

Dès aujourd’­­­­­­­hui, l’usage de l’IA doit être inter­­­­­­­­­­­­­rogé et régle­­­­­­­menté, car il est dange­­­­­­­reux sur le plan démo­­­­­­­cra­­­­­­­tique. Peut-être pas au niveau d’une perte de contrôle totale, espé­­­­­­­rons-le, mais à propos d’enjeux beau­­­­­­­coup plus terre à terre ! Comme l’ex­­­­­­­plique notre spécia­­­­­­­liste, « au lieu de nous inquié­­­­­­­ter de Skynet¹³, nous devrions nous concen­­­­­­­trer sur la discri­­­­­­­mi­­­­­­­na­­­­­­­tion algo­­­­­­­ri­­­­­­th­­­­­­­mique, la mani­­­­­­­pu­­­­­­­la­­­­­­­tion de l’in­­­­­­­for­­­­­­­ma­­­­­­­tion ou encore l’éro­­­­­­­sion de la vie privée ».

Ces dérives peuvent mener à l’op­­­­­­­pres­­­­­­­sion, à la mani­­­­­­­pu­­­­­­­la­­­­­­­tion, à l’ex­­­­­­­ploi­­­­­­­ta­­­­­­­tion… Mais rien ne nous inter­­­­­­­­­­­­­dit de mobi­­­­­­­li­­­­­­­ser nos moyens pour déve­­­­­­­lop­­­­­­­per l’in­­­­­­­gé­­­­­­­nio­­­­­­­sité, la citoyen­­­­­­­neté, l’al­­­­­­­truis­­­­­­­me… Les avenirs décrits dans les œuvres de science-fiction dénoncent la diffi­­­­­­­culté des êtres humains à faire preuve de soli­­­­­­­da­­­­­­­ri­­­­­­­té… tout en souli­­­­­­­gnant que c’est bien celle-ci qui permet­­­­­­­tra à l’hu­­­­­­­ma­­­­­­­nité de se sauver.

Renato Pinto

---

1. Orga­­­­­­­ni­­­­­­­sa­­­­­­­tion de coopé­­­­­­­ra­­­­­­­tion et de déve­­­­­­­lop­­­­­­­pe­­­­­­­ment écono­­­­­­­miques.

2. OCDE, Les faits sans le faux. Lutter contre la désin­­­­­­­for­­­­­­­ma­­­­­­­tion, renfor­­­­­­­cer l’in­­­­­­­té­­­­­­­grité de l’in­­­­­­­for­­­­­­­ma­­­­­­­tion, 2024.

3. Il dirige le dépar­­­­­­­te­­­­­­­ment Mana­­­­­­­ge­­­­­­­ment in Networ­­­­­­­ked and Digi­­­­­­­tal Socie­­­­­­­ties à l’Aca­­­­­­­dé­­­­­­­mie Leon Kozminski et est aussi profes­­­­­­­seur asso­­­­­­­cié au centre de recherche Berk­­­­­­­man Klein Center for Inter­­­­­­­net and Society de Harvard. Voir www.jemiel­­­­­­­niak.org.

4. Dariusz Jemiel­­­­­­­niak : « La SF enre­­­­­­­gistre nos peurs les plus profondes avant qu’elles ne deviennent réalité », entre­­­­­­­tien avec Kasper Kali­­­­­­­nowski, Gazeta Wyborcza, dans Le Soir, 11–12.11.2026.

5. « L’in­­­­­­­tel­­­­­­­li­­­­­­­gence arti­­­­­­­fi­­­­­­­cielle : une machine à désin­­­­­­­for­­­­­­­mer », vidéo sur www.fran­­­­­­­ceinfo.fr, 06.06.2026.

6. Par exemple, la loi euro­­­­­­­péenne sur l’in­­­­­­­tel­­­­­­­li­­­­­­­gence arti­­­­­­­fi­­­­­­­cielle (AI Act).

7. Dariusz Jemiel­­­­­­­niak, op. cit.

8. « Pourquoi les IA sont-elles de plus en plus incon­­­­­­­trô­­­­­­­lables ? », vidéo sur www.arte.tv, 2026.

9. Extrait de Termi­­­­­­­na­­­­­­­tor 2 : Le Juge­­­­­­­ment dernier, James Came­­­­­­­ron, 1991.

10. Réalisé par Maria Schra­­­­­­­der, 2021. Plusieurs récom­­­­­­­penses aux Prix du cinéma alle­­­­­­­mand.

11. Jean-Michel Ropars, billet sur Le Club de Media­­­­­­­part, blogs.media­­­­­­­part.fr, 23 septembre 2024.

12. Agents conver­­­­­­­sa­­­­­­­tion­­­­­­­nels, comme ChatGPT.

13. Nom de l’IA qui prend le pouvoir dans Termi­­­­­­­na­­­­­­­tor.