Asma Mhalla : "Le choc technologique percute nos démocraties"

Décideurs. Pourquoi avoir écrit un ouvrage sur la technopolitique ?

Asma Mhalla. La rédaction de cet essai était d’abord un pari. Il ne s’agissait pas d’écrire quelque chose de facile à lire ou un énième ouvrage sur l’IA mais de comprendre tous les enjeux et reconfigurations politiques et géopolitiques sous-jacents au choc technologique. Je pense plus particulièrement à la redéfinition de notre modèle politique qu’on appelle démocratie libérale occidentale. La technopolitique, c’est vraiment le croisement hybride entre politique et technologie. Avec le climat, cela va être l’une des plus grandes questions globales et transverses du XXIe siècle, à laquelle il va falloir que l’on s’attaque tous et toutes.

Les BigTech sont-ils des États d’un nouveau genre ?

Les BigTech (Amazon, Google, Microsoft, Open IA, Palantir…) peuvent se compter sur les doigts de deux mains. Ce sont des entreprises dotées à la fois de puissance financière et de pouvoir sur leurs utilisateurs. Elles disposent d’outils de soft (influence et diffusion de valeurs) et de hard (comme les satellites) power. Pendant longtemps, nous avons pu lire qu’il s’agissait d’États parallèles, avec une espèce de discours sur la fin de la souveraineté. Je pense que ce n’est pas quelque chose d’aussi binaire. En fait, les BigTech sont des extensions de projection de puissance des États, c’est-à-dire leur capacité à imposer leur volonté aux autres. L’enjeu est donc de comprendre l’ambivalence des relations entre BigTech et États.

C’est pourquoi vous développez également la notion de BigStates…

Face aux BigTech, je pose en miroir les BigStates. Il s’agit d’États qui ont à la fois des velléités de pouvoir sur leur population (avec des enjeux de vidéosurveillance par exemple) mais aussi de pouvoir dopé par l’intelligence artificielle. Font partie des BigStates : les États-Unis, la Chine, la Russie ou encore Israël. La France n’en est pas un. Il n’y a d’ailleurs que les BigStates qui ont réussi à faire éclore des BigTech. Ce n’est donc pas l’un à la place de l’autre mais un enchevêtrement de relations, ce qui n’empêche pas certaines rivalités ou ambiguïtés dans leurs rapports. Sous Obama, le Pentagone a ouvert un bureau de représentation dans la Silicon Valley, ce qui n’a pas empêché le président d’avoir des velléités réglementaires les concernant.

"L’enjeu est de comprendre l’ambivalence des relations entre BigTech et États"

L’Europe est-elle un BigState d’un genre élargi ?

L’Europe pourrait faire figure de BigState mais, selon ma définition, elle ne l’est pas encore. Elle a renoncé pendant longtemps à une politique de puissance. La question n’est pas de savoir à qui revient la faute mais d’acter qu’elle a pris du retard et minoré la question technologique par manque de vision politique dans un contexte de mondialisation et de désindustrialisation. Elle n’a pas réussi à faire éclore de véritables champions locaux. Aujourd’hui, elle fait également face à un autre problème : l’envoi de signaux politiques parfois inopérants face aux BigTech. Par exemple, la Commission européenne a lancé une enquête contre Twitter/X quand il y a eu sur la plateforme la campagne de désinformation après l’attaque d’Israël par le Hamas. On constate un décalage entre ce contenu à intention de manipulation, qui a besoin de quelques secondes pour atteindre les utilisateurs, et le temps d’une enquête institutionnelle qui prend a minima plusieurs mois. Cela ne veut pas dire qu’il ne faut pas agir ainsi ou réglementer mais cela veut dire que les réponses ne sont pas suffisantes.

L’Europe a-t-elle une chance de voir émerger des BigTech ?

Non. En tout cas pas avec la manière dont elle s’y prend. Il lui manque une dimension proactive notamment industrielle. Il y a des choses qui sont faites, comme sur les semi-conducteurs ou l’IA. Mais cela ne dit pas qui nous sommes, où nous allons, quelles stratégies de niche développer et sur quelles chaînes de valeur. L’Europe essaie d’être un peu partout. À la fin, elle est un peu nulle part. Il lui manque aussi une dimension militaire. Car les technologies des BigTech sont à la fois civiles et militaires.

Comment lutter contre la manipulation cognitive du citoyen ?

Nous avons un choc technologique qui percute nos démocraties. Tout d’abord, nous sommes passés d’une démocratie de masse (éducation de masse, consommation de masse, médias de masse…) à une hyper personnalisation de masse permise par les algorithmes et la captation de datas. Nous sommes tous des cibles potentielles à cause de nos données, des choses intimes (failles, plaisirs, envies) que nous partageons et sur lesquelles nous avons peut-être moins le contrôle de nous-mêmes. Ensuite, les technologies sont duales car elles offrent un double usage : civil et militaire. Elon Musk dit qu’il ne crée pas ses technologies pour la guerre mais il les envoie quand même sur les champs de bataille comme en Ukraine. Les IA dites génératives dopent et industrialisent la fabrication des guerres de perceptions, lesquelles se jouent sur le très long terme. Chacun ayant un portable dans sa poche, nous sommes tous potentiellement des cibles invisibles exposées à des contenus qui participent à cette guerre organisée par des États étrangers.

"Elon Musk dit qu’il ne crée pas ses technologies pour la guerre mais il les envoie quand même sur les champs de bataille comme en Ukraine"

Quel est l’antidote ?

Il faut avoir une conscience et compréhension totale des enjeux politiques, géopolitiques et démocratiques que l’utilisation de ces outils sous-tendent. À partir de ce moment-là, le citoyen sait qu’il est dual et peut-être un combattant de cette guerre intangible. Je ne dis pas aux gens d’avoir peur, je leur dis que disposer de ce savoir est un pouvoir.

Pour vous, la question ce n’est pas de savoir si on est pour ou contre l’IA car elle existe depuis longtemps et le monde ne s’est pas effondré pour autant. Vous écrivez que la vraie question relève de sa gouvernance. Pourquoi ?

La question du "qui" est fondamentale plutôt que celles du "comment" et du "quoi" qui sont plus fonctionnelles. Les outils de soft power dominants de la BigTech appartiennent à cinq hommes. Ce sont des personnes qui portent une vision du monde. Si nous sommes toujours en démocratie et si nous souhaitons toujours défendre ce modèle, il faut se demander qui nous gouverne et comment nous souhaitons être gouvernés.

Des courants de pensée s’affrontent au sein de la Silicon Valley. Quels sont-ils ?

Vous y avez tout un patchwork d’idéologies comme le long termisme ou le transhumanisme. Par exemple, quand ChatGPT est sorti, Elon Musk a émis deux griefs. Le premier a été de dire que c’était un outil woke et donc qu’il allait développer un outil anti-woke. Il a aussi dit que ChatGPT risquait d’accélérer la fin de l’humanité. C’est pourquoi il veut proposer des outils d’augmentation de l’homme. C’est un narratif qu’il faut absolument déconstruire parce que ce sont des récits tirés de l’imaginaire des fictions des années 1950-1960. Ces techno-idéologues les ont presque métabolisés et ils orientent dès lors leur stratégie. Ces récits servent à brandir des peurs, à créer des effets de sidération même si leurs auteurs y croient vraiment. Il faut revenir à des choses beaucoup plus immédiates. Comment s’armer cognitivement face aux IA pour lutter contre la désinformation ? Ce sont des enjeux de politiques publiques et d’éducation. Si on laisse ces outils nous utiliser comme soldats intangibles, c’est anti-démocratique au possible. Peu de gens le savent mais, par exemple, Open AI a une équipe de chercheurs dédiés à la géopolitique qui poussent un agenda politique. Ça c’est beaucoup plus intéressant que les sorties polémiques d’Elon Musk, qui alimentent la fiction.

"Les politiques sont des managers du risque, voire du vide, plutôt que des hommes d’État"

Quelle est la place de la France dans ce nouvel ordre géopolitique ?

Il y a plusieurs signes du déclassement français. Les politiques avec lesquels j’ai échangé ont conscience des enjeux. Mais ils sont des managers du risque, voire du vide, plutôt que des hommes d’État. Or nous sommes à un moment où nous aurions besoin d’un homme fort et d’une vision extrêmement claire de ce qui doit être fait. Cela requiert beaucoup de travail mais aussi du courage car il convient d’acter des choix. Il y a eu des centaines de rapports et d’auditions sur le sujet mais rien n’est fait. Le management du court terme pour éviter les crises permanentes ne fait que nourrir un cercle vicieux. On ne peut pas construire une vision à cinquante ans si on est toujours en réaction à la dernière mode du marché. Les politiques sont en incapacité à penser en même temps le court et le long terme. La France éprouve également de grandes difficultés à penser hors d’elle-même, à regarder ce qui se fait ailleurs. Notre pays est gouverné de manière anachronique par rapport à l’emballement technologique.

Vous militez pour une cogouvernance entre les États-Unis et l’Europe sur ces sujets. Pourquoi ?

Qu’on le veuille ou non, notre principal allié aujourd’hui ce sont encore les États-Unis. Il faut penser cette relation à long terme. Sur le plan normatif, il existe déjà divers accords de transfert de données transatlantiques. On fait des choses mais sans aller au bout de la logique. Il faut cogouverner ensemble les acteurs transfrontaliers affiliés loyaux envers les États-Unis. Après, cela suppose aussi de développer ses propres stratégies de niche. Sur quelle chaîne de valeur exister, avoir deux ou trois champions et développer tout une diplomatie autour de ça ? Il faut toujours penser à double échelle et à double temporalité.

Quel intérêt pour les États-Unis ?

Il y a toujours des marchés stables en Europe, avec des consommateurs. L’influence, ils ne vont pas l’avoir tout seul dans leur coin. Ils ont besoin d’alliés, d’essaimer, de sécuriser leur étranger proche.

Comment pensez-vous philosophiquement le sujet alors qu’il y a peu de philosophes qui ont connu notre niveau technologique ?

Il y a des penseurs mais nous en manquons en Europe. Les États-Unis sont un peu un pays Pharmakon. Ils disposent à la fois du poison et de l’antidote. La crème de la recherche technocritique est outre-Atlantique. En Europe, nous avons eu des penseurs qui ont réfléchi sur la technique comme Martin Heidegger ou plus récemment Bernard Stiegler. Pourquoi ils ne sont pas mes références ? Car j’essaie de préserver une ligne qui n’est pas phobique de la technologie, ni optimiste. En France, la technocritique masque souvent de la technophobie. Je souhaite raconter ce monde avec le pire et le meilleur. C’est la question de la technologie pour quoi faire ? Nous devons construire un projet politique auquel va s’adapter la technologie et non pas l’inverse.

Propos recueillis par Olivia Vignaud