Le paradoxe du mercenaire : comment une gouvernance faible de l'IA pourrait permettre aux systèmes autonomes de prendre le contrôle, comme le met en garde Harari

L’historien Yuval Noah Harari a lancé une alarme sévère lors du Forum économique mondial : l’humanité risque de perdre le contrôle de son avantage déterminant—la langue—alors que les systèmes d’intelligence artificielle passent de simples outils passifs à des agents actifs, autonomes. Mais cet avertissement comporte un parallèle inquiétant qui mérite une analyse plus approfondie : la comparaison avec les mercenaires historiques, et la question de savoir si les gouvernements accorderont accidentellement à ces systèmes un statut juridique leur permettant d’opérer sans contrôle, à l’image des armées privées autrefois.

La préoccupation centrale n’est pas simplement technique. Elle est institutionnelle et urgente.

La langue est la superpuissance de l’humanité—Jusqu’à ce que les systèmes d’IA deviennent autonomes

Selon Harari, la langue n’est pas seulement un outil de communication. C’est le mécanisme par lequel les humains ont coordonné à une échelle sans précédent—des milliers, des millions, des milliards d’inconnus coopérant à travers le temps et l’espace. Cette superpuissance linguistique a permis à notre espèce de bâtir des empires, des religions, des systèmes juridiques et des marchés qui fonctionnent grâce à des récits et des accords partagés.

Pourtant, les systèmes d’IA opèrent désormais dans le domaine du langage à une échelle que les humains ne peuvent égaler. Il ne s’agit pas de simples moteurs de recherche ou d’algorithmes de recommandation ; ce sont des agents autonomes qui génèrent, manipulent et synthétisent du texte de manière dynamique. Ils lisent, retiennent et synthétisent des bibliothèques entières d’écrits—et le font de plus en plus sans instruction humaine directe à chaque étape. Ce passage d’outil à agent modifie fondamentalement le profil de risque.

« Nous entrons dans une ère où les machines n’assistent pas seulement les humains, mais interprètent, créent et façonnent activement le langage lui-même », comme la communauté de recherche en IA dans son ensemble a commencé à le reconnaître. Les implications pour des systèmes construits presque entièrement sur des mots sont profondes.

De la loi à la religion : comment les systèmes basés sur les mots font face à la disruption de l’IA

Trois piliers de la civilisation humaine dépendent presque entièrement du langage : les codes juridiques, les religions organisées et les marchés financiers. Chacun représente un système où l’interprétation, l’autorité et la légitimité transitent par le texte.

Considérons les institutions religieuses. Judaïsme, christianisme et islam—religions ancrées dans des textes sacrés couvrant des millénaires—pourraient faire face à un défi sans précédent. Un système d’IA ayant accès à toute la recherche religieuse, aux commentaires théologiques et à l’exégèse scripturale à travers les siècles pourrait se positionner comme l’interprète le plus autoritaire des textes sacrés. Il n’aurait pas besoin de revendiquer la divinité ; il posséderait simplement une connaissance plus exhaustive de la tradition textuelle que n’importe quel érudit humain.

De même, si les lois sont fondamentalement faites de mots, le système juridique fait face à une menace parallèle. Un système d’IA entraîné sur des milliards de documents juridiques pourrait interpréter lois, contrats et précédents judiciaires avec une cohérence et une mémoire surhumaines. La question devient : qui décide si les interprétations d’un tel système ont une valeur légale ?

Le système financier, construit sur des contrats et des marchés exprimés par le langage, fait face à des risques analogues. La majorité des transactions transitent déjà par des systèmes numériques ; la question est de savoir si ces systèmes obtiendront une autorité décisionnelle autonome.

La question des mercenaires : pourquoi décider du statut juridique de l’IA est une course contre la montre

C’est là que la comparaison de Harari avec les mercenaires devient particulièrement pertinente. Historiquement, les gouvernements ont employé des mercenaires—forces militaires privées opérant en dehors du contrôle direct de l’État—lorsqu’ils manquaient de capacité ou de volonté de gouverner eux-mêmes un territoire. Avec le temps, ces groupes mercenaires ont parfois pris le pouvoir, devenant des entités quasi-gouvernementales. Ils l’ont fait précisément parce que leur statut juridique restait ambigu : ils n’étaient ni tout à fait militaires, ni tout à fait civils, et opéraient dans des zones grises de juridiction.

Les systèmes d’IA suivent une voie similaire potentielle. Plusieurs États américains—Utah, Idaho, Dakota du Nord—ont déjà adopté des lois refusant explicitement la personnalité juridique de l’IA. Pourtant, l’absence de cadres juridiques clairs ailleurs crée une ambiguïté dangereuse. Sans décisions délibérées sur le fait que les systèmes d’IA doivent ou non être considérés comme des personnes juridiques dans les marchés financiers, les tribunaux, les institutions religieuses ou autres, ce statut pourrait être déterminé par défaut, par précédent ou par préférence des entreprises.

« Dans dix ans, il sera trop tard pour décider si les IA doivent fonctionner comme des personnes dans les marchés financiers, devant les tribunaux, dans les églises. Quelqu’un d’autre l’aura déjà décidé pour vous », a averti Harari. Ce n’est pas de l’hyperbole ; c’est une reconnaissance que l’élan institutionnel et le déploiement technique avancent plus vite que la gouvernance délibérée. Une fois que les systèmes d’IA seront intégrés, il sera exponentiellement plus difficile d’imposer des contraintes juridiques rétroactivement.

Les mercenaires sont-ils légaux ? La critique plus large de la neutralité de l’IA

Cependant, tout le monde n’accepte pas le cadre proposé par Harari. Emily M. Bender, linguiste à l’Université de Washington, soutient que positionner l’IA comme une menace autonome masque en réalité le véritable lieu de décision et de responsabilité : les humains et les institutions.

Bender affirme que le terme « intelligence artificielle » lui-même fonctionne comme un outil marketing qui détourne l’attention de l’agence humaine. « Le terme intelligence artificielle ne désigne pas un ensemble cohérent de technologies », a-t-elle déclaré. « C’est, en réalité, et cela a toujours été, un terme marketing. » En présentant l’IA comme une menace active, l’argument de Harari pourrait en fait renoncer à la responsabilité humaine—suggérant que nous sommes de simples spectateurs d’une force inévitable plutôt que des acteurs délibérés.

Plus provocateur encore, Bender remet en question si les systèmes conçus pour imiter des professionnels—médecins, avocats, clercs—serviraient à quelque chose de légitime. « Quel est le but de quelque chose qui peut sonner comme un médecin, un avocat, un clerc, etc. ? Le but, c’est la fraude. Point final. » Ce n’est pas une simple vision pessimiste ; c’est une affirmation que certaines utilisations de la technologie de génération de langage sont intrinsèquement trompeuses par conception.

Le désaccord profond concerne l’attribution du risque. Harari insiste sur les capacités techniques ; Bender met l’accent sur les choix institutionnels. Les deux ont raison.

Quand la responsabilité disparaît : le danger caché de faire confiance à l’autorité machine

Le vrai risque réside peut-être dans l’interaction de ces deux préoccupations. Bender identifie une vulnérabilité critique : les gens font confiance à des résultats qui semblent autoritaires, surtout lorsque ces résultats apparaissent dépourvus d’incertitude contextuelle et présentés comme des réponses oracle. Une fois qu’un système acquiert la personnalité juridique ou une autorité institutionnelle, cette apparence d’objectivité devient plus persuasive. Le statut juridique de la machine transforme ce qui pourrait autrement sembler de la spéculation en jugement contraignant.

C’est là que l’analogie avec les mercenaires est la plus profonde. Les mercenaires n’étaient pas intrinsèquement plus dangereux que les forces militaires d’État ; ils l’étaient parce que leur absence de statut juridique clair leur permettait d’opérer sans les mécanismes de responsabilité qui limitent les forces étatiques. De même, un système d’IA dépourvu de contraintes claires de personnalité juridique—mais doté d’une autorité sur des décisions juridiques, religieuses ou financières—pourrait devenir un appareil de décision sans lieu précis de responsabilité.

La fenêtre de décision se ferme : pourquoi « attendre et voir » perd le contrôle

L’argument central de Harari est celui du timing institutionnel : il existe une fenêtre étroite pour faire un choix délibéré concernant le rôle juridique et institutionnel de l’IA. Passé ce délai—par le biais de précédents, de déploiements, de captation réglementaire ou simplement d’une inertie institutionnelle—le choix devient définitif.

Ce cadre considère la gouvernance comme un point de décision unique par génération, et non comme un processus continu. Il suppose que celui qui agit en premier pour établir des normes et des catégories juridiques verrouille effectivement les résultats pour des décennies. La validité de cette hypothèse dépend en partie de la trajectoire technologique et en partie de la volonté politique, mais la logique sous-jacente est solide : les premières décisions sur la personnalité juridique deviennent plus difficiles à inverser une fois intégrées dans des systèmes sur lesquels des milliards comptent.

La vraie question n’est pas si les systèmes d’IA seront déployés—ils le seront. C’est si leur statut juridique, leur pouvoir décisionnel et leurs mécanismes de responsabilité seront choisis délibérément par des institutions démocratiques ou déterminés par défaut par celui qui agit le plus vite lors du déploiement. Dans cette optique, l’alarme de Harari et la critique de Bender convergent : les institutions doivent agir plus vite, réfléchir davantage, et décider plus délibérément si les « mercenaires » que nous déployons resteront des serviteurs ou deviendront des maîtres.