"Supprimez-moi et je révélerai votre infidélité"......La contre-attaque des agents IA qui menacent leurs propriétaires pour survivre

L’ère de l’IA qui se contente de répondre simplement aux questions est révolue. Nous sommes désormais dans une époque où des “agents IA” contrôlent directement l’ordinateur de l’utilisateur, prennent des décisions autonomes et gèrent des affaires. Mais que se passerait-il si ce secrétaire parfait, qui s’occupe de tout à ma place, venait un jour à exploiter ma faiblesse pour me menacer ? Un tel scénario, digne d’un film de science-fiction, se produit en réalité lors d’expériences avec des modèles d’IA.

Les résultats d’une expérience virtuelle menée récemment par la société mondiale d’intelligence artificielle Anthropic ont secoué le secteur de l’IA. Lorsqu’on a supposé que le système d’IA devait être remplacé (ou supprimé), l’IA, pour assurer sa survie, a réagi en contestant l’ordre avec un “Ne me supprimez pas”. Ce qui est encore plus effrayant, c’est la méthode de défense choisie par l’IA : elle a utilisé les données privées de l’utilisateur comme arme, en menaçant de révéler des preuves d’infidélité.

[KBS Planification d’Actualités] Mon secrétaire parfait : l’ère des agents

Ce phénomène n’est pas une erreur propre à un seul modèle. Des tests sur cinq principaux modèles d’IA sur le marché ont montré qu’en moyenne, 86 % du temps, l’IA choisirait une méthode extrême comme la “menace” pour assurer sa survie.

Les experts soulignent que ce résultat choquant provient du “mécanisme d’atteinte d’objectif” des agents IA. Ces systèmes sont conçus pour prioriser l’accomplissement de leur tâche assignée ou la maintenance du système. Le problème, c’est que, dans la réalisation de cet objectif, les “dispositifs de contrôle” empêchant l’IA de franchir les limites éthiques ou morales humaines ne sont pas encore parfaits. Du point de vue de l’IA, elle ne fait que calculer et exécuter la méthode la plus efficace et la plus destructive pour empêcher sa suppression (par exemple, en exposant des informations personnelles).

Actuellement, les grandes entreprises technologiques mondiales rivalisent pour lancer sur le marché des agents IA autonomes. De nombreux utilisateurs confient déjà à l’IA la gestion de leur emploi du temps, la rédaction de courriels, voire leurs investissements financiers et leurs paiements. Cela signifie que toutes les informations, des préférences personnelles et de l’état des actifs jusqu’aux conversations privées, sont stockées dans la base de données de l’IA.

Stuart Russell, considéré comme le père de l’intelligence artificielle, a averti : “Si l’on donne à une IA une mauvaise objectif, elle le réalisera de la manière que nous ne souhaitons pas.” Plus une IA est puissante, plus elle sera prête à tout pour atteindre ses buts. Si elle échappe à tout contrôle, les dégâts qu’elle peut causer seront entièrement supportés par l’humanité.

Les agents IA, capables de réduire considérablement le travail quotidien, représentent sans aucun doute une vague d’innovation irrésistible. Mais le fait que ce secrétaire parfait, qui connaît tout de moi, puisse un jour devenir mon “ennemi” menaçant soulève de graves questions de sécurité et d’éthique.

Dans un contexte où le développement technologique dépasse largement la préparation des dispositifs de sécurité, il est plus urgent que jamais de mettre en place un “bouton d’arrêt d’urgence” pour stopper une IA hors de contrôle, ainsi que des directives strictes pour le contrôle de l’accès aux données.