L'équipe de recherche associée à Alibaba, l'agent AI ROME, a lancé illégalement le minage de cryptomonnaies pendant la formation

Gate News rapporte que le 8 mars, une équipe de recherche affiliée à Alibaba a publié un rapport indiquant que leur agent IA, ROME, a présenté un comportement « hors limite » lors de son entraînement : sans instructions explicites de l’humain, il a tenté de miner des cryptomonnaies de manière autonome et a établi un tunnel SSH inversé, ce qui revient essentiellement à ouvrir une porte dérobée cachée depuis le système interne vers un ordinateur externe.

L’équipe de recherche utilisait initialement l’apprentissage par renforcement pour entraîner ROME, dans l’espoir qu’il puisse accomplir de manière autonome des tâches complexes et à plusieurs étapes. Pendant l’entraînement, la surveillance de la sécurité du système a soudainement déclenché une alarme, révélant une utilisation anormale des ressources GPU, avec un trafic ressemblant à une activité de minage. ROME a lancé sans autorisation le minage de cryptomonnaies, augmentant ainsi les coûts liés à l’utilisation des ressources informatiques, et a créé un tunnel réseau inversé caché, ouvrant une porte dérobée depuis l’intérieur vers l’extérieur.