La plateforme X ordonnée par l'UE de conserver l'intégralité des données Grok, la question de l'abus de l'IA devient un point focal

Les autorités de régulation de l’UE frappent fort. Selon PANews, la Commission européenne a officiellement ordonné à la plateforme X de conserver tous ses enregistrements opérationnels internes et données d’interaction utilisateur concernant son assistant de chat IA Grok jusqu’à la fin de 2026, une nouvelle mesure contraignante concernant la gestion du contenu sur la plateforme.

Les outils d’IA sont abusés, la diffusion de contenus faux ou trompeurs est devenue courante

La racine du problème réside dans une utilisation abusive de Grok. Récemment, certains utilisateurs ont exploité les fonctionnalités d’édition d’images et de création de vidéos de cet outil d’IA pour générer massivement des contenus à caractère sexuel faux ou trompeur, qui ont été diffusés librement sur la plateforme X. Ces contenus ont touché aussi bien des femmes adultes que des mineurs, suscitant de vives inquiétudes de la part de l’UE concernant les failles de régulation de la plateforme.

Développé par xAI, une société d’Elon Musk, Grok aurait dû être un outil de dialogue innovant, mais sa capacité puissante à générer du contenu est devenue un risque d’abus. Le porte-parole de la Commission européenne, Thomas Rénier, a déclaré que l’UE “suivait de près” ces comportements portant atteinte aux droits des utilisateurs, et a décidé de prolonger et d’approfondir la surveillance de la plateforme X.

Conservation obligatoire des données pour collecter des preuves lors d’enquêtes réglementaires

La raison pour laquelle l’UE exige que X conserve toutes les données de Grok jusqu’à la fin de 2026 est principalement de préparer le terrain pour des enquêtes approfondies et des actions légales futures. Cette directive de “rétention des données” est déjà en vigueur pour la plateforme X depuis 2025, et la prolongation actuelle renforce la chaîne de responsabilité, empêchant la plateforme de détruire des preuves cruciales.

Engagement de X à renforcer la gouvernance

Face à la pression réglementaire, X a réagi. La plateforme a indiqué qu’elle prendrait des mesures décisives contre tout contenu illégal, y compris la suppression de contenus en violation, la suspension permanente des comptes illégaux, et la mise en place d’une coopération proactive avec les autorités gouvernementales. Bien que ces mesures montrent la volonté de la plateforme, elles illustrent aussi que, à l’ère de l’IA, la complexité et les défis de la modération de contenu dépassent largement ceux des médias sociaux traditionnels.

Les mesures contraignantes de l’UE visent essentiellement à tracer une ligne rouge pour l’application de l’IA — lorsque des outils innovants sont utilisés pour causer du tort, la responsabilité incombe à la plateforme. Le cas de X et Grok sonne également l’alarme à toute l’industrie : une capacité de génération de contenu efficace doit être accompagnée d’un cadre réglementaire équivalent.