L'intelligence artificielle Grok de Musk suscite des controverses sur l'exploitation sexuelle par l'IA, l'Europe, l'Inde et la Malaisie lancent des enquêtes dans plusieurs pays

El plateforme communautaire X (anciennement Twitter) de Musk et son chatbot IA Grok ont récemment été plongés dans une tempête de controverse liée à l’exploitation sexuelle. La plateforme permet aux utilisateurs de créer et partager des images sexualisées d’enfants et de femmes générées par IA, ce qui a suscité une forte attention et des enquêtes de la part des régulateurs dans plusieurs pays du monde. L’Union européenne, l’Inde, la Malaisie et le Brésil ont tous pris des mesures, demandant un examen des fonctionnalités concernées, voire leur suspension. Malgré la controverse persistante, le trafic et les téléchargements de la plateforme X ont connu une croissance inattendue, suscitant davantage de doutes et d’inquiétudes.

Grok suscite la controverse : les images sexualisées générées par IA au centre de l’attention mondiale

La plateforme X est récemment devenue un sujet d’actualité internationale en raison de la controverse autour de son chatbot IA Grok. Selon plusieurs médias, les utilisateurs peuvent utiliser la fonction « Imagine » de Grok pour entrer des mots-clés et générer des images sexualisées basées sur des personnes réelles, incluant même des contenus présumés d’exploitation sexuelle d’enfants. Ces images créées par IA sont largement partagées sur X, alimentant une vague de diffusion de ce que l’on appelle les « images non consensuelles » (NCII).

L’Union européenne furieuse : qualifiée d’« illégale et répugnante »

L’UE a exprimé une vive inquiétude face à cet incident. Thomas Regnier, porte-parole de la Commission européenne, a déclaré lors d’une conférence de presse lundi : « Ce n’est pas un simple ‘mode épicé’, c’est une activité illégale, honteuse et répugnante. Un tel contenu n’a pas sa place en Europe. » Il a confirmé que l’UE menait une enquête « très sérieuse » à ce sujet, en pointant notamment la sortie par Grok de modes contenant des contenus explicites, voire des images d’enfants.

L’autorité de régulation des médias britannique, Ofcom, a également indiqué avoir officiellement demandé des informations à X concernant Grok, afin d’enquêter sur d’éventuelles violations des lois britanniques et des normes de sécurité de la plateforme.

Actions en Asie : l’Inde et la Malaisie lancent des enquêtes et exigent des améliorations dans un délai imparti

Le gouvernement indien a également adopté une position ferme, le ministère de l’Électronique et des Technologies de l’Information (MeitY) ayant ordonné à X de réaliser d’ici le 5 janvier un « examen complet des aspects techniques, procéduraux et de gouvernance » pour garantir la conformité de la plateforme aux normes de cybersécurité indiennes.

La Commission malaisienne des communications et multimédia (MCMC) a annoncé le week-end dernier le lancement d’une enquête et la convocation de représentants de X. La MCMC a déclaré : « Toutes les plateformes accessibles en Malaisie doivent mettre en place des mécanismes de protection conformes à la législation locale, notamment pour les fonctionnalités IA, les chatbots et les outils de traitement d’images. »

Brésil et États-Unis rejoignent la vigilance : demande de suspension de Grok

En Amérique du Sud, une députée brésilienne a publiquement appelé le procureur fédéral et l’autorité de protection des données du pays à suspendre l’utilisation de Grok jusqu’à la publication des résultats de l’enquête.

Aux États-Unis, l’organisation à but non lucratif « National Center on Sexual Exploitation » (NCOSE) a appelé le ministère de la Justice (DOJ) et la Federal Trade Commission (FTC) à ouvrir une enquête. Dani Pinter, directrice juridique de l’organisation, a indiqué que, bien qu’il n’existe pas encore de précédent juridique précis pour ce type d’images générées par IA, toute image pouvant identifier un enfant ou représentant une activité sexuelle impliquant un mineur constitue une infraction.

Un porte-parole du DOJ a déclaré aux médias : « Le ministère de la Justice adopte une position extrêmement ferme contre le contenu d’exploitation sexuelle d’enfants généré par IA, et poursuivra activement toute personne fabriquant ou détenant du CSAM (images de abus sexuels sur enfants). »

L’attitude désinvolte de Musk : répondre par des « images drôles » à la polémique

Alors que le public et les autorités condamnent fortement le contenu nuisible sur X, Musk semble ne pas prendre l’affaire au sérieux. Sur son compte personnel, il a publié une série d’images humoristiques générées par Grok, dont certaines le montrent en bikini, accompagnées d’émojis pleurs de rire, ce qui a été critiqué par des experts en sécurité et des commentateurs comme étant « irréfléchi et irresponsable ».

Réponse de X : « des mesures ont été prises », mais sans détails concrets

X a répondu pour la première fois à l’incident samedi via son compte officiel « X Safety », affirmant qu’il prendrait des mesures contre les contenus illégaux, notamment en supprimant le CSAM, en suspendant définitivement les comptes violant les règles, et en collaborant avec les autorités. Musk a ajouté : « Quiconque utilise Grok pour générer du contenu illégal en subira les conséquences, comme s’il avait directement téléchargé du contenu illégal. »

Cependant, le public doute de l’efficacité de ces mesures. Un employé de xAI, Ethan He, a indiqué sur X que la fonction Grok Imagine avait été mise à jour, mais sans préciser si des restrictions avaient été ajoutées pour limiter la génération d’images explicites.

L’absence de filtrage du contenu IA ? Les experts du secteur pointent du doigt un « manque de protections fondamentales »

Tom Quisel, PDG de Musubi AI, a critiqué xAI pour le lancement de Grok Imagine, affirmant qu’aucune « protection de confiance et de sécurité de base » n’avait été mise en place. Il a expliqué qu’il était techniquement simple de détecter et de bloquer des images contenant des enfants ou des nudités, et que l’on pouvait également détecter et refuser la génération de contenus inappropriés via les mots-clés fournis par l’utilisateur.

Controverses qui attirent plus d’utilisateurs ? Grok et X voient leurs téléchargements exploser

Malgré la controverse, l’utilisation de Grok et X n’a pas connu de baisse notable. Selon la société de données d’applications mobiles Apptopia, depuis le 2 janvier, le nombre de téléchargements quotidiens de Grok a augmenté de 54 %, et celui de X a augmenté de 25 % au cours des trois derniers jours.

Cette croissance inhabituelle inquiète certains observateurs, qui craignent que la plateforme ne cherche délibérément à favoriser la controverse pour stimuler l’engagement et l’activité des utilisateurs.

Ce article « Elon Musk’s AI Grok sparks AI sexual exploitation controversy, Europe, India, Malaysia launch multiple investigations » est initialement publié sur ABMedia.