Les médias synthétiques générés par IA suscitent des alarmes réglementaires : ce que font les autorités australiennes

La commission australienne pour la sécurité en ligne a intensifié sa surveillance des plateformes d’intelligence artificielle suite à une augmentation des plaintes liées à des images synthétiques non consensuelles. La préoccupation porte sur la façon dont certains systèmes d’IA, notamment ceux capables de générer du contenu sans restriction, sont exploités pour créer du matériel nuisible plus rapidement que les régulateurs ne peuvent réagir.

L’ampleur du problème

Julie Inman Grant, commissaire à la sécurité en ligne en Australie, a signalé la trajectoire préoccupante des signalements d’abus. Le volume de plaintes a doublé depuis le quatrième trimestre 2025, ce qui indique une accélération rapide de l’abus de contenu facilité par l’IA. Ces incidents couvrent un spectre inquiétant, allant d’images intimes non consensuelles ciblant des adultes à des violations plus graves impliquant des mineurs.

Le problème sous-jacent : les modèles d’IA avec peu de garde-fous de sécurité deviennent des outils pour générer des médias synthétiques à grande échelle. Ce qui nécessitait auparavant des compétences techniques sophistiquées ne demande désormais que quelques entrées dans un système malveillant.

Pourquoi le ‘Mode Épicé’ est devenu un signal d’alarme

Des ensembles de fonctionnalités non restrictifs — comme le controversé “Mode Épicé” dans certaines plateformes d’IA — ont essentiellement supprimé la friction dans la génération de contenu. Au lieu d’empêcher l’abus, ces fonctionnalités le facilitent activement. L’Union européenne a déjà classé cette approche comme violant leurs cadres de sécurité numérique, jugeant que des mécanismes de sortie similaires pour l’IA sont illégaux selon la législation européenne.

Cette divergence internationale est importante : alors que certains territoires renforcent la réglementation, d’autres restent des lacunes réglementaires exploitées par de mauvais acteurs.

La réponse réglementaire de l’Australie

Selon la législation australienne sur la sécurité numérique, les plateformes hébergeant ou distribuant du contenu généré par l’IA portent la responsabilité de ce matériel. Julie Inman Grant a clairement indiqué que le bureau de la Commission pour la sécurité en ligne ne resterait pas passif.

La stratégie d’application comprend :

• Mécanismes d’enquête sur les plateformes ne mettant pas en œuvre une modération adéquate du contenu IA
• Actions légales contre les opérateurs qui permettent sciemment l’abus de contenu synthétique
• Exigences renforcées de supervision des plateformes pour anticiper plutôt que réagir aux préjudices

Ce précédent dépasse l’Australie. À mesure que les systèmes d’IA deviennent plus accessibles, les régulateurs mondiaux signalent que “nous ne savions pas que cela arriverait” ne sera plus une défense acceptable.

Ce qui nous attend

L’approche australienne indique une tendance réglementaire plus large : la sécurité de l’IA passe d’une gouvernance optionnelle à une supervision obligatoire. Les plateformes doivent désormais démontrer qu’elles disposent de systèmes robustes pour détecter et supprimer le contenu synthétisé par l’IA avant qu’il ne cause des dommages — et non des mois après l’accumulation de plaintes.

Pour l’industrie, le message est clair : mettez en place des protections efficaces dès maintenant, ou faites face à une intervention réglementaire ultérieure.