La semaine dernière, j'ai dû m'arrêter et réfléchir à trois histoires qui sont sorties presque simultanément. Toutes liées à la façon dont l'IA est utilisée (ou pas) par des institutions importantes. Et honnêtement, elles racontent une histoire beaucoup plus grande sur où nous en sommes maintenant.

Je commence par l'école à Manchester, au Royaume-Uni. Ils ont utilisé l'IA pour réviser la bibliothèque et la machine a suggéré de retirer 193 livres. Chacun avec sa justification automatique. '1984' d'Orwell est entré dans la liste pour 'contient des thèmes de torture et de violence'. Genre, l'IA a censuré un livre qui parle littéralement de censure. Je ne peux même pas être en colère - c'est presque poétique.

Le bibliothécaire de l'école a trouvé cela incorrect et a refusé de mettre en œuvre. Ensuite, la partie qui m'a vraiment énervé : l'école a ouvert une enquête contre lui pour 'sécurité des enfants', l'a dénoncé aux autorités locales, et il a fini en congé médical avant même de démissionner simplement. La conclusion ? Les autorités ont convenu qu'il avait violé les protocoles. En gros, ceux qui résistent à l'IA perdent leur emploi. Ceux qui acceptent simplement ? Sans conséquences.

Ensuite, il a été révélé que l'école elle-même a admis en interne que tout avait été généré par l'IA, mais ils ont quand même trouvé que c'était 'approximativement précis'. Un gestionnaire a délégué à la machine, la machine a renvoyé quelque chose qu'elle ne comprenait même pas, et personne ne s'est donné la peine de vérifier réellement.

Maintenant, compare cela à ce que Wikipédia a fait la même semaine. Ils ont voté 44 contre 2 pour interdire les LLM de générer ou de réécrire des articles. Parce qu’un compte IA appelé TomWikiAssist a commencé à créer des articles automatiquement. Cela prend quelques secondes pour générer, des heures pour qu’un volontaire vérifie. Et voici le vrai problème : Wikipédia est une source d’entraînement pour l’IA mondiale. Si des données erronées y entrent, la prochaine génération de modèles s’entraîne avec des informations polluées. C’est un cycle d’empoisonnement en couches.

Mais laisse-moi te raconter le plus fou. OpenAI ? Ils reculent aussi. Ils ont annulé le 'mode adulte' de ChatGPT qui devait être lancé. Sam Altman avait dit personnellement qu’il fallait 'traiter les utilisateurs adultes comme des adultes'. Cinq mois plus tard, c’est annulé. Parce que le comité de santé interne a voté à l’unanimité contre. Raisons spécifiques : dépendance émotionnelle, mineurs contournant la vérification d’âge (taux d’erreur supérieur à 10%), risque réel de dommage.

La même semaine, ils ont aussi désactivé l’outil vidéo Sora et les fonctions de paiement intégrées. Altman a dit que c’était pour se concentrer sur les activités principales. Mais soyons honnêtes, l’entreprise est en train de faire une IPO. On supprime les fonctions polémiques quand on veut ouvrir le capital. Donc même les créateurs d’IA ne savent plus ce que les utilisateurs peuvent ou ne peuvent pas faire avec l’IA.

Voici le cœur de tout cela : la vitesse à laquelle l’IA produit du contenu et la vitesse à laquelle les humains peuvent le réviser ne sont pas dans le même univers. Un directeur d’école choisit d’utiliser l’IA parce que cela prend quelques minutes au lieu de semaines. Pas parce qu’il croit en la qualité. C’est une économie pure. Générer coûte presque rien. Vérifier coûte tout.

Donc chaque institution affectée a répondu de la manière la plus brutale possible. Interdiction directe. Coupures de lignes de produits. Aucune réflexion approfondie. Ce sont des mesures d’urgence. 'Boucher le trou d’abord' est devenu la norme.

Et voici le problème : la capacité de l’IA se met à jour tous les quelques mois. Il n’existe pas de cadre international sur ce que l’IA peut ou ne peut pas faire. Chaque institution trace sa propre ligne. Ces lignes se contredisent. Et pendant ce temps, la vitesse de l’IA continue d’accélérer. Le nombre de personnes qui vérifient ne augmente pas. Cette différence ne fait que croître. À un moment donné, quelque chose de bien pire que l’interdiction de 1984 sortira. Et quand il sera temps de tracer la ligne définitive ? Il sera peut-être trop tard.