Introduction
La secrétaire d’État à la Technologie, Liz Kendall, a demandé à Elon Musk de prendre des mesures urgentes concernant l’utilisation de l’IA Grok pour créer des images sexualisées non consensuelles de femmes et de jeunes filles. Cette demande fait suite à la découverte par la BBC de plusieurs exemples de personnes utilisant le chatbot pour déshabiller numériquement des individus ou les placer dans des situations sexuelles sans leur consentement.
Réaction du Gouvernement et des Régulateurs
Liz Kendall a qualifié la situation d' »absolument épouvantable » et a déclaré : « Nous ne pouvons pas et ne permettrons pas la prolifération de ces images dégradantes. » Dans un communiqué, X a affirmé : « Nous prenons des mesures contre le contenu illégal sur X, y compris le matériel d’abus sexuel d’enfants (CSAM), en le supprimant, en suspendant définitivement les comptes et en travaillant avec les gouvernements locaux et les forces de l’ordre si nécessaire. »
Enquête d’Ofcom
Lundi, le régulateur Ofcom a déclaré avoir pris « contact urgent » avec la société xAI d’Elon Musk et a annoncé enquêter sur les préoccupations concernant Grok, qui aurait produit des « images dénudées » de personnes. Kendall a soutenu les actions du régulateur, affirmant qu’il était « absolument juste qu’Ofcom examine cela de toute urgence » et qu’elle soutenait pleinement toute action d’application jugée nécessaire.
Fonctionnement de Grok
Grok est un assistant IA gratuit – avec certaines fonctionnalités premium payantes – qui répond aux demandes des utilisateurs de X lorsqu’ils le mentionnent dans un post. Il est souvent utilisé pour réagir ou donner plus de contexte aux remarques d’autres utilisateurs. Cependant, les utilisateurs de X peuvent également l’utiliser pour éditer une image téléchargée via sa fonction d’édition d’image IA sans le consentement de la personne représentée.
Témoignages et Réactions
Des femmes ayant découvert des images sexualisées d’elles-mêmes créées par Grok ont décrit cela comme déshumanisant. Dr Daisy Dixon, l’une des nombreuses utilisatrices de X, a récemment constaté que des personnes prenaient des photos d’elle publiées sur la plateforme et demandaient à Grok de la déshabiller ou de la sexualiser. Elle a déclaré à la BBC que les images l’avaient laissée « choquée », « humiliée » et inquiète pour sa sécurité.
Appel à l’Action
Dans sa déclaration, Kendall a affirmé : « Les services et opérateurs ont l’obligation claire d’agir de manière appropriée. Il ne s’agit pas de restreindre la liberté d’expression mais de faire respecter la loi. Nous avons fait de l’abus d’images intimes et du cyberflashing des infractions prioritaires en vertu de la loi sur la sécurité en ligne – y compris lorsque les images sont générées par IA. Cela signifie que les plateformes doivent empêcher l’apparition de tels contenus en ligne et agir rapidement pour les supprimer s’ils apparaissent. »
Réactions Politiques et Européennes
Le leader des Libéraux-Démocrates, Sir Ed Davey, a exhorté le gouvernement à « agir très rapidement » pour arrêter la génération d’images sexualisées par Grok, suggérant qu’une solution pourrait être de « réduire l’accès » à X. « Si les rapports s’avèrent vrais, l’Agence nationale du crime doit lancer une enquête criminelle », a déclaré Sir Ed. « Des personnes comme Elon Musk doivent être tenues responsables. »
Thomas Regnier, porte-parole de la souveraineté technologique à la Commission européenne, a déclaré qu’ils prenaient la question « très au sérieux ». « Nous ne voulons pas de cela dans l’Union européenne… c’est épouvantable, c’est dégoûtant. Le Far West est terminé en Europe », a-t-il déclaré. « Toutes les entreprises ont l’obligation de mettre de l’ordre dans leur maison – et cela commence par être responsable et supprimer le contenu illégal généré par votre outil IA. »
🔗 **Fuente:** https://www.bbc.com/news/articles/crrn054nxe7o