Le régulateur britannique Ofcom ouvre une enquête contre X après la diffusion d’images à caractère sexuel générées par l’IA Grok.
Le régulateur britannique de la sécurité sur internet a annoncé lundi l’ouverture d’une "enquête formelle" visant le réseau social X "concernant des images à caractère sexuel diffusées" par son assistant d’intelligence artificielle Grok.
"Des signalements très inquiétants font état de l’utilisation"
de Grok AI sur X
"pour créer et partager des images de personnes dénudées – pouvant constituer une atteinte à la pudeur ou de la pornographie – ainsi que des images à caractère sexuel d’enfants pouvant constituer du matériel pédopornographique"
, indique l’Ofcom dans son communiqué.
De telles images, réalisées en demandant à Grok de dénuder des personnes réelles à partir de photos ou de vidéos, ont suscité une vague de protestations à travers le monde. La Malaisie a suspendu dimanche, après l’Indonésie samedi, l’accès à cet assistant.
Sous le feu des critiques, Grok a désactivé vendredi sa fonctionnalité de création d’images pour les utilisateurs non payants.
"Vous pouvez vous abonner pour débloquer ces fonctionnalités"
, avait précisé la plateforme.
Cette désactivation limitée avait suscité l’indignation au Royaume-Uni. Cette mesure
"transforme simplement une fonctionnalité qui permet la création d’images illégales en un service premium"
et constitue
"une insulte aux victimes de misogynie et de violences sexuelles"
, avait dénoncé un porte-parole du Premier ministre britannique Keir Starmer.
L’Ofcom précise lundi avoir demandé des explications à X la semaine dernière. Sans détailler la teneur des échanges, le régulateur indique que
"l’entreprise a répondu dans les délais impartis"
.
Son enquête devra
"déterminer si X a manqué à ses obligations légales"
, qui lui imposent notamment d’
"évaluer le risque que des personnes au Royaume-Uni consultent des contenus illégaux"
, de "supprimer rapidement les contenus illégaux" ou encore d’
"évaluer les risques que leur service représente pour les enfants britanniques"
.
Le régulateur dispose du pouvoir d’imposer des amendes pouvant atteindre 10 % du chiffre d’affaires mondial de l’entreprise visée et peut saisir la justice afin de demander un blocage du site au Royaume-Uni.
"Certaines des choses que j’ai vues et entendues"
au sujet des images générées par Grok
"sont répugnantes et manifestement illégales et j’attends que des mesures soient prises"
, avait affirmé plus tôt à la presse britannique le ministre des Entreprises Peter Kyle, tout en rappelant qu’il revenait à l’Ofcom de faire appliquer la loi.
À lire également:
À lire également:
#GB
#pornographie
#IA
#internet
#technologies
#télécoms
#mobiles
#Peter Kyle
#Grok
#X
#Ofcom
#Royaume-Uni
#intelligence artificielle
#images sexuelles
#régulation internet
#IA générative
#réseaux sociaux
#protection des enfants
