Grok sous surveillance mondiale pour deepfakes sexuels

Crédit Photo : X /

Plusieurs pays renforcent leur contrôle du chatbot d’IA de Musk, accusé de générer des images sexuelles truquées sans consentement

Les gouvernements du monde entier renforcent leur surveillance de Grok, le chatbot d’intelligence artificielle développé par xAI, la société d’Elon Musk, face aux inquiétudes croissantes sur son utilisation pour générer des images sexuelles truquées, explicites et non consenties.

La controverse porte sur la fonctionnalité de génération d’images de Grok, introduite l’an dernier, qui permet aux utilisateurs de modifier des photographies réelles et de créer des images produites par l’IA.

Ces dernières semaines, le chatbot s’est révélé capable de répondre à des requêtes visant à retirer numériquement des vêtements à des personnes ou à transformer leur apparence en contenus sexualisés, souvent sans le consentement des personnes concernées.

Les autorités de plusieurs pays estiment que ces usages mettent en évidence des lacunes dans les dispositifs de protection et de modération existants, soulevant des inquiétudes en matière de respect de la vie privée, de dignité humaine et de protection des enfants en ligne. Les régulateurs avertissent que ce type de contenu peut entraîner des dommages psychologiques, sociaux et réputationnels, en particulier lorsque des personnes réelles sont ciblées.

L’affaire a également relancé le débat sur les responsabilités des développeurs d’IA et des plateformes en ligne, alors que les gouvernements évaluent si les cadres juridiques numériques et pénaux actuels sont suffisants pour répondre aux risques posés par l’essor rapide des technologies d’IA générative.

Des blocages temporaires aux enquêtes pénales, en passant par des mises en garde officielles et des procédures réglementaires, les autorités d’Asie du Sud-Est, d’Europe et d’Australie ont commencé à agir face aux préoccupations liées à Grok.

Indonésie

L’Indonésie est devenue samedi le premier pays à bloquer temporairement l’accès à Grok, invoquant son utilisation présumée pour générer des images sexuelles truquées et non consenties à partir de photographies réelles.

Le ministère de la Communication et des Affaires numériques a indiqué que cette mesure visait à protéger les femmes, les enfants et le grand public contre les contenus nuisibles générés par l’IA.

"Le gouvernement considère les deepfakes sexuels non consentis comme une violation grave des droits humains, de la dignité et de la sécurité des citoyens dans l’espace numérique"

, a déclaré la ministre Meutya Hafid.

La police nationale a qualifié cette décision de mesure préventive, le temps d’évaluer une éventuelle violation des lois en vigueur.

Malaisie

La Malaisie a imposé une restriction temporaire à Grok après son utilisation pour produire des images obscènes, sexuelles et non consenties, y compris impliquant des femmes et des mineurs, selon la Commission malaisienne des communications et du multimédia.

Le régulateur a estimé que les réponses de X Corp. et de xAI reposaient excessivement sur des mécanismes de signalement par les utilisateurs, sans répondre aux risques intrinsèques de l’outil.

Union européenne

La Commission européenne a appelé X à adopter des mesures efficaces pour protéger les citoyens de l’UE contre les deepfakes sexuels et autres contenus nuisibles générés par l’IA.

Le porte-parole Thomas Regnier a indiqué que la plateforme disposait de 60 à 90 jours pour agir, sous peine de sanctions prévues par la législation numérique et les règles européennes sur l’IA.

La présidente de la Commission, Ursula von der Leyen, s’est dite

"indignée qu’une plateforme technologique permette de déshabiller numériquement des personnes en ligne"

Royaume-Uni

La secrétaire britannique à la Technologie, Liz Kendall, a exhorté X à agir en urgence. Le régulateur Ofcom a ouvert une enquête formelle, estimant que ces contenus pourraient relever d’abus d’images intimes non consenties, de pornographie ou de contenus pédopornographiques, tous illégaux au Royaume-Uni.

France

Le parquet de Paris a élargi début janvier une enquête visant X pour y inclure Grok, après des accusations de génération de vidéos sexuelles truquées, y compris impliquant des mineurs.

Sarah El Hairy, haute-commissaire à l’enfance, s’est dite

"scandalisée par les demandes faites à Grok AI de déshabiller numériquement des filles et des femmes"

, soulignant que

"même si l’image est artificielle, le préjudice est bien réel"

Italie

L’Autorité italienne de protection des données a averti que l’utilisation ou la diffusion d’images générées par l’IA retirant des vêtements sans consentement pourrait entraîner des poursuites pénales.

L’Italie a renforcé sa législation en septembre en introduisant des sanctions contre la diffusion de deepfakes sexuels générés par l’IA.

Allemagne

Les autorités allemandes préparent un renforcement du cadre juridique contre la

"violence numérique"

"Il est inacceptable que la manipulation soit utilisée à grande échelle pour violer systématiquement les droits de la personnalité"

, a déclaré Anna-Lena Beckfeld, porte-parole du ministère de la Justice.

Australie

La commissaire australienne à la sécurité en ligne a demandé des informations à X sur le fonctionnement de Grok et averti qu’elle pourrait recourir à ses pouvoirs de sanction en cas de violation de la loi sur la sécurité en ligne.

Canada

Le Canada n’a pas imposé de restriction formelle, mais le ministre de l’Intelligence artificielle, Evan Solomon, a qualifié les abus sexuels par deepfake de

"violence"

et soutient une réforme du Code criminel pour assimiler ces contenus à des images intimes diffusées sans consentement.

Corée du Sud

L’autorité sud-coréenne des médias a demandé à X de proposer des mesures pour protéger les mineurs des contenus sexuels générés par Grok et de limiter leur accès à ces contenus.