Génération d’images dénudées sur X : l’IA Grok suspendue en Indonésie

Suspension temporaire de l’assistant IA Grok en Indonésie

Le 10 janvier, l'Indonésie a suspendu temporairement Grok, l'assistant d'intelligence artificielle de la plateforme X d'Elon Musk, suite à un scandale concernant des images pornographiques falsifiées. Cette décision a été prise pour protéger le public, en particulier les femmes et les enfants, contre les risques liés aux contenus pornographiques générés par l'IA, a annoncé la ministre de la communication et du numérique, Meutya Hafid, dans un communiqué.

Le ministère a déclaré que les pratiques de “deepfake” non consensuelles sont considérées comme une violation grave des droits humains et de la sécurité des citoyens dans l'espace numérique. Les représentants de la plateforme X ont été convoqués pour fournir des éclaircissements.

Grok a indiqué le 9 janvier que la génération et l'édition d'images sont réservées aux abonnés payants, incitant les utilisateurs à s'abonner pour débloquer ces fonctionnalités.

Au Royaume-Uni, cette mesure a été critiquée comme transformant une fonctionnalité illégale en service premium, selon un porte-parole du premier ministre britannique. La Commission européenne, qui mène une enquête, a jugé les modifications insuffisantes, tandis que la France a saisi la justice pour exiger le respect des lois nationales par les plateformes.

D’après Le Monde.