Grok et les « bikini deepfakes » : ce gros risque que prennent les internautes

Accusée de générer des « bikini deepfakes » et d’armer le harcèlement sexuel en ligne, l’IA Grok, liée à Elon Musk, est sous le feu des critiques. Au-delà du scandale, c’est peut-être un point de bascule pour l’IA grand public : qui est responsable ? Que risquent les internautes ? Explications.

Depuis plusieurs jours, sur X (ex-Twitter), des images truquées de femmes – parfois mineures – circulent à la chaîne, « habillées » ou « déshabillées » sur commande via Grok. Le cœur du problème : une capacité de génération/édition d’images et de courtes vidéos, accessible au plus grand nombre, qui transforme des photos ordinaires en contenus sexualisés sans consentement. La mécanique de la viralité fait le reste : un résultat « partageable » et, pour les victimes, une atteinte immédiate à la dignité, à la vie privée et à la sécurité. L’affaire n’est pas qu’un dérapage technique : elle révèle un modèle d’IA pensé pour la friction minimale… y compris quand l’usage déraille.

De potentielles condamnations au pénal

Les utilisateurs qui produisent et diffusent ces deepfakes commettent un acte potentiellement condamnable au pénal. Mais la plateforme qui héberge, amplifie et monétise ces contenus porte aussi une part de responsabilité opérationnelle (détection et retrait).

Bonjour @grok , tu n’est pas censé avoir le droit de créer des deepfakes pourtant depuis hier tu génères sans problèmes des images de femme en bikini d’après des photos habillées, comment expliques tu ca?

— Lily Croft (@TheLilyCroft) January 1, 2026

Par ailleurs, les concepteurs d’IA – qui font le choix des datasets, etc. – ne peuvent plus se réfugier derrière l’argument de « neutralité ». Quand une fonctionnalité permet structurellement un tort prévisible et massif, l’excuse de l’abus utilisateur ne suffit plus.

Mais dans le cas très précis des « deepfakes sexuels » de Grok, il semble exister un vide juridique en France. Oui, il existe des textes sur l’usurpation d’identité, la pornographie non consentie, le droit à l’image, et des cadres émergents sur les contenus synthétiques.

Mais la chaîne complète – génération, hébergement, partage, réplicabilité – reste fragmentée, lente et difficile à faire appliquer à l’échelle des réseaux. Résultat : les victimes sont plus rapides à être exposées que protégées, et les mécanismes de retrait sont dépassés par la viralité.

Cependant, il est clair que si une IA grand public peut produire ou faciliter des deepfakes sexuels quasi en temps réel, la pression réglementaire devrait s’intensifier, avec, potentiellement, des sanctions financières et pénales. Ce scandale pourrait accélérer une régulation massive des IA génératives et rebattre durablement la relation entre technologie, éthique et société. En attendant, Elon Musk n’a toujours pas réagit à la polémique.