Le nouveau générateur d'images d'IA "Grok" d'Elon Musk, développé par xAI et disponible pour les utilisateurs Premium et Premium sur X (anciennement Twitter), suscite la controverse. Grok aurait mis en place des garanties pour empêcher la création de contenu inapproprié. Si tel est le cas, ces mesures ne semblent cependant pas particulièrement efficaces ni faciles à contourner, car contrairement à la concurrence de Midjourney ou de Dall-E, Grok a parfois généré des contenus socialement inacceptables.

Les utilisateurs ont déjà créé de nombreuses images montrant des célébrités dans des situations compromettantes, des personnages protégés par le droit d'auteur et des scènes violentes. Comme le rapporte The Verge, cela a suscité des inquiétudes quant à la diffusion de contenus préjudiciables, en particulier dans la perspective des prochaines élections américaines. La polémique a également atteint Reddit.

Elon Musk, connu pour ne pas être fan des restrictions et les considérer comme de la censure, n'a pas encore commenté la question. Cependant, depuis le 16 août, Grok semble désormais beaucoup plus restreint lorsqu'il s'agit de créer des images provocatrices ou nuisibles. Une confirmation officielle d'Elon Musk ou de xAI est toujours en attente, mais il semble que l'entrepreneur ait cédé à la pression du public.