El generador de imágenes de IA recientemente lanzado por Elon Musk, "Grok", que fue desarrollado por xAI y está disponible para usuarios Premium y Premium en X (anteriormente Twitter), está causando controversia. Se dice que Grok cuenta con medidas de seguridad para evitar la creación de contenido inapropiado. Sin embargo, si este es el caso, estas medidas no parecen funcionar particularmente bien ni ser fáciles de eludir, porque a diferencia de la competencia de Midjourney o Dall-E, Grok ha generado en ocasiones contenidos que no son socialmente aceptables.

Los usuarios ya han creado numerosas imágenes que muestran a celebridades en situaciones comprometedoras, personajes protegidos por derechos de autor y escenas violentas. Como informa The Verge, esto ha generado preocupaciones sobre la difusión de contenido dañino, especialmente en vista de las próximas elecciones estadounidenses. La polémica también ha llegado a Reddit.

Elon Musk, conocido por no ser fanático de las restricciones y verlas como censura, aún no se ha pronunciado sobre el tema. Sin embargo, desde el 16 de agosto, Grok parece ahora mucho más restringido a la hora de crear imágenes provocativas o dañinas. Aún está pendiente una confirmación oficial de Elon Musk o xAI, pero parece que el empresario ha cedido a la presión pública.