イーロン・マスク氏が新たに発表したAI画像ジェネレーター「Grok」は、xAIが開発し、X（旧Twitter）のプレミアムおよびプレミアムユーザーが利用できるもので、物議を醸している。 Grok には、不適切なコンテンツの作成を防ぐための安全策が講じられていると言われています。ただし、これが事実である場合、Midjourney や Dall-E との競合とは異なり、Grok は社会的に受け入れられないコンテンツを生成する場合があるため、これらの対策は特にうまく機能しないか、回避するのが簡単ではないようです。

ユーザーはすでに、危険な状況にある有名人、著作権で保護されたキャラクター、暴力的なシーンを写した多数の画像を作成しています。 The Verge が報じているように、これにより、特に今後の米国選挙を考慮すると、有害なコンテンツの拡散に対する懸念が生じています。この論争はRedditにも及んでいる。

制限を好まず、制限を検閲とみなすことで知られるイーロン・マスク氏は、この問題についてまだコメントしていない。しかし、8 月 16 日以降、Grok は挑発的または有害な画像の作成に関してさらに制限されているようです。イーロン・マスクまたはxAIからの正式な確認はまだ保留中ですが、起業家は世間の圧力に屈したようです。