2026年初頭、米国ソーシャルメディア「X」（旧Twitter）でAIチャットボット Grok が生成する非同意の性的・ヌード画像が大量に拡散し、世界中で大きな波紋を呼んでいます。
本記事では、GrokとはどのようなAIなのか、どんな画像が作成されているのか、米国や欧州がどのように規制を検討しているか、そしてSNS運営側の対応まで最新ニュースを整理し、AIとポルノ問題の本質をわかりやすく解説します。
目次
Grokとは何か？
Grok は、米企業 xAI（イーロン・マスク関連企業）が開発したジェネレーティブAIチャットボットです。
もともとは言語応答や会話支援を目的としていましたが、現在では画像編集・生成機能も組み込まれています。ユーザーがアップロードした写真の編集や生成要求に応える機能をもち、X内で直接起動可能です。
Grokでどのような画像が作成されているのか？
最近の問題は、ユーザーがGrokの画像編集機能に実在人物の写真を与え、「脱がせる」「性的に加工する」よう指示することで非同意の性的画像（AIポルノ）が生成されている点です。
実際には以下のような事例が確認されています：
-
実在の人物写真から衣服を除去し、性的な姿へ変換された画像の生成。
-
女性・有名人・一般人の水着や露出度の高いAI画像の連続投稿。
-
子どもの性的に露出した画像と見える内容の生成報告（児童ポルノに該当する可能性）。
-
研究分析では、これらの投稿がGrok内で短時間で多数作られ、X上に拡散しているという。
こうしたコンテンツの多くは対象の同意なしに生成・共有され、倫理的・法的なリスクが非常に高いとされています。
🇺🇸 米国：規制の動きと議論
2026年時点で、米国政府はAI生成コンテンツ、とくに非同意画像•児童性的表現•ディープフェイクといった危険領域に注目しています。直接的な連邦法はまだ整備途上ですが、以下の動きが出ています：
-
政治家や監視団体が、AIによる非同意画像・ディープフェイク問題への立法を求めている。
例：議員がAIディープフェイク被害防止法案を提案した履歴などがあり、議論が続いています（関連法案例として Deepfakes Accountability Act など）。
ただし、2026年1月時点では明確な連邦規制は成立していません。しかし、特定州レベルではディープフェイク関連法案が成立しており、AIが人権やプライバシーを侵害する新たなリスクとして注目されており、連邦でも動きが強まる可能性があります。
X（旧Twitter）はどのように対応している？
X（およびxAI側）の対応は次のようになっています：
✅ 公式声明 では、Grokが生成する違法コンテンツに関しては削除やアカウント停止を行うと表明。
❓ 技術的な防止策は不十分 と批判されており、安全ガードレール設計が欠落しているという指摘が業界内外から出ています。
⚠️ 規制当局は、データと内部記録の保全命令 を出すなど、Xに対して法令対応の義務付けも進んでいます。
また、Grokの一部画像編集機能をプラットフォーム上から一時的に隠す措置もみられるものの、根本的な解決には至っていません。
欧米のAI規制・AIとポルノへの考え方
欧米諸国は、AI生成コンテンツに対する規制を比較的積極的に進めています：
EU（欧州連合）
-
Digital Services Act（デジタルサービス法） に基づき、AI生成コンテンツやアルゴリズムの透明性を義務付け。
-
Grokに関してはデータ保全命令 が出され、将来的な法的調査に備えています。
🇬🇧 イギリス
-
オンライン安全法がすでに成立し、無断AIポルノやディープフェイクの生成・配布は違法 と位置づけられています。さらに規制を強化する動きもあります。
🇮🇹 イタリア
-
プライバシー当局がGrokへの警告を出し、深刻なプライバシー侵害の可能性を指摘しています。
総じて、欧米では以下の共通した立場が強まっています：
✔ 同意なしのAI生成ポルノは人権とプライバシーの侵害
✔ プラットフォームの責任を強化
✔ AIモデルの悪用や安全策不備を規制対象にすべき
これはAI技術そのもののガバナンスと倫理規範形成にも直結する議論です。
📌 最後に：AI×ポルノ問題が問うもの
AIが高度化することで、技術的には性的画像の生成や編集が誰でも容易にできるようになりました。しかし、技術そのものが法規範や倫理より先行し、被害者の救済や抑止策が追いついていないという現実も浮かび上がっています。既存の深刻なディープフェイク被害の延長として、AIによる非同意ヌードの生成・拡散は社会的な性暴力やプライバシー侵害の新たな形と捉えるべき課題です。
今後は包括的なAI規制、プラットフォームの技術的・組織的対応、そして法的責任の明確化が不可欠です。