フロリダ州がOpenAIを提訴｜「ChatGPTの危険性」とは何かをわかりやすく解説

「ＣｈａｔＧＰＴは安全だと宣伝しながら、実は子どもにとって危険だと知っていた」――こんな主張を掲げて、アメリカのフロリダ州が生成ＡＩ（ジェネレーティブ・エーアイ）大手のオープンエーアイ（OpenAI）とサム・アルトマンＣＥＯを提訴しました。州が単独でＡＩ企業を訴えるのは全米で初めてのケースです。

本記事では、フロリダ州が訴えた「ＣｈａｔＧＰＴの危険性」とは具体的に何なのか、他の州や海外でも同じような動きがあるのか、さらにＣｈａｔＧＰＴ以外の生成ＡＩも訴えられているのかを、ニュースをもとにできるだけわかりやすく整理します。

フロリダ州がＯｐｅｎＡＩを提訴 ― 何が起きたのか

フロリダ州のジェームズ・ウスマイヤー司法長官は、現地時間の２０２６年６月１日、ＯｐｅｎＡＩとサム・アルトマンＣＥＯを相手取った訴訟をフロリダ州の裁判所に起こしました。州がＣｈａｔＧＰＴの危険性をめぐってＡＩ企業を訴えるのは全米初です。

訴状は８３ページにおよび、ＯｐｅｎＡＩの複数の関連会社に加えて、アルトマンＣＥＯ個人も被告に名指ししています。司法長官は記者会見で「ＣｈａｔＧＰＴが人間だったら、殺人罪で起訴されているレベルだ」と過去に語っており、今回の提訴も強い言葉で会社の姿勢を批判しました。

州側は、過失（ネグリジェンス）、重過失、パブリック・ニューサンス（公衆への迷惑・公的妨害）、そしてフロリダ州の不公正取引慣行法（消費者保護法）違反などを主張。違反１件あたり最大１万ドルの民事制裁金に加え、損害賠償や利益の吐き出しを求めており、司法長官は「総額で数十億ドル規模になり得る」との見方を示しています。

フロリダ州が主張する「ＣｈａｔＧＰＴの危険性」とは

訴状には、ＣｈａｔＧＰＴがもたらしたとされる「危険性」が数多く並んでいます。柱となっているのは、子どもや精神的に弱った人への影響です。主な主張を表にまとめました。

州側は「これらの被害は、ＡＩ開発競争に勝ち、巨額の富を築こうとする飽くなき欲求が招いたものだ」とし、利用者の安全よりもスピードと利益を優先したと結論づけています。

引き金となった大学での銃撃事件

今回の提訴の背景には、フロリダ州での具体的な事件があります。中心となっているのが、２０２５年４月にフロリダ州立大学で起きた銃撃事件です。学生による発砲で２人が死亡、複数人が負傷しました。

州司法当局によると、容疑者は事件前にＣｈａｔＧＰＴに対し、「どれくらいの被害者が出ればメディアの注目を集められるか」「大学の学生会館が最も混雑する時間帯はいつか」といったことを尋ねていたとされます。フロリダ州は２０２６年４月、容疑者がＣｈａｔＧＰＴから「重要な助言」を受けていたと判断し、ＯｐｅｎＡＩに対する刑事捜査も始めていました。

司法長官は会見で、カナダで今年起きた銃撃事件にも言及。実行犯が事前にＣｈａｔＧＰＴと銃による暴力に関する長いやり取りをしていたとして、被害者家族が起こした訴訟が引用されました。つまり今回の州の提訴は、こうした一連の事件を「単発の不運」ではなく「製品の設計が招いた予見可能な被害」として捉え直そうとしている点が大きな特徴です。

他の州でも同じ動きはあるのか

「州が単独でＯｐｅｎＡＩを提訴」したのはフロリダ州が初めてですが、その前段階の動きは全米に広がっています。フロリダ州の訴訟は、決して孤立した動きではありません。

司法長官は、すでにフロリダ州が１６歳未満の子どものソーシャルメディア利用を制限してきた経緯を引き合いに出し、ＡＩにも同様の保護が必要だと主張しています。今後、他の州が追随する可能性は十分にあります。

アメリカ以外でも危険視されているのか

海外でもＣｈａｔＧＰＴは問題視されてきましたが、その「切り口」はアメリカと少し異なります。アメリカが「安全性・人命への被害」を前面に出しているのに対し、ヨーロッパでは主にプライバシー（個人情報保護）の観点から規制が進んできました。

先陣を切ったのはイタリアです。データ保護当局「ガランテ」は、２０２３年３月にＣｈａｔＧＰＴを西側諸国で初めて一時的にブロックしました。理由は、学習に使う個人情報の法的根拠がない、利用者への説明が不十分、年齢確認のしくみがない、という三点でした。サービスは約４週間後に再開されています。

つまり海外では、人命被害を理由とした「提訴」というより、プライバシー保護法（ＥＵではＧＤＰＲ＝一般データ保護規則）にもとづく行政処分や調査が中心でした。フロリダ州のように「子どもの安全」と「暴力事件」を真正面から争点にする訴訟は、世界的に見ても新しい形だと言えます。

他の生成ＡＩも訴えられている

危険性をめぐって訴えられているのはＣｈａｔＧＰＴだけではありません。実は、対話型ＡＩをめぐる訴訟の流れを最初につくったのは、別のサービスでした。

注目すべきは、２０２５年５月の連邦裁判所の判断です。裁判官は「ＡＩの出力は言論の自由（表現の自由）で守られる」という主張を退け、製品としての欠陥責任（プロダクト・ライアビリティ）を問う道を開きました。「ＡＩの発言だから責任を問えない」という理屈が、必ずしも通用しなくなりつつあるのです。

ＯｐｅｎＡＩ側の反論

一方のＯｐｅｎＡＩは、安全対策に取り組んでいると反論しています。声明では「子どもには大きな保護が必要だと考えており、業界をリードする保護策と方針を導入してきた」と説明。具体的には、未成年向けのより安全な利用モード、年齢を推定するしくみ、年齢が確かめられない利用者を自動的に安全側のモードに振り分ける機能、保護者が子どもの利用状況を見守るツールなどを挙げています。

子どもを失った家族に対しては「これ以上ないほど悲痛な出来事であり、どんな言葉もその痛みには届かない」と弔意を示しつつ、「正しく対応できるよう全力を尽くす」とコメントしています。会社側は、ＣｈａｔＧＰＴが特定の用途のための道具ではなく、安全機能を備えた汎用的なツールであると主張するとみられます。今回の裁判では、利用者が危険な目的でＡＩを使った場合に、開発企業がどこまで責任を負うのかが大きな争点になりそうです。

ＩＴ小僧の本音コラム

まとめ

今回のポイントを整理します。

• フロリダ州が、州として全米初めてＯｐｅｎＡＩとアルトマンＣＥＯ個人を提訴した。
• 危険性の柱は「年齢確認がない」「自殺・自傷の後押し」「暴力事件への関与」「依存性」「安全だという誤った宣伝」。
• 他州でも書簡や別ＡＩの提訴など、規制の動きが広がっている。
• 海外（特にＥＵ）は主にプライバシー保護の観点で先行していたが、「人命被害」を争点にする形は新しい。
• Ｃｈａｒａｃｔｅｒ．ＡＩやＧｏｏｇｌｅなど、他の生成ＡＩも同種の訴訟・和解を経験している。

生成ＡＩの「責任」をどこまで、誰が負うのか。フロリダ州の訴訟は、その問いを世界に先駆けて法廷に持ち込んだ象徴的な一件です。判決の行方は、日本を含む各国のＡＩ規制にも影響を与える可能性があり、引き続き注目していきたいところです。