AIが100人殺しても無罪？ 米「SB3444」が問う"AIの責任"の正体

ＡＩが大惨事を起こしても「免責」？　SB34444の衝撃

イリノイ州議会で審議中のSB34444は、正式名称を「人工知能安全法（アーティフィシャル・インテリジェンス・セーフティ・アクト）」という。一見すると安全規制の体裁をとっているが、その核心は「免責シールド（ライアビリティ・シールド）」にある。

対象となるのは、学習に１億ドル超の計算コストをかけた巨大な「フロンティアモデル」だ。この規模は事実上、世界トップ級の開発企業のみが該当する。法案が成立すれば、これらの企業は重大な被害を引き起こしても、一定の条件下では民事訴訟から保護される。

免責の条件は二つ。第一に、開発企業が事故を「故意または無謀（インテンショナル・オア・レックレス）」に引き起こしたのでないこと。第二に、安全・セキュリティ・透明性に関するレポートを自社サイトで公開していること。この二つを満たせば、たとえ大惨事が起きても、法的責任を免れうるという設計だ。

「重大被害」の定義はどこからか

法案は「重大被害（クリティカル・ハーム）」を、極めて高い閾値（しきいち）で定義している。日常的なトラブルではなく、社会を揺るがすレベルの大惨事だけを対象としている点が特徴だ。

ここで注意すべきは、この閾値が「異常に高い」という点だ。差別の助長、個人レベルの安全被害、広く薄く広がる金銭的損失――こうした「中間領域」の被害は、この法案の射程にまったく入らない。専門家からは、現実に多くの人を苦しめる被害が放置されるとの指摘が出ている。

OpenAI（オープンＡＩ）対Anthropic（アンソロピック） ― 割れる開発企業

この法案が注目を集めるのは、ＡＩ業界の二大企業が正反対の立場を取ったからだ。

OpenAI（オープンＡＩ）は２０２６年４月、イリノイ州議会の公聴会でSB34444への支持を表明した。同社はこれまで、自社の責任を重くする法案には防御的に反対する姿勢が目立っていたが、今回は自ら踏み込んで免責の枠組みを後押しする側に回った。これは同社の規制戦略の転換だと受け止められている。

これに真っ向から反対したのがAnthropic（アンソロピック）だ。同社の担当者は、良質な透明性立法は公共の安全と企業の説明責任を確保すべきであり、「あらゆる責任からの“免罪符（ゲット・アウト・オブ・ジェイル・フリー・カード）”を与えるものであってはならない」と批判した。

Anthropic（アンソロピック）が代わりに支持するのが、別の法案SB3261だ。こちらは免責ではなく、安全計画と子どもの保護計画の公開、第三者監査、重大インシデントの当局報告を義務づける。成立すれば全米でも最も厳格なＡＩ安全法の一つになるとされ、両者の思想の違いがくっきり表れている。

なお複数の政策専門家は、イリノイ州がもともとＡＩ規制の先進州である（昨年は「ＡＩセラピー」を禁止した）ことから、SB34444の成立可能性は低いと見ている。一方で、同様の免責立法が他の複数州でも検討されており、「企業を呼び込むために責任を緩め合う“底辺への競争”が始まるのでは」という懸念も語られている。

欧州（ＥＵ）― 厳格責任への道と「責任指令」の挫折

米国が「免責」の議論をしている裏で、ＥＵは逆方向に進んでいる。ただし、その道のりは平坦ではなかった。

ＥＵは当初、被害者がＡＩ企業を訴えやすくする「ＡＩ責任指令（ＡＩライアビリティ・ディレクティブ）」を準備していた。立証責任を軽くし、技術文書の開示を企業に求める内容だ。しかし、産業界からの強い反発もあり、加盟国間で合意の見通しが立たず、２０２５年２月に欧州委員会はこの指令案を撤回した。撤回は同年１０月に正式公示されている。

それでも被害者の救済が宙に浮くわけではない。改正された製造物責任指令（ＰＬＤ）が、ソフトウェアやＡＩを「製品」として明確に位置づけたからだ。この指令の下では、製品の欠陥によって被害が生じた場合、メーカーの過失を証明しなくても賠償を請求できる「厳格責任（ストリクト・ライアビリティ）」が適用される。一定の場合に欠陥を推定する仕組みも盛り込まれた。改正指令は、２０２６年１２月以降に市場投入される製品に適用される。

一方、包括規制である「ＥＵ・ＡＩ法（ＡＩアクト）」は段階的に施行中だが、負担の大きい高リスクＡＩ向け規則については、欧州委員会が２０２５年１１月に最長１６か月の適用延期（２０２７年１２月まで）を提案している。「厳格に責任を問う枠組み」と「産業界への配慮」の間で、ＥＵも揺れているのが実情だ。

日本 ― ソフトロー路線と「既存法でさばく」現実

日本は、米国型の「免責」とも、ＥＵ型の「厳格規制」とも異なる第三の道を選んだ。

２０２５年６月に公布、同年９月に全面施行されたＡＩ推進法（人工知能関連技術の研究開発及び活用の推進に関する法律）は、日本初のＡＩ関連の基本法だ。だが、その最大の特徴は「罰則がない」こと。企業に課されるのは努力義務が中心で、いわゆるソフトロー（拘束力の弱い枠組み）アプローチを採用している。国は悪質な事案について調査や指導・助言を行えるが、強制力を伴う制裁はない。

では、ＡＩが実際に被害を起こしたらどうなるのか。答えは「既存の法律でさばく」だ。代表例が自動運転である。現行の枠組みは概ね次のように整理されている。

ここに大きな論点が潜む。ＰＬ法が責任を問う対象は「製造物」、つまり物理的なモノだ。車体は対象になるが、それを動かすソフトウェアそのものは「製造物」に当たらないという解釈上の壁がある。ＡＩの判断ミスが原因の事故で、誰の・どの責任に落とし込むかは、なお詰めの議論が続いている。日本は２０２５年１２月に「人工知能基本計画」を閣議決定し、信頼性確保を政策の柱に据えたが、被害が起きたときの責任配分そのものを定める専用ルールは、まだ整備の途上にある。

中国 ― 国家主導・「標識義務」とプロバイダー責任

中国は、ＥＵのような単一の包括法ではなく、既存法と分野別の規定・国家標準を組み合わせる独自モデルでＡＩを統治している。

中核にあるのは「生成式人工知能サービス管理暫定弁法」（２０２３年施行）などの規定だ。これらは、サービスを提供する事業者（プロバイダー）に重い責任を課している点に特徴がある。生成された内容の適法性や、利用者保護の確保が事業者の義務とされる。

さらに２０２５年９月からは、ＡＩが生成・合成したすべてのコンテンツに「標識（ラベリング）」を義務づける新規制が施行された。利用者が見て分かる「明示的標識」と、データに埋め込む「暗黙的標識」の二重表示が求められる。標識の悪意ある削除・改ざんも禁じられ、違反すれば事業者が責任を問われる。誤情報の拡散防止と社会の安定を重視する、中国らしい統治思想が色濃い。

四極比較 ― 「ＡＩの責任」をどう設計するか

同じ「ＡＩの責任」という問いに対し、各地域のアプローチは驚くほど異なる。要点を一覧にまとめた。

自動運転・ヒューマノイドが突きつける「次の問い」

これらの議論は、決して抽象論ではない。自動運転車はレベル３が解禁され、レベル４のトラック物流も動き出した。ＡＩが人の代わりに判断し、システムを稼働させる場面は確実に増えている。さらに、ヒューマノイド（人型）ロボットが現実世界で人と並んで作業する日も近い。

物理的に動くＡＩ、いわゆる「フィジカルＡＩ」が人を傷つけたとき、責任は――製造したメーカーか、ＡＩモデルを開発した企業か、運用した事業者か、それとも利用者か。ＥＵはＰＬＤの厳格責任で「まず製品メーカーが負う」方向を示しつつある。日本も欠陥はメーカー責任という整理だが、判断を下した「ソフトウェア」の責任をどう扱うかは未解決のままだ。

そして、生成ＡＩが書いたコードで動くシステムが社会に多数稼働している事実も見逃せない。「誰が作ったか曖昧なシステム」が被害を起こしたとき、責任の連鎖をどこまでたどれるのか。SB34444の免責論は、この問いに「線を引いて開発者を守る」という一つの答えを出した。だがその線引きが妥当かどうかは、まさに今、世界中で問われている。

まとめ

※本記事は公開情報をもとに２０２６年６月時点で整理したものです。法案は審議中であり、内容や成立状況は変動する可能性があります。具体的な法的判断については専門家にご相談ください。