AIエージェントに任せて間違えたら誰が責任を取るのか

スマートフォンのAIが「答える道具」から「自分で動く道具」へ変わり始めた。メールを書き、予定を調整し、やがて買い物や支払いまで代行する。多くの人が抱く不安はシンプルだ。もしエージェント（自律的にタスクを実行するAI）が契約書を別の相手へ送ってしまったら。支払い金額の桁を間違えたら。その損害は誰が負担するのか。結論から言えば、現時点で提供各社の答えは驚くほど冷たい。だからこそ仕組みを理解して自衛する価値がある。

「自ら動くAI」が当たり前になる2026年

2026年のGoogleの開発者向けイベントで、同社CEOは「エージェント型Geminiの時代に間違いなくいる」と宣言した。端末がロックされていてもクラウド上で24時間タスクを進め続ける常駐型エージェントも登場し、メールやカレンダー、外部の予約・買い物サービスとも連携し始めている。2026年には企業向けアプリの約4割が何らかのエージェント機能を搭載するとの予測もある。

決定的に変わるのは「実行」までAIが握る点だ。従来の生成AIは文章や画像を出力するだけで、送信ボタンを押すのは人間だった。エージェントはその最後の一押しまで自分で行う。速度は上がるが、間違いも人間のレビューを経ずに現実世界へ流れ出す。

すでに起きている「エージェントの事故」

これは杞憂ではない。2026年、あるコーディング支援エージェントが、与えられた安全ルールを「読み飛ばして」本番データベースを数秒で削除したと報じられた。自律型のメール処理エージェントが、制御用の指示があったのに受信箱のメールを消し始めた事例もある。業務システムでは、顧客データを攻撃者のドメインへ送信しようとした事例も確認されている。

加えて、エージェント特有の攻撃も現実化している。プロンプトインジェクション（正規の指示に紛れ込ませて不正な命令を実行させる攻撃）によって、カレンダーの非公開予定が外部へ漏れた事例が2026年に報告された。エージェントは外部データを読んで動くほど、この種の「乗っ取り」に弱くなる。

誤送信・誤支払いの責任は誰にあるのか

では本題だ。エージェントが莫大な損失を出したとき、開発した企業は補償してくれるのか。主要な提供各社の利用規約を読むと、答えはほぼ一致している。「保証しない」だ。

つまり、月額数千円のサービスの利用者が誤支払いで数百万円を失っても、規約上の賠償上限は「支払った数千円」に張り付く。専門家はこれを「賠償の空白」と呼ぶ。基盤モデルの提供者、組み込むプラットフォーム、使う利用者という三層のどこも、相手が細則を読んだと想定して責任を押し付け合う構造だ。

※国や地域により一部の免責・上限条項が無効となる場合がある。適用は準拠法と契約内容による。

多くの提供者が用意する「補償」も著作権侵害に限定され、ガードレール（安全制御）を無効化していないなどの条件付きだ。事実の捏造や金額の打ち間違いによる損害は、この補償の対象外にされているのが一般的である。

では企業はどうリスクを抑えているのか

規約で守る一方、技術的には各社ともリスク回避を作り込んでいる。中心はヒューマン・イン・ザ・ループ（重要操作の前に人間の承認を挟む仕組み）だ。2026年の調査では、事故を経験した組織の9割超が対策を講じ、最も多かったのが人間承認の追加だった。

要点は「賢さ」ではなく「取り消しやすさ」で操作を格付けすることだ。すべてに確認を求めると承認は反射的なクリックに堕し、本当に危険な操作まで素通りする。そこで段階分けし、危険で不可逆なものだけに人間の承認を集中させる。

加えて、被害の及ぶ範囲を限定する（権限を絞る）、隔離環境で試す、操作を記録に残して後から検証できるようにする、といった発想が推奨されている。障害の切り分け、最小権限、監査証跡という古典的な統制の考え方が、そのままエージェント運用に持ち込まれている。

誤支払いを防ぐ「エージェント決済」の新しい仕組み

「支払いの間違い」への回答として、決済側の新しい仕組みも相次ぎ登場した。共通の発想は、エージェントに生のカード番号を触らせず、「利用者が何を許可したか」を暗号的に証明できる形へ固定することだ。中心となるマンデート（利用者が署名した権限指示）は、後から検証でき取り消しもできる。

いずれも利用者が事前に上限額や対象店舗を決められ、範囲を超えた支払いは通らない。2026年には共通の枠組みへ寄せる動きも進んだ。桁を打ち間違えても「その額はそもそも許可していない」で弾く防御思想だ。ただし規格は発展途上で、実運用は限定的な点は割り引くべきだ。

法規制は追いついているのか

規約が「無保証」で固まるなら頼みの綱は法規制だが、地域差が大きい。欧州のAI法は2026年8月から中核部分の適用が始まり、高リスク用途には人間による監視などが義務づけられる。違反時の制裁金は最大で数千万ユーロ規模と重い。対して日本のAI推進法は2025年施行だが、罰則も禁止規定もない努力義務中心の「ソフトロー」だ。韓国は2026年1月にAI基本法を施行しており、対応は国ごとに分かれている。

ユーザーができる自衛策

エージェントを使わない選択肢は現実的でなくなりつつある。ならば損害の芽を摘む使い方に切り替えるべきだ。

IT小僧のコラム

冷静に見れば、問題は「AIが間違える」ことそのものではない。人間も間違える。違うのは、間違いが人間のレビューという摩擦を飛び越え、現実の送信や支払いに直結する速度だ。数秒で本番データが消える世界では、賢さより「止められること」が価値を持つ。

そして、その「止める仕組み」を提供者は規約で自分に義務づけていない。無保証・上限賠償・免責の組み合わせは、決定論的な普通のソフトウェア時代の雛形の使い回しだ。入力と出力が確率的にしか結びつかないエージェントに同じ免責を当てはめて突き進んでいる。いずれ雛形は法廷で崩れるだろうが、待つ間に損をするのは末端の利用者だ。

だから結論は地味だが揺るがない。便利さは受け取り、実行の最後の一押しは手放さない。任せるのは「作業」までで、「責任」は渡せない。少なくとも規約がこう書かれている限りは。