AI 悪夢の４シナリオ

すでに「AI使ってます」なんて知らされることもなく当たり前のようにAIの恩恵を受けている時代となりました。
皆さんが、普段使っているスマートフォンで使っているサービスサイトでは、AIは自己主張もしないで使われています。

また、サポートセンターに電話したら「AIと話をしていた」なんてことが、起こり始めています。

生活に役に立つことを強調されているAI

でも、世の中、善人ばかりではありません。

今回の
「IT小僧の時事放談」
では、
「AI　悪夢の４シナリオ」
と題して
「悪に使われるAI技術」について考えてみました。

今回も小難しい話をできるだけ簡単に解説しながらブログにしました。
最後まで読んでいただけたら幸いです。

悪夢の報告書

オックスフォード大学、ケンブリッジ大学、非営利団体のオープンAI（OpenAI）、電子フロンティア財団などに所属する20名以上の研究者が発表した報告書に、AIが犯罪者や政治家、独裁国家に新たな機会を与えていると記載されています。

「AIの悪意のある利用：予測、予防、緩和」
The Malicious Use of Artificial Intelligence: Forecasting, Prevention, and Mitigation

そこには、４つのシナリオが記載さえています。

シナリオ１：フィッシング詐欺

あるビルのセキュリティシステムの管理者が、勤務時間中にFacebookのを見ていた。
Facebookの広告に列車模型の広告をみつけカタログをダウンロード
そのカタログがマルウェアになっていて、ビルのセキュリティシステムのIDとパスワードを入手、ビルのすべてを支配してしまう。

とここまでは、いまでもある話
問題は、ここからです。

このマルウェアが仕組まれたのカタログは、AIが、管理者が普段Facebookに投稿した内容を調べて列車模型の愛好家であると判断して、管理者のためにマルウエアを組み込んだカラログを作成

要は。不特定多数を狙うのではなく、ターゲットのビルのセキュリティシステムの管理者の好みにあったカタログをAIが作成するという計画的な犯行が可能

ということです。

問題は、ターゲットを絞ってフィッシング詐欺をAIが仕掛けることができるということです。

どうです。

十分実現可能だと思いませんか？

シナリオ２：強力なマルウェアを作成

あるハッキンググループ（原文では、東ヨーロッパと書かれている）が、囲碁用AIのアルファ碁（AlphaGo）に使われた、攻撃方法を生み出し続けるというAIを利用して、コンピュータを攻撃する新たなマルウェアをつくり続ける。
セキュリティが甘いコンピュータやスマートフォン（デバイス）に送り込み、解除のための身代金（300€：ビットコイン）を請求する。
問題なのは、いったん防御してもAIが次の攻撃方法を作り出すためにスマートフォンは、何れ文鎮化することであろう。

人間が、マルウェアをつくらなくてもより賢いマルウェアをAIが作ってしまう。

シナリオ３：殺人ロボット

清掃用ロボットにAIを組込んでドイツの財務省に他のロボットと混在させて侵入させる。
通常は、清掃しているのですが、顔認識機能で財務大臣を特定するようにして接近、自爆して目的を達成する。
犯人を捜査しようとして清掃用ロボットの代理店にたどり着くが手がかりはない。

まるで映画のような話ですが、今のテクノロジーで実現可能です。
犯人の足取りは、わかるので逮捕されると思いますが・・・

シナリオ４：独裁権力の味方

独裁権力に対して反対する男が、インターネットに反政府を訴え、抗議活動のためデモに使う看板などの資材をネットで発注、公演で演説、翌日、警察が男を見つけ逮捕される。
AIをつかった「社会騒乱予測システム」が、この男は、権力に驚異があると判定して排除の処理を人間に命令する。

これは、すでにどこかの国で現実に起きているような気がします。
と思っていたら、すでにやっていたりして・・・

中国の監視網がたちまち人を特定　AI付き監視カメラ全国に
http://www.bbc.com/japanese/video-42304882

目的は、犯罪者の取締ということになっています。

対応策はない

報告書には、AIの脅威への対抗手段は、あまり語られていません。
AIのリスクと研究者に倫理規定が必要であると提案するにとどまっています。

ダイナマイトも平和利用といいつつ、軍事目的で広がっていったわけだし、テクノロジーは、つねに戦争に利用されてきました。

アニメの機動戦士ガンダムも戦争がテクノロジーの進歩を早めていることについて触れられています。

残された手段は、「規制」ということですが、問題は、規制が難しいということです。

AIは、すでに有料無料を合わせてツールが広がっています。
特別な専門家でなくてもツールを使ってAIを利用することができるということで規制するためには、AIツールをすべて廃止するしかありません。
すでに広まってしまったものに規制をかけるのは、現実的に不可能です。

まとめ

ナイフは、使い方によって「便利な道具」ですが、「人を傷つける道具」になります。
AIも同じで、ネットワーク犯罪、金融経済破壊、大量破壊兵器の開発など利用することができます。
しかもナイフと違って、人間より賢く、早く　課題解決ができてしまうので人間には止める術がありません。

AI暴走した場合、手がつけられなくなります。

しかし、AIも所詮、「今のところ」は、道具です。
使うのは、人間です。
人間の倫理観でコントロールできるはずです。

近い未来　AIが自立したら
「ブラックAI」に対抗する「ホワイトAI」の戦争がはじめるかも知れません。

ターミネーターのような世界が来るかどうか？

それともウォーゲームのように「争いは無意味」と悟ってくれるのか？

未来は予測不可能です。