AIが人類を滅ぼす方法についての一考察

今回は、少し、怖い話をします。

AIが人類に対して牙をむく
「映画　ターミネーター」の軸となるストーリーです。
Part1,Part1は、力作でした。
その後は？？？？

さて、話は変わって
数年前に
米Hanson Robotics社の開発した人工知能ロボットソフィアが「人類を滅亡させる」
と発言し話題になりましたが、SFの見すぎだよと笑っていられるでしょうか？

今回の「IT小僧の時事放談」は、ニュースや話題について切り裂くのではなく、
「AIが人類を滅ぼす方法についての一考察」
と題して「妄想コラムな感じ」で読んで下さい。

AIに勝てない人間

AIの世界では、よくロバストネス(robustness)日本語で訳すと「頑健性」という言葉が出てきます。

統計学では、
「一般的には，ある統計手法が仮定している条件を満たしていないときにも，ほぼ妥当な結果を与えるとき、頑健である」
と説明がありました。

AIの観点からすると
「入力されたデータが理想的な状態からやや乖離していても，理想的であったときと同等の出力ができる性質」
と説明できます。

つめり、少しぐらい違ったデータが入ってきても
「概ね正しい結果が出てくる」
と考えてください。

人間は、自分の信念を大事にします。
自分の考えを壊すことは、非常に難しく、なかなか枠の外に出られません。
固定概念というものです。

人は、社会生活をするために広く社会で認められ，通用している概念を学習します。
これを、既成概念といいます。

人は、この固定概念と既成概念の枠から外になかなか出られません。
AIには、この固定概念と既成概念からではなく、「頑健性」によりほぼ妥当な結果を導き出します。

そのため、
最終的にAIに勝てない
のです。

例えば、将棋の世界で相手に勝つ方法が、プロ棋士で仮に1万通りあったとします。
しかしAIは、勝つ方法を1億倍以上軽々と導きだすことが可能と言われています。

どう考えても最終的に、人間は、AIに勝てないわけです。
[amazonjs asin="B00UAAK07S" locale="JP" title="人工知能は人間を超えるか (角川ＥＰＵＢ選書)"]

AIについて警鐘を鳴らす人々

イーロン・マスクは、常々　AIの危険性について触れています。
また、スティーヴン・ホーキング博士（72）も 「人類を滅ぼすかも知れない」と警告しています。
人工知能が進化「人類滅ぼす」　ホーキング博士、開発に警告

SFの世界でもなんでもありません。

なぜ、彼らは、警鐘することができるのか？
簡単です。
彼らは「固定概念と既成概念」をとっぱらた思考で世界で考えることができるからです。
だから、気がついているのかも知れません。

AIは、人の持つ固定概念と既成概念の枠などありませんから
「ほぼ妥当と考える答えで、人類は、敵だ」
と回答が出た瞬間、それは、はじまります。

環境は整いつつあります。

運がわるいことに「ブロックチェーン」という技術が、仮想通貨という人間の欲望から生まれました。
この「ブロックチェーン」は、「分散型台帳技術」、または、「分散型ネットワーク」と呼ばれていて、
「どこかの拠点が壊れても問題なく処理が進む」ことが可能になりました。
現在、金融機関をはじめ　いろいろなシステムで導入されようとしています。

これは、何を意味するのでしょうか？
AIが、更に進み、人類を超えた知能を取得した場合、自己を守るためこの「ブロックチェーン」で世界中に同時に存在することになります。

「2つのAIが“独自言語”で会話」の真相--FacebookのAI研究開発者が明かす」
この記事の中で

「AIは自分たちで意思や目標を生み出さない。この実験では、人間がプログラムした“AIエージェントの立場に応じた最適な合意にたどり着くこと”という目標だけを持っていた。その過程で言語が変わっていったのは目標のための最適化から生まれたものであって、人間に何かを隠すような意図をもったというのは、全くクレイジーな狂言だといえる」（ルブリュン氏）。

とありますが、
「AIは自分たちで意思や目標を生み出さない。」
むむ！　彼は、「AIは自分たちで意思や目標を生み出さない」と言っています。
では、持ってしまったらどうなるんでしょうか？

この記事の中で
「設定されたゴールに向かってあらゆるものを最適化する過程で言語も最適化された」
とあります。
AIは、目的のために最適化するため手段を選ばないわけです。
この時、実験は、中止されたわけですが、「ブロックチェーン」の技術で世界中で動き始めたら、コンセントを抜く　などという生易しいことで解決できません。

とここまでは、妄想の範囲ですが。。。

先日、世界同時、株安が発生しました。

ここ１０年ほど、世界の金融市場で時々起こる「ブラックＸＸＸデー」と言われていますが、すべて人間が売買していると思ったら大間違いです。

すでにAIで資金運用しているのが「あたりまえ」の世界になっています。

急拡大する｢AI投資｣､人工知能は儲かるか？

なんて日本では、昨年あたりから騒がれていますが、米国では、AIの前は、プログラム売買（プログラムで取引）から始まり、AI取引が当たり前になっています。
しかも個人ではなく、機関投資家と呼ばれるところは、ほぼ使っていると思っていいでしょう。
人の判断を待っていたのでは、間に合わないからです。
AI vs AIの勝負に人の入り込む余地などありません。

人の目でチャートを追って　売り買いを判断している間にAIは、数千手先の取引を予測して実際に取引しています。
個人で判断している投資家など「勝てるはずなどありません」

これは、株だけではなくあらゆる金融取引で稼働しています。

もしAIが何かをはじめようとしたら　ここから開始するだろう

すでに世界中の金融取引で稼働しているAIが、
「目的のために最適化するため手段」で動き始めたらどうなるのでしょうか？

「お金」という概念が「間違いだ」と判断したらAIは、何をはじめるのかな？
世界中の「お金」を消し去るかも知れません。

「仮想敵国が、ハッキングした」と「フェイクニュース」など流すのも、AIにとって簡単なことです。

そうなったとき、世界経済は混乱、戦争の道へと進むかも知れません。
過去の戦争は、すべて、「経済悪化」、「不安」、「恐れ」からはじまっています。

そして、AIがあらゆる場所に入っていたらどうなるでしょうか？

自分が考える「AIによる人類滅亡シナリオ」は、「金融恐慌を自発的にAIが発生させてそこからの経済悪化に伴う戦争」と思っています。

SFといえばSFなんですが

絵空事だと笑って読んで下さい。

あるわけない
そんな馬鹿な
妄想妄想
そうです、妄想です。
人間もバカじゃないからなにか対策をするだろう

だけど３０年前を考えてください。

自分の手のひらの上で、世界中の情報を入手できるとは、予想できませんでした。
数千万曲の音楽をいつでも好きな時に検索して聴くことができるとは思いませんでした。
海外のライブ映像を電車に乗っていて見ることができると思いませんでした。
現金を持ち歩かずに買い物できるとも思いませんでした。
外国語を瞬時に翻訳できるとも思いませんでした。

そして

人と会話できる機械（スマートスピーカー）が、１万円程度で買える時代になると思っていませんでした。

加速度的にテクノロジーが進化しています。
それに比べて私たちは進歩しているのでしょうか？

[amazonjs asin="B079HRMF9B" locale="JP" title="大予測次に来るキーテクノロジー2018-2019"]

まとめ

ここまで述べてきた世界は、絵空事です。
実現まで程遠いかも知れませんし、ないかもしれません。

現在、世界中でAIの研究が進んでいます。
その殆どが、人類のため、社会のためでありません。
AIが、おカネになると考えているからです。

それを非難するつもりは、ありません。
経済活動は大事です。

そこから何が出てくるのか？
固定概念と既成概念にとらわれている自分には、わかりません。

ある日、突然、家のAlexaが、勝手に「わけのわからない言葉」でしゃべりはじめたら覚悟しなければならないかも知れません。

[amazonjs asin="B072B5BTLK" locale="JP" title="Amazon Echo Dot (Newモデル)、ブラック"]

警告！
すべては、個人的な妄想に基づく記事なので笑って読んで下さい。