映画：ウォーゲームが現実になるのか？軍事戦略をAIが後押し　三目並べで教育できればよいのだが

『ウォー・ゲーム』（原題: WarGames）という映画ご存知ですか？
1983年に北米で公開されたAIと核戦争をテーマにしたものです。

おっさん世代のコンピューターマニアの金字塔的存在になっているかも知れません。
そこに登場しているコンピューターが、IMSAI 8080だったり、電話を無料でかけてしまう古きハッキングテクニックだったり、随所で「ニヤリ」とするシーンの連続

IT小僧もオッサン世代なので当時、映画を観たのですが、かなり深刻な話で今回取り上げる話題に関係するかも知れません。

今回のIT小僧の時事放談は
映画：ウォーゲームが現実になる？　米国の軍事戦略をAIが後押し
と題して、戦争に組み込まれてゆくAIについて考えてみよう。

小難しい話をわかりやすく解説しながらブログにまとめました。
最後までお付き合いいただけたら幸いです。

ポーカーで圧勝したAI

AIは、加速度しながら進歩しています。
チェスからはじまり、囲碁、そしてもっとも難解と言われている将棋でもプロを負かすようなレベルまで到達しています。
そして、ポーカーも人間が、勝てない状況になってきています。

2017年、人工知能（AI）の「Libratus（リブラトゥス）」は、トッププレイター４人を相手にで大勝を飾りました。

チェス、囲碁、将棋は、過去の膨大な対戦記録（棋譜）が公開されているのでそれを学習することで勝つための定石を手に入れました。
これを「完全情報ゲーム」と呼びます。

一方、ポーカーの場合、相手の手が見えない「不完全な情報」を元にしているため、より高度な知識や経験、勘のようなものが必要になります。
こちらは、「不完全情報ゲーム」と呼びます。

注目すべきことは、「不完全情報ゲーム」において
「自分自身で戦略を作り出すアルゴリズムの搭載」
これを
「計算的ゲーム理論（computational game theory）」
よ呼びます。

自身の動きに対して相手がどのように反応するかを分析し「はったりをかます」こともできるようになりました。
ここまでくると、単なる。情報処理ではなく知識や知恵を持っていると言っていいでしょう。
Libratusについては、こちらに記事があります、
https://www.gizmodo.jp/2017/02/ai-won-against-poker-pro.html
https://thegradient.pub/libratus-poker/

計算的ゲーム理論（computational game theory）の応用

Libratusの開発者は、カーネギーメロン大学の研究者たちです。
開発チームの中心であるトゥオマス・サンドホルム氏（Tuomas Sandholm）は、「計算的ゲーム理論」を実践に応用するために
ストラテジー・ロボット社（Strategy Robot）
ストラテジック・マシーン社（Strategic Machine）
という２つのスタートアップ（起業）を開始しました。

ストラテジー・ロボット社（Strategy Robot）

起業の目的は、計算的ゲーム理論（computational game theory）を応用して主に政府機関に対してビジネスを展開、その目的は、軍事演習やシミュレーションによる訓練し、軍事上の戦略や計画の立案なども視野に入っています。

米軍と契約

ストラテジー・ロボット社は、2018年8月に米軍と契約します。
契約内容は、
米国防総省の組織「ディフェンス・イノベーション・ユニット・エクスペリメンタル」（DIUx：国防イノベーション実験部隊）
への「サポートであろう」と言われていますが、内容は機密事項のため不明
あくまでも推測です。

ストラテジック・マシーン社（Strategic Machine）

こちらは、計算的ゲーム理論の民間活用が目的で　電力市場、スポーツなどの商業的に応用することが目的です。

Project Maven（プロジェクト・メイヴン）

米国国防総省は、AIを軍事用するためにProject Maven（プロジェクト・メイヴン）を立ち上げる。
Project Maven（プロジェクト・メイヴン）は、商用AI技術を軍事に応用するプロジェクトでAIで有名なIT企業と協力していると言われています。

GoogleのAI利用に関する７つの原則　４つの領域

2018年、Googleでこんな事が起こりました。

AIを軍事利用することに反対したGoogleの社員退職
4,000人以上の反対署名も集まる。
https://www.gizmodo.jp/2018/05/googlers-quit-in-protest-over-drone-ai.html

最終的には、『AI利用に関する原則』を発表

Google『AI利用に関する原則』公開：軍事・国際法・人権に反する利用を禁止
https://news.yahoo.co.jp/byline/satohitoshi/20181231-00109705/

AI利用に関する７つの原則

社会に貢献できる利用（Be socially beneficial）
不公平な偏見が生じる利用をしない（Avoid creating or reinforcing unfair bias）
安全な開発設計とテスト（Be built and tested for safety）
説明責任を果たす（Be accountable to people）
プライバシーの保護（Incorporate privacy design principles）
研究成果の標準化と知識の共有（Uphold high standards of scientific excellence）
有害な利用の制限（Be made available for uses that accord with these principles）

AIを利用しない4つの領域

有害な事象を発生させる可能性のある技術
人間に危害を与えることを目的とした武器、その他の関連技術
国際的なプライバシー規範に反する監視のための情報収集に利用する技術
国際法と人権の原則に反する技術

AIの最先端を突き進むGoogleがAI利用原則を示したことは、世界中のAI研究者から賞賛の拍手が贈られたことだろう。

AIを制するものが世界を制することができる。

人々のAIの平和利用の願いなど　軍事に置いては、待ったなし状態

ロシアのプーチン大統領は、以下のように発言をしている。
「AI分野で先頭に立つ者が世界の支配者になるだろう」

中国では、2017年に、人民解放軍国防大学がAIシステムを相手にした机上演習の全国大会を開催している。

AIも含む ITテクノロジーは、これからも軍事に応用されることでしょう。
テクノロジーと戦争は、切っても切れない状況なのです。

ストラテジー・ロボット社（Strategy Robot）
ストラテジック・マシーン社（Strategic Machine）
２つの企業をスタートアップさせた　トゥオマス・サンドホルム氏は、

AIの軍事利用に対するこうした懸念は過剰なものだと考えている。
国防総省が米国の平和を守り、業務効率を高めるために、AI技術は重要だというのが彼の主張だ。
「AIによって世界はずっと平和になる。わたしはそう思います」
WIRED参照

とコメントを残している。

まとめ

映画『ウォー・ゲーム』の冒頭で
核ミサイル発射命令が、発行されます。
当時、核ミサイルは、２人の担当者が、同時に鍵を回すシステムになっているのですが、
「鍵を回せない軍人」が描写されています。
「俺には、できない」というシーンは、象徴的です。

この実験を元に
「戦略的に人間は、信用できない」
と軍が考え
「AIコンピュータによる運用を開始」
そこから世界を破滅に巻き込む事件に発展するというストーリーです。

映画『ウォー・ゲーム』をご覧になった人ならばわかると思いますが
今のAIは、「三目並べ」程度では、ごまかせないような気がします。

映画『ウォー・ゲーム』これは、今の時代を予見した傑作です。
機会があったらぜひ見て下さい。

[amazonjs asin="B000XJ5UYY" locale="JP" title="ウォー・ゲーム DVD"]

映画：ウォーゲームが現実になるかも知れない？ 軍事戦略をAIが後押し