ローマ法王庁科学アカデミーでロボット工学新原則を発表した理由とは？

TNG(Star Trek: The Next Generation)という海外ドラマをごお存じですか？
24世紀に宇宙艦隊という組織のEnterpriseという宇宙戦艦で宇宙を探査（Star Trek）するという売国のSFドラマです。

この物語に登場するアンドロイドのデータ少佐というキャラクターが登場します。
人間以上の頭脳とパワー、能力を持っていながら宇宙艦隊という組織の中に所属、人としての生活（例えば性行為などを含む）を営み、人間を学びながら、自己を確立してゆくという話です。
ある意味、完璧なロボットとも言えるでしょう。

しかし、ローマ法王庁科学アカデミーで話された内容が、現実になると　データ少佐は、登場しないかも知れません。

今回のIT小僧の時事放談は、
ローマ法王庁科学アカデミーでロボット工学新原則を発表した理由とは？
と題して、フランク・パスカーレ（Frank Pasquale）氏が、ロボットの新しい四原則を提唱舌内容について考えてみよう。

小難しい話をわかりやすく解説しながらブログにまとめました。
最後まで読んでいただけたら幸いです。

スポンサーリンク

ロボット三原則

1942年、SF作家アイザック・アシモフ（Isaac Asimov）氏は、小説内で、ロボットが従うべき原則「ロボット工学三原則」を発表しました。

第一条

ロボットは人間に危害を加えてはならない。また、その危険を看過することによって、人間に危害を及ぼしてはならない。

第二条

ロボットは人間にあたえられた命令に服従しなければならない。ただし、あたえられた命令が、第一条に反する場合は、この限りでない。

第三条

ロボットは、前掲第一条および第二条に反するおそれのないかぎり、自己をまもらなければならない。
— 2058年の「ロボット工学ハンドブック」第56版、『われはロボット』より

アシモフ氏の小説では、この三原則を守らないようなストーリー展開もあるが、

「実はXXXXだった」

というように最終的には、ロボット三原則に合っていた作品が多い。

このロボット三原則は、小説の枠を越えて、ロボット工学の人に強い影響を与えてきました。

ターミネーター

このロボット三原則を破壊したのが、有名なターミネーターをはじめAIが、人類の敵になって
「人を殺しまくる殺人マシン」
のSF映画が登場

ターミネーターはその代表で、人類より進化したAIが、人類を敵とみなして抹殺を図るという近未来ドラマです。
アーノルド・シュワルツェネッガーが、メジャーデビュー、この１作でスター街道まっしぐら、カリフォルニア州知事になるまで出世しました。

人類の敵は、スカイネットと呼ばれるAI集合体のようなもので殺人ロボットを過去に送り、人間のリーダーの母親を抹殺させようとターミネーターと呼ばれる殺人ロボットを送り込む。

とにかくターミネーターは、ロボット三原則など「クソくらえ」状態で全作を通じて人を殺しまくります。

もっとも
日本のロボットアニメもマジンガーZをはじめ、人間を抹殺するためのロボットが登場、もっともこちらは、正義のロボットが登場して、戦うというストーリーになっています。

AIとロボット

これら、SF映画はさておき、ロボットが殺人兵器になるのが、現実的になってきました。
米軍をはじめ、最先端の軍事兵器では、無人の偵察機や爆撃機が、実践利用されています。

現在は、まだ、人間の命令で指定した場所に爆弾を落とす程度ですが、やがてAIの発達により、自己完結で行動し、敵とインプットされたに建物や人間を抹殺するというレベルになるでしょう。

そうなると、まさにターミネーターそのものの登場となる日も近いと思われます。

また、AIの発達により、人間の知識、技術を凌駕する日も近く、すでにチェス、囲碁、将棋では、人間が勝てない状況になっています。

AIの実用化も多くなってきていて

タクシーでは、どこに行けば、客がいるか？
漁業では、どこにいけば、魚がいるか？
農業でもより多くの収穫を導き出したり
医学では、人間では発見できない病気を見つけたり

金融などでは、すでに人間の判断では、勝てないほどAIが取引を自動で行っています。
こうなると個人投資家など多くの人は負け確定となります。

AIは、困ったことにプログラミングではないため
どうしてその答えがでてきたか？
という、理由付けがありません。

人間にもわからない仕組みでAIは、進化しようとしているのです。

AIにとって重要な情報は、インターネットという世界最大のデータベースともよべるものがあるので学習するデータは、無限と言っていいでしょう。

そしてこれらAIの進化は加速度的に進歩していて、近い内にAIがAIを創造しはじめるだろいと言われています。

新たな原則の制定

フランク・パスカーレ（Frank Pasquale）氏は、法律と人工知能（AI）の専門家で米メリーランド大学（University of Maryland）に所属している。

彼は、「New Laws of Robotics（ロボット工学の新原則）」を近々出版予定
その著書の中で

「日常で使われるロボットやAIに対し、新たに四原則を適用すべき」
と主張している。

バチカンのローマ法王庁科学アカデミー

フランク氏は、2019年5月
バチカンのローマ法王庁科学アカデミー（Pontifical Academy of Sciences）で開催された

「ロボット工学会議」

において

「ロボットは専門職の代替ではなく、補完であるべきだということが一つ目の原則だ」

とコメント

参考までに

ローマ教皇庁科学アカデミー（イタリア語: Pontificia accademia delle scienze、ラテン語: Pontificia Academia Scientiarum）はバチカン市国の科学アカデミーである。1936年にピウス11世によって改組。設立された[1]。数学、物理、自然科学や関連する認識論的問題の研究の進展を推進するために設立された。
ウィキペディア

映画「天使と悪魔」に出てきそうな組織ですね。
[amazonjs asin="B00JGI56YC" locale="JP" title="天使と悪魔（上中下合本版） (角川文庫)"]

ロボット工学の新原則

では、フランク・パスカーレ（Frank Pasquale）氏のロボット工学の新原則をみてみよう。

１条

「ロボットは専門職の代替ではなく、補完であるべき」

２条

「ロボット兵器の開発競争をやめなければならない」

３条

「人間を模したロボットやAIを作らない」

４条

「個人や個人で構成される企業に帰属または所有されるべきである」

詳しくみてみよう

１条
「ロボットは専門職の代替ではなく、補完であるべきだ」

ロボットは、専門職そのものではなく、保管するもので最終的な決断は、専門職の人間が行う。
AI医者が診断をしては、いけない。ということになります。
拡大解釈すると、現在、金融業界で日常で使われている

「AIによる自動売買」もNGということになる。

専門家が決断していないわけですからあ１条に反しています。
自動運転カーもNGっぽいですね。

２条
「ロボット兵器の開発競争をやめなければならない」

無人攻撃機、無人偵察機もNG
ターミネーターなどもっての外
人造人間キカイダーのギル博士も刑務所行きですね！

３条
「人間を模したロボットやAIを作らない」

TNG(Star Trek: The Next Generation)のデータ少佐もNG

もちろんターミネーターもNG

人造人間キカイダーのギル博士も２つ目の違反

ASIMOくんやPepperくんもNGかな？

ドラえもんは、猫型なのでOK？

ただし、ここには、例外があった。
パスカーレ氏によると

「介護ロボット」、「セックスロボット」など、「その任務遂行に不可欠な場合」は、人型ロボットはOKらしい。

データ少佐やASIMOくんやPepperくんは、大丈夫かも知れない。
セクシー系の人形は大丈夫そうですね。
日本の技術は、世界一ですから・・・・

フランク・パスカーレ（Frank Pasquale）氏によると
ホテルなどの電話予約を代行するグーグル（Google）のソフトウエア「デュープレックス（Duplex）」は。NGだそうです。

「最も重要な原則は、人間のふりをさせてはいけないということだ」
とコメントしています。

４条
「個人や個人で構成される企業に帰属または所有されるべきである」

フリーで活動しているロボットはNGということで、ほとんどのロボットは、企業や組織に属しているので問題なさそうである。

データ少佐も「宇宙艦隊所属」まもでセーフです。
ところでフリーで活動されているロボットってなんだろう？

悪の結社が持っているロボットも組織所有だからよいのでしょうか？

以上４条が、フランク・パスカーレ（Frank Pasquale）氏の主張である。

まとめ

フランク・パスカーレ（Frank Pasquale）氏のロボット工学の新原則をみてきましたが、ロボット（人形）に関する日本人と欧米人の差があるような気がします。

「人間を模したロボットやAIを作らない」という第３条は、日本人からすると
なぜ？　という感覚があります。

子供の頃からロボットに対する親しみは、欧米人はないのでしょうか？

また、人間を基準においているのも文化の違いでAIBOなどのロボットはOKで（例えば）ASIMOはダメという理由が理解できない。

近い将来、AIを搭載したお手伝いロボットが登場、そしてその先には、人と共生するアンドロイドも登場してくるであろう。

IT小僧は、個人的に、フランク氏に「AIの遺伝子」というコミックを読んでほしいと思っています。

[amazonjs asin="B01DUC3V14" locale="JP" title="AIの遺電子　１ (少年チャンピオン・コミックス)"]

AIが、発達してやがてロボットと融合し、アンドロイドという新しい人類が誕生するかも知れません。
そんなのSFの世界と思いますが、「たった１０年」でスマートフォンという、万能コンピューターが、ポケットに入る時代となったのです。
たった１０年、これからの１０年なんて何が起こるかわからないのです。

フランク氏は、その時代を見越していて危険性を感じているのでしょうか？
科学技術は、戦争で使われることで発展してきました。
しかし、AIは、これまでの科学とは違う。
自己成長させることができる可能性があるのです。

スポンサーリンク