IT小僧の時事放談

理由なきAIの判断にあなたは従えますか? NHKスペシャル▽人工知能 天使か悪魔か2018未来がわかる その時あなたは

投稿日:

468 x 60 バナー広告A

「AI失業」前夜―これから5年、職場で起きること (PHPビジネス新書)

「NHKスペシャル AIに聞いてみた どうすんのよ!?ニッポン」
マツコ・デラックスと有働由美子がMCの番組でいろいろと世間を騒がせているらしいです。

自分は、バラエティ番組が好きではないので観てはいないのですが、
AI大好きNHKが、NHKスペシャルで人工知能番組を放映しました。

2018年9月15日(土)放送
NHKスペシャル▽人工知能 天使か悪魔か2018未来がわかる その時あなたは

内容が、ショッキングだったのでなにか残したいと思い、ブログにまとめます。

今回のIT小僧の時事放談は、
理由なきAIの判断にあなたは従えますか? NHKスペシャル▽人工知能 天使か悪魔か2018未来がわかる その時あなたは

と題して、説明できないAIからの回答にどう向き合うか考えてみました。
小難しい話をわかりやすく解説しながらブログにまとめました、

最後まで読んでいただけたら幸いです。

スポンサーリンク

AdSence 336x280

身近にあるAI

AIなんて特別なところでつかっているんだろ?

なんて思っていたりするあなた。
すでに貴方の手の上あるスマートフォンでAIが動作しています。

いくつか例をあげるとしたら

iPhone

・FaceID
写真では、ロックが解除されないし双子でも大丈夫(ではなかった)さらに親子でも大丈夫(だったはず)
間違いはありますが、顔認証として本人以外ロック解除できないというスグレモノ
「でも、指紋認証でいいんじゃない?」という意見はさておいて、iPhoneの売りの一つです。
・カメラ
最適な露出、ホワイトバランスを瞬時に判断して最適な写真を残す。

Android 9(Pie)

iPhoneと違い、AndroidのAIは、パーソナライゼーション(個人への最適化)を目指しています。そのため、FaceIDとかカメラなどそれぞれ独立した枠内に留まった単体機能ではありません。

具体的なものとして、3つ例を上げます。
「Adaptive Battery」
バッテリー最適化
「Adaptive Brightness」
照明最適化
「digital well-being」
使いすぎ注意(リリース予定)

各個人のスマートフォンの使い方をAIが学習してそれぞれ勝手に最適化されるので、いちいち細かい設定をしなくてもいつの間には快適に使えるように設計されています。

さらに、次のバージョンでは、個人の使用パターンに応じて先回りをしてアプリを準備してくれる機能も追加されるらしい。

ここまでくるとアプリを立ち上がることも無くなりそうです。

スマートフォンだけじゃない

AIは、家電、自動車、インフラ全般に続々と入ってきています。
この流れは、止まられないし、止まることもなさそうです。

NHKスペシャル▽人工知能 天使か悪魔か2018未来がわかる その時あなたは

「今回のテーマは、未来をAIが予測する。」
AIによって未来予測は、可能なのか?
自然、犯罪阻塞そして命の予測まで始めたAI
それは、人類に幸福をもたらすのか?

ということをメインテーマに作られていました。

天気予報

最初のテーマは、天気予報
2018年7月上旬、西日本を襲った豪雨(西日本豪雨)は200人以上の命を奪う大惨事となりました。
気象庁は豪雨発生の2日前、7月5日14時に記者会見を開き今回の豪雨が非常に大規模であると予測…。

一方、民間気象会社「ウェザーニューズ」のAI予報は、気象庁の発表の三日前に
「歴史的な豪雨となるおそれ」を発表
ウェザーニューズ社のAI予測システムを契約していた
鹿児島県姶良市の危機管理課では、迅速な対応で被害を最小限にとどめた。
という話です。

気象庁は、スーパーコンピュータであらゆる気象データから導き出していますが、「ウェザーニューズ」のAI予報は、
過去3年分の雨雲の画像パターンを学習して予測
していたそうです。

事実、番組では、避難をさせるタイミングと避難解除のタイミングの参考としていて、気象庁より的確な判断が、できていたことを紹介していました。

もっとも印象に残ったのは
「避難させるタイミングも難しいが、避難解除のタイミングのほうが難しい」
という市の危機管理課の責任者の話です。

つまり 避難解除が、早すぎると災害に合う可能性があるし、遅すぎると住民のストレスになる。

なるほど、これは、難しい判断
ウェザーニューズ社のAI開発責任者、西祐一郎さん
「必ずしも因果関係(原因と結果)がハッキリ証明出来ていない場合でも”現実にそうなってきた…”という過去の膨大なパターンの積み重ねから答えを導き出すところがすごい」

むむ!

因果関係(原因と結果)がハッキリ証明出来ていない。

弱った、仏教を学んだ自分としては、因果は、必ずあるはず・・・
と習ってきたのに・・困ったな

気象庁がダメというわけではないことを付け加えておきます。
AIの予測が、絶対ではないし、気象庁は、安全を優先して警報を発しているはずです。

お手元で天気予報を知る時代となりました。

犯罪の起こる場所を予測

米国の犯罪予測は、衝撃的だった。

ネブラスカ州のリンカーン警察では2年前から犯罪捜査に人工知能を導入。

これから数時間以内に起こりそうな犯罪の種類や場所を特定するといいます。

開発したのは、ベンチャー企業「Azavea社」でアメリカ国内では12社がこのシステムを導入しているそうです。

ネブラスカ州のリンカーン警察では、
犯罪の記録5年分11万件、店の営業時間、犯罪発生時の天気、月の満ち欠け、学校、病院の場所などをAIに解析させて

犯罪が、どこで起こるのかを予測

その予測にのっとってあらかじめパトロールをするというものです。

番組では。AIで犯罪が起こりそうなところを予測
パトロールにでかけた警官が、クスリを持っていた人を逮捕

凄いなぁ 出来過ぎ?
子供の頃見た、TV番組みたいだなぁ

米国で怪しいクルマを調べれば、クスリが出てくる確率ってどのぐらいだろう?
って思ってしましました。

このシステムの導入以後に犯罪件数は9%盗難件数は48%減少したと言います。

AIが犯罪防止に役に立っているといいうのは、事実らしい。

犯罪に巻き込まれる人を予測

シカゴで導入した「犯罪者の未来予知システム」が紹介されていました。
こっちは、かなりヤバイ状況

全米で最も犯罪者の多い街シカゴで導入したAIシステムは

「まだ犯罪を起こしていない人物」を予測(PREDICTIVE POLICING)

これって
映画『マイノリティーリポート』そのままじゃないのか?
マイノリティ・リポート [DVD]

こちらの場合、犯罪に巻き込まれそうな人を予測するもので
加害者なのか、被害者なのかわからない
ということころが、曖昧です。

あなたは、将来犯罪に巻き込まれそうですよ

と市民に点数をつけて点数の高い人(将来 加害者、被害者になりそうだ)という人を警察が訪問して注意をうながすという話

いきなり玄関に警察官がやってきて

「ここ一年以内にあなたは,犯罪の加害者か、被害者になるから注意して」

と言われてもねぇ・・・

犯罪予備軍なら

「お前は、近い内に犯罪するだろう!」
「へっへっ お上は、お見通しだぜ!」

と防止策にはなりそうですが、

ご近所の人に

「ねぇねぇ あのひと 犯罪者になりそうだって・・・」

と噂されそうです。

事実、シカゴ市民のロバートマクダニエルさんは、犯罪者でもないのにご近所に要注意人物と見られているようです。

シカゴ警察の署長は
「批判があるのは解っています。しかし毎年800件近い殺人が起きるなか少しでも多くの犯罪を無くすためにAIの予知は続けるつもりだ」

それだけ、シカゴは、犯罪が多いということなのでしょう。

ALSOK

2020年の東京オリンピックに向けてALSOKは、防犯カメラにAIを搭載して
未然に犯罪防止を行うという研究中

監視カメラで街中の人々の行動をAIでチェックする試験を

急に立ち止まってしゃがんだり
キョロキョロする人物

を映像解析で見つけ出し警備員に知らせて事前に犯罪防止をする。

これって
スマートフォンをみて急に立ち止まる人多いから、警備員がよってきそうですね。

また、スカイツリーやドローンにAIカメラを取り付けて市民やクルマの不審な動きを解析する予定だそうです。

ミズダコとか婚活とか

日本のAI利用例として ミズダコ漁とか婚活にAI使用とか紹介されていましたが、これは大きな問題ではない。

ただ 漁師のオジサンが、
「タバコを忘れてもこれを忘れてはなんねえ」
とタブレットを持っていたのは、面白いかった。

しかし、一番衝撃だったのは、人の命をAIが予測というものです。

あなたは、助かる可能性が少ないので心臓をあげません。

ロサンゼルスにある「UCLA病院」では、心臓移植を行う患者をAIで選別しているという話

売国の臓器ドナー3,000人
移植を希望する患者は4,000人
だそうです。
日本では、心臓移植となるとけっこう話題になりますが、米国では、日常的に行われていそうです。

そして「心臓移植優先度」をAIが判定しています。

まず、患者の10年後の生存率を計算
次に、心臓移植をした場合の10年後の生存率を計算

この2つの数値から、心臓移植をした人の生存率が高い人を優先的にするという判断をAIが行っている。

つまり、命の未来予測をAIに委ねているわけです。

そして「心臓移植優先度」を下げられて移植を受けられない患者に対しての説明

医師
「AIによる 心臓移植優先度が低いので、残念ながら移植手術は受かられません」

患者
「理由を聴きたい」

医師
「AIから出された数字なので理由は説明できない」

患者
「納得できない」

確かにAIで判断された場合、理由の説明はありません。
なぜ、その結果かは、わからないのです。

まとめ

日常生活に自然と入ってきているAI
そして、その未来予測は、概ね正解らしい

しかし、その未来予測を導き出した理由はわからない。

AIが正しい判断をする限り人間は、AIに依存するようになるでしょう。
それが、例え悪の道であろうとでもです。

人間の良心が試される重大な局面が来るかも知れません、

ここまで書いていたらこんなニュースが飛び込んできました。

富士通グループの研究開発機関である富士通研究所は2018年9月20日、報道・アナリスト向けの戦略説明会を開いた。
AIと深層学習は有用だが、その結果を医師が患者にきちんと説明できなければ実際に治療に使うには不安が残る。ここに説明可能だというトラストの要素を加えることで、応用分野を広げられる」

さてAIの判断に説明をつけることできるのか?

富士通さんのお手並み拝見となります。

スポンサーリンク

AdSence 336x280

 

AdSence 336x280

AdSence 336x280

-IT小僧の時事放談
-, ,

Copyright© IT小僧の時事放談 , 2018 All Rights Reserved Powered by AFFINGER4.