忘れさせることを学習させよう　AIと個人情報の話

あなたも気が付かないけれどAiと接しています。
例えば、ネットサービスで質問をしようとしている　チャットなどはすでにAIが答えているところが多い。

しかし、そのAIが学習するためには、多くの個人情報を必要としています。

今回のIT小僧の時事放談は
忘れさせることを学習させよう　AIと個人情報の話
と題して　個人情報を飲み込んで賢くなってゆくAIから個人の情報を忘れさせることを学習させようとしているお話です。

今回も小難しい話をわかりやすく解説しながらブログにまとめました。
最後まで読んでいただけたら幸いです。

機械学習

人工知能（AI）が機械学習によって個人情報を取り込むことで賢くなります。
例えば　顔認証の場合、世界中の顔のデータが必要になります。

これらのデータはどこで手に入れるのでしょうか？

例えば、音声データを集めなければ音声認識の学習もできません。

こうした、個人情報のデータがなければAIの機械学習はできないわけですが、一度学習したものは、AIは絶対に忘れません。
さらに問題なのは、AIから出された解の理由は、誰にもわからないということになっています。

個人情報問題

欧米をはじめ個人情報の取扱がめんどうになってきました。
GDPRという言葉が数年前に問題になりましたが、幸いなことに日本は規定から外れているのですっかり忘れていると思います。
ちなみにGDPRとは、General Data Protection Regulation：一般データ保護規則で個人データやプライバシーの保護に関して、EUデータ保護指令より厳格に規定されたものです。

中国などがAIの研究が進んでいるのは、個人情報などまったく気にせず国家が管理できるからです。
ある意味、個人情報など守られていないというわけです。
これなら、監視カメラで人物と照合して即座に危険人物を判定するなんて簡単なことです。

一方、欧米、特に欧州は個人情報に対して厳しく規定がおこなわれ、守らない企業や国に対して罰金という厳しい対応を取ろうと法整備を行ってきました。

マシン・アンラーニング

個人情報の問題にたいしょするために　「機械に“忘れさせる”ことはできるのか？」という課題に取り組んでいる研究者がいます。
「機械に“忘れさせる”」つまり「マシン・アンラーニング」という技術です。

AIが一度、学習したことのなかの特定の人物やデータセットの痕跡を消し去ろうとすることが目的となっています。

ところが、訓練が完了した機械学習システムは、そのシステムがどうやって解答を出しているか理解できない状態になっています。
このブラックボックスとかした機械学習に対して　「機械に“忘れさせる”」ためには、完全にリセットして一からやり直しという手法が取られてきました。

しかし、これでは、膨大な時間とコストが掛かってしまうわけであまり現実的とは言えません。

そこでペンシルヴェニア大学教授でマシン・アンラーニングを研究するアーロン・ロス博士は、この「機械に“忘れさせる”」という難題に挑んでいます。

しかし、課題は多く「特定の条件下で機械学習のアルゴリズムにデータを忘れ去れさせることに成功」しただけでまだ実用あkされるところまではできていないようです。

答えの仕組みがわからない

AI（人工知能）は　導き出される答えは右脳のような直感的なものであり、なぜその結論にたどり着いたのかという根拠の説明ができない
とされている。

そういう　もので今後世の中の多くの仕組みが動いてゆくという恐ろしい状況が現実にあります。

音声認識で単なる言い間違いならば　可愛いものですが、なにか重大なことを決定するときにAIにまかせて大丈夫なのか？
最近は、戦争で使われる兵器にAIが搭載されていたり、戦略にもAIを利用しようとしています。

よく考えると恐ろしい話だと思いませんか？
ターミネーターなんて「映画の話」と思っていたら　どうやら現実になりかねないわけです。

これらを防ぐためにも「AIの見える化」を進めていたり、マシン・アンラーニングの研究がおこなわれています。

まとめ

よくわからないけど便利

私達は、スマホの仕組みなどわからなくても便利に使っています。
手元にある小さなデバイスが瞬時に世界中のどこかと通信を行い、その先でAIが何かを判断して　私達の手元に帰ってきます。

仕組みがわからなくても便利に使えるという意味でAIも同じような世界に入ってしまったような気がします。
ただ幸いなことにまだ自我が目覚めていない（らしい）ということです。

いや？一説によると
「金融取引のAIは、ライバルのAIに勝つために人に命令して、通信事情の良いところに移動せよ」
と人間に命令を出しているとかいないとか・・・

怖い話はここまでで「AIに忘れさせることを学習させよう」という試みがまだ実現できていないということですが、忘れさせることが多くなってきたIT小僧は、まだAIより進んでいそうだな　と記事を見て感じています。

参考記事：WIRED
https://wired.jp/2021/08/30/machines-can-learn-can-they-unlearn/