※本ページはプロモーションが含まれています

IT小僧の時事放談

「Apple Intellingenceが幻覚を生み出す可能性はゼロではない」 そりゃそうだろう・・・

WWDC 2024 でHAPPY要された AppleのAI

Apple Intelligence

Appleデバイス(iPhone,iPad,mac)などに搭載予定のApple Intelligence

Appleのティム・クックCEOは、このAIについて注意を促した。

スポンサーリンク

万能じゃない

Apple Intelligenceは万能ではない

Appleのティム・クックCEOが「Apple Intelligenceが虚偽や誤解を招く情報を生み出す可能性はゼロではない」と発言

024年6月11日に開催されたAppleの年次開発者会議「WWDC24」の基調講演では、iPhoneやiPad、Macで使える新たなパーソナルAI「Apple Intelligence」が発表されました。このApple Intelligenceについて、Appleのティム・クックCEOは「Apple Intellingenceが幻覚を生み出す可能性はゼロではない」と発言しています。

Opinion | An interview with Apple CEO Tim Cook on the company’s new AI - The Washington Post
https://www.washingtonpost.com/opinions/2024/06/11/tim-cook-apple-interview/

Tim Cook is ‘not 100 percent’ sure Apple can stop AI hallucinations - The Verge
https://www.theverge.com/2024/6/11/24176035/tim-cook-apple-stop-ai-hallucinations

チャットAI固有の問題として、人間と同様にすらすらと言葉を操ることができる一方で、事実とは異なる内容をあたかも真実であるかのように話す「幻覚」と呼ばれる事象が挙げられます。これまでにも、AmazonのAIである「Amazon Q」が幻覚によってデータセンターの場所などの機密情報を漏えいしていると指摘されたこともあります。

AmazonのAI「Amazon Q」は重度の幻覚によってAWSデータセンターの場所などの機密データを漏えいしているとの指摘 - GIGAZINE

クック氏は海外メディアのワシントン・ポストとのインタビューの中で、「正直なところ、Apple Intelligenceが虚偽の情報や誤解を招くような情報を生成しないとは言い切れません」と語っています。

一方でクック氏は「私たちは、テクノロジーを使用する分野での即応性について念入りに検討するなど、やるべきことは全てやったと思います。そのため、Apple Intelligenceは非常に高品質になると確信しています」と述べています。

WWDC24では、OpenAIと提携してChatGPTをSiriと統合することも発表されました。WWDC24で披露された機能のデモでは、ChatGPTによる回答の下部に「重要な情報に間違いがないか確認してください」との免責事項が表示されていました。

さらにワシントン・ポストはクック氏に対し、ChatGPT以外のAIをApple製品に統合する予定について尋ねました。これに対しクック氏は「AppleがまずOpenAIを選んだのは、OpenAIがプライバシーのパイオニアであり、現在最高のAIモデルをもっているからです。私たちはほかのAIモデルの統合について各社と話を進めています」と発言。

続きはこちらから👇

Appleのティム・クックCEOが「Apple Intelligenceが虚偽や誤解を招く情報を生み出す可能性はゼロではない」と発言 - GIGAZINE
https://gigazine.net/news/20240612-apple-intelligence-hallucination/

AIは、間違うことがあるので このコメントは、当然のことだろう。

AIは万能ではない

  より抜粋
https://dl.sony.com/ja/deeplearning/about/disadvantage.html

1.学習のために大量のデータが必要

必要なデータがそろっていなかったり、データ量が不足していたりすれば、正確な答えを導き出すことはできません。ディープラーニングはゼロから学習を始め、データをもとにして正解を探します。たとえば、画像認識の場合、最低でも万単位のデータが必要と言われています。

この欠点を補うため、データを安く入手する目的でクラウドソーシングのビジネスが盛んであったり、データの水増し(データ拡張)の技術が採用されたりしています。

2.結果に対する根拠がわからない

ディープラーニングやAIを活用してデータを分析しても、導き出された答えの根拠がわからないといった問題があります。「ブラックボックス問題」と呼ばれており、場合によっては大きな課題になることもあります。

たとえば、根拠がわからないままAIの判断を採用すれば、関係者に納得してもらえない可能性があります。また、誤った推論に気づかず、業務において致命的なミスを誘発する恐れもあるでしょう。近年では、このブラックボックス問題を解決する方法が研究されており、実装も始まっています。

3.従来の分析手法よりコストがかかる

​分析の精度を上げるには、学習と分析結果の評価が必要です。わずか数%の精度を上げるためのメンテナンスに、それまでの10倍のコストがかかる場合もあります。

人間が行う操作の中で発生する細かいミスすらも、ディープラーニング全体に影響を与えてしまいます。人為的ミスが発生する可能性をゼロにするのは難しく、問題が発生したら修正や調整が必要となります。精度の維持・向上のための学習と検証、人的ミスが発生した際のリカバリなどがあるたびに、その分のコストが必要となります。

また、高度な学習を行うためには、高価な計算環境が必要です。現在では低価格のクラウドサービスなどもあるので、うまく導入・運用してコストの軽減につなげるとよいでしょう。

4.覚えたことを忘れてしまう「破局的忘却」

ニューラルネットワークには、新しいデータの学習を始めると、過去に学習した内容をリセットしてしまう「破局的忘却」と呼ばれる欠点があります。たとえば、最初に「自動車」のデータについて学習させ、次に「飛行機」のデータを学習させれば、自動車に関する内容は失われるといった問題です。

5.人の心や感情の理解や創出はできない

AIは人間の知能に似た機能がありますが、人間の感情は理解できません。そのため、相手の心理を理解しなければならないリーダーやマネジメントの業務を担うのは難しいです。倫理観による判断も困難なため、教師や保育士など教育に関する仕事をこなすのも現時点では不可能です。

現在、人間の顔の表情や声のトーン、テキストなどからその人の気持ちを分析する研究が進められています。

 

問題はここ 「結果に対する根拠がわからない」 ということで 間違うこともあり得る。

ということです。

created by Rinker
ワン・パブリッシング
¥1,760 (2024/07/24 23:17:13時点 Amazon調べ-詳細)

まとめ

危険なのは、AIは間違いないと勘違いする人が出てくるかのうせいはたかい。

iPhoneしか使ったことのない人は、iPhone=絶対 と思っている人が存在しています。

そのため

「正直なところ、Apple Intelligenceが虚偽の情報や誤解を招くような情報を生成しないとは言い切れません」

ティム・クックCEOが言ったことでApple Intelligenceは万能ではないということを宣言しています。

AIに関する報道で問題なのは、「AIは、間違えることもある」ということをきちんと報道すべきである。

万能な人工頭脳ということを強調し過ぎているような気がします。

   メンタルケアの決定版

-IT小僧の時事放談
-, , ,

Copyright© IT小僧の時事放談 , 2024 All Rights Reserved Powered by AFFINGER5.