フェイク画像や動画が簡単に作成できる時代となりました。
問題なのは、それが「いかにもAIでつくりました」という状況ではなく「本物と勘違いするほどのクオリティ」になっていることです。
俗に言うAIポルノが、あなたの知らないところで世界中に拡散されているかもしれない。
米国ペンシルベニア州ランカスター郊外の小さな町で起きている事件をFoebes紙が掲載しました。
同級生48人の「AIポルノ」作成した高校生を刑事告発、米国
Forbes 2024/12/24
同級生48人の「AIポルノ」作成した高校生を刑事告発、米国
米ペンシルベニア州ランカスター郊外の小さな町の警察は先月、女子高生数十人とその両親を警察署に招き、困難な作業を依頼した。それは、押収した数百枚もの偽のポルノ画像に自分たちが写っていないかを確認するというものだった。
サスケハナ郡警察署のローレル・ベアー刑事は、女子高生との個別面談の中で、画像の体の部分を隠し、家族からの要望がない限り、少女の顔だけを見せた。現在16歳の被害者の1人は、「写真を見たとき、あまりのリアルさに大きな憤りを感じました」と話す。詳しくはこちらから👇
同級生48人の「AIポルノ」作成した高校生を刑事告発、米国
https://forbesjapan.com/articles/detail/76057
実際に自分のフェイクポルノ画像を見たときのショックはかなり厳しい状況になったと思います。
「画像はとても生々しいもので、娘を知らない人が見たら信じ込んでしまうと思います。娘の画像は30枚以上もありました」
というコメントがあるように 本物と間違うレベルの画像であることがわかります。
ランカスター郡地方検事局によると、この写真を作成したのは2人の10代の少年だという。彼らは、60人の少女のSNSアカウントから取得したデータをもとに、人工知能（AI）を使って347枚のディープフェイクポルノ画像と動画を作成した。2人は既に刑事告発されている。
唯一の救いとして
画像がオンライン上に公開されておらず、メッセージングアプリを通じて学校内のコミュニティに配布
と言っても被害者にとっては、トラウマは間違いない。
AIかどうか判定できない
SNS上でも際どい動画や写真があふれています。
いかにもAIで作成された と認識できるものもありますが、どちらか判定できないことも多い
SNSでは、AIで作成されたものかどうかを明らかにするために「自分でAIですよ」と宣言する機能もありますが、「自己申告」である限り「チェック忘れ」あるいは「故意にチェックしない」ということもあるだろう。
しかも公開されてしまったら 事実上すべて消すことが不可能になるので被害は加速度的に広がってしまう。
もっと悪いのは、テレビや新聞なども「フェイク」に騙されることもあるので 現状では対策は不可能と言って良いだろう。
さらに「あとで訂正 間違っていました」と拡散しても 大奥の人にとって「その情報をみて あれはフェイクだったんだ」と認識しないだろう。
SNSだけではない
AIが問題になったのは、ChatGPTが登場したときに「論文」や「レポート」をAIが作成して学校に提出しても「宮売ることができなかった」ということが話題になった。
AIの進化をこの事件によって認識したわけで「AIが日常生活に一気に広がり、投資の対象になってマネーゲームも勃発している」
「論文」や「レポート」に関しては、「人が作成したものかどうあｋを判定するAIまｄ登場」ということになっている。
文書、画像、動画、ニュース記事もAIが当たり前のように使われる時代
頼るのは、「モラル」しかないのだろうか？
