コンテンツ・モデレーション（適正化）って知っていましたか？
２年ほど前の記事にショックを受けたのでブログにしました。
今回の「IT小僧の時事放談」は
「コンテンツ・モデレーション（適正化）」
と題して、「最先端のSNSが、原始的な人海戦術で守られていた」ことについて考えてみました。
スポンサーリンク
目次
最先端のITサービスの裏の実情
近代的なきれいなオフィス、空調完璧、きっと殺菌された空気清浄機が全力で動いているだろう。
そんななかで働く最先端のIT企業の社員たち
しかし、そのサービスは、意外な人々が支えていました。
場所は、フィリピン 薄暗い元小学校の校舎、木のテーブルにパソコンが並び
そこに映し出されていたものは、
「ポルノ画像」
他にも
「グロ画像」
「人種差別発言」
「性的勧誘」
「動物虐待」
「戦争の映像」
などなど欧米人が見てはいけないものがアップされるたび彼らが「手動」で削除しているのです。
世界のソーシャルメディアサイト、モバイルアプリ、クラウドストレージから不適切なコンテンツを取り除くモデレーターの数は「軽く10万人を超える」という。これはグーグルの全従業員数の約2倍であり、フェイスブックの約14倍だ。
月収は500ドル（およそ6万円）
安心して見ていられるSNSは、彼らが守っていたのである。
彼らは「モデレーター」と呼ばれています。
健全なSNSを守るために
健全にみえるFacebookもいろいろな画像や動画をアップする人がいるわけですね。
美味しそうなご飯や子どもたち、猫やイグアナ？などと一緒に「エロ・グロ」もアップされるわけです。
それらを人海戦術で削除していたとは、驚きです。
そして彼らの多くが低賃金で雇われているそうです。
細かいニュアンスの問題もあるので海外で大まかな削除を行い、残りは、米国内で作業をしていると言われています。
こんなものまで
文字にして規制に引っかかりそうなものまであるそうです。
まるでスプラッター映画のようなものもアップされると言います。
フィリピンでは、コンテンツ・モデレーションの請負業務は、あこがれの仕事らしいですが、米国では、「仕事のない人の仕事」らしいです。
そして、米国の人は、「内容に耐えきれなくて」辞める人が多いそうです。
何も米国の人ばかりではありません。
最初に削除をする人たちは、もっとえげつないものを毎日見せられています。
そのため心を病む人もいるそうです。
「人間の一番醜いところ」を見続けたら 精神的にきますね きっと
その凄まじい内容は、記事をみてください。
https://wired.jp/special/2016/unseen
読んでいて気持ち悪くなる内容も有るので注意してください。
AI
記事は、２年前のものでした。
今は、おそらく画像解析を自動化してAIで判定しているものと思われます。
世界中に「軽く10万人を超える」人の仕事がなくなったわけです。
AIで仕事が新しく創造される裏には、こうして仕事を失くす人も出てくるわけです。
そのかわり、精神を病む人も減ったことでしょう。
そういう意味でAIの活用は賛成です。
ポルノを自動識別するTwitterのAIができるまで
https://wired.jp/2015/09/14/twitters-new-ai-recognizes-porn/
この記事は、2015年時点
上記の記事は、2014年時点らしいです。
どちらにしても「10万人以上のひとが、毎日、醜いものと戦っていたはずです。」
まとめ
表では、健全で安全なSNSなんでしょうけど、実際は、人の欲望、恨み、妬みが、容赦なくアップされ続けていることでしょう。
SNSで巨大な富を生み出している裏には、このような 人々が日々マウスを動かしていたとは知りませんでした。
古い記事ででしたが、知っていただきたくてブログにしました。
参照：WIRED
https://wired.jp/special/2016/unseen
スポンサーリンク