SNSの巨人Facebook®が揺れています。
インターネット上で一般の利用者を対象としたサービスを展開している会社は、多かれ少なかれリスクを抱えているものです。その規模が大きくなればなるほど社会的な影響度が高まるのですが、利用者の多様性から効果的な対処方法が確立できないというのが実情でしょう。
インターネット社会を反映して社会的にも影響力を得るようになったサイト運営会社が、今までとは異なる新たなリスクに直面していることは以前の投稿(「サイト運営」)などでも言及してきました。
今回も前出のSNS大手の記事なのですが、問題となっているのは少し違います。記事の信ぴょう性についてではなく要は一般ユーザによる公序良俗に反する記事の投稿をどこまで規制できるか、ということです。
もちろん、一般ユーザがどのような記事をアップしようとも事後に適切に処理する限りSNS運営会社に非はありません。それでも多くの耳目にさらすことの手助けをしていると考えれば、結果的に運営方針を疑われることになるわけです。
有害記事／反社会的記事を放置したなどとのうわさが広まれば、SNS運営会社としてもイメージの失墜は免れません。
すべては社会的影響の大きさにもとづく社会的責任によるものです。
添付の記事で驚いたのは、
の下りで明らかになった”数千人規模”の体制で日々チェックしていることです。チェック要員だけで大手の企業の社員数に届きそうな勢いです。
チェックしている人が手を抜いているわけではないでしょうから、やはり手が回っていないのでしょう。ことに動画のような記事であれば一通り再生してみなければ本当のところ判断することはできません。こういった文字になっていないコンテンツに対してはいちいち人が見て判断しなければならず、時間ばかり掛かってしまうのは致し方ないところです。
問題の動画は投稿されてから23分後には削除されたとのことですが、迅速な対応をするには一般ユーザからの削除申請や不適切投稿の連絡頼らざるを得ない状況のようです。
人による監視では反応速度も限界とみたのか、現在はそういった投稿動画を見分けるAIを開発中とのこと。どういう仕組みで判断するのか分かりませんが、ここにもAIの活用事例が見らえます。
こういった状況を見ても分かるように、AIの真価は”人を代替すること”、”人と同じことをしてくれること”であって何か特別なことをしてくれる存在ではありません。人と同じということはすなわち手放しにしてはならず、一定の監視は必要ということです。
AIは人知の及ばないような大それたことができると考えている人が、SFよろしくその存在に危惧を覚えるのでしょう。
