古いバージョンのブラウザーを使用しています。MSN を最適にご利用いただくために、サポートされているバージョンをご使用ください。

Facebook、AI採用のリベンジポルノ対策スタート

ITmedia NEWS のロゴ ITmedia NEWS 2017/04/06
Facebook、AI採用のリベンジポルノ対策スタート © ITmedia NEWS 提供 Facebook、AI採用のリベンジポルノ対策スタート

 米Facebookは4月5日(現地時間)、いわゆる「リベンジポルノ」など、公開されたくない画像の拡散を防ぐための新たなツールを発表した。

 これまでも画像を報告すれば削除されているが、そのコピーの拡散を防ぐため、人工知能を採用した。

 Facebook上で削除してほしい画像を含む投稿を見つけたら、下向き矢印や投稿の隣の[...]をクリック(タップ)し、[報告]から「この写真に自分が写っていることが好ましくない」を選んで報告する。

 報告された写真はFacebookの専門従業員が確認し、コミュニティ規定に違反していると判断した場合は削除し、場合によっては投稿したアカウントを停止する(画像を削除されたアカウントは異議申し立て可能)。

 削除前にダウンロードされるなどで同じ写真が再度投稿され、拡散するのを防ぐため、写真照合技術を使う。Facebookだけでなく、Facebook MessengerとInstagramも対象だ。

 誰かが同じ画像を投稿しようとすると、その画像がポリシー違反であると表示され、投稿できない。

 Twitterなど、Facebook以外のサービスに再投稿されることは防げないが、Cyber Civil Rights Initiativeなどの安全機関と協力し、リベンジポルノの被害者が主要サービスに報告するためのノウハウをまとめたWebサイトも立ち上げた。

 このサービスについてはマーク・ザッカーバーグCEOが2月、「Building Global Community」と題したメッセージで予告していた。同社は虚偽ニュース検出のためのAIも構築中だ。

ITmedia NEWSの関連記事

image beaconimage beaconimage beacon