AIがSNSの投稿を瞬時に判別し見直させるサービス、トラブルを減らす効果を見込む
AI..
アディッシュ株式会社は9月15日から、投稿者がSNSなどインターネット上に投稿する前に、内容再考の機会を促すアラート機能を備えた人工知能（AI）検知サービス「matte（マッテ）」を提供開始した。
「matte」は投稿内容を取り込み、AIにより瞬時に判別することで、ポップアップで通知してくれる。不適切だと懸念される投稿がある場合は、高性能AIモデルがタグ付けし、ユーザーが投稿をする前にアラートで通知する。
なお、ポップアップは運用しながらデータを収集、またユーザーが投稿を萎縮することがないよう利用者検証を繰り返し、最適な内容を提案し続けるとのこと。
ユーザー間のトラブルを減らす効果を見込む
実際に、「投稿を完了する前に『メッセージ』を送ることで、93％が投稿を思いとどまったという報告」など、「再考アラート」の有効性を裏付けると考えられる研究は数多くあるという〔『WIRED』（2017年9月20日）収録「誇りがあればヘイトに負けない──10代のネットいじめを止める17歳のCEO」より〕。
「matte」は、否定的な意見に連鎖的に反応する行為を防ぐことで、ユーザー間のトラブルを減らす効果が見込まれる。自分自身で投稿内容を見直す機会を得ることで、ユーザーのリテラシー向上にもつながるとしている。
また、SNSへの投稿を制限したり、規制したりするのではなく、ユーザーにとってはオンライン上のコミュニケーションの場に安心して投稿可能になるという。プラットフォーム事業者やサイト運営者は、自社のサービス 価値と健全性が保たれることが期待できる。
＞＞ニュースリリース
不適切な投稿を検知するAI ヤフーが誹謗中傷対策として技術提供
インターネット上の誹謗中傷に対して、AIを活用して対策に乗り出す例はほかにもある。
たとえば、ヤフー株式会社は6月1日、「Yahoo!ニュース コメント」において導入している深層学習を用いた自然言語処理モデル（AI）のさらなる活用などを進めていくと発表した。
主な活用は、ほかの投稿系サービス事業者へのAI技術の提供や、法律家だけでなく幅広い分野から有識者を募り議論をする検討会の設置だ。
ヤフーが提供する「Yahoo!ニュース」におけるコメント機能では、深層学習を用いた自然言語処理モデル（AI）による検知を通して、不適切な投稿を削除している。
Yahoo!ニュースでの不適切な投稿は1日平均約2万件にものぼる。主に、記事との関連性の低いコメントや誹謗中傷などの書き込みが不適切な投稿に当てはまる。
ヤフーでは不適切な投稿に対して、AIの活用だけでなくユーザーへの周知や啓発によって当該投稿の事前抑止に努めるだけではなく、専門チームによるパトロールなども実施していた。
今回、ヤフーは、Yahoo!ニュースで活用している深層学習を用いた自然言語処理モデル（AI）を、ほかの投稿系サービス事業者に技術提供を進めていくと発表した。
さらに、誹謗中傷などの問題への対処にあたっては、ヤフーとしても法的課題や実務的課題があると認識している。この課題をデジタル時代に即した共通規範に基づいて解決するために、議論をする場である検討会を2020年6月中を目途に設置することも明かした。この検討会では、法律家だけでなく幅広い分野から有識者を募って検討をし、その結果を公表していく。
引用先はこちら：AIがSNSの投稿を瞬時に判別し見直させるサービス、トラブルを減らす効果を見込む
