誹謗中傷への新たな対策方法の特許取得、今あるSNSやオンラインゲームの誹謗中傷を減少させます

株式会社toyou

2024.01.05 10:02

既存クラウドサービスでの構築が可能、AIで社会心理学に基づいた誹謗中傷対策

SNS・オンラインゲーム、レビューサイトなどでユーザー主導の誹謗中傷対策を実装可能です。(特許第7405476号)

この数字は適切な対策がされているといえるでしょうか?

 

AIが発達しても誹謗中傷が無くならないのはなぜ?

近年AIは急速に進化し、自然言語での応答が可能になっています。
一方インターネット上の誹謗中傷は減少せず、すぐにできるユーザーの対応は「ブロック」・「通報」に限られており、大量の誹謗中傷や捨てアカウントでの誹謗中傷への対応に有効とは言えません。
何よりも「ブロック」・「通報」は一度目にしてからの行動のため精神的ダメージは発生します。
誹謗中傷はユーザー同士のWEBコミュニケーション上で起こります、SNSやオンラインゲーム、レビューサイトのプラットホームはAIによる不適切な投稿を検出していますが、「表現の自由」を侵害しないよう慎重な対応となっているのが現状です。

 

新たな仕組み

①ユーザーの投稿や行動ごとに感情分析しスコア付け。
②ネガティブ投稿はマイナス、ニュートラルはゼロ、ポジティブはプラススコアで累積していきます。怒りや軽蔑などの感情分析が可能な感情分析エンジンを使うと攻撃的ユーザーを更に高精度に把握可能です。
③累積スコアによってそのユーザーのWEB上の気質を可視化します。
④ユーザーは自身の画面に表示されるコンテンツをしきい値を設定しておくことで悪質なユーザーの投稿が表示される前に予め非表示にすることが可能です。「通報」「ブロック」では一度は目に触れていたネガティブな投稿に触れることがなくなります。

AI(自然言語処理)の感情分析精度
感情分析は判断がAIであっても人であっても100%ではありません、発信側・受け手・第三者それぞれ人によって受け取り方が違うためです。
AIによる誤検知はユーザーフィードバックや継続的学習で透明性をもって改善可能です、人による判断はそれ自体が公平性を疑われるため精度の向上は難しいです。
スコア付けの方法を工夫することで現在の精度の感情分析でも十分に誹謗中傷対策に役立ちます。

利用例
誹謗中傷から身を守るだけでなく、ペアレントコントロールやハラスメント検知にも同様に使用可能な特許技術です。
例:ネガティブ投稿の割合が30%以上のユーザーを非表示にすることで悪質ユーザー、捨てアカウントでの誹謗中傷は表示されません。
スコア改ざん防止も比較的容易です。

 

社会心理学的アプローチ

SNSやオンラインゲーム、レビューサイトで導入することにより、ユーザーはアカウントに対して透明性のあるフィードバックを受けることで「匿名化による攻撃性増大」を抑止します。

報酬と罰の原理
感情解析スコアを導入することで、良い行動(ポジティブな投稿)が報酬(高いスコア)として認識されます。
逆に、ネガティブな投稿を行うとスコアが下がるため、これを罰として認識し、ネガティブな投稿を避けるようになります。

社会的承認の求心力
人は社会的に承認される行動をとる傾向があります。
高い感情解析スコアが他のユーザーでも確認できるようにすると、良好な評価を受ける動機が生まれます。
これにより、ネガティブな投稿を控えるようになります。

選択的露出の原理
この特許では、ユーザーが低いスコアの投稿を非表示にすることができます。
これにより、ポジティブなコンテンツを好むユーザーがネガティブな情報から遮断されるため、全体のムードが良好に保たれやすくなります。

 

 

WEBサービス事業者やデジタル広告への価値

ユーザー滞在時間の増加
 ネガティブなコンテンツが減少することで、ユーザーがプラットホーム上で過ごす時間が長くなる可能性があります。

ブランドイメージの向上
ユーザーの健全な利用を促進することで、プラットホームのブランドイメージが向上し、新規ユーザーの獲得や既存ユーザーのロイヤルティが高まる可能性があります。

コンプライアンスとリスク管理
ネガティブなコンテンツの管理を強化することで、法的規制や社会的責任の遵守が容易になります。
これはリスク管理の観点からも重要です。

デジタル広告企業への影響
デジタル広告企業は攻撃的なユーザーを避けた表示を行うことでブランドイメージを保護し、広告の効果を最大化する新たな機会を提供します。
特に、サードパーティーcookieの規制が厳しくなる中で、ファーストパーティーcookieを活用したパーソナライズされた広告提供は、ユーザー体験の向上に寄与します。

企業担当者の連絡先を閲覧するには
会員登録を行い、ログインしてください。

種類
商品サービス

カテゴリ
システム・通信

サブカテゴリ
広告・宣伝
美容・健康