コンテンツモデレーションの仕組み

Yay!では、システムの強化やサイトの監視活動及び捜査機関との連携を通じて、インターネット犯罪や被害発生を防ぎ、安心安全にご利用いただくための取組みを続けています。

AIと複合した目視監視によるサービスパトロールでは、つながりの関係性や感情の正負を把握したうえで総合的に判断し、適切な対応を行うために、投稿やコ ミュニケーション文脈をきめ細やかに確認しながら、監視活動を行っています。

Yay!で行っているコンテンツモデレーションは２パターンになります。

■人的パトロールとAIシステムによる監視システム

人的パトロール
　実際にユーザーが投稿した文章・画像を確認して不適切ではないか判断
AIシステム
　実際にユーザーが投稿した文章・画像をAIシステム(人工知能)が秒単位で不適切ではないかの判断

人的パトロールとAIシステムによる監視システムはユーザーの皆さんの安全や、よりよいプラットフォームの提供をするべく24時間体制で稼働しております。

■通報ベースの違反確認システム

Yay! アプリ内で通報してくれた内容を運営が実際に目で確認し、通報された相手側の違反行為の事実確認をします。

違反行為が運営側で確認できた場合は、通報された項目の非表示化や、アカウントの一時停止・凍結などの対処を行なっております。

※通報ベースになるので、現時点では即時対応ではございません。ご了承ください。