Yay!では、システムの強化やサイトの監視活動及び捜査機関との連携を通じて、インターネット犯罪や被害発生を防ぎ、安心安全にご利用いただくための取組みを続けています。
AIと複合した目視監視によるサービスパトロールでは、つながりの関係性や感情の正負を把握したうえで総合的に判断し、適切な対応を行うために、投稿やコ ミュニケーション文脈をきめ細やかに確認しながら、監視活動を行っています。
Yay!で行っているコンテンツモデレーションは2パターンになります。
■人的パトロールとAIシステムによる監視システム
人的パトロール
実際にユーザーが投稿した文章・画像を確認して不適切ではないか判断
AIシステム
実際にユーザーが投稿した文章・画像をAIシステム(人工知能)が秒単位で不適切ではないかの判断
人的パトロールとAIシステムによる監視システムはユーザーの皆さんの安全や、よりよいプラットフォームの提供をするべく24時間体制で稼働しております。
■通報ベースの違反確認システム
全ての方に安心してご利用いただくために、ルール違反をした利用者の投稿やコミュニケーションに対しては、サイト内で通報いただける機能を設けています。
Yay! アプリ内で通報してくれた内容を運営が実際に目で確認し、通報された相手側の違反行為の事実確認をします。
違反行為が運営側で確認できた場合は、通報された項目の非表示化や、アカウントの一時停止・凍結などの対処を行なっております。
※通報ベースになるので、現時点では即時対応ではございません。ご了承ください。
これからもユーザーの皆様が安心して利用できる場所であるよう、さまざまな取組みを積み重ねてまいります。