悪質な“ヤフコメ”をAIで削除…「1日約2万件」対応の技術を外部提供へ

©ジグノシステムジャパン株式会社

声優としても活躍中の鈴村健一(月~木曜)と俳優の山崎樹範(金曜)、フリーアナウンサーのハードキャッスル エリザベスがパーソナリティをつとめるTOKYO FMの番組「ONE MORNING」。6月2日(火)放送のコーナー「リポビタンD TREND NET」のテーマは「Yahoo!が不適切投稿をAIで判断する技術をSNSの事業者などに提供」。ジャーナリストで株式会社メディアコラボの代表・古田大輔さんに話を伺いました。

※写真はイメージです

Yahoo!(以下ヤフー)は6月1日(月)、「Yahoo!ニュース」コメント欄の健全化に向けて、使用しているAIを外部の事業者に提供する方針を明らかにしました。現在ヤフーでは、「ディープラーニング」(深層学習)を使った自然言語処理モデルで、個人への誹謗中傷などの悪質コメントを検知。1日に平均2万件あまりを削除しているとのこと。この技術を提供し、他社を含めた投稿型のサービスの健全化を図るとしています。

*  *  *

鈴村:“ヤフコメ”(「Yahoo!ニュース」におけるコメント投稿サービスの略称)と言われるものですよね。ヤフコメは、けっこう荒れるコメントが集まることで有名と言われたりしますけど、1つの試みとしていいのでは?

古田:そうですね、いろんな論点があると思います。ところで鈴村さんは最近、ヤフコメを見ていますか?

鈴村:僕は、あんまり見ないようにしています。自分の身は自分で守る方針なので。ハッキリ言って、ヤフコメから得る情報は、僕にとって有益だったことはないので見ないようにしています。

古田:ヤフコメ欄は、人種差別や人権侵害がむちゃくちゃ激しいことで有名だったんですよね。それに対してヤフーは、ずっと対策を取り続けていました。実は、何年も前から24時間監視をして削除するとか、今回みたいなAIを用いたような対策をとっていました。なので、そういったコメントは徐々に減ってはいました。

鈴村:あっ、そうなんですね!?

古田:ただ、今回の宣言で僕が注目したのは「誹謗中傷などの他人を傷つける表現行為は許されない」というかなり強いメッセージを打ち出していることです。例えば、人種差別で言うと「○○人は叩き出せ!」とか、人権侵害だと「アイツは馬鹿でどうしようもない!」みたいな明らかな物ではなくて、実はこの“他人を傷つける表現行為”というのは、とても見極めるのが難しい。

例えば、「〇〇はちょっと好きではない」みたいな言い方を誹謗中傷と言うのか? でも、それが100万人に言われたら……。鈴村さんが声優として参加している作品がそう言われたら辛いですよね。

鈴村:そうですよね。

古田:でも、そういうものがまったくないのも、不自然といえば不自然ですよね。

鈴村:そうですよね。

古田:人それぞれ好き嫌いがあるので、そこをAIがどこまで判別できるのだろうか? と。これはとても難しい議論になってくると思います。

鈴村:そうですよね。何に傷つくかって人それぞれじゃないですか? 僕は本当にあんまり見ないようにしていることもあって、“自分が何に傷つくのか? というガイドライン”が自分でもなくて、ふとした拍子に傷つくことがいっぱいあるんですよ。

例えば、「太りやがったなコイツ」みたいなことが書いてあったりすると、「そうそう、確かにちょっと太ったよ!」とか思うんですけど、やっぱり傷つくんですよ。書いている人は、何の気もなく書いているとは思うんですけど、「ああ……人として思ってないんだろうな」と思うんですよ。

本当に身近な人や家族だったら、「太った?」とか言うかもしれませんが、普通は本当に親しい人じゃないと、そういうことって言わないじゃないですか。でも、会ったこともない人に「太ったな」と言うと、相手が傷つくということに気付いたほうがいいと思いますね。

古田:「あなたは街中ですれ違いざまに、その言葉を言いますか?」って言いたいですよね。

鈴村:本当にそう! でも、そういうのをAIが判断するのは難しいですよね。

古田:はい。それを外部提供までするということなので、この動きに関しては今後も注目しています。


【▷▷この記事の放送回をradikoタイムフリーで聴く◁◁】
聴取期限 2020年6月10日(水) AM 4:59 まで

スマートフォンは「radiko」アプリ(無料)が必要です。⇒詳しくはコチラ
※放送エリア外の方は、プレミアム会員の登録でご利用頂けます。


番組名:ONE MORNING
放送日時:毎週月~金曜6:00~9:00
パーソナリティ:鈴村健一(月~木曜)、山崎樹範(金曜)、ハードキャッスル エリザベス
番組Webサイトhttps://www.tfm.co.jp/one/