1 ：へっぽこ立て子＠エリオット ★：2021/02/22(月) 14:04:33.41 ID:CAP_USER.net
SHOWROOMは2月22日、誹謗中傷コメントを監視するAIを開発し、仮想ライブ空間「SHOWROOM」に新機能として搭載したと発表した。AIが悪質なコメントと判断すれば、投稿前に自動で削除する。
新機能のイメージ図
新たに開発したコンテンツモデレーションAI機能では、ユーザーの代わりに悪質なコメントをAIが検知する。AIの開発にはディープラーニングを応用し、従来のキーワードによる検出ではなく、コメントの文脈をニューラルネットワーク上で抽象化する。
同社の開発チームによると「日本語特有の遠回しな言い方や、複数回に分けてコメントをするなど、従来の手法では難しかった悪質なコメントも検出することに成功した」という。これにより、コメントの悪質性をAIが即時に判断でき、投稿前に自動削除できるという。
これまでは視聴者や配信者自身が通報し、運営側の監視チームが削除する流れだった。同社は「不快なコメントを、ライバーや別の視聴者が目にする機会を大幅に軽減できる」としている。
同社の開発チームは「コンテンツモデレーションの世界では、英語や中国語に対しての研究はされているものの、日本語での研究はほとんどないのが実態だった」と説明。AIが悪質コメントを事前に察知し、投稿前に削除する機能は、日本初（同社調べ）といい、特許を出願中。
同社は「最終的には『SHOWROOM』内で、 悪質コメントの100%排除に限りなく近くなることを目指す」とコメントしている。
SHOWROOMのオフィス
□関連リンク
SHOWROOM公式サイト
https://showroom.co.jp/
2021年02月22日 12時29分 公開
ITmedia NEWS
https://www.itmedia.co.jp/news/articles/2102/22/news086.html
45 ：名刺は切らしておりまして：2021/02/22(月) 15:50:49.60 ID:7fWIKBlX.net
トランプを失脚させるためにメディアと共闘したアメリカのSNS各社と同じものを感じるな
88 ：名刺は切らしておりまして：2021/02/22(月) 20:27:01.23 ID:gHx5fCtC.net
はーたんコメント欄が浄化されるのか。よき。
53 ：名刺は切らしておりまして：2021/02/22(月) 16:33:48.02 ID:O0DR3v6E.net
氏ね ヲ オボエマスタ
101 ：名刺は切らしておりまして：2021/02/23(火) 16:37:57.33 ID:J1h4JGdj.net
そこまでされて見たいコンテンツなのか？
25 ：名刺は切らしておりまして：2021/02/22(月) 15:00:36.56 ID:wO30NxE7.net
配信者側がどの程度厳格に検閲するか調整できるようにすればいいよ
33 ：名刺は切らしておりまして：2021/02/22(月) 15:15:09.16 ID:r1vmN4H0.net
言葉そのものがヘイトに当たるものは削除して良いと思うんだけど、ユーザが不快になるものは遠回しでも削除ってただの検閲だと思うのだけど。
33 ：名刺は切らしておりまして：2021/02/22(月) 15:15:09.16 ID:r1vmN4H0.net
言葉そのものがヘイトに当たるものは削除して良いと思うんだけど、ユーザが不快になるものは遠回しでも削除ってただの検閲だと思うのだけど。
52 ：名刺は切らしておりまして：2021/02/22(月) 16:27:43.23 ID:ntDLVBjU.net
そんなに批判が怖いなら
もうコメント機能なくせよ
98 ：名刺は切らしておりまして：2021/02/23(火) 11:59:15.46 ID:dSJl1ZrP.net
ぶぶ漬け的なのはいけるかな。
48 ：名刺は切らしておりまして：2021/02/22(月) 16:11:15.99 ID:YfVKPNAB.net
いいからさっさとアーカイブ機能付けろよ
77 ：名刺は切らしておりまして：2021/02/22(月) 19:18:03.48 ID:H7gi8BVM.net
輝け！
64 ：名刺は切らしておりまして：2021/02/22(月) 17:24:13.66 ID:VIozWSi9.net
ズルムケとか
茶瓶とか
散らかすとかも検知出来んのか？あ？
11 ：名刺は切らしておりまして：2021/02/22(月) 14:39:23.75 ID:ivctKZ9v.net
中国人というより、サウジアラビアだろ
12 ：名刺は切らしておりまして：2021/02/22(月) 14:41:05.82 ID:2QPs3JU/.net
デジタル文化大革命
51 ：名刺は切らしておりまして：2021/02/22(月) 16:22:42.65 ID:SoA+AIhW.net
>>13
AI には反応しなそう
99 ：名刺は切らしておりまして：2021/02/23(火) 14:54:37.58 ID:d4OL5xC9.net
>>1
あ、ほら昨日さ〜
といいうように実は相手にアホって言ってやったのもきちんと検知すんの？
36 ：名刺は切らしておりまして：2021/02/22(月) 15:22:49.97 ID:BQuwaDnx.net
>>1
そして書き込みがなくなった
ってことになるんだろうなぁ
41 ：名刺は切らしておりまして：2021/02/22(月) 15:36:42.49 ID:2jr0ElDn.net
遠回しって、褒め殺しもブロックされたら、感情的な表現は全て無くなるな
27 ：名刺は切らしておりまして：2021/02/22(月) 15:03:23.09 ID:nbfrPjd1.net
つまり婉曲な言い回しのパターンをたくさん学習させると簡単な単発コメント以外、全て自動で削除させることも可能なわけだw
ちょっとAIを教育してやりたい
80 ：名刺は切らしておりまして：2021/02/22(月) 19:42:20.03 ID:4lNtTzHZ.net
森元がいる会議室みたいになりそう
15 ：名刺は切らしておりまして：2021/02/22(月) 14:45:11.97 ID:JJ0xnMG4.net
皆が「可愛い」とコメントしてる中で
「そうは思わない」「可愛くない」とコメしたらブロック対象かな？
89 ：名刺は切らしておりまして：2021/02/22(月) 20:51:01.18 ID:C1+afrEl.net
皮肉で絶賛したらそのうちバンされるんかな？
肯定も否定もしないあたりさわりのないコメントしかできなくね？
3 ：名刺は切らしておりまして：2021/02/22(月) 14:19:34.85 ID:1i2d4c6U.net
縦読みも検知できるの？
56 ：名刺は切らしておりまして：2021/02/22(月) 17:07:39.34 ID:Llt9sLwM.net
あまりなんでもかんでもブロックするとつまらなくなる
金稼ぐってことは批判も受け止めるべき
40 ：名刺は切らしておりまして：2021/02/22(月) 15:33:17.61 ID:yBdajW/T.net
このスレの発言半分以上読めなくなるな
74 ：名刺は切らしておりまして：2021/02/22(月) 18:43:28.62 ID:gJ6iU30F.net
ギフハフは関係ないですね。
54 ：名刺は切らしておりまして：2021/02/22(月) 16:50:23.66 ID:xZ1WcgSH.net
「AIをいかに巧妙に欺いて誹謗中傷を書き込むか」
って新しい遊びの場になるかも
10 ：名刺は切らしておりまして：2021/02/22(月) 14:38:36.12 ID:qhtg0zAk.net
自分たちに都合がいいか悪いかがポイント
35 ：名刺は切らしておりまして：2021/02/22(月) 15:22:21.96 ID:b3mZ09JH.net
>>33
公的な場ではないから検閲にはあたらないでしよ。
23 ：名刺は切らしておりまして：2021/02/22(月) 14:59:52.83 ID:Jaz0q005.net
六四天安門
21 ：名刺は切らしておりまして：2021/02/22(月) 14:56:47.29 ID:DYybkOuB.net
どの程度のワードが悪質と判断されるのか、テストしたいなぁ。
「うんこ大盛汁だく」 とか、一発アウトかなぁ。
68 ：名刺は切らしておりまして：2021/02/22(月) 17:36:48.27 ID:8zyf7bhe.net
>>1
素晴らしいです。
ビッグブラザー。
32 ：名刺は切らしておりまして：2021/02/22(月) 15:14:29.62 ID:JT3ixNcy.net
そんなんやったら京都弁がすべてNGになるやんけ
22 ：名刺は切らしておりまして：2021/02/22(月) 14:59:22.52 ID:wO30NxE7.net
これがシビュラシステムの第一ステップか
61 ：名刺は切らしておりまして：2021/02/22(月) 17:22:19.10 ID:bI25yOD8.net
朝日新聞の記事が消えたら認めるわｗ
96 ：名刺は切らしておりまして：2021/02/23(火) 09:40:04.14 ID:ZFpqGQnc.net
散歩したい
したい
も星になる。
76 ：名刺は切らしておりまして：2021/02/22(月) 18:59:09.82 ID:1vGvqCdW.net
ボーイッシュな胸ですね
44 ：名刺は切らしておりまして：2021/02/22(月) 15:49:12.75 ID:CSCbpSOw.net
誤検知だらけだろ
93 ：名刺は切らしておりまして：2021/02/23(火) 02:05:27.87 ID:pnnzGTgA.net
なんてすばらしいＡＩだ
褒めたたえて今後の活躍と躍進を期待しよう
削除されないように言葉を選び気持ちの良いコメントを増やそう
そしてＡＩにたくさんの言葉を学習してもらい
平家のごとく大渦潮を乗り切ってもらおう
18 ：名刺は切らしておりまして：2021/02/22(月) 14:50:30.60 ID:ivctKZ9v.net
>>16
それは無理だ
50 ：名刺は切らしておりまして：2021/02/22(月) 16:22:19.59 ID:6R0NnNvO.net
ある事無いこと褒め殺すと、全部ブロック対象になるかもなｗｗｗ
42 ：名刺は切らしておりまして：2021/02/22(月) 15:36:58.53 ID:3oqn1rtG.net
他人の土俵で誹謗中傷するんじゃないよってことだな
43 ：名刺は切らしておりまして：2021/02/22(月) 15:43:20.27 ID:3cNoxwY1.net
監視社会か
共産主義者ということで
63 ：名刺は切らしておりまして：2021/02/22(月) 17:23:43.54 ID:V/gyTqJ8.net
自動チャックマンかぁ
西野よかったな！
103 ：名刺は切らしておりまして：2021/02/24(水) 07:23:04.62 ID:568w9goP.net
星投げるほぼ課金専用アプリって認識だなあ。
コメントも課金もせんでたまに見てるが、ただ見づらい。
16 ：名刺は切らしておりまして：2021/02/22(月) 14:49:05.30 ID:8j/AEX6q.net
ネットのテレビ化も時間の問題だね
85 ：名刺は切らしておりまして：2021/02/22(月) 20:14:11.84 ID:VGxM0VJg.net
いよいよ言論統制の時代だな
69 ：名刺は切らしておりまして：2021/02/22(月) 17:40:59.68 ID:badm1gHD.net
昔ゲームで、ウルトラマン コスモスとかが伏せ字になった時は笑った
アレよりは判定プログラムが成長したってことなんですかね？
6 ：名刺は切らしておりまして：2021/02/22(月) 14:33:22.83 ID:oHJM10Nv.net
>>1
言語表現差別
言語能力の乏しい人侮辱
文系風口先だけくず執筆家科学なし低能ライターがのさぼる時代
枝野 蓮舫 辻元 パワハラ橋本聖子 の世界
AIでやるべきことはマスゴミ記事ライター記事の
フェイク 恣意的切り取りの意味ロンダリング扇り屑
根拠自体がフェイク相互スパイラル記事 便乗記事の排除！！！
マスゴミテレビ情報バラエティ ワイドショー MC ブームラン自動検出
海外がー屑の大義名分詭弁 ポリコレ AIリアルタイム検出しろ
朝鮮Korean NHK民放 ドラマの リアルタイム歴史検証 犯罪検証
テロップ義務化しろ！！
14 ：名刺は切らしておりまして：2021/02/22(月) 14:43:09.96 ID:ivctKZ9v.net
>>12
親父が本の虫だからって、大嘘書いた本ばっか吹き込みやがったな
それが日本の右翼の正体だ
かなりが電気回路でしゃれで書いてる、戦国時代記録も嘘ばっか
コメント