情報処理学会 第84回全国大会 会期:2022年3月3日~5日 情報処理学会 第84回全国大会 会期:2022年3月3日~5日

5V-02
BERTを用いたSNS上における攻撃的文章訂正システム
○吉田基信,松本和幸,吉田 稔,北 研二(徳島大)
本論文では、SNS上における誹謗中傷などを含むような危険な投稿文に対して、その攻撃性を緩和した文章に変換するシステムについて述べる。近年のSNSユーザの増加に伴い、ネット炎上の事例も急増している。我々は、炎上を予防するために投稿する前の文に対して炎上しそうであるかをBERTに基づく予測モデルにより判別し、炎上しそうであると判断された文章に対して、BERTのマスク単語予測を用いて危険語句を安全な表現に変換することで、炎上しない文章へと変換するシステムを提案する。また、変換した文章に対して、元の文章と比較して意味合いが変化していないかをBERTscoreによって判断し、元の文章の意味を保持したまま安全な文章に修正できているかについて評価する。