情報処理学会 第83回全国大会 会期:2021年3月18日~20日 会場:オンライン開催 情報処理学会 第83回全国大会 会期:2021年3月18日~20日 会場:オンライン開催

4R-06
半教師付き学習における一貫性損失減衰の影響解析
○楢木悠士(早大),本川哲哉(筑波大),長沼大樹(モントリオール大)
半教師付き学習では、教師ラベルなしのデータを学習データとして用いるため、入力に二つの異なる摂動を与え、出力を比較する一貫性損失を用いることで高い汎化性能を達成している。分類問題において最小化を行う代理損失は、一貫性損失を分類損失に加算する形で定式化される。一般的に分類損失は学習終盤において序盤から大きく減少するが、一貫性損失は終盤においても比較的高い値を保つ。本研究では汎化能力と相関のある指標として損失関数のヘッセ行列の固有値に着目し、一貫性損失を減衰させた場合のモデルの汎化能力への影響を調査した。