[2025年11月18日投稿（v1）、最終改訂2026年7月30日（本版, v2）]

PDFを表示 HTML（実験的）

アブストラクト：教師あり分類器はクラスごとの分布を出力するが、通常は複数のアノテータを多数決で1つのラベルに集約した単一ラベルで訓練される。アノテータ間の不一致が本質的な曖昧さを反映するタスク——自然言語推論、丁寧さの判断、視覚的に曖昧な分類——では、この集約は情報を失わせ、人間が一貫して意見を分ける入力に対してモデルに均一な確信を強いることになる。本稿では、アノテーション分布全体を教師信号とするソフトラベル学習と、通常のハードラベル学習を、視覚とNLPにまたがる3つのデータセット（ChaosNLI、POPQUORN、CIFAR-10H）で比較する。ソフトラベル学習はすべてのデータセットでハードラベル学習と同等かそれ以上の精度を達成し、アノテータ分布とのKLダイバージェンスを平均32%削減（p < 10^-4）し、予測のサンプルごとのエントロピーがアノテータのエントロピーと61%強く相関するようになる。つまり、分布で訓練されたモデルは、人間が不確かな箇所で不確かになる。我々は、これらの利点が基本的な観察から導かれると主張する。アノテータが正当な理由で意見を異にする場合、学習の正しい対象はアノテーション分布そのものであり、それを雑音推定したものではない。

投稿履歴

投稿者: Agamdeep Singh [メールを表示]
[v1] 2025年11月18日 (火) 04:02:29 UTC (998 KB)
[v2] 2026年7月30日 (木) 07:08:07 UTC (1,021 KB)