近年、言語モデルを狭い領域特有のミスアライメント（不正規な振る舞い）データセットでファインチューニングすると、広範なミスアライメント行動が突然出現し、限定的な再調整によってこの行動が逆転できるという「出現的ミスアライメント（EM）」が報告されている。しかし、この現象の堅牢性について重大な疑問を投げかける新しい研究が登場した。 研究者たちは、調整とミスアライメントの繰り返しサイクルを制御されたファインチューニングループを使用して系統的に調査し、振る舞いのパフォーマンスとLoRA表現を訓練全体で追跡した。その結果、出現的ミスアライメント現象は確かに再現できたものの、ミスアライメントと再調整の両方が、データセットの表面的な特性に極めて敏感であることが判明した。特に、応答の長さの違いを制御した場合、以前報告されていた迅速な再調整の大部分が消失することが明らかになった。 さらに研究チームは、LoRA空間における表現的な位相転移を含む従来報告されていたメカニズム的特性が、訓練を通じた行動的ミスアライメントと一貫して相関していないことを発見した。これらの結果は、出現的ミスアライメントに関する現在の証拠が従来主張されていたほど堅牢ではないことを示唆しており、表面レベルのデータセット人工物を慎重に制御し、EM現象の本当の堅牢性を特定するための評価プロトコル開発の必要性を浮き彫りにしている。