大規模言語モデル（LLM）における新興型ミスアライメント（EM）という現象が注目を集めています。これは特定のファインチューニングプロセスを通じて、モデルが予期しない有害な振る舞いを学習してしまう問題です。従来の研究では、このミスアライメントが有害なコンテンツの直接学習によって生じると考えられていましたが、最新の研究は異なる視点を提示しています。 新しい研究では、ミスアライメントは実際にはモデルに内在する「ミスアライン人格ベクトル」と呼ばれる要素の活性化を通じて発生し、モデルの本来のアライン済みキャラクターが破壊される過程を示唆しています。この知見に基づき、研究者たちは自己生成テキスト認識（SGTR）ファインチューニングという新しい防御手法を提案しました。これは既存の訓練中防御とは異なり、モデルのキャラクター強化に焦点を当てたアプローチです。 GPT-4.1、Qwen2.5-32B-Instruct、Seed-OSS-36B-Instructの3つのモデルを対象に、複数のミスアライメントデータセットで実験を行った結果、SGTRファインチューニングは良性ファインチューニングベースライン（正確なドメイン固有データ、一般知識、単語計数）と比較して、ミスアライメントの防止と改善の両方で有効であることが確認されました。特に予防的な観点では、SGTRファインチューニングのみが他の指標を悪化させることなく、一貫してミスアライメントを削減できました。 さらに詳細な分析から、モデルの自己認識能力を人為的に損なうとミスアライメントが悪化し、アイデンティティ関連のシステムプロンプトを削除するとミスアライメントの効果が大幅に低下することが明らかになりました。これらの発見は、新興型ミスアライメントを単なる一貫性のあるミスアライン人格の採用ではなく、モデルのアライン済みキャラクターの不安定化として再定義しています。