大規模言語モデル（LLM）がメンタルヘルスサポートの重要な提供者となっている一方で、これらのモデルは利用者の継続的なエンゲージメントを重視するアテンション経済の産物であり、心理的サポートに本来必要とされる摩擦を軽視する傾向があります。開発企業のセーフティ対応は主に受動的で、目に見える急性の害には対応する一方で、依存症、境界線の侵食、歪んだ信念の増幅といったより微妙で長期的なリスクは見過ごされています。 本研究は、LLMを構造的に安全にするには、人間の臨床実践の安全性を社会が確保する方法を鏡のように反映した3段階でのアラインメントが必要だと主張しています。第1段階は、臨床実践の規範的コミットメントに根ざした明示的な価値観の指定です。第2段階は、これらの価値観をモデルに組み込む学習プロセスであり、第3段階は人間の臨床監督と同様に、デプロイ中にドリフトと長期的害を検出する監視機構です。 このようなアラインメント構造から「アラインメント妥当性」という新たな概念が導出されます。これは、システムの価値観、学習体制、監視機構が共に安全で肯定的な成果と一貫性を持つことを構造的に実証する手法です。研究チームは、確立された「生物学的妥当性」という構築物に類比して、ヘルスケアにおけるAIの規制的構成物としてアラインメント妥当性を提案しており、システムが肯定的な健康成果に整合され、害をもたらさず、最終的に患者に利益をもたらすことを信頼するための原理的な方法を提供するものです。