人工知能システムの意思決定ルールを人間の価値観に合わせるプロセスにおいて、ペアワイズ比較（2つの選択肢を比較させる手法）は広く使われている。参加型設計やAIアライメント領域では、ユーザーに対して「AまたはBのどちらが望ましいか」という二者択一の質問を繰り返すことで、その人の選好を学習してきた。しかし、この手法には見過ごされやすい問題が潜んでいる。 新たな研究は、個人が複数の相互に矛盾する可能性のある権威的優先事項に基づいて意思決定ルールを評価する「内部多元主義」という現象に焦点を当てている。例えば、ある人が公正性、平等主義、平等な取り扱いといった複数の価値を同時に重視する場合、その人の真の選好は単純なペアワイズ比較では捉えられない可能性がある。研究者たちは、このような複合的な選好を形式的にモデル化し、強制的なペアワイズ比較の2つの重大な限界を指摘した。 第一に、比例性や平等主義といった優先事項は本質的にグローバルな性質を持つ。すなわち、ある状況での判断が他の状況で何が起こるかに依存するため、局所的な比較では全体像を捉えられない。第二に、相反する強い優先事項の間の緊張が内的葛藤を生み出し、強制的な比較を迫られるときに有害な行動の歪みをもたらす可能性がある。 研究ではこれらの問題に対し、ユーザーが「判断できない」という選択肢を報告できるようにする方法を検討した。その結果、この方法により必要なクエリ数を大幅に削減しながら、より正確に選好を学習できることが示唆された。最終的には、複数の優先事項を直接的に引き出す新しい選好学習手法の開発が望まれている。