大規模言語モデル（LLM）が法律、医療、金融アドバイスなど高リスクシナリオで利用される場合、わずか1つの会話履歴でもユーザー間で異なる結果をもたらす可能性があることが知られています。先行研究により、LLMは社会人口統計グループ間で結果の不均衡を生じさせ、特定のグループがより有利なアウトカムを受け取ることが明らかにされていました。 本研究は、LLMが実際には単一の会話履歴からユーザーの社会人口統計特性を推測するのに苦労していること、また社会人口統計グループ間には不均衡が存在するものの、その規模は最小限であることを示しています。これらの不均衡の主な駆動要因を調査するため、研究チームはユーザーの社会人口統計特性と、会話トピック、感情、可読性を含む様々な言語心理学的特性を比較しました。 その結果、会話トピックが会話文脈内でのLLM生成アドバイスの最も予測力の高い要因であり、ある程度まで社会人口統計グループのプロキシとして機能していること、そして予測不可能な方法でアドバイスに影響を及ぼしていることが判明しました。この発見は懸念を示唆しており、高リスクシナリオにおけるLLM出力への会話文脈の影響をより深く理解し、必要に応じて軽減するための今後の研究の必要性を強調しています。