arXiv (NLP)AI
人間とLLMの協働によるスケーラブルで文化的に特異なステレオタイプデータセット構築
Scalable and Culturally Specific Stereotype Dataset Construction via Human-LLM Collaboration
この記事についてAIに質問する →
日本語要約青い用語にマウスを合わせると解説が表示されます
大規模言語モデル(LLM)におけるステレオタイプに関する研究は、これまで主に英語話者の文脈に限定されてきました。その理由は、他言語でのデータセット不足と、代表性が低い文化での手作業による注釈付けの高いコストにあります。この課題に対処するため、研究者らは人間とLLMの協働による注釈付けフレームワークを導入し、スペイン語版のステレオタイプデータセット「EspanStereo」を構築しました。このデータセットはヨーロッパとラテンアメリカの複数のスペイン語圏の国々にまたがり、既存文献から実証されているステレオタイプと、英語中心のリソースに存在しないような文化的に特定の偏見の両方を捉えています。
このフレームワークの特徴は、LLMがステレオタイプの候補を生成し、その地域の注釈者がそれらを検証するという効率的なアプローチにあります。このプロセスにより、ニュアンスに富んだ地域固有の偏見の識別が可能になることが実証されました。EspanStereoを使用してスペイン語対応のLLMを評価した結果、国ごとにステレオタイプ的な振る舞いに大きなばらつきが見られ、より文化的に根拠のある評価の必要性が浮き彫りになりました。
このフレームワークの重要な特徴は、スペイン語以外の言語と地域にも適用可能であり、多言語ステレオタイプベンチマーク構築への拡張性を備えていることです。この研究は、LLMにおけるステレオタイプ分析の範囲を拡大し、包括的な文化横断的偏見評価の基礎を構築するものとして位置づけられます。