arXiv (NLP)AI
次に何を言うべきか?バレンホルツの自己生成理論によるハリス統合主義の拡張
How Do I Know What to Say Next? Barenholtz's Autogenerative Theory as an Enrichment of Harrisean Integrationism
この記事についてAIに質問する →
日本語要約青い用語にマウスを合わせると解説が表示されます
言語学における統合主義的アプローチと大規模言語モデル(LLM)の理論的基礎を融合させるという、学術的に興味深い議論が提示されている。ロイ・ハリスが発展させた統合主義言語学は、言語を単なる世界への対応コードではなく、状況的かつ二者的な活動であり、相互の協働的行動を志向するものとして位置づけている。この視点は、計算言語学の背景にある指示主義的伝統に対する強力な批判となっている。
しかしハリスの統合主義には説明上の隙間があると指摘されている。具体的には、記号がいかにして将来に開かれた性質を維持するかというメカニズムが完全には説明されておらず、言語的活動と非言語的記号生成活動の連続性が十分に理論化されていない。また、過去の統合がどのように蓄積されアーカイブ化されるのかについても詳細な説明が欠けている。
本論文は、エラン・バレンホルツが大規模言語モデルの振る舞いに応答して開発した自己生成理論が、これらの隙間を埋める可能性があると主張している。自己生成理論は、二者的コミュニケーションの中心をなす将来への開放性に対する構造的メカニズムを提供し、言語と他の記号生成活動の連続性に対する計算的相関を示し、過去の統合の蓄積された残留物がどのように見えるか、また新しい参加者がいかにそれを活用するかについての理論を提供するという三つの重要な貢献をもたらす。この統合により、ハリスが主張する状況的統合行為の存在論的優位性を保持しながらも、統合主義が自らは供給しない説明的内容を加える。自然言語処理とLLM設計に携わる研究者にとって、この議論は、LLMが効果的に利用する統計構造が実際には何であり、その本質的な限界は何かについて、原理的な説明を提供するものとなっている。