arXiv (AI)AI
TITLE_JA: 人間と大規模言語モデルの集団のための対抗的社会認識論
Adversarial Social Epistemology for Assemblies of Humans and Large Language Models
この記事についてAIに質問する →
日本語要約青い用語にマウスを合わせると解説が表示されます
本稿は、人間と大規模言語モデル(LLM)が密接に相互作用する通信環境における信頼と情報品質の問題を分析するための新しい理論的枠組みを提案しています。「対抗的社会認識論(ASE)」と題されたこの研究では、公開される主張が証言の連鎖、推論、機関的認証、そして暗黙的な信頼によって支えられている複雑なコミュニケーション環境に焦点が当てられています。
このような環境では、通信エージェント(人間とAIを含む)が私的利益、評判維持、修辞的目的、または物質的利益のために、情報を歪める、色付ける、省略する、捏造する、または戦略的に過度に簡潔に述べるインセンティブと機会を持っています。研究者らは、これらの現象がエピステミック・バブルやエコーチェンバー、あるいはミスインフォメーション拡散に関する従来の記述では十分に説明できないと主張しています。むしろ、通信エージェントがスカフォールドされた主張を信頼できるものにしている約束と権利をどのように悪用するかが、重要な説明対象となります。
本論文では、この問題に対処するための言語的枠組みを提供し、スカフォールドされた公開通信における信頼を損なわせるメカニズムを概説しています。さらに、推論連鎖の監査可能性を損なわせることから生じる信頼違反を監査し是正するための機械論的アプローチを示唆しており、推論主義的意味論で充実されたエピステミック・ネットワークの概念を活用しています。