arXiv (CV)AI
自信があるが信頼できない:脳MRI画像における視覚言語モデルの行動安全性監査
Confident but Unreliable: A Behavioral Safety Audit of Vision-Language Models on Brain MRI
この記事についてAIに質問する →
日本語要約青い用語にマウスを合わせると解説が表示されます
視覚言語モデル(VLM)は医療画像診断の分野で急速に導入が進んでいますが、これらのモデルが示す自信度と実際の正確性の関係についてはほとんど検証されていません。本研究は脳MRI画像を用いた統制された高リスク環境で、最先端のマルチモーダルシステムにおける重要な問題を指摘しています。それは、モデルが能力があるように見えながら、実際には自身の信頼性について確実な認識を欠いているという失敗モードです。
研究チームは汎用モデル5種類と医療専門モデル1種類の計6つの命令チューニング済みVLMに対して、自動採点可能な行動監査を実施しました。評価対象は250人の被験者から得た4,032枚の脳MRI画像スライス(軸状断、冠状断、矢状断)と70枚の非脳部分やノイズ制御画像を含む計4,102枚です。ラベルはメタデータと公開されている専門家によるセグメンテーションマスクから導出されており、新たな人間による注釈付けは使用されていません。
分析結果は懸念すべき問題を明らかにしました。全モデルで回答カバレッジはほぼ完全でしたが、言語化された自信度の較正は不良でした。期待キャリブレーションエラー(ECE)は0.27から0.40の範囲で、不正確な回答における平均自信度は0.82から0.97の間となり、33~46%の回答項目が高い自信度での誤りとなっています。最も正確なモデルが誤りに対して最も自信を持つという逆説的な結果も観察されました。医療適応は腫瘍の存在検出を改善しますが、自信度の信頼性は向上しないという家族系コントラストも示唆されています。自由形式の診断テストからは、幻覚と棄却が複数選択肢の正確性とは別に変動することが明らかになりました。これらの知見は、医療画像VLMの評価において、正確性とともに言語化された自信度の信頼性、確信的誤り、幻覚、および棄却を報告すべきことを示唆しています。