arXiv (AI)AI
格子走査を用いた多層パーセプトロンの区間認証
Interval Certifications for Multilayered Perceptrons via Lattice Traversal
この記事についてAIに質問する →
日本語要約青い用語にマウスを合わせると解説が表示されます
本研究は、AIセーフティの基礎的課題である敵対的ロバストネスに対する厳密な理論的フレームワークを提示しています。研究チームは、敵対的ロバストネス問題を格子走査問題に帰着させることができることを示しました。この格子の各要素は、入力点を含む軸並行超矩形としての区間に対応しています。
多層パーセプトロン分類器(MLP)を考えたとき、区間Iが「完全認証」であるとは、入力点xがIに含まれており、xがI内で自由に摂動されてもMLPの予測が変わらない場合を指します。一方、「完全認証」は、入力点xがI内にあり、xがIの外に移動するとMLPの予測が必ず変わることを保証する区間です。完全認証は従来の文献では検証されていない新しい概念です。
研究では、格子走査演算子を開発し、これを反復的な改善・検証スキームに適用しています。形式的なMLPベリファイアを使用することで、完全認証の最大性と最小性が保証されます。興味深いことに、最適化問題を分析した結果、いくつかの非対称性が明らかになりました。完全認証の最小解は多項式オラクル呼び出しで得られますが、完全認証にはそれが成立せず、研究チームは強い計算困難性を証明しています。さらに、対称区間(L∞球面)における最適化問題も検討し、対数的アルゴリズムを提供しています。最後に、新規システムであるParallelepipedoNNを用いた実験評価も提示されています。