バックプロパゲーションで訓練された密集したニューラルネットワークは強力な関数近似器である一方、多くのパラメータ間で学習を結合させ、タスク競合時に以前の関連付けを上書きする可能性があります。本論文で提案されるローカルフェロモンネットワークは、スパースで局所的、かつ手動で更新されるニューラルネットワークの小規模な研究プロトタイプです。 このモデルの特徴は、各出力ユニットが幾何学的距離と分子タグの互換性に基づいて、入力ユニットの固定された局所領域のみを読み取ることです。各シナプスは、重み、短期フェロモントレース、長期フェロモントレース、およびオプションの統合状態を保持します。訓練は自動微分を呼び出さず、代わりに各層が局所誤差と共活動から選択された予算制約のシナプス部分集合に対してフェロモン加重ヘッビアン型の更新を実行します。更新予算はオンライン適応し、損失が改善する際に収縮し、損失が悪化する際に最近活発だった領域に向かって拡張します。 オプション機構として、構造可塑性、局所リプレイ、分割学習のための出力マスク、およびターゲットフリーの局所対比ステップが追加されます。著者らは、合成回帰、分割メモリ、競合するメモリ、統合された競合、構造可塑性、リプレイ、および合成長文脈ハイブリッドメモリタスクに関する実装、学習規則、および予備実験を提示しています。このプロトタイプは局所線形規則を学習し、タグとマスクを通じて分割されたメモリを保持し、統合下での忘却を削減し、競合下でリプレイを使用することを実証しています。