トランスフォーマーモデルにおけるアテンション機構の効率化は、長コンテキスト処理において重要な課題です。従来のソフトマックスアテンションはKey-Value（KV）キャッシュが入力長に比例して増大するため、メモリ使用量が増加し、推論速度が低下します。これに対して線形アテンション（Linear Attention）は固定サイズの再帰状態でKVキャッシュを圧縮しますが、この圧縮により正確な状態追跡と長コンテキストメモリの能力が制限されるという課題が存在していました。 本研究で提案される半直接フーリエデルタアテンション（SFDA）は、既存のKimi Delta Attentionを拡張した新しい手法です。従来の実数対角減衰をブロック回転フーリエ制御に置き換えることで、位相制御を導入します。この数学的な枠組みでは、状態更新式が位相項と低ランク項の組み合わせで表現され、より柔軟な記憶機構を実現できます。 SFDAの主な技術的貢献は、構成的チャンク-WY因子分解にあります。行列積の計算を固定サイズのチャンク内に保つことで、ランク成長を制限しながら、正確なアフィン変換を実現します。これにより形式的な安定性と計算量の上界を保証しながら、位相と低ランク成分で構成されたメモリの特性を厳密に定義できます。 実験結果では、数値的な代数検証に加えて、状態追跡タスクにおいてSFDAが周期的なメモリパターンを学習することが確認されました。一方、位相制御を無効にしたKDAベースラインは精度がチャンスレベル近くに留まることから、提案手法の位相制御機構が本質的に重要であることが示唆されています。フューズドカーネルの実装と大規模言語モデルでの評価は今後の課題として位置付けられています。