トランスフォーマーベースのサロゲートモデルは、エンジニアリング設計における高コストの第一原理シミュレーションの置き換えとして、ますます活用されるようになっています。しかし従来のトランスフォーマーアーキテクチャは、大規模なシミュレーションデータの生成コストが高い工学設計領域で一般的な、小規模で低次元のデータセットに対してはしばしば過度にパラメータ化されています。このような条件下では、過剰なパラメータ容量は精度向上ではなくオーバーフィッティングをもたらす一方、不要なメモリと計算オーバーヘッドを招きます。 本研究は、追加の学習可能パラメータではなく、追加の計算に焦点を当てたアーキテクチャへのシフトを提案しています。高度なパッケージの熱機械信頼性解析のための3つの再帰型トランスフォーマーパラダイム、すなわち「Tiny Recursive Model」「提案されたDepth Recursive transformer」「シンプルな再帰型トランスフォーマー」について、ハードウェアを考慮した評価を実施しました。予測性能（Recall、Mean Reciprocal Rank）、パラメータ数、計算複雑度（FLOPs）を体系的に比較し、リソース制約シナリオにおける再帰型トランスフォーマーアーキテクチャ選択の実践的設計ガイドラインを提供しています。 検証は2つの低次元エンジニアリング予測タスクで実施されました。第一は先進的な半導体パッケージの熱機械信頼性解析で、熱サイクルからの応力と反りを、コストの高い有限要素法（FEA）による実験計画法スイープ全体で繰り返し評価する必要があります。第二はLaplace PDE反復数値ソルバーで容量場を計算するものです。全体として、再帰的重み共有トランスフォーマーは、小規模データのエンジニアリングサロゲートモデリングにおいて、予測精度、パラメータ効率、計算コストの効果的かつ一般化可能なトレードオフを提供します。