コンテンツモデレーション技術の実装において、フィルターをどこに配置し、どのような対応を行うかは、システム全体のパフォーマンスに大きな影響を与えます。本研究では、個別のコンポーネント精度ではなく、エンドツーエンドの顧客体験指標を用いて、複数のモデレーション戦略を比較評価しました。評価対象となったのは「有用性」（有害でない関連性のある応答が表示されたターンの割合）と「有害露出」（有害な応答が表示されたターンの割合）の2つの指標です。 研究チームは、入力のみをフィルタリングする戦略、応答のみをフィルタリングする戦略、そして入力と応答の両方をハードブロッキングする戦略を、人間がラベル付けした製品ベンチマークおよび公開されているToxicChatデータセットで比較しました。その結果、応答のみのフィルタリングが両環境で最高の有用性を達成する一方、入力と応答の両方をブロッキングする戦略が最も低い有害露出を実現することが判明しました。 注目すべき発見として、応答のみのブロッキングを応答の書き換え機能に置き換えることで、ブロックされたトラフィックのほとんどを回復させながら、応答のみのブロッキングと同等の有害露出レベルを維持できることが示されました。さらに、プローブルーティングはLLMルーティングと比べて条件付きルート生成時間を大幅に削減し、同等の結果を実現します。応答の書き換えメカニズムは、トリガーとなる言語を一般化させつつ、無害な意図を保持し安全なリダイレクトを行うことで、フィルター通過性と有用性のバランスを取っています。本研究は、普遍的なルールを適用するのではなく、デプロイメント環境における安全性とレイテンシの制約に基づいてモデレーション設定を比較評価することの重要性を示唆しており、その成果物はGitHubで公開されています。