
ベースモデルに依存しないオーケストレーションに向けて ブログ:https://t.co/nm9Pa0Th13 Sakana Fuguは、マルチエージェントのオーケストレーションを一つの基盤モデルとして提供するプロダクトです。一つのエンドポイントにリクエストを送ると、Fugu自身が処理の仕方を判断しモデル群に適切に タスクを割り振り、単一モデルを超える性能やコスト性能を達成します。 Sakana Fuguは、実際の処理を担う「モデルプール」と、どのモデルにどう任せるかを判断する「指揮者モデル」の二層構造です。モデルプールは当初から入れ替え可能な設計になっています。今回、モデルプールだけでなく、指揮者モデルに関しても、新しくオープンモデルであるGemma 4をベースに訓練し、当社の評価セットで従来と遜色ない性能とコスト削減効果を確認しました。 今後は自社開発モデルをベースとした指揮者モデルにも取り組み、求められるソブリン性の要件に応じてモデルオーケストレーションのポテンシャルをお届けできる体制を整えていきます。

The routing model inside a multi-model orchestrator can be swapped onto an base without losing performance or cost savings, so the orchestration layer itself need not be tied to any one proprietary provider.
Checking sign-in…
Loading comments…