コンテンツへスキップ

機械翻訳です。正式な情報源は英語版であり、ネイティブによる確認は未完了です。

クックブック

クックブック: バジェット施行

AI 支出バジェットの設定と運用 — スロットルとブロックゲート、deny-closed 施行モデル、プロバイダーストリームからのコスト会計、バジェットが上限に達した時の動作

最終更新:

モジュール XI(コストと AI FinOps)はプロバイダーのコストストリームから AI 支出を会計処理し、バジェットを施行します。上限に達すると、バジェットゲートが支出を拒否します。これはライブ施行であり、デフォルトバイナリに常に組み込まれています — 後からプロビジョニングするオンデマンド機能ではありません。バジェットが設定されていれば、ゲートはライブです。

バジェットゲート

バジェットゲートには2つの施行モードがあります:

  • スロットル — 支出をレート制限し、グレースフルに劣化させます。エージェントは完全に停止するのではなく減速し、バジェットが回復するかオペレーターが引き上げるまで続きます。
  • ブロック — 上限でのハード拒否。エージェントはバジェットが枯渇し、それ以上の支出が認可されていないことを示す明確なシグナルを受け取ります。

両方のモードは deny-closed です: バジェット状態が読み取り不能な場合 — ストアエラー、破損した行、レコードの欠落 — ゲートは許可ではなく拒否します。不明なバジェット状態は無制限ではなく、枯渇として扱われます。これはプラットフォームの残りの施行ゲートが保持するのと同じ姿勢です(ガバナンスを参照)。

コスト会計

支出はプロバイダーのコストストリームとモジュール X(モデルとプロバイダー管理)が管理するオペレーター検証済みの参照価格から導出されます。コストサンプルは観測されたテレメトリ — トークン、モデル、プロバイダー — から取得され、API コールの傍受からではありません。プラットフォームは推論パスに介在しません。他のすべての観測と同様に、コストシグナルをアウトオブバンドで読み取ります。

参照価格はオペレーター検証済みであり、捏造されたものではありません。モジュール X では各モデルとプロバイダーのトークンあたりまたはリクエストあたりの価格を宣言でき、バジェット施行はその価格を会計基準として使用します。宣言された価格がプロバイダーの実際の請求額と乖離している場合、バジェットゲートは宣言された価格に対して施行します — プロバイダーが報告するまで、プラットフォームはプロバイダーの請求書を知ることができません。

バジェットの設定

バジェットは3つのレベルにスコープされます:

  • テナントごと — テナント内のすべての AI 支出の上限。
  • エージェントごと — そのテナント内の単一エージェントの支出の上限。
  • モデルごと — テナントまたはエージェント内の特定モデルへの支出の上限。

施行は即座に行われます。上限とゲートモード(スロットルまたはブロック)でバジェットが設定されると、ゲートはライブになります。ウォームアップ、遅延、「次の請求サイクル後に施行が開始されます」はありません。ゲートはすべてのガバナンス対象のコストイベントで、累積支出を上限と照合します。

バジェットスコープは交差によって合成されます: エージェントごとのバジェットとテナントごとのバジェットの両方が適用され、最初に上限に達した方がそのゲートをトリガーします。エージェント内のモデルごとのバジェットは、その上位のエージェントごとおよびテナントごとのバジェットによってさらに制限されます。

上限到達時の動作

累積支出が設定された上限に達するか超過すると:

  1. バジェットゲートが支出を拒否 — モードに応じてスロットルまたはブロック。
  2. 拒否はプラットフォームの発見事項サーフェスに発見事項として記録され、バジェットスコープ、上限、拒否時の累積支出が含まれます。
  3. エージェントはバジェットが枯渇したことを示す明確なシグナルを受け取ります。プラットフォームはリクエストを暗黙的にドロップしたり、曖昧なエラーを返したりしません。
  4. 通知が設定されている場合、拒否はモジュール XV を通じてルーティングされます。

拒否された支出はガバナンス対象のイベントです。拒否と同一トランザクションで監査台帳に書き込まれるため、バジェット拒否が記録されない時間窓はありません。

通知

バジェットアラートはモジュール XV(出力統合と通知)と統合されます。バジェットが上限に近づくか到達すると、発見事項は設定された任意の宛先にルーティングできます:

  • Slack / Teams — チャネルまたは DM 通知。
  • PagerDuty / Opsgenie — アラートエスカレーション。
  • 署名付き webhook — カスタム統合用。
  • SIEM — 監査エクスポートストリームに追記。

通知の宛先はオペレーターがプロビジョニングします。バジェットゲートは通知の宛先が設定されているかどうかに関係なく施行します — ゲートが施行であり、通知は認識レイヤーです。

キルスイッチとの相互作用

キルスイッチはエステート全体の拒否ゲートであり、バジェットゲートを含むすべてをオーバーライドします。キルスイッチが有効化されると:

  • バジェットゲートがスロットルまたは許可するはずの支出を含め、すべてのガバナンス対象のアクチュエーションが拒否されます。
  • バジェットゲートのスロットル/ブロックモードは無関係になります — エステートは停止しています。
  • エステートの再有効化には通常のデュアルコントロール承認(2人の異なる人間、再有効化にはブレイクグラスパスなし)が必要です。

バジェットゲートとキルスイッチは独立したコントロールです。競合ではなく合成されます: キルスイッチは他のすべてのゲートを包含するスーパーセット拒否です。

モデルルーティングとバジェット

モジュール X はオペレーター検証済みの参照価格でモデルルーティングを処理します。バジェット施行はこの価格を消費します — 独自の価格テーブルを維持したり、コストデータを捏造したりしません。依存関係は一方向です:

  • モジュール X がモデルカタログと参照価格を宣言します。
  • モジュール XI がそれらの価格を読み取り、支出を会計処理しバジェット上限を施行します。

モジュール X にモデルの参照価格がない場合、モジュール XI はバジェットに対して支出を会計処理できません。ガバナンスされていない支出(価格なし、バジェットなし)は暗黙的にパスされるのではなく、発見事項として表面化されます。

正直な制限事項

バジェット施行はプラットフォームがガバナンスするサーフェスに対してライブで deny-closed ですが、依存する前に理解すべき制限事項があります:

  • コストの精度はプロバイダーに依存します。 プラットフォームはオペレーター宣言の参照価格と観測されたトークン数を使用して支出を会計処理します。プロバイダーの実際の請求が宣言された価格と異なる場合、バジェットゲートは請求書ではなく宣言された価格に対して施行します。プラットフォームはコストデータを捏造したりベンチマークを創作したりしません。
  • カバレッジは観測に限定されます。 バジェット施行はガバナンス対象のチャネル — プラットフォームが観測するソース — を通じて流れる支出に適用されます。ガバナンスされていないパス(ソースが接続されていない、テレメトリが発信されていない)を通じてモデルを呼び出すエージェントはバジェットゲートから不可視です。プラットフォームは検出可能なガバナンスされていないパスを発見事項として表面化しますが、見えないものに施行することはできません。
  • プラットフォームはプレ1.0です。 バジェット施行は出荷され今日接続されていますが、会計の詳細は作業中として扱ってください。完全な姿勢については正直さと制限事項を参照してください。

関連

ドキュメント検索