Модуль XI (Витрати та ШІ FinOps) обліковує витрати на ШІ з потоку витрат провайдера та застосовує бюджети. При досягненні ліміту бюджетний шлюз відхиляє витрату. Це живе застосування, завжди підключене у стандартному бінарному файлі — не функція на вимогу, яку ви налаштовуєте пізніше. Якщо бюджет налаштований, шлюз працює.
Бюджетні шлюзи
Бюджетний шлюз має два режими застосування:
- Throttle — обмежує швидкість витрат, плавно деградуючи. Агент сповільнюється, а не зупиняється повністю, поки бюджет не відновиться або оператор не підвищить його.
- Block — жорстка відмова при ліміті. Агент отримує чіткий сигнал, що його бюджет вичерпаний і жодна подальша витрата не авторизована.
Обидва режими закриті за замовчуванням: якщо стан бюджету нечитабельний — помилка сховища, пошкоджений рядок, відсутній запис — шлюз відхиляє, ніколи не дозволяє. Невідомий стан бюджету трактується як вичерпаний, а не як необмежений. Це та сама позиція, якої дотримується решта платформи для шлюзів застосування (див. управління).
Облік витрат
Витрати виводяться з потоку витрат провайдера та верифікованих оператором довідкових цін, керованих Модулем X (Управління моделями та провайдерами). Зразки витрат отримуються зі спостереженої телеметрії — токени, модель, провайдер — не з перехоплення API- викликів. Платформа не знаходиться на шляху виводу; вона читає сигнал витрат поза основним потоком, так само, як читає кожне інше спостереження.
Довідкові ціни верифіковані оператором, не сфабриковані. Модуль X дозволяє задекларувати ціну за токен або за запит для кожної моделі та провайдера, і застосування бюджету використовує ці ціни як основу обліку. Якщо задекларована ціна відрізняється від того, що провайдер фактично стягує, бюджетний шлюз застосовує задекларовану ціну — платформа не може знати рахунок провайдера до того, як провайдер його повідомить.
Налаштування бюджету
Бюджети охоплюють три рівні:
- По орендарю — стеля для всіх витрат на ШІ в межах орендаря.
- По агенту — стеля для витрат одного агента в межах його орендаря.
- По моделі — стеля для витрат на конкретну модель в межах орендаря або агента.
Застосування негайне. Щойно бюджет налаштований з лімітом та режимом шлюзу (throttle або block), шлюз працює. Немає розігріву, затримки, немає “застосування почнеться після наступного розрахункового циклу”. Шлюз перевіряє накопичені витрати проти ліміту при кожній керованій події витрат.
Рівні бюджету компонуються перетином: бюджет по агенту та бюджет по орендарю обидва діють, і перший досягнутий ліміт активує свій шлюз. Бюджет по моделі в межах агента додатково обмежується будь-якими бюджетами по агенту та по орендарю вище нього.
Що відбувається при досягненні ліміту
Коли накопичені витрати досягають або перевищують налаштований ліміт:
- Бюджетний шлюз відхиляє витрату — throttle або block, залежно від режиму.
- Відхилення записується як висновок у поверхні висновків платформи, з рівнем бюджету, лімітом та накопиченими витратами на момент відхилення.
- Агент отримує чіткий сигнал, що його бюджет вичерпаний. Платформа не мовчки скидає запит і не повертає неоднозначну помилку.
- Якщо налаштовано сповіщення, відхилення маршрутизується через Модуль XV.
Відхилена витрата — це керована подія. Вона записується в аудиторський журнал у тій же транзакції, що й відхилення, тому немає вікна, коли відхилення бюджету незаписане.
Сповіщення
Бюджетні сповіщення інтегруються з Модулем XV (Вихідні інтеграції та сповіщення). Коли бюджет наближається або досягає ліміту, висновок може маршрутизуватися до будь-якого налаштованого призначення:
- Slack / Teams — сповіщення каналу або особистого повідомлення.
- PagerDuty / Opsgenie — ескалація сповіщень.
- Підписаний webhook — для власних інтеграцій.
- SIEM — додається до потоку експорту аудиту.
Призначення сповіщень налаштовуються оператором. Бюджетний шлюз застосовується незалежно від того, чи налаштовано призначення сповіщень — шлюз є застосуванням, сповіщення є шаром поінформованості.
Взаємодія з аварійним вимикачем
Аварійний вимикач — це загальний шлюз заборони, і він перевизначає все, включаючи бюджетні шлюзи. Коли аварійний вимикач увімкнений:
- Усе кероване виконання відхиляється, включаючи будь-які витрати, які бюджетні шлюзи інакше б обмежили або дозволили.
- Режим throttle/block бюджетного шлюзу не має значення — інфраструктура зупинена.
- Повторне увімкнення інфраструктури вимагає звичного затвердження з подвійним контролем (дві різні людини, без шляху аварійного доступу для повторного увімкнення).
Бюджетний шлюз та аварійний вимикач є незалежними контролями. Вони компонуються, а не конкурують: аварійний вимикач — це загальна заборона, що поглинає кожен інший шлюз.
Маршрутизація моделей та бюджет
Модуль X обробляє маршрутизацію моделей з верифікованими оператором довідковими цінами. Застосування бюджету споживає ці ціни — він не підтримує власну таблицю цін і не фабрикує дані про витрати. Залежність одностороння:
- Модуль X декларує каталог моделей та довідкові ціни.
- Модуль XI читає ці ціни для обліку витрат та застосування бюджетних лімітів.
Якщо Модуль X не має довідкової ціни для моделі, Модуль XI не може обліковувати витрати проти бюджету. Некерована витрата (без ціни, без бюджету) показується як висновок, а не мовчки пропускається.
Чесні обмеження
Застосування бюджету є живим та закритим за замовчуванням для поверхонь, якими керує платформа, але має обмеження, які слід розуміти, перш ніж на нього покладатися:
- Точність витрат залежить від провайдера. Платформа обліковує витрати за допомогою задекларованих оператором довідкових цін та спостережених кількостей токенів. Якщо фактичне тарифікування провайдера відрізняється від задекларованої ціни, бюджетний шлюз застосовує задекларовану ціну, а не рахунок. Платформа не фабрикує дані про витрати і не вигадує бенчмарки.
- Покриття обмежене спостереженням. Застосування бюджету діє на витрати, що проходять через керовані канали — джерела, які платформа спостерігає. Агент, який викликає модель через некерований шлях (не підключене джерело, не випущена телеметрія) невидимий для бюджетного шлюзу. Платформа показує некеровані шляхи як висновки, коли може їх виявити, але не може застосовувати те, чого не бачить.
- Платформа в стадії до 1.0. Застосування бюджету поставляється і підключене сьогодні, але ставтеся до деталей обліку як до незавершеної роботи. Див. чесність і обмеження для повної позиції.
Пов’язане
- Каталог модулів — Модуль XI (Витрати та ШІ FinOps) та Модуль X (Управління моделями та провайдерами).
- Управління — модель застосування закрита за замовчуванням, якої дотримуються бюджетні шлюзи.
- Огляд FinOps — сторінка продукту для управління витратами.
- Аварійний вимикач — загальний шлюз заборони, що перевизначає застосування бюджету.
- Чесність і обмеження — що є живим проти проектного напрямку.