Що таке AI Agent Cost Calculator?
▾
Калькулятор вартості агента штучного інтелекту оцінює використання токенів і витрати на API для багатоетапних агентів LLM, які здійснюють кілька викликів API для кожного завдання користувача. На відміну від одноразової взаємодії чат-ботів, агенти штучного інтелекту, які використовують такі фреймворки, як LangChain, LangGraph, CrewAI або AutoGPT, організовують від 5 до 20 викликів LLM на завдання, коли вони міркують, планують, виконують виклики інструментів, обробляють результати та переходять до рішення. Цей мультиплікативний шаблон означає, що один запит користувача може коштувати в 10-50 разів більше, ніж просте повідомлення чату. Цей калькулятор має вирішальне значення для команд, які створюють агентські додатки штучного інтелекту, де непередбачуваність витрат є основною інженерною проблемою. Агент служби підтримки клієнтів, який здійснює 8 дзвінків LLM за заявку зі зростаючими контекстними вікнами, може коштувати від 0,10 до 0,50 доларів США за заявку на GPT-4o порівняно з 0,005 доларів США за просту одноразову відповідь. При 50 000 місячних квитків різниця становить від 5000 до 25 000 доларів проти 250 доларів на місяць. Розуміння та контроль витрат агента визначає, чи є агентська програма комерційно життєздатною. Калькулятор моделює модель накопичення токенів, унікальну для агентів: кожен крок надсилає повну історію розмов (усі попередні міркування, виклики інструментів і результати) як вхідні дані, створюючи квадратичне зростання загальної кількості вхідних токенів. 10-етапний агент, де кожен крок додає 500 токенів контексту, не споживає 10 x 500 = 5000 вхідних токенів. Він споживає приблизно 500 + 1 000 + 1 500 + ... + 5 000 = 27 500 вхідних жетонів на всіх етапах, 5,5-кратний множник, який наївні оцінки витрат повністю пропускають.
DigiCalcs delivers precision-engineered tools for engineers and STEM professionals.
Формула
▾
Вартість завдання агента = сума від кроку 1 до N з ((Накопичений контекст на кроці i x швидкість введення + відповідь на кроці i x швидкість виведення) / 1 000 000). Для 6-етапного агента GPT-4o, де кожен крок додає 400 маркерів контексту та генерує 300 вихідних маркерів: загальна кількість вхідних маркерів = 400 + 800 + 1200 + 1600 + 2000 + 2400 = 8400. Загальна кількість вихідних жетонів = 300 x 6 = 1800. Вартість = (8400 x 2,50 $ + 1800 x 10,00 $) / 1 000 000 = 0,039 $ за завдання.Опис змінних
▾
| Символ | Ім'я | Одиниця | Опис |
|---|---|---|---|
| N | Кроки за завдання | LLM calls | Середня кількість викликів LLM на завдання агента, включаючи кроки міркування, виклики інструментів і ітерації обробки результатів. |
| T_sys | Системні підказки | tokens | Виправлено накладні витрати маркерів із системної підказки та визначень інструментів, які надсилаються з кожним викликом LLM у циклі агента. |
| T_step | Жетони, додані за крок | tokens per step | Середні токени, додані до контексту розмови кожним кроком агента, включаючи вихід LLM, специфікацію виклику інструменту та результат інструмента. |
| T_out | Виведення токенів за крок | tokens per step | Середні токени, згенеровані LLM на кожному кроці міркування, включаючи аргументи за ланцюжком думок і параметри виклику інструментів. |
| M | Обсяг місячного завдання | tasks per month | Загальна кількість запитів користувачів, які ініціюють виконання агента щомісяця, де кожне завдання передбачає кілька послідовних викликів LLM. |
| V | Буфер дисперсії | ratio (0.3 to 0.5) | Бюджетний запас міцності для врахування внутрішньої мінливості кількості кроків агента, де для деяких завдань може знадобитися у 2-3 рази більше середньої кількості кроків. |
Як AI Agent Cost Calculator
▾
- 1Визначте середню кількість викликів LLM на завдання агента. Це значно відрізняється залежно від архітектури агента: простий агент ReAct може здійснити від 3 до 5 викликів, дослідницький агент із веб-пошуком — від 8 до 12 викликів, а складний багатоінструментальний агент із плануванням від 15 до 25 викликів. Виміряйте це на типових завданнях під час розробки, щоб встановити реалістичну базову лінію. Кількість кроків є основним фактором витрат, оскільки він визначає як кількість вихідних токенів, так і шаблон зростання контекстного вікна.
- 2Оцініть кількість токенів, доданих до контексту на кожному кроці. Кожен крок агента зазвичай додає результат міркування LLM (від 100 до 500 токенів), специфікацію виклику інструменту (від 50 до 200 токенів) і результат інструменту (від 100 до 2000 токенів залежно від інструменту). Результати веб-пошуку можуть додати від 1000 до 5000 токенів за виклик. Результати запиту до бази даних можуть додати від 500 до 3000 токенів. Цей накопичений контекст повторно надсилається як вхідні дані з кожним наступним кроком, створюючи характерне зростання витрат.
- 3Змоделюйте шаблон зростання контекстного вікна. На відміну від програм для чату, де контекст зростає лінійно з розмовою, контекст агента зростає квадратично, оскільки кожен крок додає контекст І повторно надсилає весь попередній контекст. Калькулятор використовує формулу трикутної суми: загальна кількість жетонів = N x (N + 1) / 2 x середнє число жетонів, доданих за крок, де N — кількість кроків. Це точно фіксує справжнє споживання вхідних токенів, яке за наївними оцінками за крок занижується у 2–5 разів.
- 4Виберіть свою модель LLM і зверніть увагу на ціни на вході та на виході. GPT-4o на рівні $2,50/$10,00 за мільйон токенів є звичайним для досвідчених агентів. GPT-4o-mini за $0,15/$0,60 працює для простіших агентів із чітко визначеними інтерфейсами інструментів. Claude Sonnet 4 за $3,00/$15,00 популярний для агентів, які потребують чітких інструкцій. Вибір моделі має прямий лінійний вплив на вартість, тому оцініть, чи зможе дешевша модель підтримувати надійність агента.
- 5Враховуйте системні підказки та визначення інструментів, які надсилаються під час кожного кроку. Комплексна підказка системи агента (від 500 до 2000 токенів) плюс від 5 до 10 визначень інструментів (від 200 до 500 токенів кожна) додає від 1500 до 7000 токенів фіксованих накладних витрат до кожного виклику LLM. За 10 кроків ця фіксована підказка коштує від 15 000 до 70 000 токенів введення, що за ціною GPT-4o становить від 0,04 до 0,18 доларів США за завдання лише для статичної підказки. Зведення до мінімуму підказки та довжини визначення інструменту є високою оптимізацією.
- 6Обчисліть місячну вартість, помноживши вартість кожного завдання на місячний обсяг завдання. Додайте буфер дисперсії від 30 до 50 відсотків, оскільки кількість кроків агента за своєю суттю є змінною. Деякі завдання можуть бути вирішені в 3 етапи, тоді як інші вимагають 15. Розподіл, як правило, зміщений праворуч, тобто випадкові складні завдання можуть коштувати в 5-10 разів медіану. Для планування бюджету використовуйте 90-й процентиль вартості завдання (а не медіану).
- 7Порівняйте з неагентними альтернативами. Багато завдань, які, здається, потребують агентів, можна розкласти на фіксований конвеєр із 2–3 викликів LLM із детермінованим потоком, усуваючи непередбачувану кількість кроків і зростання контексту агентів. Структурований конвеєр ланцюжка швидких ланцюжків-відповідей коштує в 3-5 разів дешевше, ніж еквівалентний агент, забезпечуючи більш передбачувану продуктивність і вартість. Резервуйте справжніх агентів для завдань, які справді вимагають динамічного обґрунтування та вибору інструментів.
Розв'язані приклади
▾
Простий 4-етапний агент підтримки, який шукає записи клієнта, перевіряє статус замовлення, складає чернетку відповіді та надсилає її. Зростання контексту є скромним у 4 кроки, а GPT-4o-mini зберігає витрати нижче 100 доларів США на місяць за 20 000 запитів у службу підтримки.
Дослідницький агент виконує 10 веб-пошуків і кроків аналізу за запитом. Результати веб-пошуку додають у середньому 800 токенів за крок, а накопичений контекст досягає 8000 токенів до кроку 10. При 0,21 долара за завдання кожен пошуковий запит коштує приблизно стільки ж, скільки виклик преміум-пошукового API Google.
Агент коду, який планує, пише код, запускає тести, перевіряє помилки, виконує ітерації та рефакторинг за 15 кроків. На кроці 15 контекст містить увесь попередній код, результати тестів і повідомлення про помилки, що становить понад 10 000 маркерів введення на виклик. Вартість кожного завдання в розмірі 0,81 дол. США необхідно порівняти з підвищенням продуктивності розробника.
Налаштування CrewAI із 3 спеціалізованими агентами (дослідником, автором, рецензентом), кожен з яких виконує 5 кроків. Міжагентне спілкування додає накладні витрати на контекст. Використання GPT-4o-mini для агента дослідника (простіше завдання) та GPT-4o для автора та рецензента економить приблизно 30 відсотків порівняно з використанням GPT-4o для всіх агентів.
Практичне застосування
▾
Платформи обслуговування клієнтів розгортають агентів штучного інтелекту, які автономно обробляють запити в службу підтримки, шукаючи інформацію про клієнтів, перевіряючи статус замовлення, застосовуючи відшкодування та надсилаючи електронні листи з підтвердженням. Фінтех-компанія, що обробляє 50 000 запитів агентів на місяць на GPT-4o-mini із середньою кількістю 5 кроків на квиток, витрачає приблизно 200 доларів США на місяць у порівнянні з 375 000 доларів США на місяць для еквівалентного персоналу агента. Навіть враховуючи 20 відсотків запитів, які передаються людям, агенти штучного інтелекту забезпечують зниження витрат на оброблений обсяг на 98 відсотків.
Групи розробників програмного забезпечення використовують агентів кодування, які планують впровадження, пишуть код, запускають тести, усувають помилки та повторюють, доки тести не пройдуть. Команда інженерів, яка використовує агентів Claude Sonnet 4 для виконання 500 завдань кодування на місяць по 0,80 доларів США за завдання, витрачає 400 доларів США на місяць. Кожне виконане агентом завдання заощаджує приблизно від 2 до 4 годин розробника за 75 доларів США на годину, забезпечуючи рентабельність інвестицій у 375–750 разів більше, ніж вартість агента. Агенти виконують рутинні завдання кодування, такі як кінцеві точки CRUD, написання тестів і рефакторинг.
Команди продажів залучають дослідницьких агентів, які збирають інформацію про потенційних клієнтів із багатьох джерел, аналізують фінанси компанії, визначають осіб, які приймають рішення, і створюють персоналізовані електронні листи. Торгова організація, яка використовує агентів GPT-4o для 3000 завдань дослідження потенційних клієнтів на місяць за 0,25 доларів США за завдання, витрачає 750 доларів США щомісяця. Це замінює 500 годин ручних досліджень на місяць, які раніше вимагали 3 штатних представників відділу продажів по 5000 доларів США на місяць кожен.
Команди аналізу даних використовують агентів, які пишуть запити SQL, виконують їх у базах даних, аналізують результати, генерують візуалізації та створюють письмові звіти. Консалтингова фірма, що виконує 200 завдань аналітичних агентів на місяць на Claude Sonnet 4 за 1,50 доларів США за завдання, витрачає 300 доларів США на місяць. Кожен аналіз, який раніше вимагав від 4 до 8 годин часу аналітика по 100 доларів США на годину, тепер коштує 1,50 доларів США та завершується за 2-5 хвилин, що означає 99,9-відсоткове зниження витрат і 99-відсоткове скорочення часу.
Особливі випадки
▾
Коли агенти використовують пошуково-доповнену генерацію (RAG) як інструмент, кожен виклик RAG
Коли агенти використовують генерацію з доповненим пошуком (RAG) як інструмент, кожен виклик RAG додає до розмови агента від 1000 до 5000 маркерів отриманого контексту. Агент, який виконує 3 пошуки RAG у 10-етапному робочому процесі, додає від 3000 до 15 000 маркерів контексту документа, який зберігається в розмові для всіх наступних кроків. Цей шаблон RAG в агенті може потроїти ефективне споживання маркерів введення порівняно з агентом без інструментів пошуку. Щоб стиснути отриману інформацію, подумайте про реалізацію контекстного узагальнення між кроками RAG.
Для агентів, які взаємодіють із зовнішніми API (надсилання електронних листів, створення заявок,
Для агентів, які взаємодіють із зовнішніми API (надсилання електронних листів, створення заявок, оновлення баз даних), розрахунок вартості повинен враховувати шаблон підтвердження запису, коли агент здійснює виклик інструменту, отримує результат і потім підтверджує дію. Кожна операція запису додає 2 раунди взаємодії інструменту (виклик + підтвердження) до кількості кроків. Агент, який виконує 3 зовнішні дії, додає 6 додаткових викликів LLM, потенційно подвоюючи загальну вартість завдання. Операції пакетного запису, де це можливо, щоб мінімізувати кількість раундів взаємодії інструментів.
У разі використання розширеного мислення або підказок ланцюга думок у межах кроків агента,
У разі використання розширеного мислення або підказок ланцюжка думок у межах кроків агента приховані маркери міркування можуть помножити вартість вихідного маркера в 3–10 разів за крок. Крок, який, здається, генерує 300 видимих токенів виводу, може внутрішньо споживати від 1500 до 3000 токенів мислення. За 10 кроків агента це додає від 15 000 до 30 000 додаткових вихідних токенів, які стягуються за вихідною ставкою. Відстежуйте фактичні виставлені токени порівняно з видимими токенами, щоб відкалібрувати свою модель витрат для агентів, використовуючи підказки з розширеним обґрунтуванням.
Вартість агента за складністю та моделлю (2025)
▾
| Тип агента | Середні кроки | Модель | Ціна за завдання | Щомісяця (10 тисяч завдань) |
|---|---|---|---|---|
| Простий інструмент виклику | 3-4 | GPT-4o-mini | 0,003-0,008 дол | 30-80 доларів |
| Підтримка клієнтів | 4-6 | GPT-4o-mini | 0,004-0,015 дол | 40-150 доларів |
| Дослідницький агент | 8-12 | GPT-4o | 0,10-0,40 дол | 1000-4000 доларів США |
| Генерація коду | 10-15 | Клод Сонет 4 | 0,30-1,00 дол | 3000-10000 доларів США |
| Мультиагентний екіпаж | 15-25 | Змішані моделі | 0,50-2,50 дол | 5000-25000 доларів США |
| Автономний агент | 20+ | GPT-4o / Опус 4 | $1,00-5,00+ | $10 000-50 000+ |
Часті запитання
▾
Чому агенти набагато дорожчі за чат-боти?
Агенти здійснюють кілька викликів LLM на запит користувача (зазвичай від 5 до 20), тоді як чат-боти роблять лише один. Крім того, контекст агента зростає з кожним кроком, оскільки всі попередні міркування та результати інструментів включені як вхідні дані. 10-етапний агент, який споживає в середньому 3000 токенів введення за крок, використовує 30 000 жетонів введення, порівняно з 1000 для ходу чат-бота. У поєднанні з вихідними маркерами з кожного кроку агенти коштують у 10-50 разів більше за взаємодію користувача, ніж одноходові чат-боти.
Як запобігти витратам агента-втікача?
Застосуйте три механізми безпеки: максимальну кількість кроків (зазвичай від 15 до 25 кроків), загальний бюджет токенів на завдання (від 50 000 до 200 000 токенів) і обмеження часу (30-120 секунд). Коли будь-який ліміт досягнуто, агент повинен повернути найкращу часткову відповідь. Крім того, відстежуйте покроковий прогрес і припиняйте роботу агентів, які зациклюються без значного прогресу. Деякі команди встановлюють поріг витрат, який переходить на дешевшу модель посередині завдання, якщо бюджет витрачається занадто швидко.
Чи варто мені використовувати GPT-4o або Claude Sonnet 4 для агентів?
Обидва добре працюють для агентів, але мають різні переваги. GPT-4o з викликом функцій має підтримку використання зрілих інструментів і надійний структурований вихід. Клод Сонет 4 відмінно підходить для виконання складних багатоетапних інструкцій і підтримки узгоджених планів протягом багатьох кроків. Для агентів з великими інструментами виклик функції GPT-4o трохи надійніший. Для агентів, які важко міркувати, Клод Сонет 4 часто створює кращі плани. Перевірте обидва на конкретних завданнях агента, щоб визначити, який дає більш надійні результати.
Чи можу я використовувати GPT-4o-mini для агентів?
GPT-4o-mini добре працює для агентів із простими, чітко визначеними інтерфейсами інструментів і зрозумілими вимогами. Він ефективно обробляє 3-5 етапні агенти з чіткими схемами інструментів. Для складних агентів, які вимагають багатоетапного планування, усунення помилок або нюансованого вибору інструментів із багатьох варіантів, GPT-4o-mini робить більше помилок за крок, що призводить до більшої кількості повторних спроб і іноді до вищих загальних витрат, незважаючи на нижчу ціну за токен. Найкращим місцем є використання GPT-4o-mini для етапів виклику інструментів і потужна модель для планування та синтезу.
Як багатоагентні системи (CrewAI) впливають на вартість?
Мультиагентні системи збільшують витрати, оскільки кожен агент підтримує власний контекст розмови та здійснює власні LLM-дзвінки. Екіпаж із 3 агентів, де кожен агент робить 5 дзвінків, подібний до вартості одного агента, який здійснює 15 дзвінків. Крім того, зв’язок між агентами додає накладні витрати на маркери, оскільки агенти обмінюються проміжними результатами. Перевагою багатоагентних систем є спеціалізація та модульність, але вартість зазвичай у 1,2–1,5 рази вища, ніж еквівалентний одноагентний підхід через комунікаційні витрати.
Яка середня вартість одного завдання агента?
Витрати дуже відрізняються залежно від випадку використання. Прості агенти (від 3 до 5 кроків на GPT-4o-mini) коштують від 0,002 до 0,01 долара за завдання. Агенти середньої складності (від 6 до 10 кроків на GPT-4o) коштують від 0,05 до 0,30 доларів США за завдання. Складні агенти (від 10 до 20 кроків із використанням інструментів на GPT-4o або Claude Sonnet 4) коштують від 0,20 до 2,00 доларів США за завдання. Широкий діапазон відображає різницю в кількості кроків, розмірі контексту, виборі моделі та детальності виведення інструменту.
Поширені помилки
▾
- !Оцінка вартості агента як кроків, помножених на вартість одного дзвінка:
- !Не впроваджуються обмеження витрат на виконання агента:
- !Використання моделей повної потужності для всіх кроків агента:
Порада профі
Запровадьте спостережливість для витрат вашого агента з першого дня за допомогою таких інструментів, як LangSmith, Helicone або спеціального відстеження токенів. Записуйте кількість кроків, маркерів введення, вихідних маркерів і загальну вартість для кожного завдання агента. Налаштуйте сповіщення для завдань, вартість яких у 2 рази перевищує середню вартість. Ці дані дають змогу визначити, які типи завдань є дорогими, які кроки агента марнотратними, а де маршрутизація моделі чи стиснення контексту матимуть найбільший вплив на витрати.
Чи знаєте ви?
Перший вірусний агент штучного інтелекту, AutoGPT, був запущений у березні 2023 року та був відомий тим, що витратив сотні доларів на API, виконуючи прості завдання. Перші користувачі повідомили, що AutoGPT витрачав від 50 до 100 доларів США на спробу створити веб-сайт, здійснюючи понад 200 викликів API під час дослідження, планування, написання коду, налагодження та повторного запуску в циклах. Цей болісний досвід спонукав галузь розробити механізми контролю витрат, які зараз є стандартними для сучасних агентських інфраструктур.
Regional Guides
▾
North America▾
Europe▾
Asia-Pacific▾
Джерела
Отримуйте щотижневі поради з математики
Приєднуйтеся до 12 000+ підписників, які щотижня отримують поради щодо калькулятора.