Agenci AI w IT: koszt tokenów rośnie nawet 1000x

Wdrożenie autonomicznych agentów AI drastycznie zmienia ekonomię oprogramowania, ponieważ aż 98% zespołów FinOps zarządza obecnie wydatkami na AI, a Gartner szacuje, że ponad 70% projektów agentowych nie przyniesie oczekiwanej wartości z powodu braku kontroli budżetowej. Badania na platformie SWE-bench Verified wykazały, że zadania agentowe zużywają od 1200x do 3500x więcej tokenów niż standardowy chat, przy czym koszt generują głównie tokeny wejściowe. Firma Gorgias wykryła, że jedna niezoptymalizowana funkcja LLM generowała ciche straty, a jej migracja na mniejszy model przyniosła 800 000 USD oszczędności rocznie.

Mechanizm zużycia tokenów i skala zjawiska w IT

Przejście od prostych modeli konwersacyjnych do autonomicznych agentów AI całkowicie zmienia strukturę budżetów oprogramowania. Agenci wykonują wielokrokowe pętle decyzyjne, odczytują repozytoria kodu i wielokrotnie wywołują narzędzia zewnętrzne. To ciągłe przekazywanie kontekstu sprawia, że zapotrzebowanie na moc obliczeniową rośnie wykładniczo, zamieniając przewidywalne licencje abonamentowe w zmienny koszt infrastrukturalny.

Szczegółowe analizy zużycia tokenów na benchmarku SWE-bench Verified z wykorzystaniem środowiska OpenHands i ośmiu flagowych modeli LLM pokazują skokową zmianę skali. Zadania programistyczne realizowane przez agentów AI zużywają średnio 3500x więcej tokenów niż jednoliniowe wnioskowanie kodu (code reasoning) oraz 1200x więcej tokenów niż wielotaturowy chat (code chat). Co kluczowe, ostateczny rachunek jest zdominowany przez tokeny wejściowe (input tokens), a nie wyjściowe (output tokens), ponieważ agent w każdej pętli decyzyjnej dołącza całą dotychczasową historię konwersacji i wyniki narzędzi.

Zjawisko to potęguje się w pętlach decyzyjnych typu ReAct (Reasoning + Acting) lub Chain-of-Thought (CoT), gdzie każdy krok refleksji podwaja rozmiar promptu. Pięciokrokowa pętla ReAct zużywa w przybliżeniu 10x więcej tokenów niż bezpośrednia odpowiedź. Dodatkowo w systemach wieloagentowych narzut komunikacyjny (coordination chatter) potrafi zwiększyć zużycie tokenów 4x w porównaniu z agentem pojedynczym.

Empiryczne dane dowodzą również, że większe zużycie tokenów nie gwarantuje wyższej skuteczności. Dokładność agenta osiąga punkt szczytowy przy średnich kosztach (intermediate cost), po czym ulega nasyceniu lub spada przy najwyższych nakładach obliczeniowych. Najdroższe przebiegi charakteryzują się bezowocnym zapętleniem – m.in. wielokrotnym ponownym odczytywaniem i edycją tych samych plików. Różnice występują też między samymi modelami: Kimi-K2 oraz Claude Sonnet 4.5 zużywają średnio o ponad 1,5 mln tokenów więcej niż GPT-5 na tych samych zadaniach. Ponadto modele LLM systematycznie niedoszacowują własnego zużycia tokenów przed wykonaniem zadania (korelacja Pearsona sięga maksymalnie r = 0,39 dla Claude Sonnet 4.5).

Jakie są główne modele wyceny agentów AI w 2026 roku?

Dostawcy agentów AI odrzucają tradycyjne opłaty za użytkownika na rzecz struktur wiążących przychód z realną wartością i zużyciem zasobów. Od sztywnych subskrypcji, przez rozliczenia za zużycie tokenów, po stawki za konkretne efekty biznesowe – firmy łączą różne metody płatności, aby zabezpieczyć marżę przy zmiennych kosztach wnioskowania.

Tradycyjny model seat-based pricing traci rację bytu w przypadku autonomicznych agentów, ponieważ jeden pracownik może uruchomić tysiące równoległych akcji generujących masowe koszty infrastrukturalne. W 2026 roku struktury cenowe dzielą się na kilka podstawowych kategorii:

• Subscription / Seat: koszt 20–30 USD / użytkownika / mies. dla asystentów (np. Microsoft 365 Copilot w cenie 21 USD w promocji 18 USD dla SMB do 31 grudnia 2026 r. lub 30 USD dla E3/E5); sprawdza się wyłącznie, gdy koszty są przewidywalne, a człowiek kontroluje przebieg pracy.
• Usage-based: opłaty za tokeny, zapytania API lub uruchomienia (np. Copilot Studio po 200 USD za pakiety 25 000 kredytów). Odzwierciedla koszty zasobów, ale stwarza ryzyko nieprzewidywalnych rachunków dla klienta.
• Task / Workflow: stała opłata za wykonany proces (np. 75 000–300 000 USD za budowę dedykowanego agenta oraz 1 500–8 000 USD miesięcznych kosztów utrzymania).
• Outcome-based: opłata za zweryfikowany rezultat biznesowy (np. Intercom Fin pobierający 0,99 USD za rozwiązane zgłoszenie lub 9,99 USD za zakwalifikowanego leada w Fin for Sales; Zendesk do 2,00 USD; HubSpot 0,50 USD).
• Hybrid: połączenie stałej opłaty platformowej z komponentem zmiennym (np. opłata bazowa + pula kredytów + dopłata za nadwyżkę).

Według badań Simon-Kucher aż 45% firm planuje stosować dwie lub więcej metryk cenowych dla ofert AI. Z kolei raporty branżowe wskazują, że modele hybrydowe stanowią od 41% do 61% wdrożeń rynkowych, stanowiąc kompromis między przewidywalnością dla działu zakupów a ochroną marży dostawcy. Raport Gartnera prognozuje jednak, że ponad 40% projektów agentowych AI zostanie anulowanych do końca 2027 roku z powodu niejasnej wartości i niekontrolowanych kosztów.

Observability i atrybucja kosztów na poziomie kroków workflow

Pulpity nawigacyjne dostawców modeli LLM agregują koszty na poziomie pojedynczego zapytania API, ukrywając złożoną strukturę wykonawczą systemów wieloagentowych. Jedno wywołanie użytkownika wyzwala często dziesiątki podrzędnych kroków, pętli ponowień oraz zapytań do bazy wiedzy. Bez precyzyjnej telemetrii zespoły inżynieryjne nie są w stanie zidentyfikować kroków drenujących budżet.

Podstawowym wyzwaniem w zarządzaniu FinOps jest niedopasowanie granicy zapytania (request boundary) do granicy kroku (step boundary). Aby uzyskać pełną rozliczalność kosztową w systemach takich jak LangGraph, CrewAI czy OpenAI Assistants, konieczne jest przekazywanie pięciu kluczowych pól w kontekście śledzenia (trace context) zgodnych ze standardem OpenTelemetry GenAI:

• workflow_id: unikalny identyfikator procesu (np. analiza umowy), pozwalający na grupowanie kosztów dla FinOps.
• step_name: nazwa kroku logicznego (np. planner, retriever, drafter, critic), ujawniająca wąskie gardła budżetowe.
• agent_role: rola przypisana do agenta, mapowana do specyfikacji gen_ai.agent.name.
• retry_depth: wskaźnik liczby powtórzeń, odróżniający czysty przebieg od kosztownych pętli błędów.
• parent_span_id: identyfikator nadrzędnego wywołania W3C, odtwarzający pełne drzewo wywołań.

Wdrożenie obserwowalności agentów (agent observability) poprzez platformy takie jak Galileo czy Helicone umożliwia stałe monitorowanie kluczowych wskaźników: Trafienia w cache (Cache hit ratios): wskaźnik powyżej 40% potwierdza skuteczność buforowania; wartości poniżej 20% wymagają korekty progów podobieństwa. Wskaźnik błędów API (API failure rates): skoki powyżej 5% sygnalizują błędne konfiguracje i pętle ponowień pożerające budżet. * Wielkość okna kontekstu (Context window size): narastanie kontekstu o 40% lub potrojenie wywołań narzędzi w ciągu godziny uruchamia automatyczne alerty.

Przykład Gorgias dowodzi skali oszczędności: wyizolowanie kosztów pojedynczej funkcji proaktywnej LLM i jej migracja na mniejszy model przyniosły firmie 800 000 USD oszczędności rocznie. Z kolei wdrożenie progresywnej sumaryzacji konwersacji pozwala obniżyć zużycie tokenów o 35% bez utraty jakości odpowiedzi.

Nadzór nad samowolą agentów i zarządzanie ryzykiem FinOps

Niekontrolowany wzrost liczby autonomicznych agentów AI, określany jako agent sprawl, staje się głównym źródłem ukrytych kosztów oraz podatności na zagrożenia w infrastrukturze korporacyjnej. Posiadanie narzędzi obserwacyjnych bez jasnego przypisania właściciela i uprawnień dostępowych uniemożliwia wycofanie nieaktywnych lub nierentownych procesów.

Analitycy Gartnera przewidują, że do 2028 roku przeciętne przedsiębiorstwo z listy Fortune 500 będzie uruchamiać ponad 150 000 agentów AI (wobec mniej niż 15 w 2025 roku). Jednocześnie tylko 13% organizacji deklaruje, że posiada odpowiednie mechanizmy nadzoru (governance) nad tą skalą.

Zjawisko Shadow AI – czyli wdrażanie narzędzi AI poza kontrolą działu IT – niesie bezpośrednie skutki finansowe i bezpieczeństwa. Według raportu IBM 2025 Cost of a Data Breach Report, 1 na 5 naruszeń danych wywodzi się z nieautoryzowanego użycia AI, a organizacje dotknięte takimi incydentami płaciły średnio o 670 000 USD wyższe koszty wycieku z powodu braku kontroli dostępu.

Kolejnym obszarem strat jest nakładanie się licencji (license overlap) na platformach Microsoft 365 Copilot, Google Gemini oraz Salesforce Agentforce. Różne działy firmy często kupują niezależnie dedykowane moduły AI rozwiązujące ten sam problem, co potraja koszty licencyjne i obliczeniowe. W budżetach IT wydatki na AI pochłaniają już do jednej trzeciej budżetów zmian (change budgets). Badania Gartnera wskazują przy tym, że do 2027 roku firmy inwestujące w semantykę i grafy wiedzy w architekturze danych podniosą dokładność agentów o 80% przy jednoczesnej redukcji kosztów operacyjnych do 60%.

Wnioski praktyczne i rekomendacje

• Zweryfikuj natychmiastowy audyt i inwentaryzację: Skataloguj każdego agenta AI działającego w środowisku produkcyjnym i testowym, przypisując do każdego imiennego właściciela biznesowego (named owner) oraz określając jego poziom autonomii.
• Wdróż atrybucję kosztów na poziomie kroków: Zaimplementuj nagłówki śledzenia workflow_id, step_name, agent_role, retry_depth oraz parent_span_id w bramce LLM, wyliczając realny koszt pojedynczej transakcji biznesowej zamiast zagregowanego rachunku API.
• Skonfiguruj sztywne limitowanie i alerty budżetowe: Ustaw progi ostrzegawcze na poziomie 70–80% planowanego budżetu tokenowego dla każdego agenta oraz automatyczne ograniczenia w pętlach ReAct, chroniące przed niekontrolowanymi burzami ponowień (retry storms).
• Zmierz marżę na poziomie poszczególnych funkcji: Wyizoluj koszty wywołań LLM dla poszczególnych modułów i przetestuj routing zapytań – kieruj proste zadania do mniejszych modeli, rezerwując najdroższe flagowe modele wyłącznie dla skomplikowanych przypadków brzegowych.
• Zweryfikuj dublowanie licencji między platformami: Przeanalizuj kwartalnie nakładanie się uprawnień w Microsoft 365, Google Workspace i Salesforce Agentforce, wycofując zbędne płatne stanowiska tam, gdzie wystarczą darmowe wbudowane czaty.

Źródła

• A Guide to AI Agent Cost Optimization With Observability – Galileo AI
• AI Agent Pricing Strategy: How to Choose the Right Model for Your Product – Revinci
• AI Agents Pricing Guide: What Does It Actually Cost? – Braincuber
• AI FinOps Explained: AI Cost Optimization Guide (2026) – AvePoint
• How Do AI Agents Spend Your Money? Analyzing and Predicting Token Consumption in Agentic Coding Tasks – arXiv
• How to Price Autonomous AI Agents by Complexity and Value – Monetizely
• In 18 months, billing for AI agents will look like cloud infrastructure pricing. Variable, dimensional, real-time – Reddit
• LLM Cost Attribution by Workflow in Multi-Agent Systems