Spalanie tokenów to nie ten powód do dumy, za jaki uchodzi

Zacznę od przyznania się: lubię patrzeć, jak ta liczba rośnie.

Licznik tokenów, miesięczny rachunek za AI, mały pulpit pokazujący, ile zespół przepchnął przez ostatni tydzień. Jest w tym coś wciągającego. Większe zużycie wygląda jak więcej pracy, większy rozpęd, dowód, że naprawdę wdrożyliśmy to narzędzie, a nie tylko o nim rozmawiamy.

A potem łapię się na tym. Sama liczba niewiele mówi.


Przechwałka, która nic nie znaczy

Gdzieś w ostatnim roku spalanie tokenów stało się powodem do dumy. Ludzie ogłaszają swój rachunek tak, jak kiedyś ogłaszali zarwaną noc w pracy. I jak przy zarwanej nocy, warto zapytać, czy to coś do świętowania, czy raczej do cichego naprawienia.

Tu robi się niewygodnie. Dwa zespoły mogą wydać na AI dokładnie tyle samo i żyć w dwóch różnych światach.

Jeden kręci się w kółko. Zadaje to samo pytanie na piętnaście sposobów, wrzuca modelowi wszystko na wszelki wypadek, pozwala długiej, rozlazłej rozmowie dryfować, aż nikt już nie pamięta, o co chodziło. Rachunek wysoki. Efekt — papka.

Drugi świadomie odpala najmocniejsze, najdroższe modele. Do problemu, który na nie zasługuje, z jasnym poleceniem i porządnym ustawieniem. Rachunek też jest wysoki. Ale to, co wraca, to gotowa praca, a w przeliczeniu na osobę kosztuje grosze.

Ta sama pozycja na fakturze. Raz to marnotrawstwo. Raz najlepiej wydane pieniądze tego miesiąca.


Koszt to połowa zdania

Dlatego „wydaliśmy dużo na AI" samo w sobie niewiele mówi. To połowa zdania. Druga połowa, ta, której nikt nie wkłada w przechwałkę, to to, co z tego wróciło.

Szef finansów patrzy na rosnący rachunek i sięga po limit. Zrozumiałe. Tyle że limit mierzy złą połowę. Kontroluje wydatek, nie pytając o zwrot. Możesz idealnie zmieścić się w budżecie i mimo to przepalić każdą złotówkę.

Lepsze pytanie nie brzmi „jak wydać mniej?". Brzmi „czy dostajemy więcej, niż zapłaciliśmy?". To nie to samo pytanie. Mylenie ich to sposób, w jaki dobre zespoły głodzą jedyne narzędzie, które akurat działało.


Co mierzyłbym zamiast tego

Nie rachunek. Stosunek.

W co zamienił się ten wydatek — w dowiezioną pracę, w realną decyzję, w coś, czego klient może użyć? Czy tańsze podejście dałoby ten sam wynik? Czy koszt rośnie szybciej niż efekt, czy razem z nim?

Kiedy koszt rośnie szybciej niż wartość, to jest twój sygnał. Nie wielkość liczby. Kształt trendu.

Kwota rzadko bywa tu problemem. Problemem jest zwykle to, czy użyto jej mądrze.

Kiedy patrzysz na rachunek za AI, co właściwie mierzysz — kwotę, czy to, co z niej wyszło?

No comments: