AI bez lukru #37: Zatrudniliśmy AI i jest drożej

Cześć! Z tej strony Tomek Turba. AI bez lukru to cykl moich felietonów o sztucznej inteligencji bez marketingowego lukru, bez korporacyjnych slajdów i bez bajek o “rewolucji, która wszystko zmieni”. Pokazuję AI taką, jaka jest naprawdę: z absurdami, wpadkami, halucynacjami i konsekwencjami, o których rzadko mówi się głośno. Bez zadęcia, bez propagandy, z humorem – ale na serio.

Pełna lista odcinków: tutaj

Miała być rewolucja. Miało być taniej, szybciej, efektywniej. „Zastąpimy pół działu operacyjnego, wdrożymy AI i oszczędzimy miliony”. A potem przychodzi faktura. I nagle okazuje się, że zatrudniliśmy najdroższego pracownika w firmie. Tylko że bez urlopu, bez ZUS-u i bez kawy. Zacznijmy od podstaw. Sprzęt. Jeśli chcesz działać poważnie z AI, nie bawisz się w laptopa z marketu. Wchodzą GPU, serwery, macierze, chłodzenie. Karty graficzne klasy data center kosztują dziesiątki tysięcy złotych za sztukę. Jeśli chcesz redundancję, HA, testy, staging – mnożysz razy dwa albo trzy. I to jest dopiero warstwa infrastrukturalna. Druga rzecz: subskrypcje. Modele w chmurze liczą się w tokenach. Każde zapytanie to koszt. Każda odpowiedź to koszt. Każdy kontekst – koszt. Jeśli system działa 24/7, generuje raporty, analizuje dokumenty, wspiera klientów, to nie płacisz “za dzień pracy”. Płacisz za każdą interakcję. AI nie bierze wolnego. AI konsumuje budżet non stop. Dochodzi fine-tuning, RAG, wektory, embeddingi, storage. Każdy element ma swoją linię w kosztorysie. I teraz crème de la crème: skalowanie. Proof of concept kosztował mało. Kilka tysięcy złotych. Działało pięknie. W demo wszystko było szybkie, precyzyjne, spektakularne, ale gdy przychodzi 10 tysięcy użytkowników, koszt rośnie wykładniczo. Bo to już nie jest jeden prompt. To jest milion promptów. Miliony tokenów. Miliony wywołań API. Potem wchodzi bezpieczeństwo. Ostatnio coraz częściej mówi się o ataku LLM Jacking. Brzmi niewinnie, ale mechanizm jest prosty i bardzo stary. Kiedyś kradło się moc obliczeniową do kopania kryptowalut. Dziś można kraść dostęp do modeli. Przejęte klucze API, nadużywane endpointy, automatyczne generowanie zapytań na cudzy rachunek. Ktoś odpala Twój model. Ty płacisz. LLM Jacking to po prostu cryptojacking 2.0 – tylko zamiast kopać bitcoina, ktoś kopie tokeny. Jeśli nie masz limitów, monitoringu, alertów, możesz obudzić się z rachunkiem większym niż roczny budżet działu marketingu. AI nie ma świadomości kosztu. Ona odpowiada. Generuje. Analizuje. Im więcej danych, tym więcej tokenów. Im dłuższy kontekst, tym drożej. Często zapominamy o jednym: AI to nie jest pracownik z pensją stałą. To pracownik na liczniku. Każde “doprecyzuj”, każde “przepisz”, każde “rozwiń” – to mikrotransakcja. Do tego dochodzi koszt ludzi, których miało “nie być”. Bo AI trzeba nadzorować. Trzeba ją testować. Trzeba pisać prompty, projektować architekturę, robić audyty bezpieczeństwa, wdrażać human-in-the-loop.

Paradoks polega na tym, że AI często nie redukuje zespołu. Ona zmienia jego profil. Zamiast juniorów potrzebujesz seniorów. Zamiast wykonawców – architektów.

I nagle okazuje się, że:

– masz wyższe koszty infrastruktury,
– stałe koszty subskrypcji,
– zmienne koszty tokenów,
– większe ryzyko nadużyć,
– i jeszcze specjalistów, którzy muszą to ogarnąć. Popatrz chociażbym na pojęcia użyte w dzisiejszym lukrze… :-)

AI bez lukru brzmi tak: sztuczna inteligencja nie jest tania. Jest skalowalna. A skalowalność bez kontroli potrafi być droższa niż ludzka praca. Czy to znaczy, że nie warto? Nie, ale warto przestać wierzyć w bajkę o “AI, która zastąpi ludzi i obniży koszty o 70%”.

Technologia nie eliminuje kosztów. Ona je przenosi. Z pensji na tokeny. Z biura na GPU. Z kadr na DevOps. Może największym zaskoczeniem ery AI będzie to, że najdroższe wcale nie są modele. Najdroższe jest nasze przekonanie, że będą darmowe i służyły ludzkości.

~Tomek Turba