Tržište umjetne inteligencije suočava se sa značajnim izazovima u modeliranju troškova, što stvara nesigurnost kako za kupce usluga, tako i za njihove pružatelje. Iako su tehnološki divovi poput Microsofta, Googlea i Anthropic-a uložili stotine milijardi dolara u razvoj velikih jezičnih modela (LLM), precizno određivanje cijene za te napredne usluge ostaje iznenađujuće teško. Prodavači nisu sigurni koliko bi trebali naplatiti, dok korisnici imaju problema s kontrolom troškova korištenja.
LLM tehnologija, koja stoji iza popularnih usluga poput ChatGPT-a, Claudea i Geminija, temelji se na obradi podataka kroz matematičke dijelove zvane tokeni. Kada korisnik postavi upit, on se razbija na ove tokene koje model obrađuje, a odgovor se vraća u obliku tokena koji se zatim pretvaraju natrag u tekst, softverski kod ili naredbe za automatizaciju. Budući da se ekonomija tokena brzo mijenja, a sam proces obrade nije u potpunosti predvidljiv, teško je izračunati stvarne troškove za pojedinačne zadatke.
Trenutno se besplatne verzije vodećih AI alata nude korisnicima, dok plaćene verzije nude dodatne značajke prilagođene specifičnim zadacima poput programiranja ili složenijih analiza. Uz to, tvrtke trećih strana grade i prodaju usluge temeljene na AI agentima, koji su obično izgrađeni na LLM-u i obučeni za obavljanje specifičnih funkcija. Ova raznolikost ponude dodatno komplicira tržišnu dinamiku.
Simon Gooch iz tvrtke Saviynt, koja upravlja identitetima i integrira agencijski AI u svoje usluge, ističe da je vezivanje u model troškova na razdoblja od 12, 24 ili 36 mjeseci besmisleno. Razlog leži u nepoznanici što će se dogoditi s tehnologijom i cijenama u tom razdoblju. S obzirom na to da se uvjeti mijenjaju prebrzo, dugoročno planiranje budžeta za AI usluge postaje izuzetno rizično za poslovne subjekte.
