Koji je najbolji AI model za tvrtku?
Ne postoji jedan najbolji model — postoji model koji odgovara zadatku, i plan koji odgovara Vašim podacima.
Prvo pitanje nije „ChatGPT ili Claude“ nego „na kojem planu Vaši ljudi to koriste“: na potrošačkim planovima podaci se po zadanome koriste za treniranje modela, a na poslovnim i API planovima ne. To je razlika koja u praksi znači više nego izbor pružatelja.
⚠️ Namjerno ne pišemo koja je generacija „najsposobnija“. Imena i sposobnosti mijenjaju se svakih nekoliko mjeseci, pa svaka takva rečenica zastari prije nego je pročitate. Ono što ne zastarijeva su kriteriji po kojima se bira — i njima je posvećen ostatak teksta.
Koji plan odabrati prije nego birate model?
Ovo je dio koji se najčešće preskoči, a jedini je s pravnim posljedicama.
- Potrošački planovi (besplatni i osobne pretplate) — kod OpenAI-ja je dijeljenje podataka za treniranje po zadanome uključeno, uz mogućnost isključivanja u postavkama.
- Poslovni i API planovi — podaci se po zadanome ne koriste za treniranje; za to je potrebna izričita privola korisnika. To vrijedi i za OpenAI-jeve poslovne planove i API, i za Anthropicove poslovne uvjete.
Praktična posljedica: nije problem što zaposlenik koristi AI. Problem je što ga koristi na osobnom računu i ondje zalijepi ugovor, cjenik ili popis kupaca. Politika alata je tada drukčija od one koju je tvrtka mislila da ima.
Uz to, ako podaci sadrže osobne podatke, primjenjuje se GDPR bez obzira na to što piše u uvjetima alata: trebate znati gdje se obrađuju, koliko se čuvaju i po kojoj osnovi. Za veće pružatelje postoje i opcije zadržavanja podataka nula dana te odabir regije obrade — ali to su poslovne opcije koje se traže, ne zadane postavke.
Minimum koji preporučujemo: poslovni računi za sve koji rade s podacima tvrtke, pisano pravilo što se smije zalijepiti u chat, i jedna osoba koja to nadzire.
Po kojim se kriterijima bira AI model?
Kad je pitanje plana riješeno, model se bira po četiri stvari — istim redoslijedom svaki put.
- Koliko teksta obrađuje odjednom (kontekstni prozor). Mjeri se u tokenima; grubo, jedan token je oko tri četvrtine riječi. Prozor od milijun tokena znači da model može odjednom „vidjeti“ opseg veće knjige — ugovor s prilozima, godišnje izvještaje, cijelu bazu znanja. Manji prozor nije mana ako radite kratke zadatke.
- Koliko pouzdano citira iz Vaših podataka umjesto da izmišlja. Ovo je za posao važnije od „inteligencije“. Model koji uvjerljivo izmisli broj gori je od onoga koji kaže da ne zna.
- Gdje se podaci obrađuju i pod kojim uvjetima. Vidi prethodno poglavlje.
- Koliko košta u Vašem stvarnom opsegu. Ne po cjeniku, nego po Vašem broju upita mjesečno.
Ono što nije kriterij: koji je model popularniji, koji je zadnji objavljen i koji bolje prolazi na javnim ljestvicama. Ljestvice mjere zadatke koji rijetko sliče Vašima.
Kako izračunati koliko će AI model koštati mjesečno?
Cijene se objavljuju po milijunu tokena i mijenjaju se, pa ih ovdje ne prepisujemo — provjerite ih na stranici pružatelja. Ono što se ne mijenja su omjeri, i oni su dovoljni za procjenu.
- Izlaz je bitno skuplji od ulaza — tipično oko peterostruko. Dugi odgovori koštaju više nego dugi upiti.
- Razlika između najjeftinijeg i najjačeg modela je red veličine — otprilike deseterostruka. Zato se jednostavni zadaci ne šalju na najjači model.
- Ponavljajući dio upita može se predmemorirati i tada se naplaćuje oko desetine cijene. Ako svaki upit sadrži isti dugi sustavni tekst ili istu bazu znanja, to je najveća pojedinačna ušteda koju možete napraviti.
Račun koji vrijedi napraviti prije odluke: koliko upita mjesečno × prosječna duljina upita i odgovora. Za većinu malih tvrtki ispadne da je trošak modela manji od očekivanog, a da veći dio računa dolazi od loše postavljenog sustava koji svaki put šalje previše teksta.
Zašto je RAG važniji od izbora modela?
RAG (Retrieval-Augmented Generation) znači da model prije odgovora dohvati Vaše dokumente i odgovara iz njih, umjesto iz onoga što pamti iz treninga. To je razlika između asistenta koji zna Vaše cjenike, ugovore i procedure — i onoga koji uvjerljivo izmišlja.
Za poslovnu primjenu RAG je u pravilu važniji od izbora samog modela. Dobro postavljen RAG sa slabijim modelom daje korisnije odgovore od najjačeg modela bez pristupa Vašim podacima. Uz to je jeftiniji: umjesto da svaki put šaljete cijelu bazu, šaljete samo dio koji je relevantan za pitanje.
Praktično, to znači da odluka „koji model“ dolazi tek nakon odluka o tome gdje su Vaši dokumenti, tko ih smije vidjeti i kako se održavaju.
Kada se isplati vlastiti ili lokalni AI model?
Rijetko — ali postoje slučajevi. Vlastiti model koji se vrti na Vašoj infrastrukturi ima smisla kad podaci pravno ili ugovorno ne smiju napustiti kuću, kad je opseg toliko velik da fiksni trošak posluživanja postaje jeftiniji od naplate po tokenu, ili kad rješenje mora raditi bez interneta.
Za sve ostalo je skuplje nego što izgleda: treba hardver, održavanje i netko tko to nadzire, a kvaliteta zaostaje za komercijalnim modelima. Ako Vam netko predlaže vlastiti model, a nijedan od gornja tri razloga ne stoji, tražite obrazloženje.
Kako mi biramo
U našim projektima za kompleksne zadatke — programiranje, analizu dugih dokumenata i RAG integracije — dosljedno bolje prolaze Anthropicovi Claude modeli, i njih koristimo u većini isporuka.
To je naše iskustvo na našim zadacima, ne tvrdnja da je nešto objektivno najbolje; za pisanje marketinških tekstova ili opću upotrebu razlika je znatno manja.
Ono što radimo bez iznimke, neovisno o modelu: poslovni plan umjesto osobnog računa, RAG nad klijentovim dokumentima umjesto oslanjanja na pamćenje modela, i ljudska provjera prije nego rezultat dođe do klijenta.
Kad isporučujemo rješenje koje razgovara s klijentovim korisnicima, obavijest da je riječ o umjetnoj inteligenciji ugrađujemo po zadanome — to traži i članak 50. Uredbe (EU) 2024/1689, koji se primjenjuje od 2. kolovoza 2026.
Trebate procjenu što bi AI konkretno riješio u Vašem poslu? Javite se →