Vienas dažniausių klausimų, kurį sau uždaviau pradėjusi kurti AI sprendimus, buvo labai paprastas.

Jei per porą valandų susikuriu „ChatGPT“ darbo eigą, kuri puikiai veikia, kodėl negaliu tiesiog paimti to paties modelio per API ir gauti tokį patį rezultatą?

Juk modelis tas pats? Bent jau taip atrodo.

Ir štai skirtumas tarp darbo per vartotojo sąsają (UI) ir darbo per API yra gerokai didesnis, nei tikėjausi. Pokalbio lange matome tik mažą sistemos dalį. Už jos slypi sisteminės instrukcijos, konteksto valdymas, atmintis, įrankiai ir kiti mechanizmai, padedantys modeliui dirbti stabiliau.

Per API visa tai dažniausiai tenka sukurti pačiam. Dažnai neužtenka vien „sujungti laidus“ – reikia pasirūpinti viskuo, apie ką net nesusimąstome naudodamiesi AI per jo vartotojo sąsają. Modelį galima pakeisti per kelias minutes. Gerą AI architektūrą – ne.

Be to, kad nebūtų per lengva, verslo aplinkoje greitai atsiranda ir kitų klausimų – BDAR (GDPR), duomenų saugojimo vieta (data residency), prieigos teisės ar auditas. Todėl AI sprendimo architektūra tampa ne tik kokybės, bet ir saugumo bei atitikties klausimu. Paaiškėja, kad vien gero modelio neužtenka.

Reikia apgalvoti:

  • kokias instrukcijas gauna modelis;
  • kaip valdysite kontekstą;
  • ar užduotį verta skaidyti į kelis žingsnius;
  • kaip tikrinsite atsakymų kokybę;
  • kokius įrankius ir duomenų šaltinius modelis galės pasiekti.

Atrodo keista, bet dažnai didžiausią įtaką rezultatui daro ne modelio pasirinkimas, o sistema aplink jį. O gera sistema prasideda nuo gero proceso supratimo.

Ką tai reiškia vadovui?

Jei planuojate diegti AI organizacijoje, verta pakeisti vieną lūkestį. Nesitikėkite, kad vien pasirinkę geriausią modelį automatiškai gausite geriausią rezultatą. Demonstracijose dažniausiai matote jau sukurtą sistemą. Versle ją dar reikės pritaikyti jūsų procesams, todėl verta pradėti ne nuo klausimo:

„Kurį modelį pasirinkti?“

O nuo kitų:

  • Kokius sprendimus darbuotojai priima kiekvieną dieną?
  • Kur jie sugaišta daugiausia laiko?
  • Kokios informacijos jiems trūksta?
  • Kuriose proceso vietose atsiranda daugiausia trinties?
  • Ar dirbsite su jautriais ar asmens duomenimis?
  • Ar svarbu, kur bus saugomi duomenys (data residency)?

Tik tada verta spręsti, ar problemą geriausiai išspręs AI, automatizacija, verslo taisyklės, ar jų derinys. Geriausi AI projektai prasideda ne nuo modelio pasirinkimo, jie prasideda nuo gero proceso supratimo. Kai procesas aiškus, techniniai sprendimai tampa gerokai paprastesni.