Adimen alokatua edo propioa: ETEentzako IA erabaki berria

Modelo berri bat agertzen den bakoitzean, elkarrizketa publikoa leku berera itzultzen da: rankingak, probak, pantaila-irudiak, konparaketak eta nor doan irabazten iragartzen duten analisiak.

Horrek badu garrantzia. Frontera-modeloak gero eta indartsuagoak dira eta, zeregin askotan, gaitasun-aldea nabaritzen da.

Baina ETE batentzat erabaki garrantzitsua ez da marka baten taldean sartzea. Erabaki garrantzitsua beste hau da:

enpresaren zein zatik izan behar duen adimen alokatuaren menpe, eta zein zatik bihurtu behar duen adimen propio.

Ez da galdera filosofikoa. Kostuari, pribatutasunari, mantentzeari, abiadurari eta kontrolari buruzko galdera da.

Zer esan nahi du adimena alokatzeak

Adimena alokatzea kanpoko modeloak eta zerbitzuak erabiltzea da: OpenAI, Anthropic, Google, Microsoft, hornitzaile espezializatuak, IA integratua duten SaaS tresnak edo lanaren zati zehatz bat konpontzen duten APIak.

Kasu askotan, zentzu osoa du.

Arazo konplexu bat aztertzeko, programatzeko, ikertzeko, dokumentuak alderatzeko, informazio zaila laburtzeko edo erabaki delikatu bat berrikusteko gaitasunik onena behar baduzu, hornitzaile serio batek mantendutako frontera-modelo bat nahi izatea normala da.

Abantaila argia da:

• gaitasun handia lehen egunetik;
• azpiegitura kudeatua;
• etengabeko hobekuntzak zerbitzariak zabaldu gabe;
• segurtasun, baimen eta auditoria tresna gero eta helduagoak;
• barne taldearentzako karga tekniko txikiagoa.

Enpresa txiki batentzat, hori abantaila handia izan daiteke. Ez da IA laborategi bat eraiki behar denbora aurrezten edo prozesu bat hobetzen hasteko.

Baina dena alokatzeak ere badu muga.

Alokairuaren muga

ETE batek ez ditu erantzun adimentsuak bakarrik behar. Bere lan egiteko moduan sartzen diren sistemak behar ditu.

Kanpoko modelo bat oso ona izan daiteke, baina ez ditu ezagutzen zure bezeroak, historikoa, salbuespenak, baimenak, marjinak, txantiloiak, iraganeko erabakiak edo zure taldearen benetako hizkuntza.

Eta zeregin errepikakor bakoitza kanpoko modelo handi batetik pasatzen denean, galdera praktikoak agertzen dira:

• zenbat kostatzen da bolumena igotzen bada?
• zer datu ateratzen dira enpresatik?
• nork berrikusi dezake egindakoa?
• zer gertatzen da hornitzaileak prezioa edo politika aldatzen badu?
• emaitza azal daiteke bezero edo auditore batek galdetzen badu?

Hortik dator estrategiaren bigarren zatia: adimen propioa.

Zer esan nahi du adimen propioak

Adimen propioak ez du esan nahi ETE batek modelo erraldoi bat trebatu behar duenik. Hori ez litzateke errealista enpresa gehienentzat.

Prozesutik gertu dauden gaitasun txikiagoak eta espezializatuagoak diseinatzea esan nahi du:

• enpresaren benetako kategoriak ikasten dituen posta-sailkatzailea;
• fakturak, eskaerak, albaranak edo inprimakiak irakurtzeko datu-erauzlea;
• onartutako dokumentuen gaineko barne bilatzailea;
• negozioaren arau propioak dituen intzidentzien bideratze-sistema;
• erantzunak prestatzen dituen baina berrikuspenik gabe bidaltzen ez dituen laguntzailea;
• transkripziorako, audio-lerrokadurarako edo sailkapen errepikakorrerako modelo txikia.

Joera teknikoa norabide horretan doa. Modelo handiekin batera, modelo ireki eta espezializatu askoz txikiagoak agertzen ari dira: ahotsa, embeddings, transkripzioa, lerrokatzea, egiazta daitekeen arrazoiketa, sailkapena eta ezagutza berreskuratzea.

Horrek ez ditu frontera-modeloak ordezkatzen. Baina arkitektura aldatzen du.

Ez da dena merkatuko modelo handienetik pasatu behar.

Zergatik da garrantzitsua "txikia"

Esaldi arriskutsu bat dago IAn: "open source merkeagoa da". Batzuetan bai. Batzuetan ez.

Modelo ireki bat ez da merkea baldin eta hilabete osoan GPU garesti bat martxan edukitzera, talde tekniko bat mantentzera eta negozioaren gainerako zatirako behar ez duzun azpiegitura batera behartzen bazaitu.

Hitza garrantzitsua ez da "irekia". Hitza garrantzitsua txikia da.

Txikiak esan nahi du agian egungo azpiegituran, zerbitzari lokalean, hardware apalean, Apple Siliconen, bolumen txikiko lanetarako CPUan edo behar denean batch prozesu gisa exekuta daitekeela.

Txikiak esan nahi du zeregin errepikakor batek ez duela modelo erraldoi baten prezioa ordaindu behar aldi bakoitzean.

Txikiak esan nahi du gaitasun batzuk datutik eta prozesutik gertu bizi daitezkeela, ez beti enpresatik kanpo.

Eta hori, ETE batentzat, benchmark bat irabaztea baino garrantzitsuagoa izan daiteke.

Erantzun heldua hibridoa da

Estrategia heldua ez da "dena itxia" edo "dena irekia". Arkitektura hibridoa da.

Erabili frontera-modeloak gaitasun maximoak garrantzia duenean: analisi konplexua, programazioa, ikerketa, estrategia, arrisku handiko berrikuspena edo errore batek modelo-deiak baino gehiago kostatzen duen zereginak.

Erabili modelo txiki, ireki edo espezializatuak zeregina errepikakorra, pribatua, bolumen handikoa, barne datuei oso lotua edo ondo neurtzeko adina mugatua denean.

Erabili arauak, baimenak eta giza berrikuspena bi kasuetan. Gobernantza ez da desagertzen modeloa kanpokoa delako. Ez da magikoki agertzen modeloa lokala delako.

Balioa adimen-pieza bakoitzak non bizi behar duen ondo erabakitzean dago.

Abantaila ez da azken modeloa ezagutzea izango

Denbora batez, enpresa askok modelo berriena erabiltzen dutela esateko lehiatuko dira.

Baina hori ez da abantaila iraunkorra izango.

Abantaila izango da zer adimen alokatu, zer adimen etxean eduki, zer datu behar diren, zer muga behar diren enpresa babesteko eta zer prozesu hobetu daitezkeen modu neurgarrian jakitea.

ETE batentzat, IA praktikoa ez da teknologia pila bat erostean hasten.

Prozesu garesti, errepikakor edo motel bat aukeratzen hasten da, eta haren inguruan modeloen, datuen, baimenen, giza berrikuspenaren eta neurketaren konbinazio zentzuzkoa diseinatzen.