Model po meri: zasebni LLM, ki piše, razvršča in izlušča tako, kot to dela vaša ekipa

Problem

Iskanje RAG odgovori na vprašanje "kaj piše v naših dokumentih". Veliko dela v podjetju pa ni iskanje. Podpora vsak dan napiše petdeset odgovorov, ki so si podobni, a morajo zveneti kot podjetje in ne kot robot. Pisarna ročno razvršča prihajajočo e-pošto v deset kategorij. Nekdo iz vsake naročilnice prepisuje iste podatke v ERP.

Splošni modeli te naloge opravijo spodobno, vendar ne v vašem slogu, ne po vaših kategorijah in ne vedno v isti obliki. Z dolgimi navodili in primeri v pozivu se da priti daleč. Ko pa mora model nalogo ponoviti tisočkrat na dan, natančno enako, in ko vsebine ne smete pošiljati v tujo storitev, je dodatno učenje lastnega modela smiseln korak.

Kaj zasebni AI naredi

Fine-tuning pomeni, da odprt jezikovni model dodatno naučimo na vaših primerih. Uporabljamo metodo LoRA, pri kateri se nauči majhen dodatni del modela, zato je učenje hitrejše in cenejše, osnovni model pa ostane nespremenjen. Rezultat je model, ki teče na vašem strežniku in nalogo opravi tako, kot jo je opravljala vaša ekipa.

Tri naloge, kjer fine-tuning najpogosteje prinese največ:

• Osnutki odgovorov v slovenščini v slogu podpore ali pisarne, ki jih človek preveri in pošlje.
• Razvrščanje zahtevkov, e-pošte ali dokumentov v vaše kategorije, z oceno zanesljivosti.
• Izluščanje podatkov iz naročilnic, računov ali pogodb v stalno strukturo za ERP ali tabelo.

Primer naloge in rezultata (izmišljen zahtevek, prikazan zaradi oblike):

Vhod: "Pozdravljeni, paket smo prejeli včeraj, vendar manjka adapter. Številka naročila 48213. Lp, Mojca"

Izhod modela: kategorija Reklamacija: manjkajoč del, zanesljivost visoka; izluščeno: naročilo 48213; osnutek odgovora: "Pozdravljeni, Mojca, hvala, ker ste nam sporočili. Manjkajoči adapter za naročilo 48213 vam pošljemo danes, po pošti ga prejmete v 1 do 2 delovnih dneh. Opravičujemo se za nevšečnost."

Vir: model, naučen na 2.000 preteklih odgovorih podpore (Podpora/izvoz_2024-2025.csv); kategorije iz Podpora/kategorije_v4.xlsx

Pri fine-tuningu vir ni odstavek v dokumentu, kot pri RAG, ampak učni nabor. Zato pri vsakem modelu jasno zapišemo, na katerih podatkih je bil naučen.

Viri podatkov

Za fine-tuning potrebujemo pare "vhod in pričakovan izhod", ki jih podjetje pogosto že ima:

• Zahtevki in odgovori podpore iz sistema za zahtevke ali izvoza e-pošte.
• Razvrščena e-pošta ali dokumenti, kjer je kategorijo nekoč že določil človek.
• Dopisi in ponudbe, ki kažejo slog in strukturo podjetja.
• Ročno prepisani podatki, na primer naročilnice in vnosi v ERP, kjer imamo dokument in pravilen izid.

Koliko podatkov je dovolj, je odvisno od naloge. Za razvrščanje v nekaj kategorij jih potrebujemo manj kot za pisanje v slogu podjetja; točno število določimo v pilotu. Pomembnejša od količine je doslednost: če sta dva sodelavca isti zahtevek razvrstila različno, se bo model naučil obojega. Zato del primerov pred učenjem pregledamo ročno in neskladja razrešimo skupaj z vami.

Del podatkov vedno odložimo za ocenjevanje, da model preverimo na primerih, ki jih med učenjem ni videl. Podatke pred učenjem očistimo: odstranimo osebne podatke, ki jih model ne potrebuje, in primere, ki niso dober zgled.

Arhitektura

1. Priprava podatkov: izvoz, čiščenje, odstranitev osebnih podatkov, delitev na učni in ocenjevalni del.
2. Izhodišče: najprej izmerimo, kako dobro nalogo opravi osnovni model z dobrimi navodili. Če je to dovolj, fine-tuninga ne delamo.
3. Učenje LoRA: na vašem strežniku ali, če ta za učenje ni dovolj močan, na najeti strojni opremi pod vašim nadzorom, po dogovoru.
4. Ocenjevanje: primerjava z izhodiščem na odloženih primerih, z mero, ki jo dogovorimo vnaprej (natančnost razvrščanja, delež osnutkov, ki jih ekipa pošlje brez večjih popravkov).
5. Postavitev: naučen model teče na vašem strežniku in je dostopen prek API, združljivega z OpenAI, zato ga povežete s sistemom za zahtevke ali ERP.

Model lahko kombiniramo z iskanjem RAG: fine-tuning poskrbi za slog in obliko, RAG za dejstva iz vaših dokumentov. Primerjavo obeh pristopov smo opisali na strani o zasebnem AI.

Varnost in zakonodaja

Učni podatki so pogosto bolj občutljivi od dokumentov za RAG, ker gre za resnično komunikacijo s strankami. Zato velja: podatki se pripravijo in model se uči v okolju, ki ga nadzorujete vi, naučen model pa ostane na vašem strežniku.

Model si lahko zapomni dele učnih podatkov in jih kasneje ponovi. To tveganje zmanjšamo s čiščenjem podatkov pred učenjem in s preverjanjem izhodov pred postavitvijo. Za obdelavo osebnih podatkov strank velja splošna uredba o varstvu podatkov (GDPR) tudi takrat, ko jih uporabite za učenje modela.

Časovnica in cena

• Pilot (od 2.900 €, 2–3 tedne): pregled podatkov, izhodiščna meritev z osnovnim modelom in odločitev, ali je fine-tuning sploh potreben. Pogosto se pokaže, da zadoščajo dobra navodila in RAG.
• Fine-tuning (4.000–12.000 €): priprava podatkov, učenje LoRA, ocenjevanje in postavitev. Razpon je odvisen od števila nalog, količine podatkov in tega, koliko čiščenja potrebujejo.
• Podpora (290–790 € na mesec): spremljanje kakovosti in ponovno učenje, ko se naberejo novi primeri.

Pilot pri fine-tuningu je predvsem meritev. V prvem tednu izvozimo vzorec podatkov, preverimo njihovo kakovost in z vami dogovorimo, kako bomo uspeh merili: pri razvrščanju je to delež pravilno razvrščenih primerov, pri osnutkih delež, ki jih ekipa pošlje brez večjih popravkov. V drugem tednu izmerimo, kako nalogo opravi osnovni model z dobrimi navodili in, kjer je smiselno, z iskanjem RAG. V tretjem tednu dobite poročilo z rezultati in jasnim priporočilom: zadošča to, kar že imamo, ali pa je fine-tuning vreden naložbe, skupaj z oceno, koliko podatkov zanj potrebujemo.

Cene so končne, ker nismo zavezanci za DDV. Kaj zajema posamezna stopnja, je na strani o zasebnem AI za podjetja. Primer, kjer fine-tuning dopolnjuje iskanje po dokumentih, je zasebni AI za računovodske servise, kjer model piše osnutke odgovorov strankam v slogu servisa.

Kaj ne obljubimo

• Fine-tuninga, kadar ni potreben. Če dobra navodila in RAG nalogo rešijo, vam to povemo po pilotu in ne prodajamo dodatnega učenja.
• Novega znanja iz učenja. Fine-tuning izboljša slog, obliko in razvrščanje. Za dejstva iz dokumentov je boljši RAG.
• Brezhibnih izhodov. Tudi naučen model se moti. Zato je pri osnutkih vedno človek, pri razvrščanju pa ocena zanesljivosti, pod katero gre primer v ročni pregled.
• Kakovosti največjih oblačnih modelov pri vsaki nalogi. Naučen odprt model je pri ozki nalogi pogosto zelo dober, pri splošnem pisanju in sklepanju pa slabši od največjih modelov v oblaku.