Zasebni AI za odvetniške pisarne: iskanje po spisih in predlogah, ki ne zapusti pisarne

Problem

Odvetniška pisarna živi od tega, kar je že napisala. Pogodbena predloga, ki je pred tremi leti prestala težka pogajanja, mnenje o zastaranju, ki ga je pripravil partner, pripravljalna vloga iz podobne zadeve: vse to obstaja, a je razpršeno po mapah, e-pošti in dokumentnem sistemu. Ko pripravnik išče "tisto klavzulo o omejitvi odgovornosti, ki smo jo uporabili pri IT pogodbi", porabi pol ure ali vpraša nekoga, ki je zaseden.

Splošni klepetalniki bi tu pomagali, vendar pisarna vanje ne sme vstaviti spisa. Zakon o odvetništvu odvetniku nalaga, da kot tajnost varuje, kar mu je zaupala stranka, in ta dolžnost veže tudi druge osebe, ki delajo v pisarni. Ko dokument pošljete v oblačno storitev tujega ponudnika, ga obdeluje tretja oseba na strežnikih, ki jih ne nadzorujete. Večina pisarn se zato odloči, da AI raje ne uporablja, kar pomeni, da znanje pisarne ostaja tam, kjer je bilo: v glavah ljudi in v mapah, ki jih nihče ne preišče.

Kaj zasebni AI naredi

Postavimo jezikovni model, ki teče na strežniku pisarne, in ga povežemo z vašimi dokumenti prek iskanja RAG (retrieval augmented generation). Ko odvetnik vpraša, sistem najprej poišče odstavke, ki so za vprašanje pomembni, nato iz njih sestavi odgovor in ob njem navede vire. Model ne odgovarja iz spomina, odgovarja iz vašega gradiva.

Primer vprašanja in odgovora (izmišljena predloga, prikazana zaradi oblike):

Vprašanje: Ali imamo v predlogah klavzulo o omejitvi odškodninske odgovornosti za pogodbe o vzdrževanju programske opreme in kako se glasi?

Odgovor: Da. Predloga pogodbe o vzdrževanju programske opreme ima klavzulo v 11. členu: odgovornost izvajalca je omejena na znesek letnega plačila, razen pri naklepu in hudi malomarnosti. Širša različica, ki izključuje tudi posredno škodo, je v predlogi licenčne pogodbe iz leta 2024.

Vir: Predloge/IT/Pogodba_vzdrzevanje_v3.docx, 11. člen; Predloge/IT/Licencna_pogodba_2024.docx, 9. člen

Tipična vprašanja, ki jih pisarne postavljajo v pilotu:

• Kje smo že zagovarjali stališče, da je terjatev zastarala zaradi pretrganja, in kaj je sodišče odločilo?
• Povzemi ključne roke iz te pogodbe in jih uredi po datumu.
• Katere predloge za delovna razmerja vsebujejo konkurenčno klavzulo in kako so omejene časovno?
• Kaj smo stranki X svetovali glede dokumentacije pri prenosu poslovnega deleža?

Odgovor je vedno izhodišče za odvetnika, ki vir odpre in presodi. Sistem prihrani iskanje, odločitve ne prevzame.

Viri podatkov

Pilot vedno začnemo z enim sklopom dokumentov, da lahko kakovost odgovorov izmerimo na resničnih vprašanjih. Pri odvetniških pisarnah so najpogostejši izbori:

• Pogodbene predloge in vzorci: največji učinek pri najmanj občutljivem gradivu, dober prvi korak.
• Lastna mnenja in memorandumi: znanje, ki ga partnerji napišejo enkrat in nato iščejo leta.
• Zbrana sodna praksa: odločbe, ki ste jih že shranili in označili pri svojih zadevah.
• Spisi zaključenih zadev: vloge, dopisi in odločbe, z istimi pravicami dostopa kot v dokumentnem sistemu.

Podprti so formati, ki jih pisarne dejansko imajo: Word, PDF (tudi skenirani, z razpoznavanjem besedila), e-pošta, izvoz iz dokumentnega sistema. Če so dokumenti v več jezikih, model odgovarja v slovenščini in navede izvirni dokument.

Arhitektura

Celotna veriga teče na strežniku, ki ga nadzoruje pisarna:

1. Indeksiranje: dokumente razrežemo na odstavke, jih pretvorimo v vektorje in shranimo v lokalni iskalni indeks. Novi dokumenti se dodajajo samodejno.
2. Iskanje: ob vprašanju sistem poišče najbolj ustrezne odstavke in upošteva pravice uporabnika, zato iz omejenih spisov ne vrne ničesar.
3. Model: odprt jezikovni model (izbiramo med družinami Llama, Mistral, Qwen in Gemma glede na slovenščino in strojno opremo) napiše odgovor samo iz najdenih odstavkov.
4. Vmesnik: spletni klepet v brskalniku ali API, združljiv z OpenAI, če ga želite povezati z obstoječimi orodji.
5. Nadzor: dnevnik vprašanj in odgovorov ostane pri vas, da lahko preverite, kdo je kaj spraševal.

Strojno opremo kupi pisarna. Mi jo dimenzioniramo glede na število uporabnikov in obseg dokumentov ter je ne preprodajamo. Pri manjših pisarnah pogosto zadošča obstoječi strežnik z dodano grafično kartico; podrobnosti so na strani o zasebnem AI.

Varnost in zakonodaja

Zasebna postavitev odpravi glavni zadržek: dokumenti ne zapustijo omrežja pisarne in ne gredo k zunanjemu ponudniku modela. To še ne pomeni, da je vsa skladnost urejena samodejno. Pri postavitvi skupaj določimo:

• kdo ima dostop do sistema in do katerih zbirk,
• kako dolgo se hranijo dnevniki vprašanj,
• kako se iz indeksa odstrani spis, ko mine rok hrambe,
• kdo je odgovoren za varnostne posodobitve strežnika.

Ker sistem obdeluje osebne podatke strank, velja splošna uredba o varstvu podatkov (GDPR) enako kot za vaš dokumentni sistem. Kaj za pisarno, ki AI uporablja, pomeni evropski akt o umetni inteligenci, smo opisali v članku Akt o umetni inteligenci za podjetja.

Pomemben je tudi odnos do stranke. Nekatere pisarne v pooblastilo ali splošne pogoje dodajo stavek o uporabi lokalnih orodij za iskanje po dokumentaciji. To je presoja pisarne, ne naša.

Časovnica in cena

• Pilot (od 2.900 €, 2–3 tedne): en sklop dokumentov, na primer pogodbene predloge, lokalna postavitev in ocena kakovosti na 30 do 50 resničnih vprašanjih, ki jih pripravite vi.
• Produkcija "Znanje podjetja" (6.000–15.000 €): več zbirk, prenos pravic iz dokumentnega sistema, samodejno dodajanje novih dokumentov, nadzor in navodila za ekipo.
• Podpora (290–790 € na mesec): posodobitve modela, varnostni popravki, spremljanje kakovosti.

Pilot poteka v treh korakih. V prvem tednu skupaj izberemo sklop dokumentov, vi pripravite seznam vprašanj, na katera odgovor že poznate, mi pa na vašem strežniku postavimo model in indeks. V drugem tednu dokumente indeksiramo in sistem preizkusimo na vaših vprašanjih; vsak odgovor ocenimo po tem, ali je pravilen, ali je vir pravi in ali bi ga odvetnik uporabil. V tretjem tednu dobite poročilo z rezultati, seznamom vprašanj, kjer se je sistem zmotil, in priporočilom, ali se produkcijska postavitev splača. Če se ne, vam to napišemo. Odločitev o nadaljevanju je vaša.

Cene so končne, ker nismo zavezanci za DDV. Celoten cenik in kaj zajema posamezna stopnja je na strani o zasebnem AI za podjetja. Pisarne, ki želijo, da model piše v slogu pisarne (na primer osnutke dopisov), si lahko ogledajo še model po meri s fine-tuningom.

Kaj ne obljubimo

• Pravilnih odgovorov brez preverjanja. Model se lahko zmoti ali napačno poveže dva odstavka. Zato vedno navede vir in zato odgovor ostaja izhodišče za odvetnika.
• Kakovosti največjih oblačnih modelov pri vsaki nalogi. Odprti modeli na lastnem strežniku so pri iskanju po dokumentih in povzemanju zelo dobri, pri zahtevnem pravnem sklepanju pa manj kot največji modeli v oblaku. To pokažemo na vaših vprašanjih v pilotu.
• Avtomatske skladnosti. Lokalna postavitev zmanjša tveganje, odgovornost za obdelavo podatkov strank pa ostane pri pisarni.
• Iskanja po javnih bazah. Sistem pozna samo gradivo, ki ga vanj vključimo.