ChatGPT zna mnogo o svetu, ali ništa o vašoj firmi. Ne zna vaše procedure, ugovore, cenovnik, tehničku dokumentaciju ni odluke od prošle godine. A kada ne zna, često izmišlja. RAG je tehnika koja rešava oba problema.
RAG u jednoj rečenici
RAG (Retrieval Augmented Generation) znači da AI pre odgovora pretraži vaše dokumente, uzme najrelevantnije delove i na osnovu njih napiše odgovor, uz navođenje izvora.
Zamislite kolegu koji je pročitao celu dokumentaciju firme, ima savršeno pamćenje i uvek kaže "ovo piše u Pravilniku o radu, član 12". To je dobar RAG asistent.
Kako radi, korak po korak
- Prikupljanje dokumenata: PDF, Word, Excel, skenirani dokumenti, intranet, Confluence, SharePoint, email.
- Priprema: čišćenje teksta, OCR za skenove, uklanjanje duplikata, dodavanje metapodataka (datum, autor, tip, verzija).
- Deljenje na celine (chunking): dokumenti se dele na smislene delove, na primer po članovima zakona ili poglavljima priručnika.
- Vektorizacija: svaki deo se pretvara u niz brojeva koji opisuje njegovo značenje (embedding) i čuva u vektorskoj bazi.
- Pretraga: kada korisnik postavi pitanje, i ono se pretvara u vektor i sistem pronalazi delove sa najsličnijim značenjem.
- Generisanje odgovora: AI model dobija pitanje i pronađene delove i piše odgovor isključivo na osnovu njih.
- Citiranje: uz odgovor se prikazuju izvori, pa korisnik može da proveri.
Šta je "vektorizacija podataka" i zašto je važna
Klasična pretraga traži iste reči. Ako u dokumentu piše "otkazni rok", a vi pitate "koliko dugo moram da radim posle davanja otkaza", klasična pretraga verovatno neće pronaći odgovor. Vektorska pretraga hoće, jer upoređuje značenje, a ne reči. To je razlog zašto RAG deluje "pametno".
Zašto RAG ne izmišlja (koliko god je moguće)
Model dobija jasno uputstvo: odgovaraj samo na osnovu priloženih delova, a ako odgovor ne postoji, reci da ne znaš. Uz to:
- svaki odgovor ima izvor,
- sistem meri koliko je pronađeni sadržaj relevantan,
- pitanja bez dobrog odgovora se beleže, pa se dokumentacija dopunjuje.
Gde RAG donosi najviše vrednosti
- Pravo i porezi: pretraga propisa, mišljenja i sudske prakse. Takav sistem smo napravili za veliku konsultantsku kuću.
- Interna baza znanja: procedure, pravilnici, HR pitanja, onboarding.
- Tehnička dokumentacija: proizvodnja, servis, IT podrška.
- Prodaja i podrška kupcima: specifikacije proizvoda, cenovnici, uslovi.
- Ugovori: pronalaženje odredbi, poređenje verzija, rokovi.
RAG ili fine-tuning?
Fine-tuning menja ponašanje modela (stil, format), ali nije dobar način da model "nauči" činjenice koje se menjaju. RAG je bolji za znanje firme jer se dokumenti ažuriraju odmah, bez ponovnog treniranja. Detaljnije u tekstu RAG ili fine-tuning.
Bezbednost i privatnost
Dobar RAG sistem poštuje dozvole: korisnik dobija odgovor samo iz dokumenata kojima ima pristup. Podaci mogu da ostanu u EU cloudu, na vašem serveru ili potpuno lokalno, uz lokalne modele.
Koliko košta i koliko traje
Prototip na uzorku vaših dokumenata pravimo za 2 do 4 nedelje, MVP za oko 2 meseca, a veće sisteme za 3 do 5 meseci. Okvirni trošak vektorizacije možete izračunati u RAG kalkulatoru.
Sledeći korak
Pogledajte uslugu AI asistenta nad dokumentima ili nam pošaljite upit sa kratkim opisom vaše dokumentacije. Napravićemo prototip na uzorku da vidite rezultat pre odluke.
Česta pitanja
Šta znači RAG?
Retrieval Augmented Generation, odnosno generisanje odgovora uz prethodnu pretragu. AI prvo pronađe relevantne delove vaših dokumenata, pa na osnovu njih napiše odgovor.
Da li RAG zahteva treniranje modela?
Ne. Model se ne trenira na vašim podacima. Dokumenti se indeksiraju, a model ih čita samo kada su relevantni za pitanje.
Koliko košta RAG sistem?
Manji asistenti kreću od oko 5.000 €, a veliki sistemi sa hiljadama dokumenata i više uloga rade se fazno. Mesečni trošak infrastrukture i modela je najčešće 100 do 500 €.
Recite nam šta vas usporava
Odgovaramo u roku od jednog radnog dana. Prvi razgovor i procena su besplatni.
Pošalji upit
