Retrieval-Augmented Generation. På norsk kan du si «slå opp, så svar». Modellen henter først de bitene som passer fra dokumentene dine, og skriver svaret ut fra dem i stedet for å gjette seg fram.

Må jeg trene opp en egen AI for å bruke RAG?

Nei, det slipper du som regel helt. Modellen er ferdig laget fra før. Du gir den bare lov til å lese dokumentene dine når den svarer, og det holder for de fleste bedrifter.

Hva skjer hvis svaret ikke finnes i dokumentene?

En god løsning sier «det vet jeg ikke» og sender deg videre til et menneske. En dårlig løsning gjetter i stedet. Det siste kalles hallusinasjon, og det er dette RAG skal hindre.

Hva er RAG? | AI-automatisering

Hva er RAG?

En språkmodell har lest enormt mye tekst fra hele internett.

Den har derimot ikke lest prislisten din, returreglene dine eller åpningstidene dine i julen. Spør du den om dette, gjetter den.

Den gjetter like selvsikkert som når den faktisk vet svaret.

RAG betyr at modellen slår opp i dokumentene dine før den svarer. Den søker gjennom det du har gitt den, plukker ut bitene som passer spørsmålet, og bygger svaret på dem.

Modellen lærer ingenting nytt av dette, men den får et sted å slå opp i, og stedet er dine egne ord.

Slik gjør RAG svarene mer presise

Uten RAG er en chatbot en flink generalist som ikke kjenner bedriften din.

Med RAG blir den en medarbeider som har lest alt du har skrevet ned.

Det er forskjellen på å svare «butikker pleier å ha fjorten dagers angrerett» og å svare «hos oss har du tretti dagers åpent kjøp, og du betaler ikke returfrakt». Det første er en gjetning, det andre er hentet rett fra reglene dine.

Dette må være på plass

Skal RAG virke godt, kan du ikke hoppe over forarbeidet.

Som regel er det fire ting som avgjør om løsningen blir god:

dokumentene må finnes, ikke bare ligge i hodet på én person
de må stemme, for RAG gjør modellen like presis som kilden
de må være ryddige, med korte avsnitt og ett tema hver
kilden bør vises, slik at du kan rette raskt når noe er galt

Har du reglene bare i hodet på én ansatt, kan det første steget rett og slett være å skrive dem ned.

Det trenger ikke være pent skrevet. Det må bare være riktig, og mulig å finne igjen.

Trening er sjelden nødvendig

Mange tror de må trene opp en egen AI for å komme i gang, men det trenger nesten ingen bedrifter.

Å trene en modell fra bunnen kan være dyrt og tregt, og er sjelden verdt det for en vanlig bedrift. RAG er noe helt annet.

Det er å gi en ferdig modell lov til å lese det du allerede har skrevet ned. For de fleste er det nok til at den kan svare riktig om nettopp din bedrift.

Hva kan du gjøre nå?

Se gjennom det du har skrevet ned fra før, for eksempel prisliste, vilkår og de vanligste spørsmålene fra kunder.

Er det lite, kan du begynne akkurat der.

Er det mye og litt rotete, kan det være lurt å rydde det først, slik at hvert dokument har ett tema.

Lurer du på om dokumentene dine er klare for RAG, kan du ta en prat med en ekspert.