Slik gir du AI-agenten kilder den kan stole på
Bygger du med AI og får svar som ser riktige ut, men er feil? Her får du vite hvordan du gir agenten kilder i stedet for å la den gjette, og hvordan du sjekker at det virker.
Dette er for deg som bygger digitale løsninger med AI, eller får noen til å gjøre det for deg. Rådet er det samme uansett hvilket verktøy du bruker.
Hvorfor gjetter agenten?
En AI-agent bygger på en språkmodell, og en språkmodell svarer alltid. Har den ikke fått informasjonen, fyller den hullet med det som høres rimelig ut. Det kalles hallusinasjon.
Det er ikke agenten som er dårlig. Den har bare ikke fått noe å slå opp i.
Slik gjør du det
- Samle det agenten skal kunne. Prislista, reglene, de vanligste spørsmålene med svar. Ett dokument per tema er lettere for modellen enn én lang PDF.
- Rydd i dokumentene. Korte avsnitt med tydelige overskrifter gir bedre treff. Er noe utdatert, fjern det, for modellen kan ikke se forskjell på gammelt og nytt.
- La agenten slå opp før den svarer. Det er dette som kalles RAG: modellen henter de bitene som passer spørsmålet, og bygger svaret på dem.
- Be den vise hvor svaret kom fra. Da ser du med en gang når den har hentet fra feil sted, og du kan rette kilden i stedet for å gjette hva som gikk galt.
- Gi den lov til å si «vet ikke». Skriv det inn som en regel: står det ikke i kildene, skal den si det og sende videre.
Slik sjekker du at det virker
Spør om noe som ikke finnes i kildene. Svarer agenten «det vet jeg ikke», er den satt opp riktig. Svarer den med et tall eller en regel, har du en jobb å gjøre.
Spør deretter om noe som står i kildene, og se om den viser hvor det kom fra. Gjør du disse to testene hver gang du legger til nye dokumenter, oppdager du feilene før kundene gjør det.
Hva kan du gjøre nå?
Ta de ti spørsmålene dere oftest får, og skriv svarene i ett dokument. Det er nok til å teste om agenten slår opp eller gjetter. Vil du ha hjelp til å sette det opp, kan du ta en prat med en ekspert.