Dok baratate jezičkim modelima, sigurno ste spazili opštu boljku: čak i najhvaljeniji AI sistemi umeju da iznose izmišljotine i to sa velikim samopouzdanjem. Već smo pisali o njihovim halucinacijama zbog kojih možete straćiti sate na naopak odgovor ili, što je grđe, učiniti nešto pogrešno jer ste vođeni lažnim informacijama.
Međutim, ključ je u sledećem: istraživanja potvrđuju da valjan prompt (naredba, instrukcija, uputstvo mašini) obara učestalost halucinacija sa pogubnih 53% na podnošljivih 23%. A pisanje dobrog prompta je veština koja se uči i razvija.
Nabrajamo neke od metoda za pisanje dobrog prompta.
Pre nego što pređemo na tehnike, pojasnimo osnovno: AI ne „misli“, on predviđa sledeću reč. Ponekad ga ta predviđanja navode na stranputicu.
Da biste to sprečili, primenite sledeće:
1) Udarite u centar
Umesto razvodnjenog zahteva „Pričaj mi o istoriji Rimskog carstva“, pitajte: „Koja su tri glavna razloga zbog kojih je Zapadno rimsko carstvo propalo u 5. veku?“
Bitno je da budete određeni i precizni u pogledu vremena i koji vas odgovor tačno interestuje.
Zašto ovo radi? Kada je pitanje omeđeno, model nema prostora da luta i ne može da plete zavodljive izmišljotine. Usko polje pretrage je vaša najbolja odbrana.
2) Tražite ili dajte izvor informacija
Model je učen na moru tekstova koji dolaze iz svakojakih izvora. Kada mu izričito pomenete da tražite tačan izvor neke tvrdnje ili da želite da koristi samo određene izvore (na primer sa .edu domena, a da izbegava žutu štampu), vi ga usmeravate na pravedni put. Tada manje improvizuje, a više se drži činjenica.
3) Pokrenite lanac samoprovere (Chain-of-Verification)
Ovo je postupak u četiri koraka koji koristite kada je odgovor „biti ili ne biti“:
Korak 1: Model odgovori na pitanje.
Korak 2: Tražite od njega da sam sebi postavi kontrolna pitanja o tom odgovoru.
Korak 3: Model odgovara na ta pitanja pošteno, podvrgavajući sebe oštroj kritici.
Korak 4: Na kraju isporučuje pročišćen, konačan odgovor.
Broj izmišljotina ovde vrtoglavo opada jer mašina na svakom stepeniku iznova pretresa sopstvenu pamet.
Dakle, navodite ga da ispituje sam sebe.
4) Najčešći odgovor (Self-Consistency)
Naterajte mašinu da generiše odgovor nekoliko puta, pa odaberite onaj koji se najčešće ponavlja. Iako je ovo sporije i troši više „tokena“ (digitalne jedinice obrade), za prelomne odluke to je jemstvo pouzdanosti. Ako se isti odgovor pojavi četiri puta od pet pokušaja, onda je verovatno tačan.
5) Dajte mu primer (Few-Shot)
Ako modelu pre glavnog pitanja podmetnete 2-3 svojih primera besprekornih odgovora, on će početi da preslikava taj kvalitet i stil. Primeri su aršin koji mu kazuje kakav format i dubinu očekujete.
Na primer date mu nešto ovako:
Primer 1
Rečenica: „Kupio sam kartu i sutra putujem u Beč.“
Jezik: srpski
Primer 2
Rečenica: „I bought a ticket and tomorrow I travel to Vienna.“
Jezik: engleski
Rečenica: „J’ai acheté un billet et je pars demain pour Vienne.“
Jezik: ?
Odgovor će sada znati kako da vam odgovori jer ste mu dali sličan primer.