Google je uveo AI sažetke kao način da korisnicima pruži brze i direktne odgovore u okviru rezultata pretrage. Na prvi pogled, reč je o korisnoj funkciji koja štedi vreme i pojednostavljuje dolazak do informacija. Ipak, najnovija istraživanja pokazuju da ovi odgovori nisu uvek pouzdani.
Analiza startapa Oumi, sprovedena za potrebe lista New York Times, obuhvatila je više od četiri hiljade pretraga. Rezultati pokazuju da su AI sažeci tačni u oko 85 odsto slučajeva sa starijom verzijom modela, odnosno do 91 odsto sa novijom. To znači da se greške javljaju u približno svakom desetom odgovoru.
Iako procenat tačnosti deluje visok, u praksi to ima drugačiju težinu. Na nivou globalne upotrebe Google pretrage, i mali procenat grešaka znači ogroman broj netačnih informacija koje korisnici svakodnevno dobijaju. Problem je tim veći što se ovakvi odgovori često prihvataju bez dodatne provere.
Poseban izazov predstavlja proverljivost informacija. Istraživanje pokazuje da se značajan deo tačnih odgovora ne može lako potvrditi na osnovu ponuđenih izvora. Drugim rečima, odgovor može biti tačan, ali bez jasnog oslonca u dostupnim linkovima.
Dodatnu sumnju izaziva i kvalitet izvora na koje se AI oslanja. Među njima se često nalaze sadržaji sa društvenih mreža i foruma, poput Facebooka i Reddita, koji nisu uvek pouzdani. To povećava rizik od netačnih ili pogrešno interpretiranih informacija.
Greške se ne svode samo na pogrešne izvore. U pojedinim slučajevima sistem pronađe odgovarajući izvor, ali pogrešno protumači podatke. U drugim situacijama kombinuje više različitih informacija i dolazi do netačnog zaključka. Time se pokazuje da problem nije samo u kvalitetu podataka, već i u načinu na koji ih veštačka inteligencija obrađuje.
Google je kritikovao metodologiju istraživanja i naveo da korišćeni skup pitanja ne odražava uobičajene upite korisnika. Ipak, kompanija i sama upozorava da AI odgovori mogu sadržati greške, što potvrđuje da tehnologija još nije potpuno pouzdana.
Šire posmatrano, ovakav način prikazivanja informacija menja i način korišćenja interneta. Kako korisnici sve češće dobijaju gotove odgovore, sve ređe posećuju originalne izvore. Time se smanjuje poseta sajtovima i dovodi u pitanje održivost modela na kojem počiva otvoreni internet.
Iako AI sažeci predstavljaju značajan korak napred, jasno je da zahtevaju oprez u korišćenju. Deset odsto grešaka nije zanemarljivo, naročito kada se ima u vidu koliko se često oslanjamo na rezultate pretrage u svakodnevnom životu.