Širenje generativne umjetne inteligencije dovelo je do toga da alati poput Microsoft Copilota u Windowsu, Edgea, Binga i Microsofta 365 postanu sveprisutni u svakodnevnom životu korisnika i preduzeća. Pisanje izvještaja, sažimanje dokumenata, analiza podataka ili odgovaranje na e-poštu sada traje samo nekoliko sekundi, ali ova "supermoć" ima i lošu stranu: zloglasne AI halucinacije.
Ove halucinacije su odgovori koji zvuče razumno, ali su zapravo izmišljotine, iskrivljeni podaci ili neutemeljeni zaključci . Ovo nije jednostavan, jednokratni problem koji će magično nestati; to je strukturno ograničenje većih jezičkih modela. Stoga, ako koristite Copilot u Windowsu ili bilo kojoj Microsoftovoj usluzi, htjet ćete razumjeti šta su one, zašto se javljaju i šta možete učiniti da biste smanjili njihove efekte.
Šta je tačno halucinacija koju pokreće vještačka inteligencija?
Kada govorimo o halucinacijama u vještačkoj inteligenciji, mislimo na situacije u kojima generativni model, kao što su Copilot, ChatGPT ili Gemini , proizvodi lažne, obmanjujuće ili nekoherentne informacije sa potpunom sigurnošću , predstavljajući ih kao da su istinite. Ne "laže" namjerno, ali praktičan rezultat je isti: izmišljen sadržaj.
U tehničkom smislu, ovi modeli funkcioniraju poput prediktivnih tekstualnih mehanizama : obučavaju se na ogromnim količinama informacija i uče statističke obrasce. Prilikom generiranja odgovora, predviđaju koja riječ treba doći nakon prethodne; ne konsultuju strukturiranu bazu podataka u stvarnom vremenu kako bi provjerili svaki podatak.
Kada model naiđe na prazninu u informacijama, dvosmisleno pitanje ili loše definiran kontekst, on ima tendenciju da popuni praznine uvjerljivim pretpostavkama . To rezultira nepostojećim bibliografskim referencama, izmišljenim brojkama, sažecima koji izostavljaju ključne podatke ili opisima koji ne odgovaraju stvarnosti.
Ovaj fenomen ne utiče samo na tekst: naziva se i halucinacija kada kompjuterski vid (AI) detektuje obrasce ili objekte koji ne postoje , ili kada sistem klasifikacije označi nešto potpuno bezopasno kao prijetnju, ili obrnuto.
Načini na koje se manifestuju halucinacije umjetne inteligencije
Halucinacije ne izgledaju uvijek isto. U zavisnosti od konteksta i tipa osobe koja ih doživljava, mogu poprimiti različite oblike koje je važno prepoznati kako bi se na vrijeme podigla obrva.
Jedan od najčešćih je korištenje izmišljenih činjenica ili citata . Dobro diskutovan primjer iz stvarnog života bio je slučaj advokata koji je koristio generativni model za pripremu tužbe i na kraju je na sudu predstavio nekoliko presuda koje jednostavno nisu postojale, ali koje je sistem detaljno opisao.
Još jedan uobičajeni obrazac su nepotpuni ili pristrasni sažeci , gdje vještačka inteligencija izostavlja važne nijanse ili ignoriše dijelove originalnog dokumenta. U alatima za produktivnost poput Copilota u Microsoft 365, ovo se može pretvoriti u izvještaje o rizicima, sažetke prodaje ili analize zahtjeva koje izostavljaju ključne podatke.
Također nalazimo sažetke koji jednostavno popunjavaju praznine izmišljenim informacijama . Ako modelu nedostaje kontekst ili je obučen na pogrešnim podacima, ponekad "izvlači niotkuda" cijele paragrafe koji nisu u izvoru. U korporativnim okruženjima to može imati ozbiljan utjecaj na donošenje odluka.
U drugim scenarijima, halucinacije se manifestuju kao lažno pozitivni ili lažno negativni rezultati . Na primjer, u sistemima za otkrivanje prevara, analizi sajber sigurnosti ili medicinskoj dijagnozi potpomognutoj vještačkom inteligencijom, model može vidjeti prijetnju tamo gdje ona ne postoji ili, još gore, previdjeti stvarni rizik.
Slike generirane s apsurdnim anatomskim greškama, automobili s previše kotača ili ruke s dodatnim prstima vizualna su verzija istog fenomena: nekoherentni izlazi koji se krše s ljudskom logikom , rezultat modela koji je nesavršeno naučio obrasce.
Zašto se halucinacije javljaju kod modela poput Copilota?
Ne postoji jedan uzrok za halucinacije uzrokovane umjetnom inteligencijom. Obično su posljedica kombinacije faktora povezanih s podacima, dizajnom modela i načinom korištenja od strane korisnika . Razumijevanje ovih elemenata pomaže u njihovom ublažavanju.
Prvo, ključni su kvalitet i ravnoteža podataka za obuku. Ako se model obučava s nepotpunim, zastarjelim, pristranim ili jednostavno pogrešnim podacima , ovi nedostaci će se odraziti na njegov izlaz. S premalo uzoraka teme, ona će se na svoj način "popuniti"; s previše, može zamijeniti šum sa signalom.
Drugi čest uzrok su greške u pretraživanju informacija . Kada sistem kombinuje generativni model sa slojem za pretraživanje (na primjer, Copilot na Bingu ili u dokumentima vaše kompanije), upit može biti loše formulisan, može biti odabran pogrešan izvor ili se kontekst može izgubiti usput.
Dizajn samih velikih modela također igra ulogu. Prekomjerno prilagođavanje - kada je model previše prilagođen svom skupu za obuku - može uzrokovati da proizvodi nepouzdane izlaze za nove ili malo drugačije ulaze . A složenost prirodnog jezika (dvosmislenosti, ironija, sleng, dvostruka značenja) ostaje značajan izazov.
Konačno, tu je ključna komponenta: uputa. Nejasne, kontradiktorne ili zlonamjerne upute mogu izazvati mnoge zablude. Ako od umjetne inteligencije zatražite da nešto uradi s vrlo malo konteksta ili predstavite nerealan scenario kao da je istinit, model će se složiti s tim umjesto da kaže: "Ne znam."
Čak su i vrlo napredni proizvodi otkrili ova ograničenja. Vidjeli smo chatbotove koji negiraju nedavne javne događaje , asistente koji prihvataju lažne vijesti kao činjenice i pretraživače pokretane umjetnom inteligencijom koji preporučuju opasne prakse na osnovu pogrešnog tumačenja rezultata.
Zašto je toliko važno izbjegavati ili smanjiti halucinacije?
Možda se čini da izmišljen odgovor nije toliko ozbiljan ako je dovoljno ponovo pitati, ali u profesionalnim ili kontekstima visokog utjecaja, jedna halucinacija može imati ozbiljne posljedice.
Sa etičkog i regulatornog stanovišta, organizacije koje usvajaju vještačku inteligenciju sve su više obavezne da demonstriraju odgovorno, transparentno i neškodljivo korištenje ovih tehnologija. Dozvoljavanje korištenja izmišljenog sadržaja u izvještajima, komunikaciji s klijentima ili automatiziranim odlukama ide u upravo suprotnom smjeru.
Na poslovnom nivou, ove zablude mogu narušiti povjerenje kupaca, korisnika i zaposlenih . Kod mnogih, vještačka inteligencija i dalje izaziva sumnje: boje se za svoje podatke, privatnost ili posao. Ako, uz to, primjeri vještačke inteligencije povezane s tim brendom koji širi lažne informacije postanu javni, njegov ugled brzo pati.
Tu je i problem loše informisanog donošenja odluka . Preduzeća i vlade se sve više oslanjaju na analizu podataka i modele umjetne inteligencije kako bi planirali investicije, odredili cijene, upravljali rizicima i odredili prioritete resursa. Ako su rezultati umjetne inteligencije netačni, ali se prihvate kao validni, greške se mogu pretvoriti u finansijske gubitke, regulatorne kazne ili, u sektorima poput zdravstva, štetu za ljude.
Ovome se dodaju pravni i finansijski rizici . Sadržaj generiran umjetnom inteligencijom može oklevetati nekoga, kršiti autorska prava, preporučivati ilegalne prakse ili kršiti propise o zaštiti podataka. Halucinacije pojačavaju ove vjerovatnoće jer sistem može miješati stvarne činjenice s vrlo uvjerljivim izmišljotinama.
Copilot, Windows i umjetna inteligencija „utemeljeni“ na izvornim podacima
U Microsoftovom ekosistemu, Copilot je integriran s Windowsom, Edgeom, Bingom, Microsoftom 365 i poslovnim aplikacijama poput Dynamicsa 365. Ova integracija omogućava umjetnoj inteligenciji da radi s vašim dokumentima, e-poštom, proračunskim tablicama ili poslovnim podacima, ali također zahtijeva pojačanu budnost protiv halucinacija.
Jedna od strategija koju Microsoft i drugi dobavljači promoviraju naziva se potkrepljivanje ili verifikacija potkrepljivanja. Ideja je da se, korištenjem dodatnih modela, provjeri da li su tvrdnje generirane umjetnom inteligencijom zapravo potkrijepljene dostupnim izvornim materijalima.
U praksi, označava kao potencijalnu halucinaciju svaku informaciju koja se ne pojavljuje u konsultovanim izvorima . Ako otkrije informaciju koju ne može pronaći u izvorima, može je označiti kao potencijalnu halucinaciju, smanjiti njenu pouzdanost ili je jednostavno izbrisati.
U proizvodima poput Dynamics 365 Commerce, na primjer, Microsoft opisuje kako se funkcionalnost sažetka umjetne inteligencije validira poređenjem rezultata sa stvarnim vrijednostima entiteta (broj transakcija, iznosi, vrste rizika itd.). Nadalje, uzimaju se u obzir scenariji u kojima nedostaju podaci ili korisnici nemaju dozvole, upravo kako bi se spriječilo da model fabrikuje informacije ili otkriva više nego što bi trebao.
Ovaj pristup je dopunjen operativnim kontrolama: mogućnošću onemogućavanja AI sumiranja za određene radne prostore ili stranice, praćenjem korisničkih komentara i ograničavanjem veličine dokumenata poslanih modelu kako bi se izbjegli problemi s dužinom i gubitak konteksta.
Korištenje umjetne inteligencije na strukturiranim i vlasničkim podacima i primjena dodatnih slojeva verifikacije pokazuje jasan put, iako ne eliminira u potpunosti halucinacije.
Najbolje prakse za smanjenje halucinacija pri korištenju Copilota u Windowsu
Pored poboljšanja koja su implementirali proizvođači, vi, kao korisnik, igrate ključnu ulogu. Usvajanje određenih rutina pri radu s Copilotom u Windowsu ili s drugim asistentima može drastično smanjiti vjerovatnoću unošenja izmišljenih informacija u vaše dokumente ili odluke.
- Uvijek tražite precizan i ton zasnovan na činjenicama.Pogotovo u profesionalnim kontekstima.
- U upitu navedite ciljeve, publiku i ključne podatkeObjasnite za šta ćete koristiti sadržaj, ko će ga čitati i koji su podaci ključni.
- Ograničite izvore koje vještačka inteligencija može koristitiOvo smanjuje rizik dopunjavanja informacija podacima s interneta koji mogu biti zastarjeli ili pogrešno protumačeni.
- Napravite konkretna poređenja i tražite opravdanje. umjesto pitanja otvorenog tipa.
- Traženje od umjetne inteligencije da pokaže svoje postupno zaključivanje (niz misli) ili kratko objašnjenje kako ste došli do svakog zaključka daje vam prozor za otkrivanje logičkih skokova ili sumnjivih referenci.
Provjera činjenica: osnovni ljudski filter
Koliko god sofisticirani alati bili, ljudska verifikacija ostaje apsolutno neophodna kada postoji reputacijski, pravni ili finansijski rizik . Copilot vam može pomoći da uštedite vrijeme, ali ne bi trebao zamijeniti profesionalnu procjenu.
Prvo pravilo je da ne prepuštate provjeru činjenica samoj vještačkoj inteligenciji. Zahtjev da "provjeri vlastite izvore" može pomoći u preciziranju odgovora, ali to nije dovoljno. Kad god Copilot pruži linkove, citate ili reference, kliknite na njih i sami se uvjerite da se informacije pojavljuju tačno onako kako su se pojavile u originalnom izvoru.
Obratite posebnu pažnju na osjetljive oblasti kao što su zdravstvo, pravo, finansije, sajber sigurnost i analiza rizika . To su područja gdje halucinacije mogu imati posebno ozbiljne posljedice. U tim kontekstima, preporučljivo je provjeriti informacije sa službenim izvorima, specijaliziranim bazama podataka ili ljudskim stručnjacima.
Još jedna korisna praksa je uputiti vještačku inteligenciju da prihvati neizvjesnost . U upit možete uključiti nešto poput ovoga: „Ako ne možete pronaći čvrste izvore ili jasne podatke, molim vas, recite mi da nemate dovoljno informacija umjesto da donosite pretpostavke.“ Ovo smanjuje tendenciju modela da popunjava praznine nagađanjima.
Konačno, naviknite se da tretirate Copilot rezultate kao nacrte koje je potrebno urediti . Čak i ako tekst na prvi pogled izgleda savršeno, pažljivo ga pregledajte, ispravite sve nijanse, uklonite sve što ne možete provjeriti i prilagodite ton svom stilu ili stilu vaše organizacije.
RAG i druge tehničke tehnike za povezivanje umjetne inteligencije sa stvarnim podacima
Uz smjernice za korištenje, postoji i čitav niz tehničkih tehnika osmišljenih za smanjenje halucinacija unutar same arhitekture AI rješenja. Jedna od najdiskutovanijih naziva se Recovery Augmented Generation (RAG).
RAG uključuje kombinovanje generativnog modela sa sistemom za pronalaženje informacija koji, prije generisanja odgovora, pretražuje i pruža relevantne fragmente iz provjerenih izvora . Umjesto da model "sve izmišlja" iz svojih postojećih podataka, on se eksplicitno pohranjuje dijelovima dokumenata, bazama znanja ili internim bazama podataka.
Na ovaj način, kada reaguje, vještačka inteligencija se oslanja na konkretne i ažurne dokaze . Ne eliminiše u potpunosti halucinacije, ali značajno smanjuje njihovu učestalost i olakšava praćenje izvora svake tvrdnje.
Pored RAG-a, mnoge platforme uključuju kontrole izlaza : automatizirane validacije koje provjeravaju formate, raspone vrijednosti, obavezna polja i internu konzistentnost. Ako generirani odgovor ne ispunjava ove kriterije, on se odbacuje ili šalje na ljudski pregled.
Druga taktika je segmentacija zadataka: umjesto korištenja jednog mega modela za apsolutno sve, specifični tokovi rada su dizajnirani za svaku vrstu zadatka (korisnička služba, tehnička dokumentacija, analiza rizika itd.), svaki sa svojim vlastitim skupom podataka, vrstama upita i filterima.
Sve ovo je bolje integrirano kada postoji kultura nadzora: alati za pokretanje ljudskih pregleda kada je povjerenje u model nisko , za evidentiranje onoga što je ispravljeno i za učenje iz tih grešaka u kasnijim verzijama sistema.
Kombiniranje arhitekture, podataka i ljudskog nadzora omogućava vam da iskoristite generativnu umjetnu inteligenciju, a istovremeno držite njeno nepravilno ponašanje pod kontrolom i štitite tačnost, sigurnost i reputaciju onih koji je koriste.
