Istraživanje koje je predvodio tim sa Washington State University pokazalo je da ne postoji jedan ton komunikacije koji jednako dobro funkcioniše kod svih korisnika. Rezultati sugerišu da je efikasnost AI korekcije povezana sa načinom na koji sama osoba doživljava veštačku inteligenciju.
Kod ljudi koji AI prvenstveno posmatraju kao tehnički alat bolje rezultate davale su neutralne i direktne korekcije zasnovane na činjenicama. Nasuprot tome, kod osoba koje veštačkoj inteligenciji lakše pripisuju osobine slične ljudskim, efikasniji je bio empatičniji i topliji način komunikacije.
Eksperiment obuhvatio 857 roditelja
Studija, objavljena u časopisu International Journal of Human–Computer Interaction, zasnovana je na randomizovanom onlajn eksperimentu u kojem je učestvovalo 857 roditelja dece uzrasta za koji se preporučuje HPV vakcinacija.
Istraživači su najpre procenjivali sklonost učesnika ka antropomorfizaciji AI sistema – odnosno u kojoj meri ljudi veštačkoj inteligenciji pripisuju karakteristike koje obično povezujemo sa ljudima.
Učesnicima je potom prikazana simulirana diskusija na Facebooku koja je sadržala netačnu tvrdnju da HPV vakcine povećavaju rizik od neuroloških problema.
Na takvu objavu reagovao je nalog namenjen ispravljanju dezinformacija. U različitim verzijama eksperimenta korekcija je bila predstavljena kao odgovor AI sistema ili čoveka, dok je način obraćanja bio neutralan ili empatičan.
Kada je AI „alat“, činjenice bez emocija bolje funkcionišu
Rezultati su pokazali zanimljivu razliku.
Kod učesnika sa niskim ili srednjim nivoom antropomorfizacije AI-ja, neutralne AI korekcije bile su povezane sa manjim prihvatanjem pogrešnih tvrdnji.
Drugim rečima, ako osoba AI doživljava kao mašinu ili tehnički alat, bolje je funkcionisao direktan pristup zasnovan na činjenicama.
Kod ljudi sa izraženijom sklonošću da AI doživljavaju kao nešto nalik čoveku situacija je bila drugačija – empatična AI komunikacija pokazala se efikasnijom.
To znači da AI koji pokušava da zvuči izrazito ljudski i saosećajno nije automatski bolji.
Za određenu grupu korisnika upravo takvo ponašanje može biti manje odgovarajuće od hladnijeg i direktnijeg odgovora.
Nije presudno samo ko ispravlja informaciju
Posebno zanimljiv deo istraživanja odnosi se na poređenje čoveka i AI-ja kao izvora korekcije.
Autori u objavljenom radu navode da nisu pronađeni glavni efekti samog izvora korekcije niti tona kada se oni posmatraju izolovano. Ključan je bio odnos između tona AI odgovora i načina na koji korisnik doživljava AI.
To je važna nijansa: rezultati ne znače jednostavno da je „ton uvek važniji od izvora“, već da efikasnost AI korekcije zavisi od usklađenosti načina komunikacije sa očekivanjima korisnika.
Istraživanje tako otvara pitanje budućnosti AI sistema za proveru činjenica.
AI fact-checkeri mogli bi da menjaju način komunikacije prema korisniku
Jedna od mogućih primena rezultata jeste razvoj AI sistema koji ne razgovaraju sa svim korisnicima na isti način.
Društvene mreže, mediji, zdravstvene institucije ili druge organizacije mogle bi da koriste AI agente koji prilagođavaju stil komunikacije korisniku.
Jednom korisniku AI bi mogao da odgovori kratko, neutralno i činjenično, dok bi drugom mogao da se obrati toplije i empatičnije, uz iste činjenice i dokaze.
Istraživači navode i mogućnost početnog procesa kojim bi sistem procenio odnos korisnika prema antropomorfizaciji AI-ja, a zatim tome prilagodio način komunikacije.
Personalizacija postaje nova dimenzija AI sistema
Ovakvi rezultati imaju šire značenje od samog pitanja zdravstvenih dezinformacija.
Današnji AI asistenti uglavnom već prilagođavaju odgovor kontekstu razgovora, ali istraživanje ukazuje na mogućnost razvoja sistema koji će mnogo detaljnije prilagođavati način komunikacije, a ne samo sadržaj odgovora.
Budući AI fact-checker tako možda neće imati jedan unapred definisan „karakter“.
Njegov način obraćanja mogao bi da zavisi od toga ko se nalazi sa druge strane razgovora.
To istovremeno otvara dodatna pitanja o transparentnosti takvih sistema – posebno kada AI više ne služi samo za pružanje informacija, već pokušava da pronađe komunikacioni pristup koji će povećati verovatnoću da korisnik prihvati korekciju.
Istraživanje pokazuje i granice zaključaka
Studija je sprovedena u specifičnom kontekstu: među 857 roditelja i na primeru dezinformacije povezane sa HPV vakcinom. Zbog toga rezultate ne treba automatski preslikavati na sve korisnike, sve kulture ili sve vrste dezinformacija.
I sami rezultati pokazuju koliko je ljudska reakcija na AI složena.
Efikasnost korekcije ne zavisi samo od tačnosti informacije, već i od očekivanja koja korisnik ima od sistema koji mu tu informaciju saopštava.
Za razvoj budućih AI sistema zaključak je posebno zanimljiv: najefikasniji AI možda neće biti onaj koji uvek zvuči najviše kao čovek, već onaj koji ume da prepozna kada treba da bude empatičan, a kada jednostavno treba da iznese činjenice.
