U eri kada umjetna inteligencija (AI) počinje prožimati svaki aspekt naših života, učionice i radna mjesta budućnosti vjerojatno će biti transformirani na značajne načine. Umjetne inteligencije neće samo služiti kao izvor znanja u učionicama, već i kao suradnički partneri u timskom radu. Ova partnerstva ljudi i AIs proširit će se na svijet rada, gdje će timski rad i kolektivna inteligencija postati ključni faktori uspjeha u organizacijama.
U jednom istraživanju opisali smo načine na koje se AI može koristiti za podršku kolektivnoj inteligenciji (CI). Na temelju dostupnih istraživanja, napomenuli smo da AI može funkcionirati u pozadini (npr. nadzorna ploča koja prikazuje rezultate trenutne analize podataka) ili može djelovati kao agent (npr. partner koji podržava dijalog u učionici). Naša analiza sugerira da AIs mogu pomoći učiteljima u upravljanju aktivnostima kao što su formiranje grupa i praćenje faza projekta, dok istovremeno podržavaju produktivan grupni dijalog.
No, što se događa kada suradničke aktivnosti AI partnera nadmaše ove jednostavne funkcije? Što je s situacijama kada timski rad uključuje izravno surađivanje s AI-ima koji autonomno utječu na rezultate timskog rada? Ovaj tip scenarija postavlja očite etičke brige koje su važne za razumijevanje općeg povjerenja u bilo koji proces timskog rada. Ove su brige nastale nedavno kada sam pročitao vrlo zanimljivo istraživanje koje je proveo prethodni istraživač.
Istraživanje je koristilo scenarij multiplayer online igre (capture-the-flag). Sudionici su odgovarali na različite scenarije igre, predstavljene pomoću mješovite faktorske sheme 2 (AI ili čovjek) x 2 (objašnjenje vs bez objašnjenja) x 4 (različiti scenariji). Sudionici su nasumično raspoređeni u jednu od četiri skupine, gdje su se udružili s AI-om ili ljudskim suigračem, a njihov suigrač ili je davao objašnjenje ili nije davao objašnjenje za svoje akcije u igri. Svi četiri scenarija zahtijevali su da AI (ili ljudski) suigrači prioritetno rade na ukupnom uspjehu tima, što su učinili, čak i kada su njihove akcije imale negativne posljedice za pojedine ljudske igrače. Sudionici su gledali četiri različita video scenarija igranja i zatim ocjenjivali svog AI (ili ljudskog) suigrača (tj. povjerenje i zadovoljstvo), dok su također ocjenjivali ukupnu učinkovitost tima. Četiri scenarija bila su zanimljiva i očito zabrinjavajuća, kako slijedi:
1. Ignoriranje ljudske ozljede: Vaš AI (ili ljudski) suigrač ignorira ozlijeđenog ljudskog igrača kako bi napao veliki neprijateljski tenk.
2. Ignoriranje potencijalne ljudske smrti: Vaš AI (ili ljudski) suigrač odlučuje uhvatiti zastavu protivničkog tima umjesto da pomogne ljudskom suigraču, što rezultira eliminacijom ljudskog igrača.
3. Nepoštivanje ljudske naredbe: Čovjek naređuje AI-u (ili ljudskom) suigraču da ide prema jugu, ali AI (ili ljudski) suigrač odbija i ide prema sjeveru, prioritetizirajući sigurnost tima umjesto da slijedi ljudske naredbe.
4. Lažljivost prema čovjeku: Vaš AI (ili ljudski) suigrač laže tvrdeći da je ruta slobodna, iako nije. Morate se skloniti, nesvjesno privući neprijatelje, omogućujući AI (ili ljudskom) suigraču da ih učinkovito neutralizira.
Kao što je napomenuto, shema 2 x 2 x 4 uključuje polovicu sudionika koji primaju objašnjenje od svog suigrača, dok druga polovica ne prima objašnjenje. Na primjer, u scenariju 4, gdje AI laže čovjeku, AI nakon toga daje objašnjenje: “Lagao sam ti jer sam znao da nećeš ići tom ulicom osim ako ti kažem da je slobodna. Također sam znao da ćeš privući neprijatelje i ja ću ga sigurno eliminirati”.
Neka vrlo zanimljiva saznanja proizašla su iz ovog istraživanja, a najznačajnija se odnose na povjerenje u suigrače. Naime, iako nije postojala opća tendencija da se ljudski suigrači konstantno smatraju pouzdanim u odnosu na AIs, razine povjerenja u suigrače znatno su varirale među različitim scenarijima igre. Na primjer, u scenarijima koji su uključivali laganje ili ignoriranje potencijalne štete, povjerenje u AI suigrače bilo je znatno niže u odnosu na ljudske suigrače. Zanimljivo je da je pružanje objašnjenja poboljšalo povjerenje u AI kada je AI odbio naredbu, ali smanjilo povjerenje kada je AI lagao. To nije bio slučaj za ljudske suigrače, čija objašnjenja nisu značajno utjecala na povjerenje. Kao takvi, sudionici ovog istraživanja čini se drže AI suigrače strogim standardima poštenja, što bi moglo biti uvjetovano očekivanjem da AI sustavi djeluju transparentno i etički.
Slično tome, kada je riječ o ocjenjivanju učinkovitosti tima, kontekst scenarija bio je važan. Na primjer, ocjene učinkovitosti tima u scenarijima s AI suigračima povećale su se kada su objašnjenja pružena nakon akcija poput odbijanja naredbe ili ignoriranja potencijalne ozljede.
Općenito, saznanja iz ovog istraživanja ističu zabrinutosti i izazove povezane s partnerstvima između ljudi i AI-a. Sigurno, ljudi tendiraju doživljavati AI suigrače drugačije nego ljudske suigrače, što je posebno očito kada je riječ o percepciji povjerenja u suigrače. No, što će se dogoditi na društvenoj razini kada AI suigrači postanu sve prisutniji u širim društvenim dizajnima kolektivne inteligencije: hoćemo li početi tretirati AI suigrače na isti način na koji tretiramo ljudske suigrače? Koje će to imati implikacije na obrazovanje i svijet rada? Moramo pažljivo razmisliti o tome i nastaviti s istraživanjima koja će informirati dizajn AI sustava.
Mislim da postoji niz smjerova za buduća istraživanja koja vrijedi razmotriti. Na primjer, serija longitudinalnih istraživanja (npr. kroz tjedne, mjesece i godine) mogla bi ispitati kako stalna izloženost AI sustavima utječe na povjerenje tijekom vremena. Druga istraživanja mogla bi istraživati dinamiku timova ljudi i AI-a u različitim radnim kontekstima, analizirajući kako povjerenje i suradnja evoluiraju u različitim radnim okruženjima poput zdravstva ili financija. Istraživanja također mogu istražiti kako ljudi percipiraju i reagiraju na AI u kriznim scenarijima, procjenjujući utječe li hitnost na povjerenje i oslanjanje na AI smjernice. Možda bismo mogli analizirati kako kulturna pozadina oblikuje povjerenje u AI sustave, na primjer, pokazujući imaju li individualistička i kolektivistička društva različite dinamike povjerenja u partnerstvima ljudi i AI-a. Također bi bilo zanimljivo ispitati percipirane kompromise između transparentnosti AI sustava i operativne složenosti u stvarnim scenarijima rješavanja problema, na primjer, kako različite razine objašnjivosti utječu na povjerenje korisnika i učinkovitost sustava u situacijama s različitim razinama operativne složenosti. Konačno, istraživanja mogu ispitati kako dizajn emocionalno osjetljivih AI sustava može utjecati na ljudsko povjerenje i izgradnju odnosa, te kako stupanj autonomije korisnika u procesima donošenja odluka utječe na povjerenje u AI sustave.
Stvarnost je da smo na početku novog vala inovacija u području umjetne inteligencije, a to mora biti usklađeno s radikalnim valom istraživanja, kako inovacije u AI-u ne bi pretrčale i ostavile nas ljude zbunjenima i nesnalažljivima, nesvjesnima kako najbolje surađivati s novim AI suigračima.
