U nedavnom intervjuu, Geoffrey Hinton, dobitnik Nobelove nagrade i računalni znanstvenik, izjavio je da su trenutni AI sustavi svjesni. Na pitanje vjeruje li da je svijest već prisutna u AI sustavima, Hinton je odgovorio bez imalo oklijevanja: “Da, vjerujem.” Ova tvrdnja dolazi od jednog od najvažnijih autoriteta u ovom području, što izaziva znatnu pažnju.
Hinton se čini da vjeruje da sustavi poput ChatGPT-a i DeepSeek-a ne samo da oponašaju svijest, već imaju i subjektivna iskustva. Ovo je šokantna tvrdnja, posebno od osobe koja je stručnjak u ovom području. Ipak, mnogi stručnjaci neće se složiti s Hintonovim stavom, ali situacija u kojoj se trenutno nalazimo predstavlja povijesno bez presedana podjelu mišljenja o tome jesu li tehnološke tvrtke nenamjerno stvorile svjesna bića. Ovo bi moglo postati moralna i regulatorna noćna mora.
Što točno čini Hintonovo uvjerenje da su trenutni AIs svjesni? U viralnom isječku koji je postao vrlo popularan, Hinton iznosi jedan zanimljiv razmišljanje. “Zamislite da zamijenim jedan neuron u vašem mozgu s silicijskim sklopom koji se ponaša isto. Jeste li još uvijek svjesni?” Hinton na to odgovara, naravno, s “Da”. On pretpostavlja da će isto biti ako zamijenimo drugi, treći neuron i tako dalje. Tako bi, prema njegovom mišljenju, mogla nastati osoba s računarskom pločom umjesto mozga, koja bi i dalje bila svjesna. Zašto bi onda trebali sumnjati da postojeći AIs nisu svjesni?
U ovom razmišljanju, Hinton se odmiče od računalne znanosti prema filozofiji, no kao filozof koji proučava ove teme, nisam potpuno uvjeren. Moglo bi se reći da biste i dalje bili svjesni nakon što biste zamijenili jedan neuron u svom mozgu mikroskopskom gumenom patkicom. Isto bi bilo i za drugi neuron, treći i tako dalje. Ali negdje u ovom procesu, svijest bi prestala. Isto bi moglo biti i s silicijskim sklopovima.
Međutim, ne bismo trebali biti previše optimistični u vezi s ovom opaskom. Naime, postoje i drugi argumenti koji podupiru stav da su trenutni AIs možda već postigli svijest. Utjecajna studija sugerira da postoji 10 posto vjerojatnosti da su trenutni modeli obrade jezika svjesni, a ta vjerojatnost raste na 25 posto unutar sljedećeg desetljeća. Više o ovoj temi možete pronaći u relevantnim izvorima poput BBC.
Osim toga, mnogi ozbiljni praktični, moralni i pravni izazovi vezani uz svjestan AI pojavljuju se sve dok značajan broj stručnjaka vjeruje da nešto takvo postoji. Činjenica da bi mogli biti u zabludi ne rješava naš problem. Sjetite se slučaja Blairesa Lemoinea, starijeg inženjera softvera koji je najavio da je Googleov LaMDA model postigao svijest i pozvao tvrtku da zatraži suglasnost od programa prije nego što provodi eksperimente na njemu. Ove tvrdnje možete pročitati u više detalja na The New York Timesu.
Google je uspio otpustiti Lemoinea zbog kršenja pravila o zapošljavanju i sigurnosti podataka, čime je skrenuo pozornost s Lemoineovih tvrdnji o LaMDA-i na svakodnevne stvari poput odgovornosti zaposlenika. Međutim, tvrtke poput Googlea neće moći uvijek osloniti na takve politike, niti na permisivno zakonodavstvo u Kaliforniji, kako bi se riješile zaposlenika koji dolaze do neugodnih zaključaka o svijesti AI sustava.
Kao što ilustrira slučaj Lemoinea, suočavamo se s neposrednim praktičnim problemom percepcije svijesti u AIs. Drugi primjeri ovog problema su lako predvidivi. Zamislite slučaj osobe koja se duboko zaljubi u svoj AI i inzistira da je to svjestan partner vrijedan ljubavi. Ili razmislite o perspektivi zagovaratelja koji će tražiti zakonska prava u ime AI “prijatelja”. Takvi scenariji postaju sve vjerojatniji, a vi se možete informirati o društvenim posljedicama na The Guardianu.
Što trebamo učiniti u takvim slučajevima kada ljudi mogu poduprijeti svoja uvjerenja apelirajući na stručnjake poput Hintona? Tvrtke poput Googlea, Microsofta i OpenAI ulažu ogromne resurse u AI timove koji rade na zadacima poput smanjenja pristranosti i suzbijanja štetnog sadržaja. Međutim, na moje iznenađenje, nisam uspio pronaći nikoga iz tih tvrtki koji se bavi problemom percepcije svijesti AI.
Možda ne bih trebao biti iznenađen. Rješenje problema percepcije svijesti AI podrazumijeva zauzimanje stava o dubokim filozofskim pitanjima koja daleko nadmašuju uobičajeni opseg rada programera. Ove tvrtke vjerojatno preferiraju da se drže podalje od ovog pitanja dok god mogu, kao i da sve razgovore na tu temu zadrže unutar tvrtke.
Međutim, ovaj pristup neće moći biti održan unedogled. Kao što Hinton kasnije navodi u intervjuu, “Postoji mnogo stvari koje trenutno tek slabo razumijemo o prirodi ljudi, o tome što znači imati sebe… i one postaju ključne za razumijevanje.” Više o Hintonovim stavovima i AI svijesti možete pročitati na NPR-u.
