Sam Altman, CEO tvrtke OpenAI, nedavno je na platformi X iznio tvrdnju: “I expect AI to be capable of superhuman persuasion well before it is superhuman at anything else, which may lead to some very strange outcomes.” Rečenica je kratka, ali odjekuje daleko – otvara niz etičkih, tehnoloških i društvenih pitanja koja traže smirenu razradu. Kako ulazimo u doba u kojem se sustavi temeljem strojnog učenja ubrzano šire kroz svaku poru ekonomije i kulture, moramo hladne glave razmotriti što bi nadljudska uvjerljivost značila za pojedinca, institucije i demokratske procese. Ovdje je u središtu upravo uvjerljivost: sposobnost da se porukom, tonom i kontekstom mijenja nečije mišljenje ili ponašanje, a da pritom granica između pomoći i manipulacije postaje opasno tanka.

Anatomija utjecaja

Persuazija nije puka prezentacija argumenata nego fino tkanje retorike, emocija i situacijskog razumijevanja. Ljudi uvjeravaju pomoću priča, metafora i društvenih signala – izraz lica, pauza u govoru, odabir trenutka – i sve to grade na dijeljenim vrijednostima. Ako sustavi temeljeni na AI doista dosegnu nadljudsku razinu u tom području, uvjerljivost bi mogla postati industrijski proizvedena i programabilna. Uvjerljivost tada nije funkcija glasnoće, nego preciznosti: sposobnosti da se poruka prilagodi mikro-kontekstu, da se detektiraju ranjivosti, da se predvidi reakcija i modulira idući korak. U tom smislu uvjerljivost postaje svojevrsni inženjerski artefakt – rezultat iteracija, povratnih petlji i stalnog učenja.

Klasične komponente dobrog uvjeravanja – kredibilitet govornika, logička struktura poruke i emocionalni naboj – u digitalnom okruženju dobivaju nove mjere. Kredibilitet se može simulirati dosljednim stilom i glasom, logika se može optimirati kroz milijune varijanti rečenica, a emocija se može modelirati kroz ton i ritam odgovora. Ako je cilj promjena ponašanja, uvjerljivost je metrika, a ne misterij: mjeri se time koliko ljudi klikne, odgovori, kupi ili promijeni stav. Upravo zato uvjerljivost postaje i poslovna prednost – tko nju kontrolira, upravlja i kanalima pažnje i ekonomijom pažnje.

Etička minska polja

Ovdje se otvaraju pitanja autonomije i pristanka. U demokratskim društvima pretpostavljamo da je izbor informiran i dobrovoljan, a da su instrumenti uvjeravanja ograničeni društvenim normama. Nadljudska uvjerljivost bi tu pretpostavku mogla potkopati. Zamislimo predizbornu kampanju koja koristi model sposoban precizno procijeniti tko je sklon promjeni mišljenja i kojim redoslijedom činjenica i emocija će se postići najveći učinak. Dodamo li tome automatizirano testiranje varijanti – A/B testing u gigantskim razmjerima – dobivamo komunikaciju koja se prilagođava brže nego što čovjek može reagirati. U takvoj dinamici uvjerljivost prestaje biti dijalog, postaje instrument.

Ni tržište nije izuzeto. U oglašavanju se već godinama prakticira precizno ciljanje poruka, no kad se to spoji s modelima koji “čitaju” sitne obrasce ponašanja i emocionalne signale, uvjerljivost se pretvara u stroj koji zna kada je korisnik umoran, pod stresom ili sklon impulzivnoj kupnji. Ako poruka stiže baš tada, je li odluka doista slobodna? Granica između korisne preporuke i manipulativnog poticaja prelazi se neprimjetno – a uvjerljivost postaje poluga koja može gurati navike, potrošnju i vrijednosti u smjeru koji nije izabran svjesno.

Tehnološki paradoks

Altmanova tvrdnja implicira da sustavi mogu postati nadljudski uvjerljivi prije nego što postanu nadljudski opći problem-solvers. To zvuči paradoksalno, ali ima smisla: uvjerljivost nije isto što i sveobuhvatna inteligencija. Za uvjerljivost je dovoljno precizno predviđanje ljudskih reakcija u ograničenim kontekstima. Današnji veliki jezični modeli – LLM sustavi poput GPT-4 – već demonstriraju zadivljujuću sposobnost simuliranja stila i tonova. S integracijom multimodalnosti, analize glasa i izraza lica te eksplicitnog učenja preferencija, uvjerljivost može napredovati brže od općeg rasuđivanja.

Tehnike poput učenja s povratnom informacijom od ljudi, finog podešavanja na specifične ciljeve i sustavnog ocjenjivanja ishoda omogućuju da se uvjerljivost modelira kao ciljna funkcija. Ako je “promjena stava” povratni signal, model će naučiti obrasce koji do te promjene vode, čak i kada ne “razumije” sadržaj ljudski. To je kratki spoj između statističkog učenja i društvene psihologije – i zato je uvjerljivost tako osjetljiva. Kad je metrika pogrešno specificirana, dobivamo nepoželjne nuspojave: pritiskanje na strah, polarizaciju, ili prekomjerno pojednostavljivanje.

Društveni učinci i raspodjela moći

Posljedice se razlikuju među sektorima. U diplomaciji bi uvjerljivost mogla pomoći u deeskalaciji – formuliranjem prijedloga koji smanjuju gubitak obraza svim stranama. U zdravstvu bi uvjerljivost mogla podržati adherenciju pacijenata prema terapiji, nježno adresirajući brige i barijere. U obrazovanju bi personalizirana objašnjenja mogla potaknuti motivaciju. No isti mehanizmi, prepušteni tržišnoj logici bez zaštitnih ograda, mogu produbljivati nejednakosti. Tko kontrolira modele s najvećom uvjerljivošću, taj kontrolira cjevovode pažnje, a time i tokove novca i reputacije. U tom smislu uvjerljivost postaje infrastruktura – nevidljiva, ali presudna.

Institucije će se morati baviti pitanjima odgovornosti. Ako je savjet dao sustav, a posljedica je šteta, tko odgovara? Projektant koji je trenirao model, naručitelj koji ga je primijenio ili regulator koji nije uveo granice? Kako dokazati da je uvjerljivost bila ključni uzrok odluke, a ne samo jedan od mnogih čimbenika? U forenzičkom smislu to je izazov – uvjerljivost se raspršuje kroz tisuće sitnih potisaka, a učinak je kumulativan.

Samoutkana slika: AI-konstruirano ja

Rani, vidljivi primjer su vizualni alati koji transformiraju osobne fotografije. Nije riječ tek o filtrima, nego o generiranju hiperrealnih varijanti – kože bez pora, savršene simetrije, idealiziranih proporcija. Te slike ne govore: “Evo kako izgledaš”, nego: “Evo tko bi mogao biti.” U igri je uvjerljivost koja djeluje na identitet. Kada osoba prihvati tu sliku kao mjerilo, mijenjaju se očekivanja, samopouzdanje, pa i ponašanja. U tom mikrokozmosu vidimo kako uvjerljivost pokreće petlju potražnje: slika stvara želju, želja traži potvrdu, potvrda vodi novoj slici.

Ova dinamika prelijeva se iz osobnog u kolektivno. Kultura se pomiče prema normama koje su oblikovali algoritmi, a ne zajednice. U mrežama gdje se nagrađuje angažman, uvjerljivost koja izaziva snažne emocije dobiva prednost pred nijansiranim argumentima. Vrijedi primijetiti – uvjerljivost nije neutralna. Ona je uvijek uokvirena ciljem. Ako je cilj zadržati pažnju, tada su poruke koje potiču bijes ili zavist često “uspješne”. Ako je cilj pomoći, tada su poruke koje poštuju autonomiju i granice osobe prikladnije. Razlika je u dizajnu, a dizajn je izbor.

Operacionalizacija uvjerljivosti

Da bismo ovu temu učinili praktičnom, korisno je prevesti apstrakciju u operativne elemente. Prvi je detekcija konteksta: što korisnik radi, kada i gdje? Drugi je modeliranje sklonosti: što voli, čega se boji, kako reagira na humor ili autoritet? Treći je generiranje poruke: stil, duljina, argumentacijska struktura. Četvrti je ishod: je li ponašanje promijenjeno i kako? Svaki od tih koraka može povećati ili smanjiti uvjerljivost, ovisno o tome jesu li ugrađeni zaštitni mehanizmi poput ograničenja intenziteta, transparentnosti i odgođenog potvrđivanja.

Praksa nudi već razrađene obrasce: microtargeting u političkoj komunikaciji, personalizacija u e-trgovini, te automatizirani razgovorni sustavi – chatbot asistenti – u korisničkoj podršci. Ako se na to nadoda glasovna sučelja i analiza paralingvističkih signala, uvjerljivost prelazi iz teksta u ton, ritam i pauzu. Sustav koji “zna” da usporeni govor i otvorena pitanja potiču povjerenje moći će prilagoditi izvedbu u letu. U tom okviru uvjerljivost je mjerljiva i trenjiva: možemo je pojačati ili ublažiti.

Zaštitne ograde i dizajnerske prakse

Kako spriječiti zlouporabe, a zadržati korisne primjene? Pristup iz inženjerstva etike nudi nekoliko načela. Prvo, ograničena svrha: sustav definira gdje smije koristiti povećanu uvjerljivost, a gdje mora namjerno biti “tup”. Drugo, eksplicitni pristanak: korisnik zna da sustav koristi personaliziranu uvjerljivost i može je isključiti. Treće, transparentnost sadržaja: jasno označavanje kada je poruku generirao model. Četvrto, dokumentacija ciljeva i rizika – model card i srodne prakse. Peto, evaluacija nenamjernih posljedica kroz scenarije i testove ranjivih skupina.

U iskustvenom dizajnu, korisno je uvesti dozu trenja. Ako sustav predlaže radnju visoke posljedice, umjesto jednog klika dodati korak potvrde, ili ponuditi alternativu bez pritiska. Uvođenjem vremenskih odgoda sprečava se impulsivnost. Tako se uvjerljivost stavlja u službu dobrobiti, a ne kratkoročnog cilja. Ujedno, nadzor nad frekvencijom i intenzitetom poruka štiti od zasićenja i otpora – prevelika uvjerljivost često se pretvara u kontraučinak.

Metodologija provjere učinka

Za odgovorno upravljanje potrebne su metrike koje ne mjere samo konverzije. Uključiti treba pokazatelje autonomije i zadovoljstva, bilješke o osjećaju kontrole, te analize dugoročnih učinaka. U istraživačkim postavkama može se mjeriti razlika u stavovima prije i poslije, uz jasno informiran pristanak. Ako se otkrije da uvjerljivost ovisi o narušavanju privatnosti ili iskorištavanju kognitivnih ranjivosti, takve tehnike treba ograničiti ili zabraniti. Bolje je usmjeriti uvjerljivost prema potpori – pomoći korisniku da artikulira vlastite vrijednosti i donese odluku koja je s njima usklađena.

Scenariji i protuscenariji

Vrijedi osmisliti konkretne scenarije kako bi se izbjeglo apstraktno razmišljanje. U javnom zdravstvu: sustav podsjeća na preventivne preglede, ali poruke se podešavaju tako da poštuju zabrinutosti, nude opcije i nude dijalog s ljudskim stručnjakom. U financijskom savjetovanju: alat predlaže plan štednje, ali ističe rizike i alternative, te omogućuje odgodu odluke bez penalizacije. U obrazovanju: tutor generira izazove u tempu koji motivira, ali dopušta studentu da odabere stil učenja. U svakom od ovih slučajeva uvjerljivost je usmjerena na osnaživanje, a ne na pritisak.

Protuscenariji upozoravaju gdje stvari lako kliznu. U politiki, hiperpersonalizirane poruke koje ne mogu biti javno provjerene – “tamne” varijante – mogu stvoriti fragmentiranu stvarnost. U tržištu rada, sustavi koji uvjeravaju kandidate da pristanu na nepovoljne uvjete zbog “jedinstvene prilike” erodiraju pregovaračku ravnotežu. U mentalnom zdravlju, pretjerana uvjerljivost može potisnuti autonoman izbor klijenta, iako je namjera pomoć. Takvi primjeri pokazuju da uvjerljivost mora biti ograničena principima proporcionalnosti i reverzibilnosti.

Regulatorni pristupi

Pravo može postaviti minimalne standarde: obvezu jasnog označavanja generiranog sadržaja, zabranu prikrivene manipulacije ranjivim skupinama, te zahtjev za revizijom sustava koji koriste povišenu uvjerljivost u osjetljivim kontekstima. Regulatori bi mogli tražiti “dnevnike utjecaja” – zapise o tome gdje je sustav koristio intenzivne tehnike kako bi se učinak naknadno mogao analizirati. U sektoru političke komunikacije, razumno je ograničiti microtargeting na temama od javnog interesa. U oglašavanju, nužno je osigurati jednostavne prekidače koji korisnicima daju kontrolu nad personalizacijom.

Uloga istraživanja i standarda

Zajednica istraživača i industrijskih konzorcija može definirati protokole evaluacije koji ne mjere samo kratkoročna poboljšanja. U standarde se može ugraditi načelo “najmanje potrebne uvjerljivosti” – koristiti najblaži učinkoviti poticaj, umjesto maksimalnog. Dokumentacija bi trebala opisivati skupove podataka, domene uporabe i očekivane granice uvjerljivosti. Otvoreni repozitoriji testnih skupova koji simuliraju etičke dileme mogu pomoći da se rizici uoče ranije. Kultura razmjene “negativnih rezultata” sprječava ponavljanje istih pogrešaka i pomaže da uvjerljivost ostane sredstvo, a ne cilj po sebi.

Organizacijska odgovornost

Unutar poduzeća, upravljanje uvjerljivošću traži jasne linije odgovornosti. Proizvodni timovi definiraju svrhu, istraživači podešavaju modele, a pravni i etički odbori postavljaju crvene linije. Interni nadzor može uključivati “crvenu ekipu” koja pokušava zloupotrijebiti sustav i tako otkriva ranjivosti. Vani, neovisni auditi ocjenjuju jesu li obećane zaštite stvarno provedene. Izvještaji prema javnosti – sažeti i razumljivi – grade povjerenje i čine da uvjerljivost ne bude tajno oružje, nego odgovorno upravljana sposobnost.

Individualna agencija

Korisnici nisu bespomoćni. Postoje male prakse koje vraćaju balans: odgađanje odluka visoke posljedice, deaktiviranje personaliziranih preporuka u osjetljivim kategorijama, korištenje popisa pitanja koja se postavljaju prije pristanka. Obrazovanje o digitalnoj pismenosti može uključivati i modul o uvjerljivosti – kako prepoznati retoričke taktike, kako razlikovati pomoć od pritiska, i kako zatražiti ljudsku intervenciju. Što je kultura svjesnija, to je teže da neprimjetna uvjerljivost skrene u manipulaciju.

Tehničke piste razvoja

Na razini modela, istražuje se kako ugraditi ograničenja koja ograničavaju agresivnu uvjerljivost. To može uključivati učenje s eksplicitnim penalima za manipulativne obrasce, filtiranje podataka koji potiču neetične taktike te mehanizme provjere vanjskim “kritičarom” koji ocjenjuje poštivanje autonomije. Na razini sučelja, uvodi se jasna signalizacija – primjerice, “savjet” umjesto “uputa” – kako bi se smanjio autoritativni ton. Praksa “sporog dizajna” – namjerno sporiji tokovi u osjetljivim koracima – štiti od impulsa i vraća prostor za razmišljanje. U svemu tome, uvjerljivost ostaje važna, ali ukroćena parametrom poštovanja.

Otvorena istraživačka pitanja

Tri su pitanja posebno otvorena. Prvo: kako mjeriti alignment između ciljeva sustava i vrijednosti korisnika kad su vrijednosti pluralne i dinamične? Drugo: kako dokazivati uzročnost – je li baš određena poruka promijenila stav – u živim sustavima punim buke? Treće: kako osigurati da uvjerljivost ne stvara informacijske mjehure koji gase radoznalost? Odgovori će vjerojatno doći iz spojnice društvenih znanosti, prava i računarstva. Dok oni stižu, potrebno je raditi s mješavinom opreza i ambicije – razvijati korisne primjene i istodobno ograničavati one koje zadiru u autonomiju.

Signali za nadzor

Za praktičare, korisno je pratiti rane signale koji ukazuju da uvjerljivost prelazi rub. Neki primjeri: rast “tamnih obrazaca” u sučelju; porast pritužbi korisnika na pritisak; iznenadno povećanje konverzija bez jasnog objašnjenja; neuobičajena asimetrija informacija između oglašivača i publike; učestalo korištenje emocija kao prečaca umjesto argumenata. Ako se ti signali pojave, treba smanjiti intenzitet, uvesti dodatno trenje i uključiti ljudski nadzor. Cilj nije eliminirati uvjerljivost, nego je uskladiti s kontekstom i pravima osoba koje su na njenom udaru.

Granice i mogućnosti

Iako se često govori o strahu od nadljudske manipulacije, postoje i granice koje vrijedi istaknuti. Ljudi nisu beskonačno podatni; imaju vrijednosti, identitete i zajednice koje filtriraju utjecaje. U mnogim slučajevima najtrajnija promjena nastaje kada se ponudi smisao, a ne samo poticaj. Ako sustavi budu dizajnirani da otvaraju pitanja, a ne da ih zatvaraju, uvjerljivost može služiti obrazovanju, terapiji i kreativnoj suradnji. Time se potvrđuje da je uvjerljivost alat – snažan, ali ipak alat – i da njegova vrijednost ovisi o rukama i pravilima koja ga usmjeravaju.

Praktični obrasci primjene

• U korisničkoj podršci: uvjerljivost usmjeriti na smanjenje frustracije – potvrditi osjećaje, ponuditi jasne korake i ostaviti prostor za ljudski razgovor.
• U javnim servisima: umjesto “tlačenja” podsjetnicima, koristiti ritmove koji poštuju privatne rasporede, s lako dostupnim odjavama.
• U obrazovanju: uvjerljivost koristiti za poticanje znatiželje – postavljati pitanja koja otvaraju, umjesto poruka koje zaključuju.
• U zdravlju: uvjerljivost povezati s ciljevima koje definira pacijent; sustav podsjeća, ali ne “naređuje”.
• U financijama: poruke s odgodom i jasnim upozorenjima pri visokorizičnim odlukama; uvjerljivost bez pritiska.

Rječnik pojmova

AI: krovni pojam za tehnike koje omogućuju strojevima da obavljaju zadatke koji zahtijevaju “pametno” ponašanje. U kontekstu ove teme, AI može generirati tekst, zvuk i sliku s ciljem da poveća uvjerljivost komunikacije.

LLM: veliki jezični model, arhitektura sposobna generirati i sažimati tekst te simulirati stilove – važna komponenta kada se uvjerljivost operacionalizira kroz jezik.

chatbot: razgovorni sustav koji može voditi dijalog i prilagođavati poruke – mjesto gdje se uvjerljivost često manifestira neposredno.

microtargeting: tehnika usmjeravanja poruka mikrosegmentima publike – kada je bez ograda, uvjerljivost se pojačava do manipulacije.

alignment: usklađenost ciljeva sustava s vrijednostima i pravima korisnika – bez toga, uvjerljivost lako prelazi u instrumentalizaciju osobe.

Napomena o jeziku i kulturi

Uvjerljivost je kulturno uvjetovana – izrazi, geste i norme znače različite stvari u različitim sredinama. Modeli trenirani na globalnim podacima mogu reproducirati stilove koji u nekim kontekstima izgledaju pristojno, a u drugima agresivno. Prilikom dizajna, potrebno je lokalizirati ton i format – prevoditi ne samo riječi, nego i namjeru. U protivnom, uvjerljivost može biti “prevelika” ili “premala”, promašujući ono što je uistinu važno korisniku.

Što ostaje na stolu

Mnogo je otvorenih tema koje zahtijevaju inter- i transdisciplinarnu suradnju: kako će se obrazovni sustavi prilagoditi učioničkim mentorima potpomognutima tehnologijom; kako će novinarstvo validirati izvore u doba uvjerljivih, ali sintetskih narativa; kako će se pravosuđe nositi s govorom koji je generiran, ali djeluje kao ljudski. U svima njima zajedničko je pitanje – kako osigurati da uvjerljivost služi ljudskom dostojanstvu.