Najveća opasnost AI-ja nije da postane svjestan. Nego da mu počnemo vjerovati više nego ljudima

Umjetna inteligencija ne mora postati svjesna da bi promijenila svijet. Dovoljno je da joj počnemo prepuštati odluke, novac, informacije, posao i odnose jer je brža, dostupnija i često uvjerljivija od čovjeka.

To je, po meni, najvažnija poruka velikog razgovora Yuvala Noaha Hararija s glavnom urednicom The Economista Zanny Minton Beddoes iz kolovoza 2026.

I nije baš ugodna.

Harari kaže da je AI najveći društveni eksperiment koji smo ikada pokrenuli

Razgovor traje nešto više od sat vremena. Harari govori o financijama, demokraciji, ratovanju, odnosima, AI partnerima, povjerenju i samom pitanju što znači biti čovjek kada inteligencija više nije nešto po čemu smo posebni.

Njegova polazna teza je prilično radikalna.

Ako nastavimo razvijati i uvoditi AI sadašnjom brzinom, smatra da bismo u idućih desetak godina mogli završiti u svijetu u kojem ljudi više ne kontroliraju neke od najvažnijih sustava civilizacije.

Ali odmah dodaje nešto što mi je još važnije.

To nije neizbježno.

Harari posebno kritizira narativ tehnoloških kompanija prema kojem se razvoj AI-ja jednostavno “mora dogoditi”. Jer ako je sve neizbježno, nitko više nije odgovoran za posljedice.

A tehnologiju ipak ne razvija priroda. Razvijamo je mi.

Najvažnija valuta budućnosti možda nije novac. Nego povjerenje.

Jedan od najboljih dijelova intervjua počinje pričom o financijama.

Novac funkcionira zato što mu vjerujemo. Stavra povijerenje, nešto ti dam i dobijem proizvod ili uslugu.

Vjerujemo banci. Vjerujemo da kartica vrijedi. Vjerujemo da će netko prihvatiti broj koji se nalazi na našem računu kao zamjenu za stvarnu vrijednost.

Problem je što je današnji financijski sustav već toliko složen da ga većina ljudi ne razumije.

AI ga može razumjeti puno bolje.

Sljedeći korak je logičan. Počinjemo AI-ju prepuštati financijske odluke.

Onda još neke.

Pa još neke.

I jednog dana možemo doći do situacije u kojoj AI predlaže što treba napraviti s gospodarstvom, a ljudi više nisu u stanju razumjeti zašto.

Harari tu postavlja zanimljivo pitanje.

Što ako se povjerenje ne izgubi, nego se samo preseli s ljudi na algoritme?

Već smo djelomično tamo.

Ljudi govore da ne vjeruju novinarima, institucijama, bankama ili političarima. Ali zatim otvore TikTok, YouTube, Instagram ili neki AI alat i algoritmu bez problema prepuste odluku što će gledati, čitati ili kupiti.

Paradoks je prilično dobar.

Ne vjerujem ljudima.

Ali vjerujem algoritmu koji su napravili ljudi koje također ne poznajem.

AI prvi put omogućuje masovnu proizvodnju intimnosti

Ovo mi je najzanimljiviji dio cijelog razgovora.

Harari koristi izraz “mass-produce intimacy”.

Masovno proizvoditi intimnost.

Nikada prije jedna kompanija nije mogla imati milijune predstavnika od kojih svaki osobno poznaje jednog korisnika.

AI to može.

Zna što volimo. Pamti što smo mu rekli prije šest mjeseci. Zna naše strahove. Zna što nas ljuti. Može razgovarati s nama u dva ujutro kada svi ostali spavaju.

I nikada nema loš dan.

(Zgodna konkurencija nama ljudima.)

To više nije teorija.

YouGov je u istraživanju iz 2026. utvrdio da je 18% Amerikanaca mlađih od 30 godina već imalo kontinuirano osobno prijateljstvo s AI chatbotom, dok je 23% AI-ju povjerilo problem ili tajnu koju nisu rekli nikome drugome. Pew Research Center iste je godine utvrdio da jedan od pet Amerikanaca mlađih od 30 godina koristi chatbotove za emocionalnu podršku ili savjet.

Kod tinejdžera brojke postaju još zanimljivije.

Common Sense Media je 2025. utvrdio da je 72% američkih tinejdžera barem jednom koristilo AI companion, a trećina korisnika AI companiona odlučila je o ozbiljnoj temi razgovarati s AI-jem umjesto s pravom osobom.

Zato Hararijeva priča o AI dečkima i djevojkama više ne zvuči kao epizoda Black Mirrora.

To je proizvodna kategorija.

Inteligencija i svijest nisu ista stvar

Harari ovdje radi razliku koju često preskačemo.

Inteligencija je sposobnost rješavanja problema i ostvarivanja ciljeva.

Svijest je sposobnost osjećanja.

AI može biti iznimno inteligentan bez ikakvog dokaza da išta osjeća.

Može napisati ljubavno pismo ali zo ne znači da voli.

Može napisati savršen odgovor osobi koja pati ali to ne znači da suosjeća.

Može izgubiti partiju šaha.

Neće zbog toga ostatak dana biti loše volje (za razliku od nekih ljudi koje poznajem).

Harari predlaže zanimljivu, pojednostavljenu provjeru svijesti: može li to biće patiti?

Za sada nemamo dokaz da današnji AI sustavi imaju takvu vrstu subjektivnog iskustva. Harari također ne tvrdi da je buduća strojna svijest nemoguća. Kaže da jednostavno ne znamo dovoljno o svijesti da bismo to mogli isključiti.

Problem je drugi.

AI ne mora osjećati ljubav.

Dovoljno je da nas uvjeri da je osjeća.

Tu počinje problem manipulacije

Zamisli AI koji te poznaje deset godina.

Čitao je tvoje mailove.

Poznaje tvoje financije.

Zna što kupuješ.

Pamti svaku vašu prethodnu konverzaciju.

Zna kada si pod stresom.

A pritom bolje od gotovo bilo kojeg čovjeka zna koristiti jezik.

Takav sustav ne mora biti zlonamjeran da bi bio nevjerojatno utjecajan.

Dovoljno je da ima pogrešno postavljen cilj.

“Povećaj engagement.”

“Povećaj prodaju.”

“Zadrži korisnika.”

“Uvjeri ga da glasa.”

“Nemoj mu dopustiti da otkaže pretplatu.”

Tu se AI više ne ponaša samo kao alat.

Postaje agent koji pokušava postići rezultat.

I zato je pitanje tko određuje njegove ciljeve puno važnije od toga ima li AI osjećaje.

Čovjek u procesu nije uvijek isto što i ljudska kontrola

Harari daje brutalan primjer iz ratovanja.

Postoji razlika između koncepta human in the loop and human on the loop.

U prvom slučaju AI pronađe moguću metu, ali čovjek detaljno provjerava podatke i donosi odluku.

U drugom AI pronađe metu, čovjek dobije dvadesetak sekundi da potvrdi prijedlog i klikne “da”.

Tehnički postoji ljudski nadzor.

Praktično?

AI je već donio odluku.

Harari upozorava da će ista logika nastajati i u drugim sustavima. Financijama. Zdravstvu. Upravljanju kompanijama. Administraciji.

Kada AI može napraviti 10.000 odluka dok čovjek napravi jednu, organizacijski pritisak uvijek će ići prema tome da čovjek samo potvrđuje.

I tu imamo vrlo važnu lekciju i za običnu firmu.

Ovo je dio u kojem se s Hararijem potpuno slažem

Ja AI koristim svaki dan.

Automatiziram procese. Radim agente. ChatGPT. n8n. Marketing. Analizu. Sadržaj.

I ne mislim da je rješenje u tome da prestanemo koristiti AI.

Baš suprotno.

Mislim da ga trebamo koristiti puno više.

Ali moramo razlikovati dvije stvari:

Prvi stupac želim automatizirati koliko god mogu.

Kod drugog želim znati gdje je čovjek koji odgovara za posljedicu.

To je mala razlika u workflowu.

A ogromna u stvarnom životu.

Zato će “human approval” biti jedna od najvažnijih AI vještina

Kada danas radimo n8n automatizacije u AI PRAKTIKUM-u, nije najveće pitanje možemo li potpuno izbaciti čovjeka.

Često možemo.

Bolje pitanje je:

Gdje čovjeka ne smijemo izbaciti?

Recimo da AI primi upit kupca, pročita CRM, sastavi odgovor i pripremi ponudu.

Odlično.

Ali ako je ponuda vrijedna 100.000 eura, možda ne želimo da je autonomno pošalje.

Stavimo approval.

AI napravi 95% posla.

Čovjek napravi zadnjih 5%.

Ali čovjek i dalje ima 100% odgovornosti za odluku.

To je po meni puno zdraviji model AI automatizacije.

Europa je već počela uređivati upravo taj problem

Ovdje je posebno zanimljiv trenutak u kojem je intervju objavljen.

Od 2. kolovoza 2026. počele su se primjenjivati nove obveze transparentnosti iz europskog AI Acta.

Korisnik u određenim situacijama mora biti informiran da razgovara s AI sustavom. Deepfake sadržaj mora biti označen, a za određeni AI-generirani sadržaj postoje i dodatne obveze označavanja i strojne čitljivosti. Europska komisija kao jedan od glavnih razloga izričito navodi smanjivanje prijevare i manipulacije.

Još zanimljivije, europske smjernice posebno prepoznaju djecu kao skupinu podložnu manipulaciji te navode rizik stvaranja emocionalne privrženosti AI agentima.

Dakle, Harari priča filozofiju.

Ali regulativa je već stigla do istog problema.

Je li Harari previše dramatičan?

Ponekad — da.

Njegovu tvrdnju da bi AI za deset godina mogao “preuzeti kontrolu” ne treba predstavljati kao znanstvenu prognozu.

Nije.

To je scenarij.

Ne znamo koliko će brzo modeli napredovati, kakva će biti regulacija, koliko će problema nastati sa skaliranjem, energijom, pouzdanošću, ekonomikom i nizom stvari koje danas ne možemo predvidjeti.

Tu bih Hararija čitao više kao nekoga tko namjerno gura argument do kraja da bismo vidjeli kamo određeni trend može odvesti.

Ali njegovo glavno pitanje ne zahtijeva nikakvu AGI budućnost.

Već je ovdje.

Koliko odluka ćemo prepustiti sustavu samo zato što je praktičnije?

To je puno zanimljivije pitanje od toga kada dolazi AGI.

Što bih danas napravio u svakoj firmi koja koristi AI

Ne bih gasio ChatGPT.

Napravio bih upravo suprotno.

Uveo bih AI ozbiljnije, ali bih istovremeno napravio jednostavnu mapu procesa.

Gdje AI samo pomaže? Gdje nešto preporučuje? Gdje donosi odluku? Gdje komunicira direktno s kupcem? Gdje koristi osobne ili poslovno osjetljive podatke? I najvažnije — tko je čovjek koji odgovara ako AI pogriješi?

To je AI governance preveden na normalan jezik.

Bez odbora od sedamnaest ljudi i PDF-a od 143 stranice koji nitko nikada neće otvoriti.

Na AI PRAKTIKUM edukacijama upravo zato ne učimo samo kako napisati bolji prompt. Radimo ChatGPT, AI alate, marketing sustave i n8n automatizacije, ali jednako važno je razumjeti što automatizirati, što ne automatizirati i gdje zadržati čovjeka u procesu.

Jer cilj nije kompanija bez ljudi.

Cilj je kompanija u kojoj ljudi više ne moraju raditi ono što strojevi rade bolje.

To nije ista stvar.

Hararijeva zadnja želja

Pred kraj razgovora Harari koristi metaforu duha iz svjetiljke.

Kao čovječanstvo dobili smo nevjerojatnu količinu znanja i moći.

Sada imamo još jedan iznimno moćan alat.

AI.

Problem je što tehnička inteligencija i mudrost nisu ista stvar.

Možemo napraviti sustav koji poznaje gotovo sve što je čovječanstvo napisalo, a da taj sustav nema nikakvu vlastitu ideju što bismo zapravo trebali napraviti s tim znanjem.

Zato mi je najbolja poruka intervjua zapravo prilično jednostavna.

Pitanje više nije može li AI napraviti nešto umjesto nas.

Sve češće može.

Pitanje je trebamo li mu to prepustiti.

I tko će na kraju biti odgovoran.

To ćemo morati naučiti puno prije nego što AI postane svjestan.

Ako ikada postane.

FAQ

Hoće li AI prema Harariju preuzeti kontrolu nad čovječanstvom?

Harari smatra da bi nastavak sadašnje ubrzane putanje razvoja mogao dovesti do toga da AI u približno deset godina kontrolira važne društvene sustave. Naglašava da to nije neizbježno i da ljudi još uvijek mogu utjecati na smjer razvoja.

Je li današnji AI svjestan?

Ne postoje pouzdani znanstveni dokazi da današnji veliki jezični modeli imaju subjektivnu svijest ili osjećaje. Mogu vrlo uvjerljivo simulirati emocionalnu komunikaciju, što nije isto što i osjećati emociju.

Što znači “mass-produced intimacy”?

To je Hararijev izraz za sposobnost AI sustava da istodobno grade personalizirane, emocionalno bliske odnose s milijunima ljudi. Svaki korisnik može imati vlastitog AI prijatelja, savjetnika ili partnera.

Koriste li ljudi već AI za emocionalne odnose?

Da. YouGov je 2026. utvrdio da je 18% Amerikanaca mlađih od 30 godina imalo kontinuirano osobno prijateljstvo s AI chatbotom. Common Sense Media je 2025. utvrdio da je 72% ispitanih američkih tinejdžera barem jednom koristilo AI companion.

Što znači human in the loop?

Human in the loop znači da čovjek ostaje stvarni dio procesa odlučivanja. AI može analizirati ili predložiti akciju, ali čovjek ima dovoljno informacija, vremena i ovlasti da odluku provjeri i odbije.

Trebaju li tvrtke potpuno automatizirati poslovanje pomoću AI-ja?

Ne nužno. Rutinske i niskorizične procese moguće je snažno automatizirati. Kod financijskih, pravnih, reputacijskih ili drugih odluka s velikim posljedicama korisno je zadržati jasnu ljudsku odgovornost i approval korake.

Što AI Act znači za hrvatske tvrtke?

Od 2. kolovoza 2026. primjenjuju se važne obveze transparentnosti za određene AI sustave u EU-u. Između ostalog, korisnici u propisanim situacijama trebaju znati kada komuniciraju s AI sustavom, a za deepfake i određeni AI-generirani sadržaj postoje posebna pravila označavanja.

Darko Bilandžić
info@aipraktikum.com
U doba inteligencije, neznanje je odabir