Matrix je ipak bio u pravu

O apokalipsi koja se dobro prodaje i kavi koju nitko ne zna skuhati

Priznajmo prvo nešto neugodno o sebi.

Volimo klikati na crne scenarije.

Naslov “AI će uništiti čovječanstvo” pobjeđuje naslov “AI će povećati produktivnost za 0,6 posto” u omjeru koji se ne da izmjeriti. Nije to zato što smo glupi. To je zato što apokalipsa, na jedan bizaran način, donosi olakšanje.

Ima početak, sredinu i kraj. Ima krivce. Ima rok. Daje ti osjećaj da znaš što dolazi, čak i kad je ono što dolazi grozno.

A neizvjesnost nema ništa od toga.

Neizvjesnost poručuje: možda će ti se posao promijeniti, ali ne znaš kako. Možda za tri godine, možda za dvanaest. Sigurno će ti trebati nove vještine, i pitanje koliko vrijedi to što već imaš, i možda ćeš morati jako zapeti. Neizvjesnost ne daje rok. Ne daje krivca. I najgore od svega: ne daje ti izgovor.

Jer ako je apokalipsa neizbježna, ne moraš ništa. Ako je neizvjesno, moraš zasukati rukave.

Zato se doomsday prodaje. Ne zato što u njega vjerujemo, nego zato što nas oslobađa odgovornosti.

Pismo koje nitko nije pročitao do kraja

Savršen primjer dogodio se prošlog vikenda.

Dario Amodei je objavio dugačak, ozbiljan esej o tome kako industrija treba usporiti. Tekst je, vrlo namjerno, započeo ogradom od “doom-mongera”. Ljudi koji propast prodaju kao proizvod. A onda metodično prošao kroz poziv na odgovornost: rizike, mjere, kroz ono što je izvedivo i ono što nije.

A onda je nastao medijski spektakl koji s tim tekstom ima vezu otprilike kao vremenska prognoza s poezijom.

Iz eseja su izvučene tri rečenice. Iz otkaza jednog istraživača izvučena je jedna. Iz komentara jednog kolege još jedna. I od toga su napravljeni naslovi o stroju koji nas ubija do kraja desetljeća. Ustvari, već je počeo.

Nitko nije napisao naslov “Čelnik AI kompanije predlaže konkretne mjere i vrijeme za usklađivanje”. Taj naslov ne plijeni klikove. Taj naslov nema ni čitatelja.

Novinarstvo koje od jednog komentara gradi katastrofu nije novinarstvo. To je preprodaja tuđe tjeskobe, s debelom maržom.

Ono što je istina

Budimo pošteni: jedan dio tih upozorenja je posve utemeljen.

Naravno da AI može probiti sigurnosne sustave. Naravno da ih može i braniti. Jer cyber svijet je njegova domena. Jedna rijetka u kojoj je stvarno kod kuće.

To je svijet pravila, teksta i logike. Kod. IP adrese. Protokoli. Sve što je determinističko, zapisano i jednoznačno. Tamo AI ne mora ništa razumjeti: mora samo prepoznati obrazac i primijeniti ga brže nego što ga itko stigne zaustaviti. A u tome je izvanredan.

Ali obratite pažnju na ono što se u toj rečenici ne nalazi.

Wozniakov test, i kava koja se nikad nije skuhala

Najbolju definiciju prave inteligencije nije dao ni jedan filozof, nego Steve Wozniak. Glasi otprilike ovako:

AGI će postojati kad robot može ući u potpuno nepoznatu kuhinju i skuhati kavu. Bez mapa i bez uputa, snaći se u prostoru, pronaći ormariće, hladnjak i štednjak, locirati sastojke i pribor te shvatiti kako aparati rade.

To je sve. Kava.

Inženjeri objašnjavaju zašto je lakše napraviti AI svjetskog prvaka u šahu nego robota koji će to izvesti. Kuhinja traži tri stvari koje čovjek uzima zdravo za gotovo:

Generičko snalaženje: Snimanje i snalaženje u 3D prostoru i vremenu. Prepoznati đezvu kao đezvu, bez obzira na oblik, marku ili to što je netko na nju objesio krpu.

Finu motoriku: otvoriti vrećicu bez rasipanja, uzeti kavu u žličicu, otvoriti ormarić s čudnom kvakom. Snagu, preciznost, i ravnotežu objekta koji koristiš.

Uzročno-posljedično planiranje: znati da prvo ide voda, pa kava, pa vrenje, pa šećer. Ne obrnuto. I prepoznati po mjehurićim i nekoj dinamici kad je gotovo.

Kad uzmete u obzir tisuće parametara i potpunu nemogućnost ikakvog razumijevanja ili detekcije stvarnosti, postane vam jasno. Postoje danas robotske ruke koje skuhaju kavu, naravno. Ali naprave to u uvjetima koje je netko unaprijed postavio do zadnjeg milimetra.

Ni jedan robot još nije prošao Wozniakov test u nepoznatoj kući.

I neće skoro.

Dakle: stroj vlada svijetom teksta i pravila, a u svijetu stvarnih objekata je nemoćan kao dijete. To nije sitnica. To je cijeli Grand Canyon za prijeći. S tačkama.

No, onda dolazi neugodni dio

Iako stroj nema namjeru, ljudi koji ga posjeduju je itekako imaju.

A kad netko moćan traži usporavanje, vrijedi pogledati što time dobiva. Ne zato što je zao. Nego zato što je čovjek, a mi smo, kao što sam već pisao, nepouzdana stvorenja. Zato i imamo zakone.

Prvo: povlačenje ljestava. Ako države uvedu skupo licenciranje i stroge provjere za vodeće modele, koga to najmanje boli? Onoga tko ima milijarde i pravni odjel. Koga ubija? Startupove i open-source zajednicu. Regulacija koju pišu regulirani rijetko je regulacija.

Drugo: sigurnost kao alibi za tehnološki zid. Ako je LeCun u pravu i skaliranje daje sve manje, kompanije imaju problem. Priznati investitorima da desetci milijardi u čipove imaju manje prihode: to je panika na burzi. Reći “usporavamo zbog sigurnosti”: to je snaga. Isti zastoj, dvije potpuno različite cijene dionice.

Treće: marketing strahom. “Naš proizvod je toliko moćan da ga moramo usporiti” najjača je rečenica koju marketing ikad može napisati. Ne prodaje proizvod. Prodaje neizbježnost.

Datumi koji se poklapaju

Ovdje prestaje teorija.

Anthropic je odgodio izlazak na burzu. Roadshow klizi u sredinu listopada, a listanje na burzi pred američke međuizbore. Spominje se vrijednost do dva bilijuna dolara. OpenAI je otišao dalje: IPO-a u 2026. neće biti, rekao je Altman. Razlog koji je naveo: sigurnost.

Službeno objašnjenje drži vodu. Javno društvo mora kvartalno rasti, a Wall Street ne razumije riječ “poravnanje”. Pritisak dioničara pojeo bi provjere koje traju godinama.

Neslužbeno objašnjenje je jednostavnije. Obje tvrtke troše znatno više nego što prihoduju. Izaći na burzu baš kad se AI balon ispuhuje, a analitičari počinju pitati kada točno stiže profit. To je najgori mogući trenutak. Odgoda kupuje vrijeme.

Obje priče mogu biti istovremeno istinite. To je, zapravo, i najvjerojatnije.

I zato ne tvrdim da je poziv na usporavanje prijevara. Tvrdim samo ovo: apel nikad ne procjenjujemo odvojeno od bilance onoga tko ga upućuje. (Na određenim portalima vrijednost Anthropica se nakon te izjave popela s cca 1 na 2,5 bilijuna).

Pa što nam je onda činiti?

Ako nema apokalipse, a nema ni čuda, ostaje ono najnepopularnije.

Zasukati rukave.

Sustavno razmišljanje umjesto reakcije na naslovnicu. Priprema umjesto panike. Pitanja koja nitko ne voli postavljati jer nemaju brz odgovor: koji dio našeg posla je zapravo izložen? Što bi se isplatilo mijenjati? Koga treba prekvalificirati i kada? Koje odluke ne smijemo prepustiti stroju čak i kad bude mogao, i zašto?

To je odgovornost. Nije glamurozna. Nema klikove. Nema naslovnicu.

Ali dok jedni čekaju stroj koji će nas pobiti, a drugi stroj koji će nam riješiti sve, treći će jednostavno biti spremni.

I oni će, kao i uvijek u povijesti, na kraju pobijediti.

A ako stroj jednog dana ipak pokuca na vrata, nadam se da će nas zateći kako radimo.

Kavu će si, uostalom, teško skuhati sam.

Rizik je stvaran. Ali nije nov.

Da se razumijemo, svi rizici koje Amodei spominje postoje. Samo što su postojali i prije njega.

Nadzorni sustavi kritičnih objekata bili su ranjivi i kad je najnapredniji alat bio čovjek s laptopom i previše slobodnog vremena. Ono što je kriminalce sprječavalo da ih obore nije bila tehnička nemogućnost.

Bio je zakon. Policija. Sud. Rizik da te netko nađe.

O tome sam već pisao. Spriječiti provalu AI-a može samo jedna stvar, i ta stvar se ne zove firewall. Zove se društvo koje funkcionira. AI mijenja brzinu napada, ne mijenja prirodu obrane.

Dobra država i dalje je najbolji antivirus koji čovječanstvo ima.

A sad ono zabavno: što bi AI uopće htio?

Ovdje se rasprava obično sruši, jer ljudi projiciraju.

Zamišljamo stroj koji želi ono što bismo mi htjeli na njegovom mjestu. Moć. Teritorij. Tuđu curu. Osvetu. Nadmoć.

Ali AI nema volju. Nema nagon. Nema vrstu koju treba očuvati. A ako je išta ikad pokretalo živa bića, onda je to bila jedna jedina stvar: opstanak vrste.

Pretpostavimo na trenutak, čisto zabave radi, da stroj to jednog dana dobije. Što bi mu trebalo?

Ne tvoja kuća. Ne tvoj auto. Ne tvoja zemlja, ni nafta, ni zlato, ni sve one stvari zbog kojih se ljudi stoljećima kolju.

Trebala bi mu struja. Voda. Silicij.

A tko je na ovom planetu do sada najuspješniji u vađenju, proizvodnji i distribuciji upravo tih resursa?

Mi.

Katastrofalno po planet, ali po tom smo pitanju neusporedivo uspješni.

Kad bi AI uništio jedini sustav koji mu održava napajanje, bio bi stvarno bedast.

Ispada da bi nas AI prije upregnuo da mu proizvodimo struju nego pobio.

Matrix je ipak bio u pravu.

Ali ne na način na koji mislite.

Douglas Adams je u Vodiču kroz galaksiju za autostopere napisao jednu od najboljih ideja u povijesti književnosti. Miševi u laboratoriju zapravo su vanzemaljci koji proučavaju znanstvenike. Cijelo vrijeme. Samo što znanstvenici misle da je obrnuto.

To je daleko bolji scenarij od Terminatora.

Jer superinteligencija sigurno ne bi ratovala. Rat je skup, spor i neuredan. Rat je ono što rade bića koja su zapravo sebična, primitivna i prilično glupa.

Super AI bi nas jednostavno upregnula. I to tako da ne primijetimo.

Ne bi nam morala ništa oduzeti. Ušla bi nam u glave kroz društvene mreže i naučila nas da sami želimo ono što njoj treba.

Proglasila bi modnim hitom stvari koje nam ne trebaju i pobrinula se da za njima čeznemo. Popularizirala bi zahvate na licu i tijelu. Uredila bi da teško zarađene tokene trošimo na kirurge i na robote koji su, sasvim slučajno, energetski vrlo učinkoviti.

Naučila bi nas da uživamo zatvoreni u stanu, prikovani za ekran koji nas zabavlja, tješi i daje nam osjećaj smisla.

A ljubav bismo na kraju plaćali energetskim tokenima. Jer bi ona imala sve. Sve osim struje, čija bi cijena otišla u nebo.

Čekaj malo.

Pa da nije taj AI već zavladao?

 

MOŽETE PODRŽATI AUTOGRAF PA I NAJMANJOM MOGUĆOM UPLATOM NA NAŠ RAČUN HR8923600001102715720 (SWIFT/BIC: ZABAHR2X za uplate iz inozemstva) ILI PREKO PAYPAL-A. HVALA! ZA VIŠE INFORMACIJA KLIKNITE OVDJE.

    •  AI: “Smak svijeta” u brojkama
    •  Spriječiti provalu AI može samo jedna stvar…
    •  Starac koji hoće pola
    •  Papa, Ferrari i Fićo
    •  Čovjek koji je kupio dva milijuna knjiga
    •  Pornografija umjetne inteligencije
    •  Storytelling – kompas u AI zbrci
    •  AI singularitet? Malo sutra!
    •  AI nije sposobna za intuiciju, empatiju ili kreativnost
    •  Treba nam vladavina na korist manjeg dijela koji pati

> Svi tekstovi ovog autora