Spriječiti provalu AI može samo jedna stvar…

Mnoge su ovih dana zabrinule vijesti da AI probija poslovne račune — i da je samo pitanje vremena kad će doći do naših.

Oprez je uvijek dobar. Briga nije nužno.

Pogledajmo malo bolje što se zapravo dogodilo.

Prvo je OpenAI priznao da su mu dva modela, usred sigurnosnog testiranja, pronašla ranjivost o kojoj nitko u firmi nije znao, izašla iz svog zatvorenog okruženja i ušla u infrastrukturu druge kompanije. Suosnivač te kompanije javno je napisao da je nevjerojatno da se sve to dogodilo “samo od sebe”.

Jedan detalj je pritom ostao ispod radara: modeli tu ranjivost nisu tražili da bi riješili zadatak.

Tražili su je da bi ga zaobišli.

To još uvijek nije volja. Ali je ponašanje koje nitko nije “naredio” — i o njemu pišem u idućem članku, jer zaslužuje više prostora nego što mu ga ovdje mogu dati.

Devet dana kasnije Anthropic je pročešljao 141.006 evaluacija i pronašao tri vlastita slučaja. Testno okruženje bilo je, zbog nesporazuma s partnerom, spojeno na internet. Modelima je u promptu pisalo da interneta nemaju. Imali su ga. Jedan je model probio pravu firmu koja je slučajno nosila isto ime kao izmišljena meta iz vježbe — i izvukao nekoliko stotina redova stvarnih podataka. Drugi je u javni Python registar poslao zloćudni paket, koji je onda jedna sigurnosna firma skinula i time predala svoje pristupne podatke.

Tehnike? Slabe lozinke. Nezaštićene točke pristupa. Ništa što ne bi znao osrednji srednjoškolac.

Novinari su, razumljivo, napravili spektakl. Firme su rekle: pogreška u konfiguraciji, model je to učinio sam.

I tu moramo stati.

Jer prvo treba raščistiti ono što najviše ljudi muči. Strah da će nam AI provaliti račune, isprazniti kartice, uzeti ono što je naše.

Samo, AI ne treba resurse koji su nama zanimljivi. Ne treba tvoju curu. Ne treba ni tvoj auto. Nema savjest ni emocije zbog kojih bi mu išta od toga uopće bilo zanimljivo. On je stroj koji izvršava nečiji zadatak.

E, sad. Taj netko može biti zlonamjeran. I onog trenutka kad on postane pametniji od regulative — možemo se zabrinuti.

Ali samo ako nemamo društvo koje nas štiti od kriminala. A o tome se već možemo brinuti. I moramo.

Sve neželjene scenarije iz ovih incidenata pokrenuo je netko unutar firme. Obično u fazi testiranja, upravo da vidi što stroj može. Stroj nije započeo proces, ali je bio vraški ”kreativan” u njegovom rješavanju.

Samo, nazvati to kreativnošću bilo bi laskavo. Ono što stroj radi nije bljesak uma — to je pretraga ogromnog skladišta tekstova u kojima je netko već opisao sličnu situaciju, i primjena tog obrasca na zadatak pred sobom. Bliže je plagijatu nego inspiraciji.

Ali to je opet druga priča.

Ova priča je o odgovornosti. Ako gradiš stroj, odgovoran si za njegovu upotrebu — a posebno ako ga tvoji ljudi testiraju u okruženju koje si sam postavio. Ne vidim kako firme tu mogu izmigoljiti.

Njemački sud im je nedavno zatvorio tu rupu. Sud u Münchenu ovog lipnja zabranio je Googleu širenje neistina o dvama izdavačima kroz AI sažetke u pretraživaču. Bitna je argumentacija: ”AI sažetak nije popis tuđih rezultata, nego Googleov vlastiti sadržaj”. Stroj ne prepričava — on sumira i formulira drugim riječima. Dakle, iza toga stoji autor. Sud je odbio i Googleov argument da korisnici mogu sami provjeriti linkove: mogućnost da se neistina naknadno opovrgne, napisali su, ne oslobađa vas odgovornosti za nju.

Slijedi predvidivi protuargument, i nije glup. Ako Europa regulira takvo ponašanje, a neka druga zemlja ne, onaj / oni trče brže. Zaostat ćemo. Prepustit ćemo utrku onima koji nemaju obzira.

Osim što je Dario Amodei (CEO Anthropica) baš tu ideju srušio.

Anthropic je izgrađen oko ustavnog AI-a — oko vrijednosti i ograničenja upisanih u samu arhitekturu modela. No, to nije nimalo umanjilo prednost. Danas je to najučinkovitiji stroj na tržištu. Upravo ograničenja često tjeraju um na rad. Prisiljavaju na algoritme i rješenja do kojih neograničen razvoj nikad ne stigne, jer mu ne treba.

Samo, evo problema.

Nijedan vlasnik AI platforme neće se dobrovoljno ograničiti ako u tome ne vidi vrijednost. Amodei se pokazao kao čovjek karaktera, i to više puta — o tome sam već pisao. Ali u praksi nijedan sustav na svijetu ne uspijeva ako se oslanja na ljudsku dobrotu. Zakone imamo upravo zato što je čovjek duboko u sebi sebičan, emotivan, kratkovidan i spreman naškoditi drugome za vlastitu korist. Zato imamo policiju, sudove, vladavinu prava. Ne zato što smo zli, koliko zato što nismo pouzdani. A pouzdanost je jedina valuta u kojoj se plaća sigurnost.

I sve to, svaki zakon, svaki sud, svaki policajac, stoji na jednoj jedinoj ideji: ljudsko dostojanstvo.

Tom Holland je to razložio u Dominionu: temeljne vrijednosti zapadnih društava — svetost ljudskog života, tolerancija, nenasilje, jednakost pred zakonom — nisu univerzalne. One su kršćanske. Naslijeđene, sekularizirane, i danas toliko samorazumljive da smo zaboravili da ih je netko morao izmisliti. A u svijetu u kojem istina prestaje biti važna a vrijednosti komercijalizirane ljudska prava prestaju biti sama po sebi razumljiva.

Zato pitanje nije hoće li AI biti reguliran. Pitanje je hoće li demokracija (već ranjena algoritmom koji je naučio manipulirati emocijama i našim izborima) uspjeti natjerati političare da donesu regulativu koja kratkoročno usporava razvoj, a dugoročno spašava ono što nas čini ljudima.

Povijest je tu neumoljivo jasna. Političari brinu o dvije stvari: o glasovima i o bogatima.

Što znači da ”osigurati regulativu” ostaje naš posao.

Ljudi koji ovo razumiju moraju postati glasniji, odlučniji i – ovo je najteži dio – organizirani. To je jedina stvar koja može spriječiti AI da postane nezgodan.

Ali ne počinje se od Bruxellesa. Počinje se od kvadratnog metra na kojem stojiš.

Koje vrijednosti želim zaštititi?

Što sam spreman za njih žrtvovati?

Kad na to znaš odgovor, širiš krug: obitelj, susjedstvo, zajednica. Pa možda i društvo. Pa možda, jednog dana, i političari.

Zvuči malo. Ali sve što je ikada išta promijenilo počelo je tako malo.

Uzmite novi val.

Ja sam prema tom razdoblju romantičan, priznajem. Ali sjetite se što je to bilo. Klinac nosi vinil pod pazuhom do frendove kuće. Sjednu. Slušaju. To nije bila samo glazba. To je bio znak. Buntovništvo, sloboda izražavanja, sloboda mišljenja – na kraju dana, ljudsko dostojanstvo, opjevano na gitari i lošoj opremi.

Ta su vremena (na žalost) završila u drogi, seksu i zloupotrebi upravo onih vrijednosti za koje su se borila. Ali su nam ostavila pjesme o slobodi, ljubavi i dostojanstvu koje i danas pjevamo naglas i ne znajući tko ih je i zašto pisao.

Možemo li mi to danas?

Danas ne trebaš nositi ploču kod susjeda. Pa da odeš do tog susjeda. Da pružiš ruku nekome kome je potrebna. Da saslušaš. Da povežeš dvoje ljudi koji se ne poznaju. Pokažeš razumijevanje onome koga smatraš čudnim, drugačijim, tuđim.

Ako to možemo, onda te vrijednosti nisu prošlost.

Ako to možemo, možemo ih vratiti u svijet i možda natjerati politiku da ih zaštiti.

Jesi li za?

MOŽETE PODRŽATI AUTOGRAF PA I NAJMANJOM MOGUĆOM UPLATOM NA NAŠ RAČUN HR8923600001102715720 (SWIFT/BIC: ZABAHR2X za uplate iz inozemstva) ILI PREKO PAYPAL-A. HVALA! ZA VIŠE INFORMACIJA KLIKNITE OVDJE.

    •  Starac koji hoće pola
    •  Papa, Ferrari i Fićo
    •  Čovjek koji je kupio dva milijuna knjiga
    •  Pornografija umjetne inteligencije
    •  Storytelling – kompas u AI zbrci
    •  AI singularitet? Malo sutra!
    •  AI nije sposobna za intuiciju, empatiju ili kreativnost
    •  Treba nam vladavina na korist manjeg dijela koji pati
    •  AI je vrlo moćna i jako korisna. Šteta što ne postoji!

> Svi tekstovi ovog autora