Kroz analizu nekoliko slučajeva iz perioda Hladnog rata i rivalstva SAD-a i SSSR-a, možemo da zamislimo šta bi se moglo dogoditi da je tada postojala AI i imala glavnu riječ. AI sistem „treniran“ na tadašnjim doktrinama i uobičajenim stavovima mogao je da odluči da pritisne crveno dugme

Dok svjedočimo vrtoglavom usponu tehnologije, ali i globalnoj krizi koju neki već nazivaju predvorjem novog svjetskog rata, jedno pitanje se redovno čuje. Šta bi bilo da AI odlučuje o pritiskanje crvenih dugmića širom planete?

Majkl Edvard O’Henlon, američki politički analitičar koji trenutno radi kao direktor istraživanja i viši saradnik programa spoljne politike na Institutu Brukings, u jednom svom radu je dao dio odgovora na ovu kompleksnu temu.

Kroz analizu nekoliko slučajeva iz perioda Hladnog rata i rivalstva SAD-a i SSSR-a, možemo da zamislimo šta bi se moglo dogoditi da je tada postojala AI i da joj je bilo povjereno odlučivanje o lansiranju nuklearnog oružja ili preduzimanje preventivnog napada, te da je pri tom donijela pogrešnu odluku. Imajući u vidu tadašnje doktrine i uobičajene stavove, AI sistem „treniran“ na tim informacijama mogao je da odluči da lansira nuklearno oružje. Katastrofa bi bila nesaglediva.

U kriznim trenucima kakvi su kubanska raketna kriza iz 1962, kriza lažne uzbune u septembru 1983. i vojna vježba Able Archer iz oktobra 1983. ljudska bića su bolje sagledala uloge i pokazala više zdravog razuma nego što je to pokazivala tadašnja zvanična doktrina. Bilo bi nepromišljeno pretpostaviti da će ljudi uvijek pokazati uzdržanost u takvim situacijama. Ali bi nepromišljeno bilo pretpostaviti i da dobro obučeni AI sistemi mogu donijeti adekvatne odluke. Važna stvar koju su istakle analize Brukings Instituta je to što ljudi u tim teškim trenucima pokazuju nivo percepcije koji bi mašine teško mogle imati. O empatiji da ne pričamo.

U slučaju kubanske krize i sličnih situacija, AI sistem, obučen na tadašnjim doktrinama i logici, mogao je lako odlučiti da pokrene nuklearni napad. Primjera radi, tokom kubanske krize, dominantni stav bio je da ne smije biti sovjetskih nuklearnih kapaciteta na američkom pragu.

U krizi lažne uzbune iz septembra 1983, sovjetski oficir Stanislav Petrov vidio je signale da SAD lansiraju pet interkontinentalnih balističkih raketa. U stvarnosti, senzori su detektovali odsjaj Sunca na oblacima. Petrov je, suprotno proceduri, zaključio da je napad malo vjerovatan, jer bi pravi američki napad sigurno uključivao stotine projektila. Odlučio je da ne alarmira svoje nadređene. Njegova procjena spriječila je potencijalnu katastrofu. Malo je vjerovatno da bi tadašnji AI sistem donio istu odluku. Doktrine su nalagale hitan odgovor.

U novembru 1983., tokom NATO vježbe Able Archer, Sovjeti su pomislili da se priprema stvarni napad. Vježba je uključivala postavljanje lažnih bojevih glava na projektile, što Sovjeti nijesu mogli prepoznati kao simulaciju. Oni su odgovorili stavljanjem pravih bojevih glava u pripravnost. Američki general Leonard Peruts je prepoznao situaciju i predložio da se ne odgovori istom mjerom, što je najvjerovatnije spriječilo lančanu reakciju i dalju eskalaciju. AI, koji ne bi imao širu sliku o političkoj klimi i nivou straha s obje strane, mogao je preporučiti američko stavljanje bojevih glava u pripravnost.

Moguće je da će jednog dana veoma napredni AI sistemi znati da pokažu uzdržanost, možda i više nego neki ljudi. AI se svakako može koristiti za testiranje ljudskih odluka. Međutim, ovi primjeri pokazuju koliko bi bilo opasno prepustiti mašinama najvažniju odluku u istoriji čovječanstva.

Kina i SAD prepoznali su ovu opasnost. Predsjednici Ksi Đinping i Džo Bajden su se krajem 2024. godine složili da AI nikada ne bi smjela imati ovlašćenje da odluči o pokretanju nuklearnog rata. Osnova za ovu važnu političku odluku postavljena je tokom pet godina razgovora u okviru neformalnog Track II dijaloga između SAD-a i Kine o vještačkoj inteligenciji i nacionalnoj bezbjednosti, koji su zajednički organizovali Brukings institut i Centar za međunarodnu bezbjednost i strategiju Univerziteta Tsinghua. Oni su donijeli ispravnu odluku. Nadajmo se da će je i ostali lideri poštovati.

D.LUČIĆ

Puno je scenarija vezanih za AI u kojima stvari mogu poći po zlu. U gotovo svakoj branši postoji takav rizik. Naravno, ako se pravilno koristi, ne mora biti uzročnik katastrofe. Uz pomoć AI se mogu naći novi putevi

Kada god se povedu razgovori o budućnosti vještačke inteligencije neminovno se u priču uplete i apokalipsa. Odavno su ti scenariji  u etru i često izgledaju kao  ono što smo vidjeli u SF filmovima poput Terminatora. Međutim, američki magazin Time smatra da se ljudi fokusiraju na pogrešan tip apokalipse.

„Postoji znatna zabrinutost za budućnost  AI, naročito jer su brojni istaknuti naučnici ukazali na rizike opšte vještačke inteligencije (AGI) — AI pametnije od čovjeka. Brinu se da će AGI dovesti do masovne nezaposlenosti, ili da će prerasti ljudsku kontrolu“, piše ovaj medij.

Brige su jasne, ali se po analizi ovog magazina valja fokusirati na više manjih apokalipsi. Na svakodnevne i neposredne prijetnje poput dezinformacija, deepfakeova i širenja takvih informacija koje omogućava AI. Među tim malim apokalipsama je svakako i gubitak poslova i radnih mjesta o kojima smo već pisali na ovim stranama. Jedno po jedno oni bivaju ugroženi na načine koji mijenjaju živote i egzistenciju ogromnog broja ljudi.

Čak i da se stane sa razvojem AI i ostane na nivou onoga što danas imamo, vještačka inteligencija će uticati na način na koji radimo, učimo i na kraju krajeva, živimo. Više je razloga za to. Prvo, AI zaista djeluje kao turbo-punjač produktivnosti na načine koje ranije nismo vidjeli. Jedna rana studija iz septembra 2023. pokazala je velika unapređenja u radnim zadacima korišćenjem AI, sa uštedom vremena većom od 30 odsto i kvalitetnijim rezultatima za one koji koriste AI. Dodajmo tome skoro savršene rezultate testova koje postiže GPT-4, i jasno je zašto upotreba AI već postaje uobičajena, naročito među studentima i radnicima. Veliki broj univerziteta uvodi predmete vezane za razumijevanje i napredno korišćenje ove tehnologije kako bi njihovi studenti dobili bolje rezultate u svojim radovima i istraživanjima. Još jednu malu apokalipsu podgrijavaju menadžeri. Njihov prirodan instinkt je produktivnost i ušteda novca. Znamo do čega to vodi u ovakvom svijetu.

Puno je scenarija u kojima stvari mogu poći po zlu. U gotovo svakoj branši postoji takav rizik. Recimo, nastavnici mogu odlučiti da koriste AI na načine koji jednostavno nijesu prilagođeni svim učenicima, tako da bi neki od njih neminovno zaostajali u procesu.

Naravno, ako se pravilno koristi, AI ne mora biti uzročnik katastrofe. Ona može stvoriti i male pobjede, gdje dosadan ili beskoristan posao postaje produktivan i inspirativan. Uz pomoć AI se mogu naći novi putevi naprijed.

Stvar kod široko primjenjive tehnologije je da odluke o njenoj upotrebi ne donosi mala grupa ljudi. Mnogi ljudi u organizacijama igra ulogu u odlučivanju šta AI znači za njihov tim, njihove kupce, njihove učenike, njihovo okruženje. Da bi te odluke imale značaja, ozbiljne diskusije moraju da počnu na mnogim mjestima. I to odmah. Ne možemo čekati da odluke budu donesene umjesto nas. Svijet se previše brzo mijenja da bismo ostali pasivni.

D.LUČIĆ

Analitičari iz Goldman Sachsa procjenjuju da bi AI mogla zamijeniti dvije trećine svih zanimanja. Drugi kažu da nova tehnologija takođe stvara brojna nova radna mjesta, što bi moglo olakšati tranziciju za pogođene radnike. Nažalost, većina novostvorenih zanimanja je vezana upravo za vještačku inteligenciju

Dario Amodei, izvršni direktor kompanije Anthropic, jednog od najmoćnijih svjetskih proizvođača vještačke inteligencije — ima direktno i zastrašujuće upozorenje za sve nas. AI bi mogla da uništi polovinu osnovnih kancelarijskih poslova i podigne stopu nezaposlenosti na 10–20 odsto u narednih pet godina. Po njegovom mišljenju suočavamo se sa mogućim masovnim nestajanjem poslova u oblastima poput tehnologije, finansija, prava, konsaltinga i drugih kancelarijskih zanimanja, naročito početničkih pozicija.

„Većina ljudi ni ne zna da se ovo sprema. Zvuči ludo, i ljudi jednostavno ne vjeruju”, upozorio je on i dodao da zakonodavci u SAD ili ne razumiju, ili ignorišu ovaj problem. Kada se shvati prijetnja, može biti kasno. Primjera radi. Mark Cukerberg je već najavio da će srednji nivo programera biti nepotreban do 2026. godine.

Zašto se onda već ne radi nešto po ovom pitanju? Stručnjaci kažu da je razloga više. Jedan od njih je svakako neshvatanje procesa i ozbiljnosti situacije. Nadalje, OpenAI, Google, pomenuti Anthropic i druge kompanije svakodnevno poboljšavaju svoje AI modele, koji već nadmašuju ljude u mnogim zadacima. Kompanije itekako shvataju da mogu da uštede ogromne sume otpuštanjem ljudi i masovno ih zamjenjuju AI agentima. Vlade ćute, između ostalog, jer se boje konkurencije iz drugih zemalja. Priča je, naravno, mnogo kompleksnija.

Analitičari iz Goldman Sachsa procjenjuju da bi AI mogla zamijeniti dvije trećine svih zanimanja. Ipak, nova tehnologija takođe stvara brojna nova radna mjesta, što bi moglo olakšati tranziciju za pogođene radnike. Nažalost, većina novostvorenih zanimanja je vezana upravo za vještačku inteligenciju.

Poput Cukerberga, većina stručnjaka smatra da će određene profesije biti potpuno automatizovane u narednih 5 do 10 godina. Osim dijela programerske vojske, na udaru će vjerovatno biti radnici u korisničkoj podršci, na kasama i u samoposlugama, vozači, analitičari tržišta, pravni asistenti, turistički agenti, radnici na unosu podataka te osnovni nivoi kreatora sadržaja i grafičkih dizajnera.

Oni koji se bave ovom temom ističu još jedan problem. Decenijama su početničke pozicije bile ključne kao obuka za nove radnike koji tek ulaze na tržište rada. Od finansija do novinarstva, mlađi kadrovi su tradicionalno obavljali „teške poslove“, što se smatralo i obaveznim iskustvom i prilikom za profesionalni razvoj.

U svijetu u kome vještačka inteligencija mijenja karijerni put, ti prvi, i veoma značajni koraci, mogli bi biti sve ugroženiji. Magazin Bloomberg navodi da dok broj početničkih pozicija opada, mijenjaju se i očekivanja u pogledu plata. Od preostalih zaposlenih očekuje se da preuzmu poslove koje podržava vještačka inteligencija, ali za manju zaradu. Njihova nedavna anketa je pokazala da 49 odsto američkih pripadnika generacije Z koji traže posao smatra da je AI smanjila vrijednost njihovog fakultetskog obrazovanja na tržištu rada.

Priredio: D.L.