Trenutno ne postoji poseban međunarodni sporazum koji uređuje autonomno oružje i oružje zasnovano na vještačkoj inteligenciji. Potpuno autonomno naoružanje nije stvar daleke budućnosti. Ono je već tu, upozoravaju čelnici UN-a i Crvenog krsta

Opet se upozorava na smrtonosnost oružja koje se unapređuje strašnim AI sistemima i alatima. Generalni sekretar Ujedinjenih nacija Antonio Gutiereš i predsjednica Međunarodnog komiteta Crvenog krsta Mirjana Špoljarić Eger upozorili su prošlog utorka da bi autonomno oružje, koje može ubijati bez ljudskog učešća i kontrole, uskoro moglo biti korišćeno u sukobima. Pozvali su na hitne pregovore o ograničavanju upotrebe ovakvog naoružanja. Upozorili su da smo opasno blizu moralne crvene linije i svijeta u kojem mašine biraju koju metu će eliminisati.

„Pregovori moraju početi odmah kako bi hitno bio usvojen pravno obavezujući instrument kojim bi se regulisali autonomni sistemi naoružanja, uz jasne zabrane i ograničenja“, naveli su iz UN-a i Crvenog krsta. Već je u planu sastanak u Ženevi na kome će se između ostalog razgovarati o mogućim novim pravilima, u vrijeme sve veće zabrinutosti zbog uloge poluautonomnog oružja podržanog vještačkom inteligencijom. Radi se o formalnim pregovorima planiraim za novembar, kada je zakazana velika revizijska konferencija koja se održava jednom u pet godina. Prvi zajednički apel dvije organizacije izdale su 2023. godine. Tada su tražile od država da do 2026. pregovaraju o pravno obavezujućem instrumentu.

Smrtonosni autonomni sistemi naoružanja najčešće se definišu kao sistemi koji biraju mete i primjenjuju silu bez ljudskog učešća. Autonomno oružje već koriste neke vojske, poput protivraketnih sistema na ratnim brodovima, ali za sada nije poznato da je takvo oružje upotrijebljeno protiv ljudi. Mediji navode da je oružje unaprijeđeno AI-em korišćeno u sukobima u Ukrajini, Sudanu, Gazi, Iranu i zemljama Persijskog zaliva. Ipak, nijesmo uspjeli naći potvrde da su na ratištima korišćeni sistemi sa autonomnim funkcijama, odnosno nema nesporno potvrđenog slučaja da je potpuno autonomno oružje samostalno izabralo i oduzelo ljudski život bez ljudske intervencije.

Organizacije za zaštitu ljudskih prava strahuju i da se ponašanje sistema kojima upravlja vještačka inteligencija ne može dovoljno pouzdano predvidjeti niti kontrolisati, što povećava opasnost od smrtonosnih grešaka. Tu je i problem što je takve počinioce teže pozvati na odgovornost u eventualnim budućim postupcima za ratne zločine, ukazale su ove organizacije. „Države moraju pokazati političku hrabrost i preći sa postepenih rasprava na odlučno djelovanje“, navodi se u zajedničkom saopštenju. „Neke odluke moraju zauvijek ostati u rukama ljudi, a nijedna nije važnija od odluke da li nekome oduzeti život“, rekla je na konferenciji za novinare u Ženevi, Karolin Melani Režimbal, načelnica službe u Kancelariji UN-a za pitanja razoružanja. Iako se države slažu da se međunarodno humanitarno pravo primjenjuje i na smrtonosne autonomne sisteme naoružanja, posebni i pravno obavezujući međunarodni standardi za takve sisteme praktično ne postoje.

Razgovori u Ženevi, za čiji je prelazak u formalne pregovore potreban konsenzus, odvijaju se u teškim okolnostima obilježenim geopolitičkim tenzijama i nedavnim povlačenjem pojedinih evropskih država iz sporazuma o zabrani protivpješadijskih mina.

Trenutno ne postoji poseban međunarodni sporazum koji uređuje autonomno oružje i oružje zasnovano na vještačkoj inteligenciji. Razgovori, započeti 2014. godine, donijeli su određeni napredak, ali je u međuvremenu tehnologija značajno napredovala, a svijet postao mnogo opasniji. Otuda i pojačana zabrinutost.

„Autonomni sistemi naoružanja nijesu dio neke daleke budućnosti: trka ka sve većoj autonomiji oružanih sistema već je uveliko u toku“, upozorili su Gutereš i Špoljarić. Tako su otkrili samo dio slike opasnog svijeta koji nas okružuje. Čelnici UN-a i Crvenog krsta pozvali su na „političku hrabrost“, poručujući: „Propust da se reaguje brzo i odlučno koštaće ljudskih života“.

D. LUČIĆ

Jedna AI kompanija je kupovala gomile knjiga, kidala im hrbat, skenirala ih i  pretvarala u smeće. Skenirane podatke je koristila za obučavanje svog AI modela. Ovaj trend je izazvao zabrinutosti u vezi s autorskim pravima i budućnošću fizičkih knjiga, ali i brigu kako živjeti u svijetu u kome AI uči na rijetkim i nedostupnim knjigama i znanjima skupljenim u njima

Mediji su posljednjih dana prenosili vijest kako je jedna kompanija koja se bavi vještačkom inteligencijom „uništila“ milione knjiga u okviru „kontroverznog projekta“ namijenjenog obučavanju svojih modela. Kasnije se ispostavilo da se radi o kompaniji Anthropic koja stoji iza sve popularnije AI alatke Claude.

Oni koji se bave ovim poljem otkriće da je kompanija to radila još 2024. godine. Sve bi vjerovatno prošlo bez ikakve reakcije da prodavci antikvarnih knjiga u Velikoj Britaniji i širom Evrope nijesu počeli da dobijaju neobične zahtjeve anonimnih kupaca za hiljade malo poznatih naslova.

Jedan londonski prodavac rijetkih knjiga primio je dva „neuobičajeno velika“ upita za specijalizovane knjige sa anonimnih imejl adresa, bez „imena ili podataka o kompaniji“, navodi portal City A.M. Kako komunikacija sa „kupcem“ nije tekla kako treba, prodavac jee posumnjao da su narudžbine pravile kompanije koje se bave vještačkom inteligencijom.

Prema nedavno objavljenim sudskim dokumentima, Anthropic je pokrenula interni program poznat kao Project Panama, u okviru kojeg je zaključeno da su knjige od suštinskog značaja za obučavanje naprednih AI modela. Navodno, knjige uče sisteme „kako da dobro pišu“, za razliku od korišćenja „nekvalitetnog internet jezika“. Kompanija je kupila milione polovnih knjiga, odsjekla im hrbat i u automatizovanom procesu skenirala svaku stranicu ponaosob. Nakon skeniranja, knjige su išle na reciklažu.

Interni planski dokumenti Anthropica takođe pokazuju da su čelnici kompanije željeli da program ostane tajna, piše portal Futurism. Prema nedavno objavljenim sudskim dokumentima, jedan od rukovodilaca rekao je: „Ne želimo da se sazna da radimo na ovom projektu“. Iz Anthropica su reagovali: „Claude se obučava na kombinaciji javno dostupnih podataka sa interneta, komercijalno nabavljenih skupova podataka i podataka koje sami generišemo. Nabavka knjiga široko je rasprostranjena praksa za obučavanje velikih jezičkih modela u čitavoj AI industriji. Nijedan od naših programa za nabavku podataka ne kupuje i ne uništava rijetke ili antikvarne knjige.“

Ovaj trend je izazvao nove zabrinutosti u vezi s autorskim pravima i budućnošću fizičkih knjiga. Nepostojanje obaveze objavljivanja podataka čini gotovo nemogućim da autori i izdavači utvrde da li su njihova djela uključena u skupove podataka korišćene za obučavanje AI modela. Pored toga, pravni status takvog korišćenja značajno se razlikuje od jedne jurisdikcije do druge.

AI sistemi su obučavani na knjigama zaštićenim autorskim pravima. Sada su ovi sistemi sposobni da proizvode nove knjige. To dovodi do pojave jeftinih naslova generisanih pomoću AI na digitalnim tržištima. Dosta je izdavača koji vrć zahtijevaju strožu regulativu.

Reuters je izvijestio da je sud koji je vodio taj slučaj zaključio da se obučavanje vještačke inteligencije na knjigama može smatrati dozvoljenom upotrebom (fair use) u okviru zakona o autorskim pravima, ali da je Anthropic prekršio autorska prava više autora i njihovih izdavača time što je u svojoj centralnoj biblioteci čuvao sedam miliona piratskih knjiga.

Navodno su i druge kompanije imale istu ili sličnu praksu. Dok su se kompanije kao što su OpenAI, Google i Meta takođe suočavale s pravnim problemima zbog korišćenja knjiga za obučavanje vještačke inteligencije, Anthropic je za sada jedina kompanija za koju je otkriveno da je fizički rastavljala i uništavala knjige kako bi njihov sadržaj koristila za obučavanje svojih modela.

Moguće je da je Anthropic u okviru svojih ranijih aktivnosti nabavljao rijetke, pa čak i knjige koje se više ne štampaju, ali možda nikada nećemo sa sigurnošću znati koje su knjige uništene, sve dok njihovi naslovi jednog dana ne postanu javno poznati. Treba se zamisliti kako će biti živjeti u svijetu u kome se AI uči na rijetkim i nedostupnim knjigama i znanjima skupljenim u njima.

D. LUČIĆ

Tidal se često smatra jednom od najetičnijih i najpovoljnijih sistema streaminga muzike u poređenju sa glavnim konkurentima, poput Spotifya i Apple Musica. Nedavno je ova kompanije donijela odluku da više neće isplaćivati tantijeme za muziku generisanu uz pomoć AI

Muzička striming platforma Tidal je ažurirala svoju politiku u vezi sa vještačkom inteligencijom. Najvažnija promjena je da muzika u potpunosti generisana pomoću AI tehnologije više neće moći da ostvaruje zaradu na toj platformi.

Tidal se često smatra jednom od najetičnijih i najpovoljnijih sistema streaminga muzike u poređenju sa glavnim konkurentima, poput Spotifya i Apple Musica. Međutim, kako sadržaj generisan vještačkom inteligencijom sve više preplavljuje ove servise, postavlja se pitanje kako se efikasno izboriti s tim problemom.

U novim uslovima korišćenja, objavljenim na zvaničnom sajtu 29. juna, Tidal je zauzeo jasan stav prema AI-generisanoj muzici. Takav sadržaj će i dalje biti dozvoljen na platformi, ali će podlijegati strožim pravilima i više neće ostvarivati prihod od tantijema. Kompanija je saopštila da će ubuduće jasno označavati muziku nastalu uz pomoć vještačke inteligencije kako bi korisnici znali šta slušaju. „Odgovornost za prepoznavanje i označavanje AI-generisanog sadržaja ne treba da bude samo na Tidalu“, navodi se u saopštenju. „Očekujemo, i počećemo da zahtijevamo, da distributeri sadržaja identifikuju AI-generisanu muziku prije nego što stigne na našu platformu“, dodaju oni.

Ova mjera dio je šire strategije prema kojoj će Tidal postaviti više standarde integriteta za muziku generisanu pomoću vještačke inteligencije, što uključuje i uklanjanje ili blokiranje sadržaja povezanog sa prevarama. To se posebno odnosi na muziku koja pokušava da obmane slušaoce. Kao primjer navodi se slučaj sa Spotifya, gdje je prošle godine objavljena AI-generisana pjesma lažno predstavljena kao djelo country muzičara Blazea Foleya, koji je ubijen 1989. godine. Pjesma je kasnije uklonjena sa platforme.

Dok će označavanje AI sadržaja i stroža pravila početi da se primjenjuju sredinom jula, najznačajnija promjena stupa na snagu odmah. Od 29. juna AI-generisana muzika više neće moći da ostvaruje zaradu na Tidalu. „Nalazimo se tek na početku ere muzike generisane vještačkom inteligencijom. Svjesni smo da se vodi rasprava o tome da li određena AI-generisana muzika, na primjer ona nastala korišćenjem pošteno i pravilno licenciranih modela, treba da ima pravo na tantijeme“, navela je kompanija obrazlažući svoju odluku. Dodali su da će se ta rasprava nastaviti kako tehnologija bude napredovala i kako nosioci autorskih prava i AI muzičke platforme budu razvijali modele licenciranja.

„Prioritet Tidala je da tantijeme budu isplaćene za originalna djela koja su ljudi direktno stvorili, napisali i izveli. Zbog toga svjesno nećemo dodjeljivati tantijeme muzici koju identifikujemo kao u potpunosti generisanu vještačkom inteligencijom“, obrazlažu svoje odluke iz ove kompanije. Još su naglasili da će se ista pravila primjenjivati na čitavu platformu. Kako na katalog sa više od 100.000 pjesama etabliranih izvođača, tako i na servis Tidal Upload, putem kojeg nezavisni muzičari mogu da objavljuju svoju muziku i ostvaruju prihode.

Nova politika će vjerovatno biti dobro prihvaćena među korisnicima koji žele da koriste streaming platformu koja vodi računa o etičkim principima. Tidal već uživa reputaciju servisa koji izvođačima isplaćuje izdašnije naknade od većine konkurenata, dijelom i zbog toga što među suvlasnicima kompanije postoje muzičari poput Beyoncé.

D. LUČIĆ