Oglasi

Trebaju li nas brinuti 'roboti ubice'?

Autonomna oružja bi jednog dana mogla rat učiniti učinkovitijom, ali predstavljaju duboko ukorijenjene praktične i etičke izazove.
Autonomna letjelica Taranis će moći nezavisno obavljati operacije, tvrdi BAEBAE Systems

Aktivisti su obnovili pozive za preventivnu zabranu takozvanih "robota ubica" u periodu kada se predstavnici više od 80 zemalja sastaju da razgovaraju o autonomnim oružanim sistemima.

Korištenje smrtonosnih sistema autonomnog oružja (LAWS) je "korak previše", rekla je Mary Wareham, globalna koordinatorica Kampanje za zaustavljanje robota ubica.

"Prelaze moralnu crtu, jer bismo vidjeli mašine kako usmrćuju ljude na borbenim linijama ili u okviru policije".

"Mi želimo da oružani sistemi i upotreba sile budu pod kontrolom ljudi", rekla je Wareham.

Wareham je govorila za Al Jazeeru uoči sastanka u Genevi, gdje se raspravljalo o mogućoj zabrani za LAWS.

Ovo je peti međunarodni sastanak od 2014. na kojem se razgovara o takozvanim "robotima ubicama", ali još nije usvojena nijedna zvanična odluka, jer zemlje i dalje rade ka usvajanju zajedničke definicije LAWS-a, a tek trebaju da se slože da li oni trebaju biti zabranjeni u međunarodnim zakonima.

"Mi smo na prekretnici. Ovo će biti ključna godina. Ako ne budemo djelovali brzo, možemo se naći u situaciji kada je već prekasno i kada se potpuno autonomna oružja šire do te mjere da ih svaka zemlja ima", rekla je Wareham za Al Jazeeru.

Buduća oružja

I dok pojam "robot ubica" može izazvati sjećanje na scene iz naučnofantastične franšize Terminator, "hodajući, govoreći humanoidni tipovi" autonomnog oružja "nisu ono čime se uglavnom bavimo", rekla je Wareham.

Sistemi potpuno autonomnog oružja su ona koja odabiru i napadnu mete bez značajne ljudske kontrole. Danas, "najozbiljniji modeli" koji brinu Kampanju za zaustavljanje robota ubica još ne postoje, rekla je Wareham.

Ali oružja sa barem nekim stepenom autonomije se već danas koriste i prema Human Rights Watchu (HRW), više od deset zemalja, uključujući Sjedinjene Američke Države, Kinu, Izrael, južnu Koreju, Rusiju i Veliku Britaniju ga možda razvijaju.

U nedavno objavljenom izvještaju, HRW je istakao izraelsku Željeznu kupolu, koja nezavisno može detektirati i oboriti nadolazeće rakete, kao postojeću "preteču sistema" koji vodi ka autonomiji.

Južna Koreja je nedavno u demilitariziranu zonu (DMZ) između dvije Koreje rasporedila robotski stražarski mitraljez Samsung SGR-A1, koji koristi kamere i senzore kako bi detektirao svakog upadača u DMZ, na koje može otvoriti vatru, navodno samo nakon što odobrenje za takvu akciju da vojnik u zapovjednom centru.

A vojni snabdjevač britanskog ministarstva odbrane, BAE, testira "nevidljivu" letjelicu Taranis, koja autonomno množe završavati misije. Letjelica je još u fazi prototipa, a BAE je saopćio da u slučaju da Taranis bude učestvovao u stvarnim operacijama, "biće u svakom trenutku pod kontrolom izuzetno dobro obučenog vojnog osoblja na tlu".

Prednost robota

"Autonomna oružja nisu sva loša", rekao je Jacob Turner, advokat i pisac nadolazeće knjige Robot Rules.

"Ona nude potencijalne prednosti u smislu mogućnosti da efikasnije razluče i naprave razliku između civila i boraca, nego što bi to ljudski operater to mogao", rekao je Turner za Al Jazeeru.

"Oni se također ne umaraju niti budu frustrirani ili ljuti niti budu omamljeni na način kako to ljudi budu".

I dok tehnologija vještačke inteligencije mora napraviti značajne korake dok ne bude u naprednoj fazi, neki tvrde da nije nezamislivo da roboti jednog dana budu bolji u biranju svojih meta nego što su to ljudi u mogućnosti, što znači da bi se ratovi mogli voditi na mnogo efikasniji način, uz manje nevinih žrtava. To bi također moglo predstavljati kraj za neke od zločina povezanih za ratom, poput seksualnog nasilja, osim ako nisu programirana da provode takva djela.

Ali prema Wareham, ovo obećanje nije dovoljno.

"Stanje tehnologije danas i ono na šta gledamo u skorijoj budućnosti, ta vrsta sistema oružja će biti glupa i neselektivna".

"Ovi sistemi oružja će možda biti u mogućnosti da se u budućnosti povinuju međunarodnim zakonima, ali to ne vidimo sada i ne možemo se zadovoljiti s čekanjem da vidimo da li će do toga doći jednog dana. Želimo da se sada poduzme akcija", rekla je ona.

Dobre upotrebe

Toby Walsh, profesor vještačke inteligencije na Univerzitetu New South Wales u Australiji složio se da postoje neke dobre upotrebe vještačke inteligencija na borbenim linijama: "Čišćenje minskih polja je savršen posao za robota", rekao je za Al Jazeeru.

Prošle srijede je Walsh doveo robote ubice na naslovnice, međutim, kada je prevodio bojkot više od 50 profesora vještačke inteligencije i robotike protiv južnokorejskog univerziteta zbog njihove saradnje sa korejskim proizvođačem oružja Hanwha Systems.

Korejski napredni institut za nauku i tehnologiju (KAIST), koji je poznat po svom radu u oblasti robotike, brzo je odbacio optužbe da se "priključuju globalnom takmičenju za razvoj autonomnog oružja", te su izdali saopćenje u kojem negiraju da će doći do bilo kakvih "istraživačkih aktivnosti usmjerenih protiv ljudskog dostojanstva, uključujući autonomna oružja bez značajne ljudske kontrole".

Bojkot je opozvan u ponedjeljak.

Walsh je oslikao kobnu sliku koja pokazuje na šta bi autonomno ratovanje moglo izgledati nakon, kako to neki nazivaju, "treće revolucije u ratovanju".

"Prethodno, ako ste htjeli nekom naškoditi, morali ste da naoružate ljude, morali ste da ih obučite i opremite te da ih uvjerite da rade ono što želite", rekao je.

Revolucija u ratovanju

"Ako iz jednačine na bilo koji smislen način izbacite ljude, onda možete skalirati oružje poput naših računarskih sistema. Možete nastaviti kupovati još procesora, kupovati još robota. Ne trebaju vam više ljudi, ništa vas ne zadržava", dodao je.

"Možete ratovati na većem, industrijskom nivou".

Zabrinutost u vezu LAWS-a ide dalje od praktičnih primjedbi u vezi njihove skalabilnosti, "gluposti" i mogućnosti da budu hakirani.

Ryan Jenkins, vanredni profesor filozofije na Državnom politehničkom univerzitetu u Kaliforniji, rekao je da smatra da LAWS "posebno zabrinjava" jer se čine "kategorički drugačije" od prethodnih oružanih sistema.

"Nije to samo oružje koje je malo bolje u ubijanju protivnika. Nije to samo raketa sa većim dometom. Učesnici kampanje ga smatraju kategoričnom promjenom u načinu na koji se rat vodi i pitanje koje oni postavljaju je izrazito zabrinjavajuće, bez obzira da li je dopušteno delegirati zadatak ubijanja ljudi."

Čak i da tehnologija napreduje do tačke koja omogućava LAWS-u da ratuje na učinkovitiji način od ljudi, Jenkins smatra da princip prosljeđivanja ubijanja ljudi u ruke robota je toliko zastrašujući da bi društvo moglo odlučiti da je poželjnije da se dopusti da još nevinih ljudi bude ubijeno.

Duboki učinci

Dodaje da ratovanje s robotima može imati duboke učinke na širu političku sliku i stvoriti "ključajuće zamjerke" koje bi mogle negativno utjecati na izglede za međunarodni mir.

"Kao analogiju, pogledate primjer dronova. Je li pogrešno da neka zemlja vodi čitav rat letjelicom na daljinsko upravljanje? Vidjeli smo do kakvih napetosti to dovodi".

Do sada su 22 zemlje, uključujući Brazil, Pakistan i Egipat, pozvale na zabranu LAWS-a, a SAD i Rusija, Wareham smatra, vjerovatno će biti "najveći izazov" za zabranjivanju tehnologije.

Jacob Turner smatra da je regulacija, prije nego zabrana, način za sprečavanje asimetrične proliferacije.

"U mogućnosti smo da tražimo sveopće zabrane u zemljama koje imaju otvorene pravne sisteme i koje imaju otvorene kontrole onog što njihova vojska radi", rekao je on.

Ali se Wareham ne slaže s tim. Ona je istakla prethodne zabrane oružja, poput zabrane za nagazne mine iz 1997. i konvenciju o kasetnom oružju kao primjere uspjeha. Od januara 2018, 164 zemlje su potpisnice prve zabrane, dok je 120 država potpisnica druge zabrane.

"Naravno, biće varanja", rekla je ona, dodavši: "Moje iskustvo pokazuje da jednom kad zemlje pristupe nekom sporazumu, svoje obaveze shvataju izuzetno ozbiljno".

Nije još jasno da li će ikada doći do zabrane. Predstavnici će se ponovno sastati u augustu kako bi dodatno razgovarali o detaljima vezanim za autonomna oružja i predali izvještaj u kojem bi se trebale nalaziti preporuke za nastavak puta.

"Ne želimo neuspješne razgovore koji nigdje ne vode", rekla je Wareham.

"Nemamo sredstva niti vrijeme da čekamo i tehnologija napreduje, tako da želimo da nam pristupi više zemalja".

Izvor: Al Jazeera

NAPOMENA: Komentari odražavaju stavove autora komentara, a ne stavove Al Jazeere Balkans. Molimo korisnike da se suzdrže od vrijeđanja, psovanja i vulgarnog izražavanja jer takvi komentari neće biti objavljeni. Al Jazeera Balkans zadržava pravo da određene komentare obriše bez najave i objašnjenja.