Svet se nalazi na pragu Treće revolucije u ratovanju (posle baruta i nuklearnog oružja). Odluka o ubijanju prenosi se sa čoveka na softver.
Dakle, algoritam će odlučiti ko je žrtva.
1. Šta je zapravo autonomno oružje?
Za razliku od običnih dronova kojima upravlja pilot sa sigurne udaljenosti (tzv. “čovek u petlji”), smrtonosno autonomno oružje (LAWS) funkcioniše samostalno. Jednom kada ga operater aktivira i zada mu opšti cilj, oružje samo skenira okolinu, prepoznaje neprijatelja i otvara vatru bez da mora da konsultuje čoveka. Dakle deluje potpuno samostalno, sam pronalazi i bira metu.
Slikovit primer: Zamislite razliku između obične nagazne mine i autonomnog drona.
-
Mina je glupa naprava: ona će eksplodirati pod bilo kim ko na nju stane (dete, vojnik ili životinja). Ona ne donosi odluku, već samo reaguje na fizički pritisak.
-
Autonomni dron je “pametan predator”: on leti iznad polja, koristi kameru i veštačku inteligenciju da razlikuje uniformu neprijatelja od odeće civila. On analizira pokrete, procenjuje da li meta drži oružje i tek tada odlučuje da napadne. Čovek ovde nije taj koji povlači obarač, već to radi algoritam.
2. Tehnologija je već tu
Sistemi sa visokim stepenom autonomije su već u upotrebi ili testiranju:
-
Dron-samoubica Kargu-2 (Turska): Ovaj mali kvadrokopter može da koristi prepoznavanje lica za pronalaženje specifičnih meta. U izveštaju UN-a iz 2020. zabeleženo je da je ovaj dron u Libiji samostalno lovio i napao ljudsku metu bez komande operatera.
-
Raketa LRASM (SAD): Pametna protivbrodska raketa koja “razmišlja”. Ako izgubi vezu sa bazom ili naiđe na ometanje, ona sama odlučuje koji je brod u neprijateljskoj floti najvažnija meta i bira najslabiju tačku za udar.
-
Podvodni sistem Poseidon (Rusija): Autonomno plovilo na nuklearni pogon koje može preći hiljade kilometara ispod površine okeana, samostalno izbegavajući neprijateljske sonare kako bi isporučilo nuklearni teret.
-
Izraelski “Ghost” sistem: Vojska koristi rojeve malih dronova koji međusobno komuniciraju i koordiniraju akcije. Jedan dron može uočiti metu i automatski poslati drugog da je uništi, dok treći blokira neprijateljske signale – sve to bez direktnog uplitanja vojnika za svaki korak.
Ovo je samo početak. Svašta zastrašujuće se kuva u ratnim laboratorijama.
3. Zašto je ovo opasno?
Uvođenje mašina koje samostalno odlučuju o životu i smrti otvara Pandorinu kutiju problema koji prevazilaze vojnu efikasnost:
Pravni vakuum: Ko ide u zatvor?
Ako vojnik namerno ubije civila, on odgovara pred sudom. Ako to uradi autonomni dron zbog greške u kodu, ko je kriv? Programer koji je pisao softver pre pet godina? Komandant koji je samo uključio prekidač? Ili niko? Trenutni međunarodni zakoni nemaju odgovor na ovo pitanje.
Sajber-otmica i kvarovi
Svaki softver se može hakovati. Ako neprijatelj preuzme kontrolu nad rojem autonomnih dronova, oni se u sekundi mogu okrenuti protiv sopstvenih tvoraca. Takođe, AI sistemi mogu “halucinirati”, videti metu tamo gde je nema ili pogrešno protumačiti civilni kamion kao vojni transporter. Neko u ruci nosi kišobran, a dron prepozna mitraljes. Sve su to mogući scenariji.
Ratovi će se voditi stalno
Kada države više ne moraju da šalju ljude u rovove, već će biti dovoljne mašine, rat postaje politički “jeftiniji”. To može dovesti do češćih i nepromišljenijih vojnih sukoba širom sveta.
Trka u naoružanju bez kočnica
Za razliku od nuklearnog oružja koje zahteva ogromne resurse, autonomno oružje je relativno jeftino i lako za proizvodnju. To znači da bi terorističke grupe ili nestabilni režimi mogli lako doći do oružja koje je sposobno da izvrši precizne atentate ili masovne pokolje bez prisustva napadača.
Dok tehnologija napreduje brzinom svetlosti, etika i zakoni kaskaju decenijama unazad. Prepustiti algoritmu da bude sudija i dželat na bojnom polju može biti poslednja greška koju će čovečanstvo napraviti.