Prikaz knjige „Vojska bez vojnika – Autonomno oruže i budućnost ratovanja“
Nekako istovremeno sa Tegmarkovom knjigom „Život 3.0“, pojavila se, u izdanju beogradske Lagune, i praktično komplementarna knjiga vodećeg stručnjaka za ratovanje nove generacije Pola Šara, „Vojska bez vojnika – Autonomno oruže i budućnost ratovanja“.
„U budućim ratovima, mašine mogu samostalno da donose odluke od kojih zavise život i smrt. Vojske širom planete utrkuju se u tome da rasporede robote na moru, kopnu i u vazduhu – više od 90 zemalja ima dronove koji patroliraju nebom. Ti roboti su sve autonomniji, a mnogi su naoružani. Oni za sada funkcionišu pod kontrolom ljudi, ali šta će se desiti kada dron tipa Predator dobije jednako mnogo autonomije kao i Gugl automobil? Kakva ovlašćenja treba mašinama da damo što se tiče krajnje odluke – o životu ili smrti?“ – pita se Šar, i sam nekadašnji vojnik.
I zatim upozorava da to više nije naučna fantastika. Više od 30 zemalja već ima defanzivno nadzorno autonomno oružje za situacije u kojima je borba previše brza za ljudske reakcije.
Zato je ključno pitanje treba li mašinama dozvoliti da donose odluke o životu i smrti u ratu? Da li bi to trebalo da bude legalno? Da li je to ispravno? Veštačka inteligencija se na polju budućih ratova pomalja kao moćna tehnologija. Ako se koriste na pravilan način, inteligentne mašine mogu da sačuvaju živote čineći rat preciznijim i humanijim. Ali, ako se koristi na pogrešan način, autonomno oružje može dovesti do više ubijanja i još brojnijih civilnih žrtava. A tek ako se otrgne kontroli?!
Kapitalne odluke očigledno će zavisiti od onoga što rade druge zemlje, od kolektivnih izbora naučnika, inženjera, pravnika, aktivista za ljudska prava i drugih koji učestvuju u ovoj debati. Autor naglašava i svoju zabrinutost da će terorističke organizacije, kriminalci i akteri koji nisu deo nekog državnog sistema, biti u poziciji da razviju sopstvene „kućne varijante“ autonomnog oružja koje će koristiti bez obzira na mere zaštite i obezbeđenja, prosto se služeći dronovima, koji se mogu naći na potrošačkim rafovima, i tehnologijom i softverima koji su dostupni na internetu. Takođe ukazuje i na niz nesreća koje su već izazvane sistemima autonomnog oružja, poput protivraketnih sistema Aegis i Patriot, kao i predrasudama i nesuglasicama između ljudskih operatera, koje su dovele do nesreće.
Najveća pretnja za naš opstanak
Ono što jeste izvesno, kaže Šar, je da veštačka inteligencija dolazi i da će se koristiti u ratu, tako da moramo da je kao takvu prihvatimo.
„Kako će biti korišćena, međutim, otvoreno je pitanje. Borba za zabranu autonomnog oružja zadire u srž drevnog konfliktnog odnosa čovečanstva s tehnologijom: da li mi kontrolišemo svoje tvorevine, ili one kontrolišu nas?“
Zaključak zato i jeste da je neophodno da države i društvo hitno dođu do sporazuma o tome koji su autonomni sistemi naoružanja prihvatljivi, a koji prelaze granice razuma. Šar je jedan intervjuu i završio kontra pitanjem na postavljeno pitanje novinara na tu temu:
„Da imamo svu tehnologiju koju možemo da zamislimo, kakvu bismo ulogu želeli da ljudi igraju u ratu? I zašto? Koje odluke zahtevaju jedinstveno ljudsko prosuđivanje? Ne znam odgovore, ali ovo su prava pitanja koja treba postaviti.
Ako pretpostavimo da će svet u određenoj fazi tehnološkog razvoja postati ranjiv, postavlja se pitanje šta u toj situaciji možemo učiniti da sprečimo razaranje svega živog?“
Institut za budućnost čovečanstva pri Univerzuitetu Oksford objavio je rezultate ankete o globalnom riziku od katastrofa sa kojima ćemo se suočiti u ovom veku. Stručnjaci se slažu da postoji 20 odsto šanse za nestanak čovečanstva pre 2100. godine, pri čemu su razmatrali nanotehnologiju, veštačku inteligenciju i rat kao tri kategorije koje su najverovatnije da prouzrokuju katastofu, podseća profesor komparativnih vojnih studija Pol Springer:
„Mene lično najviše zabrinjava nekontrolisano razvijanje veštačke inteligencije. Delom zbog naoružavanja veštačke inteligencije i zato što su to samostalne smrtonosne mašine za napad. Mogućnost grešaka u programu ili njihovog namernog korišćenja protiv neprijateljskog stanovništva je nešto što me zabrinjava. Razvoj veštačke inteligencije bi trebalo da učini život lakšim, ali možda je i najveća pretnja za naš opstanak. Kada vidimo kroz istoriju da su civilizacije zagonetno nestajale na vrhuncu svoje moći, bez zapisa o tome zašto su nestale, odgovor je obično u razvoju napredne tehnologije, do trenutka kada se zaboravi da ste deo ekosistema koji je mnogo snažniji od bilo čega što vi možete da napravite.
Često pretpostavimo da nas inovacija može izvući iz krize ili doneti neuporedivo bolji život. I onda zaboravimo na opreznost…
„Da li ćemo zbog toga dočekati dan kada će se naša civilizacija okončati? Izgleda nam neverovatno da bi sva naša moderna tehnologija, naši gradovi, građevine i kultura mogli da se svedu na ogromnu hrpu kamenja i par crteža. Ali, možda će nas to naivno verovanje da se to ne može desiti nama upravo dovesti do propasti“, upozorava Spinger.
I on i njegove kolege tvrde da nisu pesimisti, već samo oprezni realisti. A ulog nije mali…
Autor: Slavoljub Marković
Izvor: rtk.rs
„U budućim ratovima, mašine mogu samostalno da donose odluke od kojih zavise život i smrt. Vojske širom planete utrkuju se u tome da rasporede robote na moru, kopnu i u vazduhu – više od 90 zemalja ima dronove koji patroliraju nebom. Ti roboti su sve autonomniji, a mnogi su naoružani. Oni za sada funkcionišu pod kontrolom ljudi, ali šta će se desiti kada dron tipa Predator dobije jednako mnogo autonomije kao i Gugl automobil? Kakva ovlašćenja treba mašinama da damo što se tiče krajnje odluke – o životu ili smrti?“ – pita se Šar, i sam nekadašnji vojnik.
I zatim upozorava da to više nije naučna fantastika. Više od 30 zemalja već ima defanzivno nadzorno autonomno oružje za situacije u kojima je borba previše brza za ljudske reakcije.
Zato je ključno pitanje treba li mašinama dozvoliti da donose odluke o životu i smrti u ratu? Da li bi to trebalo da bude legalno? Da li je to ispravno? Veštačka inteligencija se na polju budućih ratova pomalja kao moćna tehnologija. Ako se koriste na pravilan način, inteligentne mašine mogu da sačuvaju živote čineći rat preciznijim i humanijim. Ali, ako se koristi na pogrešan način, autonomno oružje može dovesti do više ubijanja i još brojnijih civilnih žrtava. A tek ako se otrgne kontroli?!
Kapitalne odluke očigledno će zavisiti od onoga što rade druge zemlje, od kolektivnih izbora naučnika, inženjera, pravnika, aktivista za ljudska prava i drugih koji učestvuju u ovoj debati. Autor naglašava i svoju zabrinutost da će terorističke organizacije, kriminalci i akteri koji nisu deo nekog državnog sistema, biti u poziciji da razviju sopstvene „kućne varijante“ autonomnog oružja koje će koristiti bez obzira na mere zaštite i obezbeđenja, prosto se služeći dronovima, koji se mogu naći na potrošačkim rafovima, i tehnologijom i softverima koji su dostupni na internetu. Takođe ukazuje i na niz nesreća koje su već izazvane sistemima autonomnog oružja, poput protivraketnih sistema Aegis i Patriot, kao i predrasudama i nesuglasicama između ljudskih operatera, koje su dovele do nesreće.
Najveća pretnja za naš opstanak
Ono što jeste izvesno, kaže Šar, je da veštačka inteligencija dolazi i da će se koristiti u ratu, tako da moramo da je kao takvu prihvatimo.
„Kako će biti korišćena, međutim, otvoreno je pitanje. Borba za zabranu autonomnog oružja zadire u srž drevnog konfliktnog odnosa čovečanstva s tehnologijom: da li mi kontrolišemo svoje tvorevine, ili one kontrolišu nas?“
Zaključak zato i jeste da je neophodno da države i društvo hitno dođu do sporazuma o tome koji su autonomni sistemi naoružanja prihvatljivi, a koji prelaze granice razuma. Šar je jedan intervjuu i završio kontra pitanjem na postavljeno pitanje novinara na tu temu:
„Da imamo svu tehnologiju koju možemo da zamislimo, kakvu bismo ulogu želeli da ljudi igraju u ratu? I zašto? Koje odluke zahtevaju jedinstveno ljudsko prosuđivanje? Ne znam odgovore, ali ovo su prava pitanja koja treba postaviti.
Ako pretpostavimo da će svet u određenoj fazi tehnološkog razvoja postati ranjiv, postavlja se pitanje šta u toj situaciji možemo učiniti da sprečimo razaranje svega živog?“
Institut za budućnost čovečanstva pri Univerzuitetu Oksford objavio je rezultate ankete o globalnom riziku od katastrofa sa kojima ćemo se suočiti u ovom veku. Stručnjaci se slažu da postoji 20 odsto šanse za nestanak čovečanstva pre 2100. godine, pri čemu su razmatrali nanotehnologiju, veštačku inteligenciju i rat kao tri kategorije koje su najverovatnije da prouzrokuju katastofu, podseća profesor komparativnih vojnih studija Pol Springer:
„Mene lično najviše zabrinjava nekontrolisano razvijanje veštačke inteligencije. Delom zbog naoružavanja veštačke inteligencije i zato što su to samostalne smrtonosne mašine za napad. Mogućnost grešaka u programu ili njihovog namernog korišćenja protiv neprijateljskog stanovništva je nešto što me zabrinjava. Razvoj veštačke inteligencije bi trebalo da učini život lakšim, ali možda je i najveća pretnja za naš opstanak. Kada vidimo kroz istoriju da su civilizacije zagonetno nestajale na vrhuncu svoje moći, bez zapisa o tome zašto su nestale, odgovor je obično u razvoju napredne tehnologije, do trenutka kada se zaboravi da ste deo ekosistema koji je mnogo snažniji od bilo čega što vi možete da napravite.
Često pretpostavimo da nas inovacija može izvući iz krize ili doneti neuporedivo bolji život. I onda zaboravimo na opreznost…
„Da li ćemo zbog toga dočekati dan kada će se naša civilizacija okončati? Izgleda nam neverovatno da bi sva naša moderna tehnologija, naši gradovi, građevine i kultura mogli da se svedu na ogromnu hrpu kamenja i par crteža. Ali, možda će nas to naivno verovanje da se to ne može desiti nama upravo dovesti do propasti“, upozorava Spinger.
I on i njegove kolege tvrde da nisu pesimisti, već samo oprezni realisti. A ulog nije mali…
Autor: Slavoljub Marković
Izvor: rtk.rs
