Nagpulong ang mga eksperto sa Geneva, ngunit walang maabot na kasunduan: hinarang ng Estados Unidos at Russia ang lahat ng trabaho. Marahil ito lamang ang oras kung kailan gumagana nang maayos ang mga hegemons.
Ang mga pagpupulong ng mga dalubhasa sa format ng Convention on Inhuman Armas ay nagtapos sa Geneva upang magpasya ang kapalaran ng tinaguriang robot ng pagpapamuok - mga autonomous na sandata na gumagamit ng artipisyal na intelihensiya upang talunin ang mga target. Gayunpaman, walang naabot na mga kasunduan. Ang Estados Unidos, Russia, South Korea, Israel, at Australia ay kabilang sa mga minorya na bansa na nagtagumpay na hadlangan ang sentimyento patungo sa isang kumpletong pagbabawal sa mga killer robot.
Kaya, kahit na wala pa ring gumaganang autonomous na sandata sa mundo, ang teknolohiya ay nananatili, kung gayon, makatao - maaari itong mapaunlad at masaliksik. Kapansin-pansin, ang Estados Unidos at Russia, ayon sa Stockholm Peace Research Institute (SIPRI), nangunguna sa listahan ng pinakamalaking mga exporters ng armas. Ang South Korea, Israel at Australia ay hindi rin nahuhuli sa ranggo na ito - kabilang sila sa nangungunang 20 mga manlalaro sa merkado.
At bagaman ang Tsina (ang ikalimang tagaluwas ng sandata sa mundo, isang permanenteng miyembro ng UN Security Council ay nagtataguyod ng pagbabawal sa mga robot ng pagpapamuok, hindi nito nagawang i-tweak ang mga kaliskis sa direksyon nito sa panahon ng mga pagpupulong. Ngayon, 26 na mga bansa ang lantarang sumusuporta sa pagbabawal sa paggamit ng artipisyal na intelihensiya sa digmaan. Ang iba ay umiwas sa isang malinaw na posisyon) Ang Pransya at Alemanya (ang pangatlo at ikaapat na mga tagapag-export ng armas) ay nag-alok na pirmahan ang isang dokumento na pagsasama-sama ng pagiging primado ng tao sa artipisyal na intelihensiya, ngunit malamang na sa panig ng mga nais na bumuo ng mga autonomous na sasakyan sa pagpapamuok.
"Tiyak na nakakabigo na ang isang maliit na pangkat ng mga higanteng militar ay maaaring pigilan ang kalooban ng nakararami," komento ni Mary Verhem, tagapag-ugnay ng Kampanya upang Itigil ang Mga Killer Robots, sa kinalabasan ng mga pagpupulong sa Geneva.
Sa katunayan, ang sitwasyon ay tila isang pagsasabwatan ng mga armadong monopolyo na mga tacoon, na ibinigay na ang Estados Unidos at Russia ay karaniwang hindi nakakaabot ng kahit anong uri ng kompromiso sa mahahalagang isyu. Kunin ang Syrian: Nagkakasamang nag-block ang Washington at Moscow ng mga resolusyon ng bawat isa pagkatapos gumamit ng mga sandatang kemikal sa Syria ngayong tagsibol. Ang mga asphyxiating gas at iba pang nakakalason na sangkap para sa mga hangaring militar, sa pamamagitan ng paraan, ay dating ipinagbabawal ng Convention on Inhumane Armas.
Ang susunod na pagpupulong sa kapalaran ng mga killer robot ay magaganap sa Geneva sa Nobyembre.
Bakit nais nilang pagbawalan ang mga autonomous na sandata
Iginiit ng mga tagataguyod ng pagbabawal ng robot na pandigma na ang battlefield ay hindi isang lugar para sa artipisyal na intelihensiya. Sa kanilang palagay, ang mga naturang teknolohiya ay may malaking banta. Hindi bababa sa, ngayon ay hindi malinaw kung paano makikilala ang makina sa pagitan ng mga mandirigma (yaong mga direktang kasangkot sa pagtatalo) mula sa mga hindi nakikipaglaban (tauhan ng serbisyo sa hukbo na maaari lamang gumamit ng sandata para sa pagtatanggol sa sarili) at mga sibilyan sa pangkalahatan. May posibilidad na papatayin ng trabaho ang mga nasugatan at ang mga sumuko, na ipinagbabawal ng kasalukuyang mga patakaran ng pakikidigma.
Ano ang pumipigil sa trabaho mula sa nakakagambala sa lahat ng mga partido hanggang sa hidwaan, kahit na ang mga may-ari ng naturang sandata? Ang mga elemento ng artipisyal na katalinuhan ay matagumpay na ginamit sa kagamitan sa militar, mga misil; naaakit ang mga robot para sa reconnaissance, ngunit ang pangwakas na salita ay nakasalalay pa rin sa mga tao. Ang mga autonomous na sandata ay hindi susundin ang mga utos ng mga kumander - iyon ang dahilan kung bakit sila autonomous. Iyon ang dahilan kung bakit ang mga heneral ng militar mula sa iba't ibang mga bansa ay may pag-aalinlangan tungkol sa pagpapakilala ng mga makina sa hanay ng mga tauhan.
At isa pang bukas na tanong ay ang terorismo sa internasyonal. Ang teknolohiyang autonomous na sandata ay maaaring mahulog sa mga maling kamay, at maaari itong huli na ma-hack. Isang taon na ang nakalilipas, sinabi ng Pangulo ng Russia na si Vladimir Putin na ang namumuno sa mundo ay ang magiging pinuno sa pagbuo ng artipisyal na intelihensiya. Sa kaso ng mga autonomous na sandata, ang isang makakakuha ng pag-access sa mga naturang teknolohiya ay magiging pinuno ng mundo. At para dito, sa katunayan, kailangan mo lamang ng isang computer at isang dodger na dadaan sa mga security system. Ang Pentagon, nga pala, ay na-hack nang higit sa isang beses. Dahil dito, walang sinuman ang maaaring magbigay ng mga garantiya na ang mga autonomous na sandata ay mananatiling hindi malalabag.
Hindi rin malinaw kung sino ang magiging responsable sa batas kung ang isang krimen sa giyera ay nagawa bilang isang resulta ng paggana ng autonomous na sistema ng sandata. "Ang engineer, programmer, tagagawa o kumander na gumamit ng sandata? Kung ang responsibilidad ay hindi maaaring tukuyin tulad ng hinihiling ng internasyunal na makataong batas, ang pagkakakalat ng mga naturang system ay makikilala bilang ligal o makatuwiran sa etika? "Ang tala ng International Committee of the Red Cross.
Kapansin-pansin, ang mga siyentipiko ay nagpatibay din ng pagbabawal sa mga robot ng pagpapamuok. Noong Hulyo ng taong ito, higit sa dalawang libong siyentipiko, partikular ang tagalikha ng Tesla at SpaceX Elon Musk at mga kapwa nagtatag ng DeepMind, ay lumagda sa isang dokumento na hindi nila bubuo ng nakamamatay na autonomous na sandata. Ganun din ang ginawa ng Google. Ang tech higante ay sumuko sa trabaho sa proyekto ng Maagon ng Pentagon. At sa 2017, ang bilang ng mga siyentipiko ay tumawag na sa UN na ipagbawal ang paglikha ng mga killer robot.
Sa pamamagitan ng paraan, ang isyu ng artipisyal na intelihensiya sa digmaan ay lumitaw sa agenda ng United Nations sa pagtatapos ng 2013, ngunit halos walang nagbago mula noon. Ngayong taon lamang, nagsimula ang mga pagpupulong ng dalubhasa sa format ng Convention on Inhumane Armas. Iyon ay, tumagal ng higit sa apat na taon upang makarating sa ilang higit pa o mas kaunting praktikal na eroplano.
Bakit ayaw nilang pagbawalan ang mga autonomous na sandata
Hindi mahalaga kung gaano ito tumunog, ang lahi ng armas ang pangunahing dahilan kung bakit ayaw nilang pagbawal ang mga killer killer. Tama si Putin: ang sinumang unang makakakuha ng mga autonomous na sandata ang mangingibabaw sa mundo. Opisyal, ang dahilan na ito ay tininigan.
Ang pangunahing argumento ng mga kalaban ng pagbabawal ay ang imposibilidad ng paghihiwalay ng sibilyan na artipisyal na intelihensiya mula sa militar. Tulad ng, hindi namin pagbabawalan ang mga kutsilyo sa kusina dahil lamang magagamit ito ng mga terorista. Sa katunayan, praktikal na imposibleng paghiwalayin ang pag-unlad ng sibilyan ng artipisyal na intelihensiya mula sa militar. Ngunit ngayon pinag-uusapan natin ang tungkol sa pagbabawal ng sandatang ito, na makakapag-iisa na matukoy at ma-atake ang mga target. Ito ay maaaring ang Maven na proyekto, na pinagtatrabahuhan ng Kagawaran ng Depensa ng US kasabay ni Booz Allen Hamilton (tinanggihan ng Google ang kontrata).
Nais ng mga developer ng Maven na magturo sa mga drone upang pag-aralan ang mga imahe, sa partikular mula sa mga satellite at - potensyal - kilalanin ang mga target para sa pag-atake. Ang Pentagon ay nagsimulang magtrabaho sa proyekto pabalik noong Abril 2017 at inaasahan na makuha ang unang mga gumaganang algorithm sa pagtatapos ng taon. Ngunit sa pamamagitan ng demarche ng mga empleyado ng Google, naantala ang pagpapaunlad. Noong Hunyo ng taong ito, ayon kay Gizmodo, ang sistema ay maaaring makilala sa pagitan ng mga elementarya na bagay - kotse, tao, ngunit ito ay naging ganap na hindi gaanong mahalaga sa mga mahirap na sitwasyon. Kung ang pagbabawal sa mga autonomous na sandata ay gayunpaman ay pinagtibay sa antas ng UN, ang proyekto ay kailangang i-scrapped, habang ang Pentagon ay nag-angkin na ang kanilang pag-unlad ay maaaring i-save ang buhay, dahil maaari itong mai-program upang gumana nang mas tumpak at mapagkakatiwalaan kung ihinahambing sa mga tao.
"Kailangan mong maunawaan na pinag-uusapan natin ang tungkol sa teknolohiya, na wala itong mga sample na gagana. Ang ideya ng mga naturang sistema ay pa rin mababaw," sabi ng bisperas ng pagpupulong sa Geneva sa Russian Foreign Ministry. - Sa aming palagay, ang batas internasyonal, lalo na, ang sektor ng makatao, ay maaaring mailapat sa mga autonomous na sandata. Hindi nila kailangan ng modernisasyon o pagbagay sa mga system na wala pa.”
Sa gayon, at isa pang totoong, ngunit hindi tininigan, ang dahilan ay pera. Ngayon, ang merkado para sa mga teknolohiya ng artipisyal na artipisyal na paniktik ay tinatayang higit sa anim na bilyong dolyar. Ngunit sa pamamagitan ng 2025 ang numero ay triple - sa halos 19 bilyon, ayon sa mga analista ng kumpanya ng Amerika na MarketsandMarkets. Para sa pinakamalaking exporters ng armas, ito ay isang mahusay na pagganyak upang harangan ang anumang mga paghihigpit sa pagbuo ng mga killer robot.
Hindi mapigilan ang pag-usad
Ang mga tagataguyod ng pagbabawal sa mga autonomous na sandata ay nagsasaad na ang teknolohiya ay napakabilis na umuunlad at ang artipisyal na intelektuwal ay kalaunan ay magiging sandata - isang oras. Mayroong lohika sa kanilang mga salita. Ang artipisyal na katalinuhan ay isang mahalagang bahagi ng ika-apat na rebolusyong pang-agham at teknolohikal, na nagpapatuloy ngayon. Dapat tandaan na ang pag-unlad na panteknikal ay sa isang paraan o iba pa na nauugnay sa mga operasyon ng militar. Ang pangatlong rebolusyong pang-agham at teknolohikal ay tumagal hanggang sa kalagitnaan ng 50 ng siglo XX, iyon ay, ang tuktok nito ay bumagsak sa panahon ng Ikalawang Digmaang Pandaigdig.
Noong 1949, pinagtibay ng Geneva ang Convention para sa Proteksyon ng Mga Tao na Sibil sa Oras ng Digmaan. Sa panahon pagkatapos ng giyera, dinagdagan din nila ang IV Hague Convention ng 1907, na tumutukoy sa mga patakaran para sa pagsasagawa ng giyera. Iyon ay, ang mga katakutan ng World War II ay naging sanhi ng prosesong ito. Kaya, ang mga tagapagtanggol ng karapatang pantao ay hindi nais na maghintay para sa Ikatlong Digmaang Pandaigdig upang maprotektahan ang sangkatauhan mula sa mga autonomous na sandata. Iyon ang dahilan kung bakit kinakailangan ang pagpapasya ng kapalaran ng mga killer robot, pinipilit nila.
Ayon sa mga dalubhasa sa Human Rights Watch, ang paggamit ng mga robot ng pagpapamuok ay sumasalungat sa Deklarasyon ng Martens - ang paunang salita sa 1899 Hague Convention on the Laws and Customs of War. Sa madaling salita, ang mga killer robot ay lumalabag sa mga batas ng sangkatauhan at ang mga kinakailangan ng kamalayan ng publiko (ang posisyon ay nakumpirma sa IV Hague Convention).
"Dapat tayong magtulungan upang magpataw ng isang preventive ban sa mga naturang sistema ng sandata bago kumalat sa buong mundo," sabi ni Bonnie Doherty, senior researcher sa departamento ng armas sa Human Rights Watch.
Sa gayon, hindi ito gumana upang ipagbawal ang mga killer robot sa oras na ito. Mahuhulaan, ang mga pagpupulong sa Nobyembre ay magiging walang bunga. Totoo, halos lahat ng mga bansa ay sumasang-ayon - ang teknolohiya ay hindi pinapayagan na dumaloy ng gravity at mga robot ng labanan ay nangangailangan ng naturang stop-crane. Ngunit hindi pa rin malinaw kung ang sangkatauhan ay magkakaroon ng oras upang hilahin ito kapag lumitaw ang pangangailangan.
