Fantazma e vrasësit të makinës vazhdon. Në çfarë beson presidenti Putin?

Përkrahësit e robotëve ushtarakë (1) argumentojnë se armët e automatizuara ofrojnë më shumë mundësi për mbrojtjen e jetës njerëzore. Makineritë janë në gjendje t'i afrohen armikut më shumë se ushtarët dhe të vlerësojnë saktë kërcënimin. Dhe emocionet ndonjëherë paralizojnë aftësinë për të marrë vendimet e duhura.

Shumë avokatë të përdorimit të robotëve vrasës besojnë fuqimisht se ata do t'i bëjnë luftërat më pak të përgjakshme, sepse më pak ushtarë do të vdesin. Ata vërejnë se robotët, megjithëse nuk ndjejnë keqardhje, janë të imunizuar ndaj emocioneve negative njerëzore si paniku, zemërimi dhe hakmarrja, të cilat shpesh çojnë në krime lufte.

Aktivistët e të drejtave të njeriut përdorin gjithashtu argumentin se ushtria ka çuar në një reduktim të madh të viktimave civile gjatë gjysmëshekullit të fundit, dhe robotizimi i ushtrisë lejon një mekanizëm për të zbatuar ligjet e luftës në mënyrë më strikte. Ata pretendojnë se makinat do të bëhen etike kur të pajisen me softuer që do t'i detyrojë t'u binden ligjeve të luftës.

Sigurisht, një numër i madh njerëzish, duke përfshirë edhe ata shumë të famshëm, nuk e ndajnë këtë mendim prej vitesh. Në prill të vitit 2013, filloi një fushatë ndërkombëtare me sloganin (2). Në kuadër të saj, organizatat joqeveritare kërkojnë ndalimin e plotë të përdorimit të armëve autonome. Ekspertët nga shumë vende fillimisht u ulën për të diskutuar këtë temë në Konferencën e OKB-së për Çarmatimin në Gjenevë në maj 2014. Një raport i publikuar disa muaj më vonë nga Human Rights Watch dhe shkencëtarët nga Universiteti i Harvardit tha se autonomët do të ishin shumë të rrezikshëm - ata zgjodhën objektivat e tyre dhe vranë njerëz. Në të njëjtën kohë, nuk është shumë e qartë se kush duhet të mbajë përgjegjësi.

2. Demonstrimi si pjesë e fushatës Stop Killer Robots

Çfarë mund të bëjë një tufë dronësh të vegjël

Mosmarrëveshjet rreth robotëve vrasës (ROU) kanë vazhduar prej vitesh dhe nuk zbehen. Muajt ​​e fundit kanë sjellë përpjekje të reja për të ndalur robotët ushtarakë dhe një valë raportimesh për projekte të reja të këtij lloji, disa prej të cilave po testohen edhe në kushte reale luftarake.

Në nëntor 2017, një video që tregon tufa vdekjeprurëse mini-dronësh ., në aksion të frikshëm. Shikuesit panë se nuk na duhen më makineritë e rënda të luftës, tanket apo raketat e hedhura nga grabitqarët për të vrarë në masë dhe me mitralozë. Drejtori kryesor Stuart Russell, profesor i inteligjencës artificiale në Berkeley, thotë:

-

Pranverën e kaluar pesëdhjetë profesorë Universitetet kryesore të botës kanë nënshkruar një apel për Institutin Korean të Shkencës dhe Teknologjisë së Avancuar (KAIST) dhe partnerit të tij Hanwha Systems. ata njoftuan se nuk do të bashkëpunojnë me universitetin dhe do të presin të ftuar nga KAIST. Shkak është bërë ndërtimi i “armëve autonome” i kryer nga të dyja institucionet. KAIST mohoi njoftimet e mediave.

Menjëherë pas kësaj në SHBA më shumë se 3 punonjës të Google protestoi kundër punës së kompanisë për ushtrinë. Ata ishin të shqetësuar se Google po bashkëpunonte me një projekt qeveritar të koduar me emrin Maven që synon të përdorë AI për të njohur objektet dhe fytyrat në videot e dronëve ushtarakë. Menaxhmenti i kompanisë thotë se qëllimi i Maven është të shpëtojë jetë dhe të shpëtojë njerëzit nga puna e lodhshme dhe jo agresioni. Protestuesit nuk ishin të bindur.

Pjesa tjetër e betejës ishte deklarata ekspertët e inteligjencës artificiale, përfshirë. duke punuar në një projekt të Google dhe Elona Muska. Ata premtojnë të mos zhvillojnë robotë. Ata gjithashtu u bëjnë thirrje qeverive të shtojnë përpjekjet për të rregulluar dhe kufizuar këto armë.

Deklarata thotë, pjesërisht, se "vendimi për të marrë një jetë njerëzore nuk duhet të merret kurrë nga një makinë". Megjithëse ushtritë e botës janë të pajisura me shumë pajisje automatike, ndonjëherë me një shkallë të lartë autonomie, shumë ekspertë kanë frikë se në të ardhmen kjo teknologji mund të bëhet plotësisht autonome, duke lejuar vrasjen pa asnjë përfshirje të një operatori dhe komandanti njerëzor.

Ekspertët paralajmërojnë gjithashtu se makinat e vrasjes autonome mund të jenë edhe më të rrezikshme se "armët bërthamore, kimike dhe biologjike", sepse ato mund të dalin lehtësisht jashtë kontrollit. Në total, në korrik të vitit të kaluar, një letër nën kujdesin e Institutit Future of Life (FGI) u nënshkrua nga 170 organizata dhe 2464 individë. Në muajt e parë të vitit 2019, një grup shkencëtarësh mjekësorë të lidhur me FLI kërkuan përsëri një letër të re që ndalonte zhvillimin e armëve të kontrolluara nga inteligjenca artificiale (AI).

Takimi i gushtit i vitit të kaluar i OKB-së në Gniewo mbi rregullimin e mundshëm ligjor të "robotëve vrasës" ushtarakë përfundoi me sukses ... makineritë. Një grup vendesh, duke përfshirë Shtetet e Bashkuara, Rusinë dhe Izraelin, bllokuan punën e mëtejshme për futjen e një ndalimi ndërkombëtar për këto armë (projekt Konventa për ndalimin ose kufizimin e përdorimit të armëve të caktuara konvencionale, CCW). Nuk është rastësi që këto vende njihen për punën e tyre në sistemet e avancuara të armëve autonome dhe robotike.

Rusia fokusohet në robotët luftarakë

Presidenti Vladimir Putin shpesh citohet të ketë thënë për sistemet ushtarake të AI dhe robotët luftarakë:

-.

flet hapur për zhvillimin e armëve autonome. Shefi i Shtabit të Përgjithshëm të forcave të tij të armatosura, gjenerali Valery Gerasimov, i tha së fundmi agjencisë ushtarake të lajmeve Interfax-AVN se përdorimi i robotëve do të jetë një nga tiparet kryesore të luftërave të ardhshme. Ai shtoi se Rusia po përpiqet automatizoni plotësisht fushën e betejës. Komente të ngjashme u bënë nga zëvendëskryeministri Dmitry Rogozin dhe ministri i mbrojtjes Sergei Shoigu. Kryetari i Komitetit të Këshillit të Federatës për Mbrojtjen dhe Sigurinë Viktor Bondarev tha se Rusia po përpiqet të zhvillohet Teknologjitë Rojukjo do të lejonte që rrjetet e dronëve të funksiononin si një entitet i vetëm.

Kjo nuk është për t'u habitur nëse kujtojmë se teletankët e parë u zhvilluan në Bashkimin Sovjetik në vitet '30. Ato u përdorën në fillim të Luftës së Dytë Botërore. Sot Rusia po krijon gjithashtu robotë tankesh bëhen gjithnjë e më autonome.

Shteti i Putinit kohët e fundit dërgoi të tijat në Siri Mjet luftarak pa pilot Uran-9 (3). pajisja humbi kontaktin me pikat e kontrollit në tokë, kishte probleme me sistemin e pezullimit dhe armët e saj nuk funksionuan në mënyrë të përsosur dhe nuk goditën objektivat në lëvizje. Nuk tingëllon shumë serioze, por shumë e konsiderojnë fshirjen siriane si një provë të mirë luftarake që do t'i lejojë rusët të përmirësojnë makinën.

Roscosmos ka miratuar një plan paraprak për të dërguar dy robotë në Stacionin Ndërkombëtar të Hapësirës deri në gusht të këtij viti. Fedor (4) në Unionin pa pilot. Jo si një ngarkesë, por. Ashtu si në filmin RoboCop, Fedor përdor një armë dhe demonstron gjuajtje vdekjeprurëse gjatë ushtrimeve të qitjes.

Pyetja është, pse një robot në hapësirë ​​do të jetë i armatosur? Ka dyshime se çështja nuk është vetëm në aplikimet tokësore. Ndërkohë në Tokë, prodhuesi rus i armëve Kallashnikov tregoi një vizualizim robot Igoreke cila edhe pse shkaktoi shumë të qeshura, sinjalizon se kompania po punon seriozisht për mjetet autonome luftarake. Në korrik 2018, Kallashnikovi njoftoi se po ndërtonte një armë që e përdor për të marrë vendime "të qëlloni ose të mos qëlloni".

Këtij informacioni duhet t'i shtohen raportet se armëpunuesi rus Digtyarev zhvilloi një të vogël tank autonom Nerekht e cila mund të lëvizë në heshtje drejt objektivit të saj dhe më pas të shpërthejë me forcë të fuqishme për të shkatërruar ndërtesa të tjera ose të tëra. Si dhe Ushtria e tankeve T14 , krenaria e forcave të armatosura ruse, ishte projektuar për kontroll të mundshëm me telekomandë dhe vozitje pa pilot. Sputnik pretendon se inxhinierët ushtarakë rusë po punojnë për ta bërë T-14 një automjet të blinduar plotësisht autonom.

Direktiva e kundërshtimeve

Vetë ushtria amerikane ka vendosur një kufi mjaft të qartë në nivelin e autonomisë së armëve të tyre. Në vitin 2012, Departamenti Amerikan i Mbrojtjes nxori Direktivën 3000.09, e cila thotë se njerëzit duhet të kenë të drejtën të kundërshtojnë veprimet e robotëve të armatosur. (edhe pse mund të ketë disa përjashtime). Kjo direktivë mbetet në fuqi. Politika aktuale e Pentagonit është që faktori vendimtar në përdorimin e armëve duhet të jetë gjithmonë një person dhe se një gjykim i tillë duhet të jetë. përputhet me ligjet e luftës.

Edhe pse amerikanët kanë përdorur makina fluturuese, Predator, Reaper dhe shumë supermakina të tjera për dekada, ato nuk ishin dhe nuk janë modele autonome. Ato kontrollohen nga operatorët nga distanca, ndonjëherë nga një distancë prej disa mijëra kilometrash. Një diskutim i nxehtë për autonominë e makinave të këtij lloji filloi me premierën e prototipit. droni X-47B (5), i cili jo vetëm që fluturoi në mënyrë të pavarur, por gjithashtu mund të ngrihej nga një aeroplanmbajtëse, të ulej mbi të dhe të furnizohej me karburant në ajër. Kuptimi është gjithashtu të qëlloni ose të bombardoni pa ndërhyrje njerëzore. Megjithatë, projekti është ende në testim dhe rishikim.

5. Testet e X-47B pa pilot në një aeroplanmbajtëse amerikane

Në vitin 2003, Departamenti i Mbrojtjes filloi të eksperimentonte me një robot të vogël si tank. SPOES pajisur me një mitraloz. Në vitin 2007 ai u dërgua në Irak. megjithatë, programi përfundoi pasi roboti filloi të sillej në mënyrë të çrregullt, duke lëvizur pushkën e tij në mënyrë të çrregullt. Si rezultat, ushtria amerikane braktisi studimin e robotëve tokësorë të armatosur për shumë vite.

Në të njëjtën kohë, Ushtria Amerikane ka rritur shpenzimet e saj për operacione nga 20 milionë dollarë në 2014 në 156 milionë dollarë në 2018. Ky buxhet tashmë është rritur në 2019 milionë dollarë në vitin 327. Kjo është një rritje kumulative prej 1823% në vetëm pak vite. Ekspertët thonë se që në vitin 2025, ushtria amerikane mund të ketë një fushë beteje më shumë ushtarë robotë se sa njerëz.

Kohët e fundit, shumë polemika janë shkaktuar dhe paralajmëruar nga ushtria amerikane Projekti ATLAS () - automatik. Në media kjo u cilësua si shkelje e Direktivës 3000.09 të lartpërmendur. Megjithatë, ushtria amerikane mohon dhe siguron se përjashtimi i një personi nga cikli i vendimmarrjes nuk bëhet fjalë.

AI njeh peshkaqenë dhe civilë

Megjithatë, mbrojtësit e armëve autonome kanë argumente të reja. prof. Ronald Arkin, një robotist në Institutin e Teknologjisë në Xhorxhia, deklaron në botimet e tij se Në luftën moderne, armët inteligjente janë thelbësore për të shmangur viktimat civile, pasi teknikat e mësimit të makinerive mund të ndihmojnë efektivisht në dallimin midis luftëtarëve dhe civilëve, dhe objektivave të rëndësishëm dhe të parëndësishëm.

Një shembull i aftësive të tilla të AI është patrullimi në plazhet australiane. drone Little Ripperpajisur me sistemin SharkSpotter të zhvilluar nga Universiteti i Teknologjisë në Sydney. Ky sistem skanon automatikisht ujin për peshkaqenë dhe njofton operatorin kur sheh diçka të pasigurt. (6) Mund të identifikojë njerëzit, delfinët, varkat, dërrasat e sërfit dhe objektet në ujë për t'i dalluar nga peshkaqenët. Ai mund të zbulojë dhe identifikojë rreth gjashtëmbëdhjetë lloje të ndryshme me saktësi të lartë.

6. Peshkaqenë të njohur në sistemin SharkSpotter

Këto metoda të avancuara të mësimit të makinerive rrisin saktësinë e zbulimit ajror me më shumë se 90%. Për krahasim, një operator njerëzor në një situatë të ngjashme njeh me saktësi 20-30% të objekteve në fotografitë ajrore. Përveç kësaj, identifikimi ende verifikohet nga një person përpara një alarmi.

Në fushën e betejës, operatori, duke parë imazhin në ekran, vështirë se mund të përcaktojë nëse njerëzit në terren janë luftëtarë me AK-47 në duar apo, për shembull, fermerë me piqe. Arkin vëren se njerëzit priren të "shohin atë që duan të shohin", veçanërisht në situata stresuese. Ky efekt kontribuoi në rrëzimin aksidental të një avioni iranian nga USS Vincennes në 1987. Sigurisht, sipas mendimit të tij, armët e kontrolluara nga AI do të ishin më të mira se "bombat inteligjente" aktuale, të cilat nuk janë vërtet të ndjeshme. Gushtin e kaluar, një raketë saudite e drejtuar me lazer goditi një autobus plot me nxënës në Jemen, duke vrarë dyzet fëmijë.

"Nëse një autobus shkollor është etiketuar siç duhet, identifikimi i tij në një sistem autonom mund të jetë relativisht i lehtë," argumenton Arkin në Popular Mechanics.

Megjithatë, këto argumente duket se nuk i bindin aktivistët kundër vrasësve automatikë. Krahas kërcënimit të robotëve vrasës, duhet pasur parasysh edhe një rrethanë tjetër e rëndësishme. Edhe një sistem "i mirë" dhe "i vëmendshëm" mund të hakohet dhe të merret nën kontroll nga njerëz shumë të këqij. Atëherë të gjitha argumentet në mbrojtje të pajisjeve ushtarake humbasin forcën e tyre.