Maşın qatilinin xəyalı davam edir. Prezident Putin nəyə inanır?

Hərbi robotların tərəfdarları (1) avtomatlaşdırılmış silahların insan həyatını qorumaq üçün daha çox imkanlar təqdim etdiyini iddia edirlər. Maşınlar əsgərlərdən daha çox düşmənə yaxınlaşa və təhlükəni düzgün qiymətləndirə bilir. Duyğular isə bəzən düzgün qərar qəbul etmək qabiliyyətini iflic edir.

Qatil robotların bir çox tərəfdarları əmindirlər ki, onlar müharibələri daha az qanlı edəcəklər, çünki daha az əsgər öləcək. Onlar qeyd edirlər ki, robotlar təəssüf hissi keçirməsələr də, tez-tez müharibə cinayətlərinə səbəb olan panika, qəzəb və qisas kimi mənfi insan emosiyalarına qarşı immunitetlidirlər.

Hüquq müdafiəçiləri də belə bir arqumentdən istifadə edirlər ki, ordu son yarım əsrdə mülki əhali arasında itkilərin böyük azalmasına səbəb olub və ordunun robotlaşdırılması müharibə qanunlarını daha ciddi şəkildə tətbiq etmək mexanizmini yaratmağa imkan verir. Onlar iddia edirlər ki, maşınlar onları müharibə qanunlarına tabe olmağa məcbur edəcək proqram təminatı ilə təchiz edildikdə etik hala gələcək.

Əlbəttə ki, çox sayda insan, o cümlədən çox məşhurlar, illərdir bu fikri bölüşmürlər. 2013-cü ilin aprel ayında (2) şüarı altında beynəlxalq kampaniyaya start verildi. Onun çərçivəsində qeyri-hökumət təşkilatları avtonom silahların istifadəsinə tam qadağa qoyulmasını tələb edirlər. Bir çox ölkələrin ekspertləri ilk dəfə 2014-cü ilin mayında Cenevrədə BMT-nin Silahsızlanma üzrə Konfransında bu mövzunu müzakirə etmək üçün oturdular. Bir neçə ay sonra Human Rights Watch təşkilatı və Harvard Universitetinin alimləri tərəfindən dərc edilən hesabatda deyilir ki, muxtariyyətlər çox təhlükəli olacaq - onlar öz hədəflərini seçib insanları öldürüblər. Eyni zamanda kimin cavabdehlik daşımalı olduğu da çox aydın deyil.

2. “Qatil robotları dayandır” aksiyası çərçivəsində nümayiş

Kiçik pilotsuz təyyarələr nə edə bilər

Qatil robotlar (ROU) ətrafında mübahisələr illərdir davam edir və aradan qalxmır. Son aylar hərbi robotları dayandırmaq üçün yeni cəhdlər və bəziləri hətta real döyüş şəraitində sınaqdan keçirilən bu tip yeni layihələr haqqında hesabat dalğası gətirdi.

2017-ci ilin noyabr ayında bir video nümayiş etdirildi mini dronların ölümcül dəstələri ., dəhşətli hərəkətdə. Tamaşaçılar gördülər ki, Yırtıcıların kütləvi şəkildə və pulemyotlarla öldürmək üçün atdığı ağır döyüş maşınlarına, tanklara və ya raketlərə ehtiyacımız yoxdur. Berklidə süni intellekt professoru, aparıcı rejissor Stuart Russell deyir:

-

Keçən yaz əlli professor Dünyanın aparıcı universitetləri Koreya Qabaqcıl Elm və Texnologiya İnstitutuna (KAIST) və onun tərəfdaşı Hanwha Systems-ə müraciət imzalayıb. universitetlə əməkdaşlıq etməyəcəklərini və KAIST qonaqlarını qəbul edəcəklərini açıqladılar. Səbəb isə hər iki qurumun həyata keçirdiyi “avtonom silahların” qurulması olub. KAIST mətbuatda yayılan xəbərləri təkzib edib.

Qısa müddət sonra ABŞ-da 3-dən çox Google işçisi şirkətin hərbçilər üçün işinə etiraz etdi. Onlar Google-un hərbi pilotsuz uçan aparatların videolarında obyektləri və üzləri tanımaq üçün süni intellektdən istifadə etməyi hədəfləyən Maven kod adlı hökumət layihəsi ilə əməkdaşlıq etməsindən narahat idilər. Şirkət rəhbərliyi bildirir ki, Maven-in məqsədi həyatları xilas etmək və insanları aqressiyadan deyil, yorucu işdən xilas etməkdir. Etirazçılar buna inanmayıb.

Döyüşün növbəti hissəsi bəyannamə idi süni intellekt mütəxəssisləri, daxil Google layihəsi üzərində işləmək və Elona Muska. Robotları inkişaf etdirməyəcəklərinə söz verirlər. Onlar həmçinin hökumətləri bu silahları tənzimləmək və məhdudlaşdırmaq üçün səyləri artırmağa çağırırlar.

Bəyanatda qismən deyilir ki, “insan həyatına son qoymaq qərarı heç vaxt maşın tərəfindən qəbul edilməməlidir”. Dünya orduları bir çox avtomatik qurğularla, bəzən yüksək dərəcədə muxtariyyətlə təchiz edilsə də, bir çox ekspertlər qorxurlar ki, gələcəkdə bu texnologiya insan operatoru və komandirinin iştirakı olmadan öldürməyə imkan verən tamamilə avtonom ola bilər.

Mütəxəssislər həmçinin xəbərdarlıq edirlər ki, avtonom öldürmə maşınları "nüvə, kimyəvi və bioloji silahlardan" daha təhlükəli ola bilər, çünki onlar asanlıqla nəzarətdən çıxa bilirlər. Ümumilikdə, ötən ilin iyulunda Həyatın Gələcəyi İnstitutunun (FGI) himayəsi altında 170 təşkilat və 2464 fiziki şəxs tərəfindən məktub imzalanıb. 2019-cu ilin ilk aylarında FLI ilə əlaqəli bir qrup tibb alimi yenidən süni intellektlə (AI) idarə olunan silahların inkişafını qadağan edən yeni məktubla müraciət etdi.

Hərbi "qatil robotlar"ın mümkün hüquqi tənzimlənməsi ilə bağlı Gniewoda keçən il BMT-nin avqust iclası uğurla başa çatdı ... maşınlar. ABŞ, Rusiya və İsrail də daxil olmaqla bir qrup ölkə bu silahlara beynəlxalq qadağanın tətbiqi üzrə gələcək işlərə mane oldu (Bəzi Adi Silahların İstifadəsinin Qadağan edilməsi və ya Məhdudlaşdırılması haqqında Konvensiyanın layihəsi, CCW). Təsadüfi deyil ki, bu ölkələr təkmil avtonom və robot silah sistemləri üzərində apardıqları işlər ilə tanınırlar.

Rusiya döyüş robotlarına diqqət yetirir

Prezident Vladimir Putin hərbi süni intellekt sistemləri və döyüş robotları haqqında tez-tez sitat gətirir:

-.

avtonom silahların hazırlanmasından açıq danışır. Silahlı Qüvvələrin Baş Qərargah rəisi, general Valeri Gerasimov bu yaxınlarda İnterfaks-AVN hərbi xəbər agentliyinə bildirib ki, robotlardan istifadə gələcək müharibələrin əsas xüsusiyyətlərindən biri olacaq. O əlavə edib ki, Rusiya buna çalışır döyüş meydanını tam avtomatlaşdırın. Oxşar şərhləri baş nazirin müavini Dmitri Roqozin və müdafiə naziri Sergey Şoyqu da səsləndirib. Federasiya Şurasının Müdafiə və Təhlükəsizlik Komitəsinin sədri Viktor Bondarev bildirib ki, Rusiya inkişaf etməyə çalışır. Roju texnologiyalarıbu, dron şəbəkələrinin vahid bir qurum kimi fəaliyyət göstərməsinə imkan verəcək.

İlk teletankların Sovet İttifaqında 30-cu illərdə hazırlandığını xatırlasaq, bu təəccüblü deyil. Onlar İkinci Dünya Müharibəsinin əvvəlində istifadə edilmişdir. Bu gün Rusiya da yaradır tank robotları getdikcə daha avtonom olur.

Putinin dövləti bu yaxınlarda Suriyaya öz dövlətini göndərdi Uran-9 pilotsuz döyüş maşını (3). qurğunun yerüstü idarəetmə məntəqələri ilə əlaqəsi kəsilib, asma sistemində problemlər yaranıb, onun silahları mükəmməl işləməyib və hərəkət edən hədəfləri vurmayıb. Bu o qədər də ciddi səslənmir, lakin çoxları Suriya məlhəmini ruslara maşını təkmilləşdirməyə imkan verəcək yaxşı döyüş sınağı hesab edir.

Roskosmos bu ilin avqust ayına qədər Beynəlxalq Kosmik Stansiyaya iki robot göndərmək üçün ilkin planı təsdiqləyib. Fedor (4) pilotsuz ittifaqda. Yük kimi deyil, amma. “RoboCop” filmində olduğu kimi, Fedor silahı əlində saxlayır və atış məşqləri zamanı ölümcül atıcılıq nümayiş etdirir.

Sual budur ki, kosmosda olan bir robot niyə silahlansın? Şübhələr var ki, məsələ təkcə yerüstü tətbiqlərdə deyil. Bu arada, Yer kürəsində Rusiya silah istehsalçısı Kalaşnikov bir vizual görüntü nümayiş etdirdi robot İqorekbu, çoxlu gülüş doğursa da, şirkətin avtonom döyüş maşınları üzərində ciddi işlədiyindən xəbər verir. 2018-ci ilin iyulunda Kalaşnikov "atış və ya atmamaq" qərarları vermək üçün istifadə etdiyi silah hazırladığını açıqladı.

Bu məlumatlara rus silah ustası Digtyarev tərəfindən kiçik bir silah hazırladığına dair məlumatlar əlavə edilməlidir avtonom tank Nerext öz-özünə hədəfinə doğru səssizcə hərəkət edə bilən və sonra digər və ya bütöv binaları məhv etmək üçün güclü qüvvə ilə partlaya bilər. Eləcə də Tank T14 Ordusu , Rusiya silahlı qüvvələrinin fəxri, mümkün uzaqdan idarəetmə və pilotsuz sürücülük üçün nəzərdə tutulmuşdur. Sputnik Rusiya hərbi mühəndislərinin T-14-ü tam avtonom zirehli maşına çevirmək üçün çalışdıqlarını iddia edir.

Etiraz Direktivi

ABŞ ordusunun özü silahlarının muxtariyyət səviyyəsinə kifayət qədər aydın məhdudiyyət qoyub. 2012-ci ildə ABŞ Müdafiə Departamenti 3000.09 saylı Direktivi dərc edib və bu direktivdə deyilir ki, insanlar silahlı robotların hərəkətlərinə etiraz etmək hüququna malik olmalıdırlar. (bəzi istisnalar olsa da). Bu direktiv qüvvədə qalır. Pentaqonun hazırkı siyasəti ondan ibarətdir ki, silahdan istifadədə həlledici amil həmişə şəxs olmalıdır və belə bir mühakimə olmalıdır. müharibə qanunlarına uyğundur.

Amerikalılar onilliklər ərzində uçan, Predator, Reaper və bir çox digər supermaşınlardan istifadə etsələr də, onlar avtonom modellər deyildi və deyil. Onlar operatorlar tərəfindən uzaqdan, bəzən bir neçə min kilometr məsafədən idarə olunurlar. Bu tip maşınların muxtariyyəti ilə bağlı qızğın müzakirə prototipin premyerası ilə başladı. dron X-47B (5), nəinki müstəqil uçdu, həm də təyyarədaşıyıcıdan qalxa, üzərinə enə və havada yanacaq doldura bildi. Mənası həm də insan müdaxiləsi olmadan atəş açmaq və ya bombalamaqdır. Bununla belə, layihə hələ də sınaqdan keçirilir və nəzərdən keçirilir.

5. Amerika təyyarədaşıyan gəmisində pilotsuz X-47B-nin sınaqları

2003-cü ildə Müdafiə Nazirliyi kiçik bir tanka bənzər robotla təcrübə aparmağa başladı. SPOES pulemyotla təchiz edilmişdir. 2007-ci ildə İraqa göndərilib. lakin robot özünü nizamsız aparmağa, tüfəngini nizamsız hərəkət etdirməyə başladıqdan sonra proqram sona çatdı. Nəticədə, ABŞ ordusu uzun illər silahlı yer robotları üzərində araşdırmalardan imtina etdi.

Eyni zamanda, ABŞ Ordusu əməliyyatlara ayırdığı xərcləri 20-cü ildəki 2014 milyon dollardan 156-ci ildə 2018 milyon dollara qədər artırıb. 2019-cu ildə bu büdcə artıq 327 milyon dollara yüksəlib. Bu, cəmi bir neçə il ərzində 1823% məcmu artımdır. Ekspertlər bildirirlər ki, hələ 2025-ci ildə ABŞ ordusunun döyüş meydanı ola bilər insanlardan daha çox robot əsgərlər.

Son zamanlar ABŞ Ordusu tərəfindən çoxlu mübahisələrə səbəb olub və elan edilib ATLAS layihəsi () - avtomatik. Mediada bu, yuxarıda qeyd olunan 3000.09 saylı Direktivin pozulması kimi qiymətləndirilmişdir. Bununla belə, ABŞ ordusu təkzib edir və əmin edir ki, bir şəxsin qərar qəbul etmə tsiklindən kənarda qalması söz mövzusu deyil.

AI köpək balıqlarını və mülki insanları tanıyır

Bununla belə, muxtar silahların müdafiəçilərinin yeni arqumentləri var. prof. Corciya Texnologiya İnstitutunun robot mütəxəssisi Ronald Arkin öz nəşrlərində bildirir Müasir müharibədə, mülki itkilərin qarşısını almaq üçün ağıllı silahlar vacibdir, çünki maşın öyrənmə üsulları döyüşçülər və mülki şəxslər, mühüm və əhəmiyyətsiz hədəflər arasında effektiv şəkildə fərqlənməyə kömək edə bilər.

Belə süni intellekt bacarıqlarına misal olaraq Avstraliya çimərliklərində patrul xidməti göstərmək olar. dronlar Little RipperSidney Texnologiya Universiteti tərəfindən hazırlanmış SharkSpotter sistemi ilə təchiz edilmişdir. Bu sistem suda köpək balıqlarının olub olmadığını avtomatik skan edir və təhlükəli bir şey görəndə operatora xəbərdarlıq edir. (6) O, insanları, delfinləri, qayıqları, sörf lövhələrini və sudakı əşyaları köpək balıqlarından ayırd edə bilir. Təxminən on altı müxtəlif növü yüksək dəqiqliklə aşkar edib müəyyən edə bilir.

6. SharkSpotter sistemində tanınan köpək balıqları

Bu qabaqcıl maşın öyrənmə üsulları hava kəşfiyyatının dəqiqliyini 90%-dən çox artırır. Müqayisə üçün qeyd edək ki, oxşar vəziyyətdə olan insan operatoru aerofotoşəkillərdə obyektlərin 20-30%-ni dəqiq tanıyır. Bundan əlavə, identifikasiya hələ də həyəcan siqnalından əvvəl insan tərəfindən yoxlanılır.

Döyüş meydanında ekranda təsviri görən operator yerdəki insanların əllərində AK-47 olan döyüşçülər və ya məsələn, çəngəlli fermerlər olub-olmadığını çətinliklə müəyyən edə bilir. Arkın qeyd edir ki, insanlar xüsusilə stresli vəziyyətlərdə "görmək istədiklərini görməyə" meyllidirlər. Bu təsir 1987-ci ildə USS Vincennes tərəfindən İran təyyarəsinin təsadüfən vurulmasına səbəb oldu. Təbii ki, onun fikrincə, süni intellektlə idarə olunan silahlar əslində həssas olmayan indiki “ağıllı bomba”lardan daha yaxşı olardı. Ötən ilin avqustunda Səudiyyə Ərəbistanının lazerlə idarə olunan raketi Yəməndə məktəblilərlə dolu avtobusu vurub, qırx uşaq həlak olub.

"Əgər məktəb avtobusu düzgün etiketlənibsə, onu avtonom sistemdə müəyyən etmək nisbətən asan ola bilər" deyə Arkin Popular Mechanics-də iddia edir.

Bununla belə, bu arqumentlər kampaniyaçıları avtomatik qatillərə qarşı inandırmır. Qatil robotların təhlükəsi ilə yanaşı, başqa bir mühüm hal da nəzərə alınmalıdır. Hətta "yaxşı" və "diqqətli" bir sistem çox pis insanlar tərəfindən sındırıla və ələ keçirilə bilər. Sonra hərbi texnikanın müdafiəsi ilə bağlı bütün arqumentlər öz gücünü itirir.