Dəhşət kabineti

Maşınların yüksəlişi və süni intellektin hakimiyyəti ələ keçirməsi. Tam nəzarət və sosial nəzarət dünyası. Nüvə müharibəsi və sivilizasiyanın degenerasiyası. Uzun illər əvvəl çəkilmiş gələcəyə dair bir çox qaranlıq görüntülər bu gün baş verməli idi. Və bu vaxt geriyə baxırıq və görünür ki, onlar orada olmayıblar. Sən əminsən?

Populyarın kifayət qədər stereotipik repertuarı var distopik peyğəmbərliklər (gələcəyin qara baxışı haqqında). Təbii mühitin və ehtiyatların məhv edilməsi ilə əlaqəli ən çox yayılmış olanlarla yanaşı, ən son texnologiyaların şəxsiyyətlərarası ünsiyyətə, münasibətlərə və cəmiyyətə zərər verdiyinə inanılır.

Virtual məkan aldadıcı şəkildə dünyada real iştirakını əvəz edəcək. Digər distopik baxışlar texnoloji inkişafı sosial bərabərsizliyi artırmaq, gücü və sərvəti kiçik qrupların əlində cəmləşdirmək yolu kimi görür. Müasir texnologiyanın yüksək tələbləri bilik və bacarıqları imtiyazlı şəxslərin dar çevrələrində cəmləşdirir, insanların nəzarətini artırır və məxfiliyi məhv edir.

Bir çox futuristlərin fikrincə, daha yüksək məhsuldarlıq və daha çox görünən seçim stressə səbəb olmaqla, iş yerlərini təhlükə altına almaqla və bizi dünyaya getdikcə daha çox materialistləşdirməklə insan həyatının keyfiyyətinə zərər verə bilər.

Məşhur texnoloji "distopçulardan" biri, James Gleick, bir çox yeni problemlərin yaranmasına səbəb olan bir mühüm problemi həll etməyən klassik ixtira kimi televizorun pultunun əhəmiyyətsiz görünən nümunəsini verir. Gleick, texnologiya tarixçisindən sitat gətirir Edvard Tenner, yazır ki, pultdan istifadə etməklə kanalları dəyişmək imkanı və asanlığı ilk növbədə tamaşaçının diqqətini getdikcə daha çox yayındırmağa xidmət edir.

İnsanlar məmnunluq əvəzinə baxdıqları kanallardan getdikcə daha çox narazılıq edirlər. Ehtiyacların ödənilməsi əvəzinə, sonsuz məyusluq hissi var.

Avtomobillər bizi rezervasiyalarda saxlayacaq?

Qaçılmaz olan və yəqin ki, tezliklə gələcək bu şeyi idarə edə biləcəyikmi? Süni intellekt üzərində? Bir çox distopik baxışların bəyan etdiyi kimi, bu belədirsə, yox. (1).

Bizdən qat-qat güclü olanı idarə etmək çətindir. tapşırıqların sayının artması ilə. İyirmi il əvvəl heç kim inanmazdı ki, bir insanın səsindən duyğuları oxuya və üzünü bizim özümüz edə biləcəyimizdən qat-qat dəqiqliklə oxuya bilər. Bu arada, hazırda öyrədilmiş alqoritmlər artıq bunu etməyə qadirdir, üz ifadələrini, tembrini və danışıq tərzimizi təhlil edir.

Kompüterlər şəkil çəkir, musiqi bəstələyir və onlardan biri hətta Yaponiyada keçirilən şeir müsabiqəsinin qalibi olur. Onlar şahmatda çoxdan insanları döyür, oyunu sıfırdan öyrənirlər. Eyni şey daha mürəkkəb Go oyununa da aiddir.

getdikcə daha sürətli sürətlənmə qanunlarına tabe olur. Süni intellektin insanların köməyi ilə son onilliklər ərzində əldə etdiyi nailiyyətlər növbəti bir neçə ildə, bəlkə də bir neçə ayda ikiqat artacaq və bu, yalnız həftələr, günlər, saniyələr çəkəcək...

Bu yaxınlarda məlum oldu ki, smartfonlarda və ya hava limanlarında hər yerdə olan kameralardan alınan fotoşəkilləri təhlil etmək üçün istifadə edilən alqoritmlər nəinki müxtəlif kadrlarda kimisə tanıya, həm də yalnız intim psixoloji xüsusiyyətləri müəyyən edə bilər. Bunun böyük bir məxfilik riski olduğunu söyləmək heç nə deməmək kimidir. Söhbət sadə müşahidədən, hər addımı izləməkdən deyil, insanın zahiri görünüşü, onun gizli istəkləri və şəxsi üstünlükləri nəticəsində yaranan məlumatlardan gedir. 

Alqoritmlər yüz minlərlə hadisəni təhlil edərək bunu nisbətən tez öyrənə bilər ki, bu da hətta ən ağıllı insanın ömrü boyu görə biləcəyindən qat-qat çoxdur. Belə bir zəngin təcrübə ilə silahlanmışlar, insanı hətta ən təcrübəli psixoloq, bədən dili və jest analitikindən daha dəqiq skan edə bilirlər.

Deməli, əsl ürpertici distopiya kompüterlərin şahmat oynaması və ya bizə qarşı getməsi deyil, ruhumuzu bizdən başqa hər kəsdən daha dərindən görə bilmələridir, bu və ya digər meylləri tanımaqda qadağalar və maneələrlə doludur.

Elon Musk İnanır ki, AI sistemləri getdikcə artan miqyasda öyrənməyə və düşünməyə başladıqca, "intellekt" haradasa inkişaf edə bilər. veb qatlarının dərinliyində, bizim üçün hiss olunmaz.

2016-cı ildə nəşr olunan Amerika araşdırmasına görə, növbəti 45 ildə süni intellektin bütün vəzifələrdə insanları 50 faiz üstələmə şansı var. Sinoptiklər deyirlər ki, bəli, süni intellekt xərçəng problemini həll edəcək, iqtisadiyyatı təkmilləşdirəcək və sürətləndirəcək, əyləncə təmin edəcək, həyatın keyfiyyətini və müddətini yaxşılaşdıracaq, bizi öyrədəcək ki, onsuz yaşaya bilmərik, amma ola bilər ki, bir gün nifrət, yalnız məntiqi hesablamaya əsaslanaraq, bizi sadəcə aradan qaldırır. Ola bilsin ki, bu, fiziki olaraq işləməyəcək, çünki hər bir sistemdə “bir gün lazımlı ola biləcək” resursları saxlamağa, arxivləşdirməyə və saxlamağa dəyər. Bəli, bu, AI üçün ola biləcəyimiz resursdur. Qorunan işçi qüvvəsi?

Optimistlər həmişə fişini rozetkadan çıxarmaq imkanının olması ilə özlərini təsəlli edirlər. Bununla belə, hər şey o qədər də sadə deyil. Onsuz da insan həyatı kompüterlərdən o qədər asılı olub ki, onlara qarşı radikal addım atmaq bizim üçün fəlakət olardı.

Axı biz getdikcə daha çox süni intellektə əsaslanan qərar qəbuletmə sistemləri yaradırıq, onlara təyyarə uçmaq, faiz dərəcələri təyin etmək, elektrik stansiyalarını idarə etmək hüququ veririk – biz bilirik ki, alqoritmlər bunu bizdən qat-qat yaxşı edəcək. Eyni zamanda, biz bu rəqəmsal qərarların necə qəbul edildiyini tam başa düşə bilmirik.

Qorxular var ki, “Tıxacın azaldılması” kimi super-ağıllı komanda sistemləri onları işin öhdəsindən gəlməyin yeganə təsirli yolunun... əhalinin üçdə birini, hətta yarısını azaltmaq olduğu qənaətinə gətirə bilər.

Bəli, maşına “İlk növbədə, insan həyatını xilas et!” kimi ən vacib göstərişi verməyə dəyər. Ancaq kim bilir, rəqəmsal məntiq bəşəriyyətin həbsinə və ya anbarın altına düşməsinə səbəb olacaq, burada təhlükəsiz ola bilərik, amma əlbəttə ki, azad deyilik.

Kibercinayətkarlıq bir xidmət kimi

Keçmişdə ədəbiyyatda və kinoda post-apokaliptik dünyanın distopiyaları və obrazları adətən post-nüvə dövründə qurulurdu. Bu gün nüvə məhvi bizim təsəvvür etdiyimiz kimi olmasa da, dünyanın bizim bildiyimiz kimi fəlakət və məhv olması üçün lazımlı görünmür. , nüvə məhvi ilə birləşdiyi "Terminator" filmindəki kimi dünyanı məhv etmək ehtimalı azdır. Olsaydı, o, super intellekt yox, primitiv qüvvə olardı. Axı, hətta bəşəriyyət dağıdıcı nüvə münaqişəsinin qlobal ssenarisini hələ də dərk etməyib.

Əsl maşın apokalipsisi daha az təsir edici ola bilər.

Kiber müharibə, virus hücumları, sistem sındırma və ransomware, ransomware (2) dünyamızı bombalardan az təsirli şəkildə iflic edir və məhv edir. Əgər onların miqyası genişlənərsə, biz bütövlükdə ümumi müharibə mərhələsinə daxil ola bilərik ki, biz maşınların qurbanı və girovu olacağıq, baxmayaraq ki, onlardan avtonom hərəkət etmələri tələb olunmur və insanların hələ də hər şeyin arxasında qalması mümkündür.

Keçən yay ABŞ-ın Kibertəhlükəsizlik və İnfrastruktur Təhlükəsizliyi Agentliyi (CISA) ransomware hücumlarını "ən görünən kibertəhlükəsizlik təhlükəsi" adlandırdı.

CISA iddia edir ki, kibercinayətkarın bir şəxsin və ya təşkilatın məlumatlarını ələ keçirib şifrələdiyi və sonra fidyə tələb etdiyi bir çox fəaliyyətlər heç vaxt bildirilmir, çünki qurban kibercinayətkarlara pul ödəyir və onların təhlükəsiz sistemləri ilə bağlı problemləri ictimailəşdirmək istəmir. Mikro səviyyədə kibercinayətkarlar tez-tez İnternetdə dürüst və vicdansız məzmunu ayırd etməkdə çətinlik çəkən yaşlı insanları hədəfə alırlar. Onlar bunu e-poçt əlavəsinə daxil edilmiş zərərli proqramlar və ya yoluxmuş vebsaytdakı pop-up ilə edirlər. Eyni zamanda, iri korporasiyalara, xəstəxanalara, dövlət qurumlarına və hökumətlərə hücumlar artmaqdadır.

Sonuncular, saxladıqları həssas məlumatlara və böyük fidyə ödəmək qabiliyyətinə görə xüsusilə hədəfə alınmışdılar.

Bəzi məlumatlar, məsələn, sağlamlıq məlumatları sahibi üçün digərlərindən daha dəyərlidir və cinayətkarlara daha çox pul qazandıra bilər. Oğrular test nəticələri və ya dərman məlumatları kimi xəstələrə qulluq üçün vacib olan böyük klinik məlumat bloklarını ələ keçirə və ya karantinə qoya bilər. Həyat təhlükə altında olanda xəstəxanada danışıqlara yer qalmır. Amerika xəstəxanalarından biri ötən ilin noyabrında avqust terror aktından sonra həmişəlik bağlanıb.

Yəqin ki, zaman keçdikcə daha da pisləşəcək. 2017-ci ildə ABŞ Daxili Təhlükəsizlik Departamenti kiberhücumların su təchizatı kimi kritik infrastrukturu hədəf ala biləcəyini açıqladı. Və bu cür hərəkətləri həyata keçirmək üçün lazım olan alətlər getdikcə daha kiçik operatorlar üçün əlçatan olur, onlar Cerber və Petya proqram təminatı kimi ransomware paketlərini satırlar və uğurlu hücumlardan sonra fidyə haqqı alırlar. Bir xidmət kimi kibercinayətlərə əsaslanır.

Genomda təhlükəli pozğunluq

Distopiyanın məşhur mövzularından biri genetika, DNT manipulyasiyası və insanların yetişdirilməsidir - əlavə olaraq, düzgün şəkildə "proqramlaşdırılmışdır" (hakimiyyətlər, korporasiyalar, hərbi).

Bu narahatlıqların müasir təcəssümü populyarlaşdırma üsuludur CRISPR gen redaktəsi (3). Tərkibindəki mexanizmlər ilk növbədə narahatlıq doğurur. istədiyiniz funksiyaları məcbur etmək sonrakı nəsillərdə və onların potensialı bütün əhaliyə yayıldı. Bu texnikanın ixtiraçılarından biri, Cennifer Doudna, hətta bu yaxınlarda potensial fəlakətli nəticələrə görə belə "mikrob xətti" redaktə üsullarına moratorium çağırdı.

Xatırladaq ki, bir neçə ay əvvəl çinli alim On Jiankui insan embrionlarının QİÇS virusuna qarşı immunizasiyası üçün onların genlərinin redaktə edilməsinə görə geniş şəkildə tənqid edilir. Səbəb isə onun etdiyi dəyişikliklərin gözlənilməz nəticələrlə nəsildən-nəslə ötürülə bilməsi idi.

Xüsusilə narahatlıq doğuran sözdə d (genin yenidən yazılması, gen sürücüsü), yəni. müəyyən bir fərdin DNT-sindəki redaktə sistemini kodlayan genetik mühəndislik mexanizmi CRISPR/CAS9 genomu onu arzuolunmaz genin bu variantını redaktə etmək üçün təyin etməklə. Bununla əlaqədar olaraq, nəsillər avtomatik olaraq (genetiklərin iştirakı olmadan) arzuolunmaz gen variantını istədiyinizlə əvəz edir.

Bununla belə, arzuolunmaz bir gen variantı dəyişdirilməmiş digər valideyndən nəsillər tərəfindən "hədiyyə olaraq" qəbul edilə bilər. Beləliklə, gen sürücüsünü pozaq Mendel irsiyyət qanunlarıdominant genlərin yarısının bir valideyndən olan nəsillərə keçdiyini söyləyir. Bir sözlə, bu, sonda sözügedən gen variantının bütün populyasiyaya yayılmasına gətirib çıxaracaq.

Stanford Universitetində bioloq Kristina Smolke, 2016-cı ildə gen mühəndisliyi ilə bağlı paneldə bu mexanizmin zərərli və ekstremal hallarda dəhşətli nəticələri ola biləcəyi barədə xəbərdarlıq etmişdi. Gen sürücüsü nəsildən-nəslə keçdikcə mutasiya edə bilir və hemofiliya və ya hemofiliya kimi genetik pozğunluqlara səbəb olur.

Riverside, Kaliforniya Universitetinin tədqiqatçıları tərəfindən Nature Reviews jurnalında dərc edilmiş məqalədə oxuduğumuz kimi, sürücü bir orqanizmin bir populyasiyasında nəzərdə tutulduğu kimi işləsə belə, eyni irsi xüsusiyyət bir şəkildə digərinə daxil edilərsə, zərərli ola bilər. . eyni görünüş.

Alimlərin qapalı qapılar arxasında və ekspert rəyi olmadan gen sürücüləri yaratması təhlükəsi də var. Əgər kimsə qəsdən və ya bilməyərəkdən insan genomuna zərərli bir gen sürücüsünü, məsələn, qripə qarşı müqavimətimizi məhv edən bir gen sürücüsünü təqdim edərsə, bu, hətta homo sapiens növlərinin sonu demək olar...

Nəzarət kapitalizmi

Keçmiş elmi-fantastik yazıçıların çətin ki, təsəvvür edə bildiyi distopiya versiyası insanların şəxsi həyatını, münasibətlərini və psixoloji bütövlüyünü məhv edən geniş şəkildə təsvir edilən bütün fəsadları ilə internetin və xüsusilə sosial medianın reallığıdır.

Bu dünya yalnız 2016-cı il "The Dalış" (4) epizodunda Qara Güzgü seriyasında gördüyümüz kimi daha yeni bədii tamaşalarda təsvir edilmişdir. Şoşana Zuboff, Harvard iqtisadçısı, bu reallığı tamamilə sosial özünütəsdiqdən asılı və tamamilə "məhrum edilmiş" adlandırır. nəzarət kapitalizmi (), və eyni zamanda Google və Facebook-un tac işidir.

4. "Qara güzgü" filmindən səhnə - "Diving" bölümü

Zuboffun sözlərinə görə, Google ilk ixtiraçıdır. Bundan əlavə, o, məsələn, zahirən günahsız görünən ağıllı şəhər layihələri vasitəsilə nəzarət fəaliyyətini daim genişləndirir. Buna misal olaraq Google-un törəmə şirkəti olan Sidewalk Labs tərəfindən həyata keçirilən “Dünyanın Ən İnnovativ Qonşuluğu” layihəsini göstərmək olar. iskele Torontoda.

Google hər yerdə mövcud olan monitorinq sensorlarının köməyi ilə sahil sakinlərinin həyatı, onların hərəkəti və hətta nəfəs alması haqqında ən kiçik məlumatları toplamağı planlaşdırır.

Facebook-da söz mövzusu olmayan internet distopiyasını seçmək də çətindir. Nəzarət kapitalizmi Google tərəfindən icad edilmiş ola bilər, lakin onu tamamilə yeni səviyyəyə aparan Facebook oldu. Bu, sosial və emosional viral mexanizmlər və hətta Zukerberq platformasının istifadəçisi olmayanlara qarşı amansız təqiblər vasitəsilə həyata keçirilib.

UBI ilə yaşayan, virtual reallığa qərq olmuş qorunan AI

Bir çox futuroloqların fikrincə, dünyanın və texnologiyanın gələcəyi beş abreviatura ilə təyin olunur - AI, AR, VR, BC və UBI.

“MT”nin oxucuları yəqin ki, onların nə olduğunu və ilk üçlüyün nədən ibarət olduğunu yaxşı bilirlər. Biz nə haqqında olduğunu başa düşdükdə tanış da dördüncü, "BC" olur. Bəs beşinci? UBD anlayışın abbreviaturasıdır, mənası "universal əsas gəlir » (5). Bu, digər texnologiyaların, xüsusən də süni intellektin inkişafı ilə işdən azad edilən hər bir şəxsə veriləcək ictimai faydadır.

5. Universal Əsas Gəlir - UBI

İsveçrə hətta keçən il bu ideyanı referenduma çıxarmışdı, lakin vətəndaşları zəmanətli gəlirin tətbiqinin mühacir axınına səbəb olacağından qorxaraq ondan imtina etmişdilər. UBI, həmçinin, mövcud sosial bərabərsizliklərin davam etdirilməsi riski də daxil olmaqla, bir sıra başqa təhlükələri də daşıyır.

Akronim arxasında texnoloji inqilabların hər biri (həmçinin bax:) - əgər o, gözlənilən istiqamətdə yayılarsa və inkişaf edərsə - bəşəriyyət və dünyamız üçün böyük nəticələrə, o cümlədən, əlbəttə ki, distopiyanın böyük dozasına malikdir. Məsələn, onun dörd illik seçki dövrlərini əvəz edə biləcəyi və saysız-hesabsız məsələlər üzrə referendumlara səbəb ola biləcəyi güman edilir.

Virtual reallıq isə öz növbəsində bəşəriyyətin bir hissəsini real dünyadan “xarda salmağa” qadirdir. Belə oldu ki, məsələn, 2016-cı ildə qızı sağalmaz xəstəlikdən öldükdən sonra VR-də avatarını qarşılayan koreyalı Jang Ji Sung ilə. Virtual məkan həm də yeni problemlər yaradır və ya əslində bütün köhnə məlum problemləri “yeni” dünyaya, hətta bir çox başqa dünyalara ötürür. Müəyyən dərəcədə biz bunu artıq sosial şəbəkələrdə də görə bilirik ki, yazılarda çox az bəyənmə depressiyaya və intihara səbəb olur.

Peyğəmbərlik nağılları az-çox

Axı, distopik baxışların yaranma tarixi də proqnozları tərtib edərkən ehtiyatlı olmağı öyrədir.

6. "Adalar şəbəkədə"nin üz qabığı

Keçən il çəkilən Ridley Scott-un məşhur elmi-fantastik şah əsəri idiandroid ovçu» 1982-ci ildən. Bir çox spesifik elementlərin yerinə yetirilib-yetirilmədiyini müzakirə etmək olar, lakin danılmazdır ki, bir çox cəhətdən insanlardan üstün olan ağıllı, humanoid androidlərin dövrümüzdə mövcudluğu ilə bağlı ən mühüm peyğəmbərlik hələ də reallığa çevrilməyib.

Biz daha çox peyğəmbərlik hitlərinə dözməyə hazır olardıq."Neyromancerlər»yəni romanlar William Gibson 1984-cü ildən "kiberməkan" anlayışını populyarlaşdıran.

Lakin həmin onillikdə bugünkü vaxtı daha dəqiq proqnozlaşdıran bir qədər az tanınan bir kitab meydana çıxdı (demək olar ki, tamamilə bizdə, çünki polyak dilinə tərcümə olunmayıb). Mən romantikadan danışıramİnternetdə adalar"(6) Bruce Sterling 1988-ci ildən, 2023-cü ildə təyin edilmişdir. Bu, "veb" kimi tanınan İnternetə bənzər bir şeyə qərq olmuş bir dünya təqdim edir. Böyük beynəlxalq korporasiyalar tərəfindən idarə olunur. "İnternetdəki adalar" azad olduğu iddia edilən İnternetin nəzarəti, müşahidəsi və inhisarını təmin etmək üçün diqqət çəkir.

Onlayn dəniz quldurlarına/terrorçularına qarşı pilotsuz uçuş aparatlarının (dron) istifadəsi ilə həyata keçirilən hərbi əməliyyatları proqnozlaşdırmaq da maraqlıdır. Təhlükəsiz iş masası ilə minlərlə mil uzaqda olan operatorlar - biz bunu necə bilirik? Kitab islam terrorizmi ilə bitib-tükənməyən münaqişədən deyil, qloballaşmaya qarşı çıxan qüvvələrə qarşı mübarizədən bəhs edir. Şəbəkədəki Adalar dünyası həm də ağıllı saatlara və ağıllı idman ayaqqabılarına çox bənzəyən istehlakçı cihazları ilə doludur.

80-ci illərdən başqa bir kitab da var ki, bəzi hadisələr daha fantastik görünsə də, müasir distopik qorxularımızı təsvir etmək üçün yaxşı iş görür. bu "Georadar proqram təminatı", Tarix Rudy Rooker2020-ci ildə təyin edilmişdir. Dünya, cəmiyyətin vəziyyəti və onun münaqişələri bu gün üzləşdiyimiz şeyə inanılmaz dərəcədə bənzəyir. Özünü dərk edən və Aydakı şəhərlərə qaçan bopper kimi tanınan robotlar da var. Bu element hələ reallaşmayıb, lakin maşınların üsyanı qara proqnozların daimi imtinasına çevrilir.

Kitablardakı dövrümüzün görüntüləri də bir çox cəhətdən heyrətamiz dərəcədə dəqiqdir. Octavia Butler, xüsusən dəƏkinçinin məsəlləri» (1993). Aksiya 2024-cü ildə Los-Ancelesdə başlayır və iqlim dəyişikliyinin səbəb olduğu daşqınlar, fırtınalar və quraqlıqlarla viran qalan Kaliforniyada baş verir. Orta və işçi sinif ailələri asılılıq yaradan dərmanlar və virtual reallıq dəstləri ilə xarici dünyadan qaçmağa çalışarkən, qapalı icmalarda görüşürlər. Yeni dinlər və sui-qəsd nəzəriyyələri ortaya çıxır. Qaçqın karvanı ekoloji və sosial çöküşün qarşısını almaq üçün şimala doğru gedir. “Amerikanı yenidən möhtəşəm et” (bu, Donald Trampın şüarı) kampaniya şüarından istifadə edən prezident hakimiyyətə gəlir...

Butlerin ikinci kitabı "İstedadlar haqqında məsəlyeni dini kultun üzvlərinin Alpha Centauri-ni koloniyalaşdırmaq üçün kosmos gəmisində Yerdən necə ayrıldığını izah edir.

***

Gündəlik həyatımıza dair bir neçə onilliklər əvvəl verilmiş proqnozların və baxışların bu geniş araşdırmasından hansı dərsi çıxarmaq olar?

Yəqin ki, fakt budur ki, distopiyalar tez-tez olur, lakin çox vaxt yalnız qismən olur.