İçəridə nə düşündüyünüzü pişikinizə deyin - qara qutu effekti

Qabaqcıl AI alqoritmlərinin qara qutuya (1) bənzəməsi, nəticənin necə gəldiyini açıqlamadan, bəzilərini narahat edir, digərlərini isə üzür.

2015-ci ildə Nyu Yorkdakı Mount Sinai Xəstəxanasında bir tədqiqat qrupundan yerli xəstələrin geniş məlumat bazasını təhlil etmək üçün bu üsuldan istifadə etmək istəndi (2). Bu nəhəng kolleksiyada xəstə məlumatı, test nəticələri, həkim reseptləri və s. okean var.

Alimlər işin gedişində hazırlanmış analitik proqramı adlandırıblar. Təxminən 700 insanın məlumatları üzrə təlim keçirdi. insan və yeni reyestrlərdə sınaqdan keçirildikdə, xəstəliyin proqnozlaşdırılmasında son dərəcə təsirli olduğu sübut edilmişdir. İnsan mütəxəssislərinin köməyi olmadan o, xəstəxana qeydlərində hansı xəstənin qaraciyər xərçəngi kimi bir xəstəliyə doğru getdiyini göstərən nümunələri kəşf etdi. Mütəxəssislərin fikrincə, sistemin proqnostik və diaqnostik effektivliyi digər məlum metodlardan xeyli yüksək idi.

2. Xəstə məlumat bazalarına əsaslanan tibbi süni intellekt sistemi

Eyni zamanda tədqiqatçılar bunun sirli bir şəkildə işlədiyini müşahidə ediblər. Məsələn, bunun üçün ideal olduğu ortaya çıxdı psixi pozğunluqların tanınmasışizofreniya kimi həkimlər üçün son dərəcə çətin olan. Bu təəccüblü idi, xüsusən də heç kimin süni intellekt sisteminin yalnız xəstənin tibbi qeydlərinə əsaslanaraq psixi xəstəlikləri necə yaxşı görə biləcəyi barədə heç bir fikri olmadığı üçün. Bəli, mütəxəssislər belə səmərəli maşın diaqnostikasının köməyindən çox məmnun idilər, lakin AI-nin öz nəticələrinə necə gəldiyini başa düşsələr, daha çox məmnun olardılar.

Süni neyronların təbəqələri

Əvvəldən, yəni süni intellekt anlayışı məlum olduğu andan süni intellektə iki baxış var idi. Birincisi, məlum prinsiplərə və insan məntiqinə uyğun düşünən maşınların yaradılmasının ən məqsədəuyğun olduğunu irəli sürdü, onların daxili işini hamı üçün şəffaf edir. Digərləri, maşınların müşahidə və təkrar təcrübələr vasitəsilə öyrənilməsi halında kəşfiyyatın daha asan ortaya çıxacağına inanırdılar.

Sonuncu tipik kompüter proqramlaşdırmasının tərsinə çevrilməsi deməkdir. Proqramçı problemi həll etmək üçün əmrlər yazmaq əvəzinə, proqram yaradır öz alqoritmi nümunə məlumatlarına və istədiyiniz nəticəyə əsaslanır. Daha sonra bu gün məlum olan ən güclü süni intellekt sistemlərinə çevrilən maşın öyrənmə üsulları, əslində, maşın özü proqramlaşdırır.

Bu yanaşma 60-70-ci illərdə süni intellekt sistemləri tədqiqatının kənarında qaldı. Yalnız əvvəlki onilliyin əvvəlində, bəzi qabaqcıl dəyişikliklər və təkmilləşdirmələrdən sonra, "Dərin" neyron şəbəkələri avtomatlaşdırılmış qavrayış imkanlarının köklü təkmilləşməsini nümayiş etdirməyə başladı. 

Dərin maşın öyrənməsi kompüterlərə şifahi sözləri demək olar ki, insan qədər dəqiq tanımaq kimi qeyri-adi qabiliyyətlər bəxş etmişdir. Bu, vaxtından əvvəl proqramlaşdırmaq üçün çox mürəkkəb bir bacarıqdır. Maşın öz “proqramını” yaratmağı bacarmalıdır böyük verilənlər bazası üzrə təlim.

Dərin öyrənmə həmçinin kompüter təsvirinin tanınmasını dəyişdi və maşın tərcüməsinin keyfiyyətini xeyli yaxşılaşdırdı. Bu gün tibb, maliyyə, istehsalat və digər sahələrdə hər cür əsas qərarların qəbulu üçün istifadə olunur.

Bununla belə, bütün bunlarla “Daxili”nin necə işlədiyini görmək üçün sadəcə dərin neyron şəbəkəsinin içərisinə baxa bilməzsiniz. Şəbəkə əsaslandırma prosesləri onlarla və hətta yüzlərlə mürəkkəb bir-birinə bağlı təbəqələrdə təşkil edilmiş minlərlə simulyasiya edilmiş neyronların davranışına daxil edilmişdir..

Birinci təbəqədəki neyronların hər biri təsvirdəki pikselin intensivliyi kimi bir giriş alır və sonra çıxışı çıxarmazdan əvvəl hesablamalar aparır. Onlar mürəkkəb şəbəkədə növbəti təbəqənin neyronlarına ötürülür - və s, son çıxış siqnalına qədər. Bundan əlavə, təlim şəbəkəsinin istənilən nəticəni verməsi üçün fərdi neyronlar tərəfindən həyata keçirilən hesablamaları tənzimləmək kimi tanınan bir proses var.

Köpək təsvirinin tanınması ilə bağlı tez-tez istinad edilən nümunədə, AI-nin aşağı səviyyələri forma və ya rəng kimi sadə xüsusiyyətləri təhlil edir. Daha yüksək olanlar xəz və ya gözlər kimi daha mürəkkəb məsələlərlə məşğul olurlar. Yalnız üst təbəqə onları bir araya gətirir, bütün məlumat dəstini it kimi müəyyən edir.

Eyni yanaşma maşının özünü öyrənməsi üçün güc verən digər daxiletmə növlərinə də tətbiq oluna bilər: nitqdəki sözləri təşkil edən səslər, yazılı mətndə cümlələri təşkil edən hərflər və sözlər, məsələn, sükan çarxı. nəqliyyat vasitəsini idarə etmək üçün lazım olan hərəkətlər.

Maşın heç nəyi qaçırmır.

Belə sistemlərdə tam olaraq nə baş verdiyini izah etməyə cəhd edilir. 2015-ci ildə Google-da tədqiqatçılar dərin öyrənmə təsvirin tanınması alqoritmini dəyişdirdi ki, fotoşəkillərdə obyektləri görmək əvəzinə, onları yaratdı və ya dəyişdirdi. Alqoritmi geriyə doğru işlətməklə, onlar proqramın məsələn, quşu və ya binanı tanımaq üçün istifadə etdiyi xüsusiyyətləri kəşf etmək istəyirdilər.

Başlıq kimi tanınan bu təcrübələr (3) qrotesk, qəribə heyvanlar, mənzərələr və personajların heyrətamiz təsvirlərini yaratdı. Maşın qavrayışının bəzi sirlərini, məsələn, müəyyən nümunələrin təkrar-təkrar qaytarılması və təkrarlanması faktını açmaqla, onlar həm də dərin maşın öyrənməsinin insan qavrayışından nə qədər fərqləndiyini göstərdilər - məsələn, onun görməməzlikdən gəldiyimiz artefaktları genişləndirməsi və təkrarlaması mənasında. düşünmədən qavrayış prosesimizdə. .

3. Layihədə yaradılmış şəkil

Yeri gəlmişkən, digər tərəfdən, bu təcrübələr öz idrak mexanizmlərimizin sirrini açdı. Ola bilsin ki, bizim qavrayışımızda müxtəlif anlaşılmaz komponentlər var ki, bizi dərhal nəyisə başa düşməyə və görməməzliyə vurur, bu zaman maşın səbirlə “əhəmiyyətsiz” obyektlər üzərində təkrarlamalarını təkrarlayır.

Maşını "anlamaq" cəhdi ilə digər sınaqlar və tədqiqatlar aparıldı. Jason Yosinski beyində ilişib qalmış bir zond kimi fəaliyyət göstərən, istənilən süni neyronu hədəf alan və onu ən güclü şəkildə aktivləşdirən təsviri axtaran alət yaratdı. Son eksperimentdə şəbəkəyə qırmızı əllə “gözləmək” nəticəsində mücərrəd təsvirlər meydana çıxdı ki, bu da sistemdə baş verən prosesləri daha da müəmmalı edib.

Bununla belə, bir çox elm adamı üçün belə bir araşdırma anlaşılmazlıqdır, çünki onların fikrincə, sistemi başa düşmək, mürəkkəb qərarların qəbulunun daha yüksək nizamının qanunauyğunluqlarını və mexanizmlərini tanımaq üçün, bütün hesablama qarşılıqlı əlaqəsi dərin neyron şəbəkə daxilində. Bu, riyazi funksiyaların və dəyişənlərin nəhəng labirintidir. Hazırda bizim üçün anlaşılmazdır.

Kompüter başlamayacaq? Niyə?

Qabaqcıl süni intellekt sistemlərinin qərar vermə mexanizmlərini başa düşmək nə üçün vacibdir? Artıq riyazi modellərdən hansı məhbusların şərti azadlığa buraxıla biləcəyini, kimlərə kredit verilə biləcəyini və kimin işə düzələ biləcəyini müəyyənləşdirmək üçün istifadə olunur. Maraqlananlar bilmək istərdilər ki, başqa bir qərar deyil, niyə belə bir qərar verildi, onun əsasları və mexanizmi nədir?

o, 2017-ci ilin aprelində MIT Technology Review-da etiraf etdi. Tommy Yaakkola, maşın öyrənməsi üçün proqramlar üzərində işləyən MIT professoru. -.

Hətta bir hüquqi və siyasi mövqe var ki, AI sistemlərinin qərar qəbuletmə mexanizmini araşdırmaq və anlamaq bacarığı fundamental insan hüququdur.

2018-ci ildən Aİ şirkətlərdən avtomatlaşdırılmış sistemlər tərəfindən qəbul edilən qərarlarla bağlı müştərilərinə izahat vermələrini tələb etmək üzərində işləyir. Məlum olub ki, bu, bəzən hətta nisbətən sadə görünən sistemlərlə, məsələn, reklam göstərmək və ya mahnı tövsiyə etmək üçün dərin elmdən istifadə edən proqramlar və vebsaytlarla mümkün olmur.

Bu xidmətləri işlədən kompüterlər özləri proqramlaşdırır və bunu bizim anlaya bilmədiyimiz üsullarla edirlər... Hətta bu proqramları yaradan mühəndislər də bunun necə işlədiyini tam izah edə bilmirlər.