Раскажыце свайму кацяняці, як вы думаеце ўнутры - эфект чорнай скрыні
Той факт, што прасунутыя алгарытмы штучнага інтэлекту падобныя да чорнай скрыні (1), якая выкідвае вынік, не раскрываючы, як яна да яе прыйшла, турбуе адных і засмучае іншых.
У 2015 годзе даследчую групу са шпіталя Mount Sinai у Нью-Ёрку папрасілі выкарыстаць гэты метад для аналізу шырокай базы дадзеных мясцовых пацыентаў (2). Гэтая велізарная калекцыя змяшчае акіян інфармацыі аб пацыентах, з вынікаў аналізаў, урачэбных прызначэнняў і г.д.
Навукоўцы назвалі распрацаваную падчас працы аналітычную праграму. Ён навучаўся на дадзеных прыкладна 700 тыс. чалавек. чалавек, і пры тэсціраванні ў новых рэестрах ён аказаўся надзвычай эфектыўным у прагназаванні захворванняў. Без дапамогі спецыялістаў-людзей ён выявіў заканамернасці ў бальнічных запісах, якія паказваюць, які пацыент знаходзіцца на шляхі да захворвання, напрыклад раку печані. Па меркаванні адмыслоўцаў, прагнастычная і дыягнастычная эфектыўнасць сістэмы была нашмат вышэй, чым у любых іншых вядомых метадаў.
2. Медыцынская сістэма штучнага інтэлекту на аснове баз даных пацыентаў
У той жа час даследнікі заўважылі, што ён працуе загадкавым чынам. Аказалася, напрыклад, што ён ідэальна падыходзіць для распазнанне псіхічных расстройстваўтакіх як шызафрэнія, якая надзвычай складана для лекараў. Гэта было дзіўна, тым больш што ніхто паняцця не меў, як сістэма ІІ так добра бачыць псіхічнае захворванне на падставе толькі медыцынскіх карт пацыента. Так, спецыялісты былі вельмі задаволены дапамогай такога эфектыўнага машыннага дыягноста, але яны былі б значна больш задаволены, калі б разумелі, як ІІ прыходзіць да сваіх высноў.
Пласты штучных нейронаў
З самага пачатку, гэта значыць з таго моманту, як канцэпцыя штучнага інтэлекту стала вядомая, існавала два пункты гледжання на ІІ. Першая выказала здагадку, што найболей разумным будзе пабудаваць машыны, якія разважаюць у адпаведнасці з вядомымі прынцыпамі і чалавечай логікай, зрабіўшы іх унутраную працу празрыстай для ўсіх. Іншыя лічылі, што інтэлект узнікне лягчэй, калі машыны будуць вучыцца пасродкам назірання і паўтаральных эксперыментаў.
Апошняе азначае зварот тыповага кампутарнага праграмавання. Замест таго, каб праграміст пісаў каманды для рашэння задачы, праграма генеруе уласны алгарытм на аснове выбарачных дадзеных і жаданага выніку. Метады машыннага навучання, якія пазней ператварыліся ў самыя магутныя сістэмы ІІ, вядомыя сёння, толькі што пайшлі па шляху, па сутнасці, машына сама праграмуе.
Гэты падыход у 60-х і 70-х гадах заставаўся на абочыне даследаванняў сістэм ІІ. Толькі ў пачатку папярэдняга дзесяцігоддзя, пасля некаторых наватарскіх змен і ўдасканаленняў, "Глыбокія" нейронавыя сеткі сталі дэманстраваць радыкальнае паляпшэнне магчымасцяў аўтаматызаванага ўспрымання.
Глыбокае машыннае навучанне надзяліла кампутары незвычайнымі здольнасцямі, такімі як здольнасць распазнаваць якія вымаўляюцца словы амаль гэтак жа сапраўды, як чалавек. Гэта занадта складаны навык, каб праграмаваць яго загадзя. Машына павінна мець магчымасць ствараць сваю ўласную праграму шляхам навучанне на вялізных наборах дадзеных.
Глыбокае навучанне таксама змяніла распазнанне камп'ютарных выяў і значна палепшыла якасць машыннага перакладу. Сёння ён выкарыстоўваецца для прыняцця разнастайных ключавых рашэнняў у медыцыне, фінансах, вытворчасці і многім іншым.
Аднак пры гэтым вы не можаце проста зазірнуць унутр глыбокай нейронавай сеткі, каб убачыць, як працуе "ўнутры". Працэсы сеткавых разваг убудаваны ў паводзіны тысяч змадэляваных нейронаў, арганізаваных у дзясяткі ці нават сотні складана ўзаемазлучаных пластоў..
Кожны з нейронаў у першым пласце атрымлівае ўваходны сігнал, напрыклад інтэнсіўнасць пікселя ў малюнку, а затым выконвае вылічэнні перад высновай выходнага сігналу. Яны перадаюцца ў складанай сетцы да нейронаў наступнага пласта - і гэтак далей, да канчатковага выходнага сігналу. Акрамя таго, існуе працэс, вядомы як карэкціроўка вылічэнняў, якія выконваюцца асобнымі нейронамі, такім чынам, каб навучальная сетка давала жаданы вынік.
У часта цытаваным прыкладзе, звязаным з распазнаннем малюнкаў сабак, ніжнія ўзроўні ІІ аналізуюць простыя характарыстыкі, такія як абрысы або колер. Больш высокія маюць справу з больш складанымі праблемамі, такімі як мех ці вочы. Толькі верхні пласт аб'ядноўвае ўсё гэта, ідэнтыфікуючы поўны набор інфармацыі як сабаку.
Той жа падыход можа быць ужыты да іншых тыпаў уваходных дадзеных, якія прыводзяць машыну ў дзеянне для саманавучання: гукі, з якіх складаюцца словы ў гаворкі, літары і словы, з якіх складаюцца прапановы ў пісьмовым тэксце, ці, напрыклад, руль. рухі, неабходныя для кіравання транспартным сродкам.
Машына нічога не прапускае
Зроблена спроба растлумачыць, што менавіта адбываецца ў такіх сістэмах. У 2015 годзе даследнікі з Google мадыфікавалі алгарытм распазнання малюнкаў на аснове глыбокага навучання, каб замест таго, каб бачыць аб'екты на фатаграфіях, ён іх генераваў ці мадыфікаваў. Запусціўшы алгарытм у зваротным кірунку, яны жадалі выявіць характарыстыкі, якія праграма выкарыстае для распазнання, скажам, птушкі ці будынкі.
Гэтыя эксперыменты, вядомыя публічна як назва, спарадзілі дзіўныя выявы (3) гратэскавых, мудрагелістых жывёл, пейзажаў і персанажаў. Расчыніўшы некаторыя сакрэты машыннага ўспрымання, напрыклад факт шматразовага звароту і паўторы вызначаных патэрнаў, яны таксама паказалі, чым глыбокае машыннае навучанне адрозніваецца ад чалавечага ўспрымання - напрыклад, у тым сэнсе, што яно пашырае і дублюе артэфакты, якія мы ігнаруем падчас нашага ўспрымання без разважанняў . .
3. Выява, створанае ў праекце
Дарэчы, з іншага боку, гэтыя эксперыменты расчынілі таямніцу нашых уласных кагнітыўных механізмаў. Магчыма, менавіта ў нашым успрыманні ёсць розныя незразумелыя кампаненты, якія прымушаюць нас адразу нешта разумець і ігнараваць, у той час як машына цярпліва паўтарае свае ітэрацыі на няважных аб'ектах.
Іншыя тэсты і даследаванні былі праведзены ў спробе зразумець машыну. Джэйсан Ёсінскі ён стварыў інструмент, які дзейнічае як зонд, які захрас у мозгу, нацэльваецца на любы штучны нейрон і які шукае малюнак, якое найбольш моцна яго актывуе. У апошнім эксперыменце абстрактныя выявы з'яўляліся ў выніку "подглядывания" сеткі з доказамі злачынства, што рабіла адбывалыя ў сістэме працэсы яшчэ больш загадкавымі.
Аднак для многіх вучоных такое даследаванне з'яўляецца непаразуменнем, паколькі, на іх думку, для таго, каб зразумець сістэму, распазнаць заканамернасці і механізмы больш высокага парадку прыняцця складаных рашэнняў, усе вылічальныя ўзаемадзеяння ўнутры глыбокай нейронавай сеткі. Гэта гіганцкі лабірынт матэматычных функцый і зменных. На дадзены момант для нас - неспасціжна.
Кампутар не прымаецца за працу? Чаму?
Чаму важна разумець механізмы прыняцця рашэнняў перадавых сістэм штучнага інтэлекту? Матэматычныя мадэлі ўжо выкарыстоўваюцца, каб вызначыць, каго са зняволеных можна вызваліць умоўна-датэрмінова, каму даць крэдыт, а каму ўладкавацца на працу. Каму цікава, хацелася б ведаць, чаму было прынята менавіта такое, а не іншае рашэнне, якія яго падставы і механізм.
– прызнаўся ён у красавіку 2017 года ў «MIT Technology Review» Томі Яаккола, прафесар Масачусецкага тэхналагічнага інстытута, які працуе над прыкладаннямі для машыннага навучання. -.
Існуе нават юрыдычная і палітычная пазіцыя, паводле якой здольнасць старанна даследаваць і разумець механізм прыняцця рашэнняў сістэмамі ІІ з'яўляецца фундаментальным правам чалавека.
З 2018 года Еўрасаюз працуе над патрабаваннем да кампаній прадастаўляць сваім кліентам тлумачэнні наконт рашэнняў, якія прымаюцца аўтаматычнымі сістэмамі. Аказваецца, часам гэта немагчыма нават з сістэмамі, якія здаюцца адносна простымі, такімі як прыкладанні і вэб-сайты, якія выкарыстоўваюць глыбокую навуку для паказу рэкламы або рэкамендацыі песень.
Кампутары, на якіх працуюць гэтыя службы, самі праграмуюць сябе, і яны робяць гэта спосабамі, якія мы не можам зразумець… Нават інжынеры, якія ствараюць гэтыя прыкладанні, не могуць цалкам растлумачыць, як гэта працуе.
