Кабінет жахаў

Паўстанне машын і захоп улады штучным інтэлектам. Свет поўнага сачэння і сацыяльнага кантролю. Ядзерная вайна і выраджэнне цывілізацыі. Многія змрочныя бачанні будучыні, намаляваныя шмат гадоў таму, павінны былі здарыцца сёння. А мы тым часам азіраемся і падаецца, што іх і не было. Вы ўпэўнены?

Існуе даволі стэрэатыпны рэпертуар папулярных антыўтапічныя прароцтвы (з нагоды чорнага бачання будучыні). Акрамя найбольш распаўсюджаных, звязаных з разбурэннем прыроднага асяроддзя і рэсурсаў, распаўсюджана меркаванне, што найноўшыя тэхналогіі наносяць шкоду міжасобасных зносін, адносінам і грамадству.

Віртуальная прастора зманліва заменіць рэальны ўдзел у свеце. Іншыя антыўтапічныя погляды разглядаюць тэхналагічнае развіццё як спосаб павелічэння сацыяльнай няроўнасці, канцэнтрацыі ўлады і багацця ў руках вузкіх груп. Высокія патрабаванні сучасных тэхналогій канцэнтруюць веды і навыкі ў вузкіх колах прывілеяваных асоб, узмацняюць нагляд за людзьмі і разбураюць прыватнае жыццё.

Па меркаванні шматлікіх футурыстаў, больш высокая прадукцыйнасць і пашырэнне бачнага выбару могуць нанесці шкоду якасці жыцця чалавека, выклікаючы стрэс, ставячы пад пагрозу працоўныя месцы, робячы нас усё больш матэрыялістычнымі па стаўленні да міру.

Адзін з вядомых тэхналагічных «антыўтапістаў», Джэймс Глейк, прыводзіць, здавалася б, трывіяльны прыклад пульта ад тэлевізара як класічнае вынаходства, якое не вырашае ніводнай істотнай праблемы, спараджаючы мноства новых. Глейк, цытуючы гісторыка тэхнікі Эдвард Тэнер, піша, што магчымасць і прастата пераключэння каналаў з дапамогай пульта ў першую чаргу служыць для таго, каб усё больш і больш адцягваць увагу гледача.

Замест задавальнення людзі ўсё больш незадаволены каналамі, якія глядзяць. Замест задавальнення запатрабаванняў узнікае пачуццё бясконцага расчаравання.

Ці будуць машыны трымаць нас у рэзервацыях?

Ці зможам мы кантраляваць гэтую рэч, якая непазбежна і, напэўна, хутка з'явіцца? Над штучным інтэлектам? Калі гэта павінна быць так, як абвяшчаюць многія антыўтапічныя бачанні, то не. (1).

Цяжка кантраляваць тое, што ў шмат разоў мацнейшае за нас. пры павелічэнні колькасці задач. Дваццаць гадоў таму ніхто б і не паверыў, што яны змогуць чытаць эмоцыі па голасе і твары чалавека значна дакладней, чым гэта можам зрабіць мы самі. Тым часам навучаныя на дадзены момант алгарытмы ўжо здольныя на гэта, аналізуючы міміку, тэмбр і тое, як мы кажам.

Кампутары малююць карцінкі, складаюць музыку, а адзін з іх нават выйграў паэтычны конкурс у Японіі. Яны даўно выйграюць у людзей у шахматы, вывучаючы гульню з нуля. Тое ж самае ставіцца і да значна больш складанай гульні Го.

яно падпарадкоўваецца законам усё хутчэйшага паскарэння. Тое, чаго ІІ дасягнуў - з дапамогай чалавека - за апошнія дзесяцігоддзі, падвоіцца ў бліжэйшыя некалькі гадоў, можа быць, усяго толькі месяцаў, а затым гэта зойме ўсяго тыдня, дні, секунды…

Як высветлілася ў апошні час, алгарытмы, якія выкарыстоўваюцца ў смартфонах або ў аэрапортах для аналізу фатаграфій з усюдыісных камер, здольныя не толькі пазнаваць кагосьці на розных кадрах, але і вызначаць выключна інтымныя псіхалагічныя асаблівасці. Сказаць, што гэта вялізная рызыка для канфiдэнцыяльнасцi, усё роўна, што нічога не сказаць. Гаворка ідзе не аб простым сачэнні, назіранні за кожным крокам, а аб інфармацыі, якая ўзнікае ў выніку самога з'яўлення чалавека, аб яго ўтоеных жаданнях і асабістых перавагах. 

Алгарытмы могуць навучыцца гэтаму адносна хутка, прааналізаваўшы сотні тысяч выпадкаў, а гэта нашмат больш, чым нават самы праніклівы чалавек можа ўбачыць за ўсё жыццё. Узброеныя такім багажом досведу, яны здольныя прасканаваць чалавека дакладней, чым нават самы дасведчаны псіхолаг, аналітык мовы цела і жэстаў.

Так што сапраўдная ледзянячая душу антыўтопія не ў тым, што кампутары гуляюць супраць нас у шахматы ці га, а ў тым, што яны могуць бачыць нашу душу глыбей, чым хто-небудзь іншы, чым мы самі, поўныя забарон і блокаў у прызнанні тых ці іншых схільнасцей.

Ілон Маск лічыць, што па меры таго, як сістэмы ІІ пачынаюць вучыцца і разважаць ва ўсё большых маштабах, "інтэлект" можа дзесьці развівацца. глыбока ў вэб-пластах, неўзаметку для нас.

Згодна з апублікаваным у 2016 годзе амерыканскім даследаваннем, у бліжэйшыя 45 гадоў штучны інтэлект мае 50-працэнтны шанц перасягнуць чалавека ва ўсіх задачах. Сіноптыкі кажуць, што так, ІІ вырашыць праблему рака, палепшыць і паскорыць эканоміку, забяспечыць забаўкі, палепшыць якасць і працягласць жыцця, навучыць нас так, што мы не зможам жыць без яго, але не выключана, што адзін дзень, без нянавісці, толькі на аснове лагічнага разліку, гэта проста выдаляе нас. Можа быць, фізічна не атрымаецца, таму што ў кожнай сістэме варта збіраць, архіваваць і захоўваць рэсурсы, якія "могуць калі-небудзь спатрэбіцца". Так, гэта той рэсурс, якім мы можам стаць для ІІ. Ахоўныя людскія рэзервы?

Аптымісты суцяшаюць сябе тым, што заўсёды ёсць магчымасць выдраць відэлец з разеткі. Аднак усё не так проста. Ужо зараз чалавечае жыццё стала настолькі залежным ад кампутараў, што радыкальны крок супраць іх быў бы для нас катастрофай.

Бо мы ўсё часцей ствараем сістэмы прыняцця рашэнняў на аснове ІІ, даем ім права пілатаваць самалёты, усталёўваць працэнтныя стаўкі, кіраваць электрастанцыямі — мы ведаем, што алгарытмы зробяць гэта значна лепш за нас. У той самы час мы не да канца разумеем, як прымаюцца гэтыя лічбавыя рашэнні.

Ёсць асцярогі, што звышразумныя камандныя сістэмы, такія як «Паменшыць пробкі», могуць прывесці іх да высновы, што адзіны эфектыўны спосаб выканаць працу – гэта… скараціць насельніцтва на траціну ці нават напалову.

Так, варта даць машыне найважнейшае ўказанне тыпу «Першым чынам, выратуйце чалавечае жыццё!». Аднак хто ведае, ці прывядзе тады лічбавая логіка да зняволення чалавецтва ці пад адрыну, дзе мы, можа быць, і будзем у бяспецы, але на волі - ужо сапраўды няма.

Кіберзлачыннасць як паслуга

У мінулым антыўтопіі і вобразы постапакаліптычнага свету ў літаратуры і кіно звычайна размяшчаліся ў эпоху пасля ядзернай вайны. Сёння ядзернае знішчэнне не здаецца неабходным для катастрофы і разбурэння свету, якім мы яго ведаем, хаця і не так, як мы сабе гэта ўяўляем. , гэта наўрад ці знішчыць свет як у “Тэрмінатары”, дзе гэта было сумешчана з ядзернай анігіляцыяй. Калі б яна гэта зрабіла, яна была б не звышразумам, а прымітыўнай сілай. Бо нават чалавецтва яшчэ не ўсвядоміла глабальны сцэнар разбуральнага ядзернага канфлікту.

Сапраўдны машынны апакаліпсіс можа быць значна менш уражлівым.

Кібервайна, вірусныя напады, узлом сістэмы і праграмы-вымагальнікі, праграмы-вымагальнікі (2) паралізуюць і руйнуюць наш мір не меней эфектыўна, чым бомбы. Калі іх маштаб пашырыцца, мы можам увайсці ў фазу комплекснай татальнай вайны, у якой станем ахвярамі і закладнікамі машын, хоць яны і не абавязаны дзейнічаць аўтаномна, і не выключана, што за ўсім усё роўна будуць стаяць людзі.

Мінулым летам Агенцтва ЗША па бяспецы кіберпрасторы і бяспецы інфраструктуры (CISA) назвала напады праграм-вымагальнікаў "найбольш прыкметнай пагрозай кібербяспекі".

CISA сцвярджае, што пра шматлікія дзеянні, калі кіберзлачынца перахапляе і шыфруе дадзеныя чалавека ці арганізацыі, а затым вымагае за іх выкуп, ніколі не паведамляецца, таму што ахвяра плаціць кіберзлачынцам і не жадае давесці да агульнага ведама праблемы з іх небяспечнымі сістэмамі. На мікраўзроўні кіберзлачынцы часта нацэльваюць свае дзеянні на пажылых людзей, у якіх ёсць праблемы з распазнаваннем сумленнага і несумленнага кантэнту ў Інтэрнэце. Яны робяць гэта з дапамогай шкоднаснага ПЗ, убудаванага ва ўкладанне электроннай пошты ці ўсплывальнае акно на заражаным вэб-сайце. У той жа час растуць атакі на буйныя карпарацыі, бальніцы, дзяржорганы і ўрады.

Апошнія былі асабліва мішэнню з-за канфідэнцыйных дадзеных, якія яны захоўвалі, і магчымасці заплаціць вялікі выкуп.

Некаторая інфармацыя, напрыклад інфармацыя аб стане здароўя, значна больш каштоўная для ўладальніка, чым іншыя, і можа прынесці злачынцам больш грошай. Злодзеі могуць перахапляць або змяшчаць у карантын вялікія блокі клінічных дадзеных, важных для догляду за пацыентамі, такіх як вынікі аналізаў або інфармацыя аб леках. Калі на карту пастаўлена жыццё, у бальніцы не застаецца месца для перамоваў. Адна з амерыканскіх бальніц была зачынена назаўжды ў лістападзе мінулага года пасля жнівеньскага тэракту.

Верагодна, з цягам часу будзе толькі горш. У 2017 годзе Міністэрства ўнутранай бяспекі ЗША аб'явіла, што кібератакі могуць быць накіраваны на крытычна важныя аб'екты інфраструктуры, такія як водаканалы. І прылады, неабходныя для выканання такіх дзеянняў, усё гушчару даступныя для драбнейшых аператараў, якім яны прадаюць камплекты праграм-вымагальнікаў, такіх як праграмнае забеспячэнне Cerber і Petya, і бяруць камісію за выкуп пасля паспяховых нападаў. На аснове кіберзлачыннасці як паслугі.

Небяспечная бязладзіца ў геноме

Адной з папулярных тэм антыўтопіі з'яўляюцца генетыка, маніпуляцыі з ДНК і развядзенне людзей - у дадатак «запраграмаваных» патрэбнай выявай (уладамі, карпарацыямі, вайскоўцамі).

Сучаснае ўвасабленне гэтых трывог з'яўляецца метадам папулярызацыі Рэдагаванне генаў CRISPR (3). Механізмы, якія ён утрымлівае, у першую чаргу выклікаюць заклапочанасць. фарсіраванне жаданых функцый у наступных пакаленнях і іх патэнцыял распаўсюдзіўся на ўсё насельніцтва. Адзін з вынаходнікаў гэтай тэхнікі, Джэніфер Дудна, нават нядаўна заклікаў да мараторыя на такія метады рэдагавання "зародкавай лініі" з-за патэнцыйна катастрафічных наступстваў.

Нагадаем, што некалькі месяцаў таму кітайскі вучоны Ён Jiankui падвяргаўся шырокай крытыцы за рэдагаванне генаў чалавечых эмбрыёнаў з мэтай іх імунізацыі супраць віруса СНІДу. Прычына заключалася ў тым, што зробленыя ім змены маглі перадавацца з пакалення ў пакаленне з непрадказальнымі наступствамі.

Адмысловую трывогу выклікаюць так званыя д (генны перазапіс, генны драйв), г.зн. генна-інжынерны механізм, які складаецца ў кадаванні сістэмы рэдагавання ў ДНК дадзенага індывіда геном CRISPR/CAS9 з усталёўкай яго на рэдагаванне дадзенага варыянту непажаданага гена. Дзякуючы гэтаму нашчадкі аўтаматычна (без удзелу генетыкаў) перазапісваюць непажаданы варыянт гена на патрэбны.

Аднак непажаданы варыянт гена можа быць атрыманы патомствам "у падарунак" ад немадыфікаванага іншага з бацькоў. Так што генны драйв дазваляе зламаць Мендзялеўскія законы спадчыннасціякія кажуць аб тым, што палова дамінантных генаў дастаецца нашчадству ад аднаго з бацькоў. Карацей кажучы, гэта ў канчатковым выніку прывядзе да распаўсюджвання разгляданага варыянту гена на ўсё насельніцтва.

Біёлаг Стэнфардскага ўніверсітэта Крысціна Смольцы, яшчэ на панэлі па геннай інжынерыі ў 2016 годзе папярэдзіў, што гэты механізм можа мець шкодныя і, у крайніх выпадках, жахлівыя наступствы. Генны драйв здольны мутаваць па меры праходжання праз пакаленні і выклікаць генетычныя парушэнні, такія як гемафілія ці гемафілія.

Як мы чытаем у артыкуле, апублікаваным у Nature Reviews даследнікамі з Каліфарнійскага ўніверсітэта ў Рыверсайдзе, нават калі драйв працуе, як і планавалася, у адной папуляцыі арганізма, тая ж самая спадчынная прыкмета можа апынуцца шкодным, калі ён нейкім чынам будзе ўведзены ў іншую папуляцыю. той жа выгляд.

Небяспека таксама заключаецца ў тым, што навукоўцы ствараюць генныя драйвы за зачыненымі дзвярыма і без экспертнай праверкі. Калі нехта наўмысна або ненаўмысна ўвядзе ў геном чалавека шкодны генны драйв, напрыклад той, які разбурае нашу ўстойлівасць да грыпу, гэта можа нават азначаць канец віду homo sapiens…

Капіталізм назірання

Версія антыўтопіі, якую былыя пісьменнікі-фантасты наўрад ці маглі сабе ўявіць, з'яўляецца рэальнасцю Інтэрнэту, і асабліва сацыяльных сетак, з усімі яго шырока апісанымі разгалінаваннямі, якія разбураюць прыватнае жыццё людзей, адносіны і псіхалагічную цэласнасць.

Гэты свет размалёўваюць толькі навейшыя мастацкія перформансы, напрыклад тое, што мы маглі бачыць у серыяле «Чорнае люстэрка», у эпізодзе 2016 года «Ныранне» (4). Шошана Зубофф, эканаміст з Гарварда, называе гэтую рэальнасць цалкам залежнай ад сацыяльнага самасцвярджэння і цалкам "дэпрыватызаванай". наглядны капіталізм (), і ў той жа час вянком працы Google і Facebook.

4. Сцэна з «Чорнае люстэрка» - эпізод «Ныранне»

Па словах Зубофа, Google - першы вынаходнік. Акрамя таго, ён увесь час пашырае сваю дзейнасць па назіранні, напрыклад, з дапамогай, здавалася б, нявінных праектаў «разумнага горада». Прыклад - праект "Самы інавацыйны раён у свеце" кампаніі Sidewalk Labs, даччынай кампаніі Google. прыстань у Таронта.

Google плануе збіраць усе драбнюткія дадзеныя аб жыцці жыхароў набярэжнай, іх перамяшчэнні і нават дыханні з дапамогай усюдыісных датчыкаў маніторынгу.

Таксама цяжка абраць інтэрнэт-антыўтопію, пра якую не можа быць і гаворкі ў Facebook. Капіталізм назірання, магчыма, быў вынайдзены Google, але менавіта Facebook вывеў яго на зусім новы ўзровень. Гэта было зроблена з дапамогай сацыяльных і эмацыйных вірусных механізмаў і бязлітаснага пераследу нават тых, хто не з'яўляецца карыстальнікам платформы Цукерберг.

Ахоўны ІІ, пагружаны ў віртуальную рэальнасць, які жыве з UBI

Па меркаванні шматлікіх футурыстаў, будучыня міру і тэхналогій пазначана пяццю абрэвіятурамі – AI, AR, VR, BC і UBI.

Чытачы "МТ", напэўна, добра ведаюць, што яны з сябе ўяўляюць і з чаго складаюцца першыя тры. Знаёмае таксама аказваецца чацвёртым, «ВС», калі мы разумеем, што гаворка ідзе аб. А пяты? УБД - гэта абрэвіятура паняцця, якая азначае «універсальны базавы даход » (5). Гэта дзяржаўная дапамога, якая пастулюецца час ад часу, якая будзе прадастаўлена кожнаму чалавеку, вызваленаму ад працы, па меры развіцця іншых тэхналогій, асабліва ІІ.

5. Універсальны базавы даход - UBI

Швейцарыя нават выносіла гэтую ідэю на рэферэндум у мінулым годзе, але яе грамадзяне адпрэчылі яе, баючыся, што ўвядзенне гарантаванага даходу прывядзе да паводкі краіны імігрантамі. БАД таксама нясе ў сабе шэраг іншых небяспек, у тым ліку рызыку ўвекавечання існуючай сацыяльнай няроўнасці.

Кожная з тэхналагічных рэвалюцый за абрэвіятурай (гл. таксама:) - калі яна распаўсюджваецца і развіваецца ў чаканым кірунку - нясе велізарныя наступствы для чалавецтва і нашага свету, уключаючы, вядома ж, велізарную дозу антыўтопіі. Напрыклад, лічыцца, што ён можа замяніць чатырохгадовыя выбарчыя цыклы і прывесці да рэферэндумаў па незлічонай колькасці пытанняў.

Віртуальная рэальнасць, у сваю чаргу, здольная "выключыць" частку чалавецтва з рэальнага свету. Як гэта адбылося, напрыклад, з карэянкай Чан Джы Сон, якая пасля смерці дачкі ў 2016 годзе ад невылечнай хваробы з тых часоў сустракаецца са сваім аватарам у VR. Віртуальная прастора таксама спараджае новыя віды праблем або фактычна пераносіць усе старыя вядомыя праблемы ў "новы" свет ці нават у многія іншыя светы. У нейкай ступені мы ўжо можам назіраць гэта ў сацыяльных сетках, дзе бывае так, што занадта мала лайкаў на пастах прыводзіць да дэпрэсіі і суіцыду.

Прарочыя казкі больш-менш

У рэшце рэшт, гісторыя стварэння антыўтапічных бачанняў таксама вучыць асцярожнасці ў фармуляванні прадказанняў.

6. Вокладка «Выспы ў сетцы»

Летась здымаўся знакаміты навукова-фантастычны шэдэўр Рыдлі СкотаПаляўнічы за андроідамі» З 1982 года. Можна абмяркоўваць выкананне ці не шматлікіх пэўных элементаў, але бясспрэчна тое, што найважнейшае прароцтва адносна існавання ў наш час разумных, чалавекападобных андроідаў, шмат у чым праўзыходных людзей, яшчэ не стала рэальнасць.

Мы былі б гатовыя дапусціць яшчэ шмат прароцкіх хітоў».Нейраманцёры»гэта значыць раманы Уільям Гібсан з 1984 года, які папулярызаваў канцэпцыю "кіберпрасторы".

Аднак у тое дзесяцігоддзе з'явілася крыху менш вядомая кніга (у нашай краіне амаль зусім, таму што яна не была перакладзена на польскую мову), якая нашмат дакладней прадказвала сённяшні час. Я кажу пра раман «Выспы ў Сеткі"(6) Брус Стэрлінг з 1988 года, дзеянне якога адбываецца ў 2023 годзе. У ім прадстаўлены свет, пагружаны ў нешта падобнае на Інтэрнэт, вядомае як "павуціна". Ён кантралюецца буйнымі міжнароднымі карпарацыямі. «Выспы ў Сеткі» адметныя тым, што забяспечваюць кантроль, назіранне і манапалізацыю нібыта вольнага Інтэрнэту.

Таксама цікава прадбачыць баявыя дзеянні, якія праводзяцца з ужываннем беспілотных лятальных апаратаў (дронаў) супраць сеткавых піратаў/тэрарыстаў. Аператары за тысячы кіламетраў з бяспечнымі працоўнымі сталамі - адкуль мы гэта ведаем? Кніга не пра бясконцы канфлікт з ісламскім тэрарызмам, а пра барацьбу з сіламі, якія супрацьстаяць глабалізацыі. Свет Islands in the Net таксама напоўнены спажывецкімі прыладамі, якія вельмі падобныя на смарт-гадзіны і разумны спартовы абутак.

Ёсць яшчэ адна кніга 80-х гадоў, у якой, хоць некаторыя падзеі здаюцца больш фантастычнымі, яна добра ілюструе нашы сучасныя антыўтапічныя страхі. Гэты "Праграмныя забеспячэнні для геарадараў», Гісторыя Рудзьега Рукера, дзеянне якога адбываецца ў 2020 годзе. Свет, стан грамадства і яго канфлікты здаюцца неверагодна падобнымі да таго, з чым мы маем справу сёння. Ёсць таксама робаты, вядомыя як боперы, якія здабылі самасвядомасць і збеглі ў гарады на Месяцы. Гэты элемент яшчэ не матэрыялізаваўся, але бунт машын становіцца пастаянным рэфрэнам чорных прагнозаў.

Бачанні нашага часу ў кнігах таксама дзіўна дакладныя ў шматлікіх адносінах. Актавія Батлер, Асабліва ўВыслоўі аб сеяцелі» (1993). Дзеянне пачынаецца ў 2024 годзе ў Лос-Анджэлесе і адбываецца ў Каліфорніі, спустошанай паводкамі, штармамі і засухамі, выкліканымі зменай клімату. Сем'і сярэдняга і працоўнага класа сустракаюцца ў закрытых супольнасцях, спрабуючы збегчы ад знешняга свету з дапамогай выклікаюць прывыканне наркотыкаў і камплектаў віртуальнай рэальнасці. Зьяўляюцца новыя рэлігіі і тэорыі змовы. Караван бежанцаў накіроўваецца на поўнач, каб пазбегнуць экалагічнага і сацыяльнага калапсу. Да ўлады прыходзіць прэзідэнт, які выкарыстоўвае перадвыбарчы лозунг "Зробім Амерыку зноў вялікай" (гэта лозунг Дональда Трампа)…

Другая кніга Батлера, «Выслоўя аб талентах«, распавядае, як сябры новага рэлігійнага культу пакідаюць Зямлю на касмічным караблі, каб каланізаваць Альфу Цэнтаўра.

***

Які ўрок гэтага шырокага агляду прадказанняў і бачанняў, зробленых некалькі дзесяцігоддзяў таму і датычацца нашага паўсядзённага жыцця?

Верагодна, справа ў тым, што антыўтопіі здараюцца часта, але часцей за ўсё толькі часткова.