Вайна алгарытмаў

Калі справа даходзіць да выкарыстання штучнага інтэлекту ва ўзброеных сілах, тут жа прачынаецца кашмар навуковай фантастыкі, мяцежны і смяротны ІІ, які паўстае супраць чалавецтва, каб яго знішчыць. Нажаль, асцярогі вайскоўцаў і кіраўнікоў, што "вораг нас дагоніць", гэтак жа моцныя пры распрацоўцы алгарытмаў вядзення вайны.

Алгарытмічная вайнаякія, на думку многіх, маглі б карэнным чынам змяніць аблічча поля бою ў тым выглядзе, у якім мы яго ведаем, галоўным чынам таму, што ваенныя дзеянні сталі б хутчэй, нашмат апярэджвалі б здольнасць людзей прымаць рашэнні. амерыканскі генерал Джэк Шанахан (1), кіраўнік Аб'яднанага цэнтра штучнага інтэлекту ЗША, падкрэслівае, аднак, што, перш чым укараняць штучны інтэлект у арсеналы, мы павінны пераканацца, што гэтыя сістэмы ўсё яшчэ знаходзяцца пад кантролем чалавека і не пачнуць весці войны самастойна.

«Калі ў суперніка ёсць машыны і алгарытмы, мы прайграем гэты канфлікт»

Магчымасць ваджэння алгарытмічная вайна грунтуецца на выкарыстанні дасягненняў камп'ютарнай тэхнікі па трох асноўных напрамках. Першы дзесяцігоддзі экспанентнага росту вылічальнай магутнасцігэта дазволіла значна палепшыць прадукцыйнасць машыннага навучання. Другі хуткі рост рэсурсаў Вялікія дадзеныя , гэта значыць велізарныя, звычайна аўтаматызаваныя, кіраваныя і на сталай аснове ствараныя наборы дадзеных, прыдатныя для навучання машын. Трэцяе тычыцца хуткае развіццё тэхналогій хмарных вылічэнняў, дзякуючы якому кампутары могуць лёгка атрымліваць доступ да рэсурсаў дадзеных і апрацоўваць іх для рашэння задач.

Алгарытм вайныяк гэта вызначана экспертамі, гэта павінна быць спачатку выяўлена з дапамогай камп'ютарны код. Па-другое, яна павінна быць вынікам працы платформы, здольнай як збіраць інфармацыю, так і рабіць выбар, прымаць рашэнні, якія, прынамсі ў тэорыі, не патрабуюць. умяшанне чалавека. Па-трэцяе, што здаецца відавочным, але не абавязкова так, бо толькі ў дзеянні высвятляецца, ці можа тэхніка, прызначаная для чагосьці іншага, быць карыснай у вайне і наадварот, яна мусіць быць здольная працаваць ва ўмовах. узброены канфлікт.

Аналіз вышэйпералічаных напрамкаў і іх узаемадзеяння паказвае, што алгарытмічная вайна гэта не асобная тэхналогія, такая як, напрыклад. энергетычная зброя або гіпергукавыя ракеты. Яго наступствы шырокамаштабныя і паступова становяцца паўсюднымі ў ваенных дзеяннях. У першы раз ваенныя машыны яны становяцца разумнымі, патэнцыйна робячы сілы абароны, якія іх укараняюць, больш эфектыўнымі і дзейснымі. Такія інтэлектуальныя машыны маюць дакладныя абмежаванні, якія неабходна добра разумець.

«» - Сказаў Шэнахан мінулай восенню ў інтэрв'ю былому генеральнаму дырэктару Google Эрыку Шміту і віцэ-прэзідэнту Google па міжнародных справах Кенту Уокеру. «».

У праекце даклада Савета нацыянальнай бяспекі ЗША па ІІ больш за 50 разоў гаворыцца аб Кітаі, падкрэсліваючы афіцыйна абвешчаную мэту кіраўніцтва Кітая стаць да 2030 года сусветным лідэрам у галіне ІІ (глядзіце таксама: ).

Гэтыя словы прагучалі ў Вашынгтоне на спецыяльнай канферэнцыі, якая адбылася пасля таго, як вышэйзгаданы Шанаханскі цэнтр прадставіў Кангрэсу сваю папярэднюю справаздачу, падрыхтаваную ў супрацоўніцтве з вядомымі экспертамі ў галіне штучнага інтэлекту, у тым ліку Дырэктар па даследаваннях Microsoft Эрык Харвіц, генеральны дырэктар AWS Эндзі Джас і галоўны даследчык Google Cloud Эндру Мур. Канчатковая справаздача будзе апублікаваная ў кастрычніку 2020 года.

Супрацоўнікі Google пратэстуюць

Некалькі гадоў таму да справы падключыўся Пентагон. алгарытмічная вайна і шэраг звязаных з ІІ праектаў у рамках праекта Maven, заснаванага на супрацоўніцтве з тэхналагічнымі кампаніямі, у тым ліку Google і такія стартапы, як Clarifai. У асноўным гэта датычылася працы над штучны розумдля палягчэння ідэнтыфікацыі аб'ектаў на.

Калі вясной 2018 года стала вядома аб удзеле Google у праекце, тысячы супрацоўнікаў гіганта Маунтин-Ую падпісалі адкрыты ліст, пратэстуючы супраць удзелу кампаніі ў ваенных дзеяннях. Пасля месяцаў працоўных беспарадкаў Google прыняў уласны збор правілаў ІІшто ўключае ў сябе забарону на ўдзел у мерапрыемствах.

Google таксама абавязалася завяршыць кантракт Project Maven да канца 2019 гады. Вынахад Google не паклаў канец Project Maven. Яго набыў Palantir Піцера Ціля. ВПС і Корпус марской пяхоты ЗША плануюць выкарыстоўваць у рамках праекта Maven спецыяльныя беспілотныя лятальныя апараты, такія як Global Hawk, кожны з якіх павінен весці візуальны кантроль да 100 квадратных кіламетраў.

З нагоды адбывалага вакол Project Maven стала зразумела, што амерыканскім вайскоўцам тэрмінова трэба ўласнае воблака. Гэта тое, што Шанахан сказаў падчас канферэнцыі. Гэта было відавочна, калі відэазапісы і абнаўленні сістэмы даводзілася перавозіць грузавікамі на ваенныя аб'екты, якія былі раскіданыя па ўсім полі. У стварэнні адзіныя хмарныя вылічэнні, Які дапаможа вырашыць задачы такога тыпу, у рамках праекта адзінай ІТ-інфраструктуры для войска джэдаяў, Microsoft, Amazon, Oracle і IBM. Google не з-за сваіх этычных кодэксаў.

З заявы Шанахана ясна, што вялікая рэвалюцыя ІІ ва ўзброеных сілах толькі пачынаецца. І роля яго цэнтра ва ўзброеных сілах ЗША ўзрастае. Гэта добра відаць у меркаваным бюджэце JAIC. У 2019 годзе ён склаў крыху менш за 90 мільёнаў долараў. У 2020 годзе ён ужо павінен скласці 414 мільёнаў долараў, або каля 10 працэнтаў ад бюджэту ІІ, які ацэньваецца Пентагонам у 4 мільярды долараў.

Машына распазнае які здаўся салдата

Войскі ЗША ужо абсталяваныя такімі сістэмамі, як «Фаланга» (2), якая ўяўляе сабой тып аўтаномнай зброі, выкарыстоўванага на караблях ВМС ЗША для нападу надыходзячых ракет. Пры выяўленні ракеты ён уключаецца аўтаматычна і знішчае ўсё на сваім шляху. Па словах Форда, ён можа атакаваць чатырма ці пяццю ракетамі за паўсекунды без неабходнасці праходзіць скрозь кожную цэль і глядзець на яе.

Іншым прыкладам з'яўляецца паўаўтаномная Harpy (3), серыйная беспілотная сістэма. Гарпія выкарыстоўваецца для знішчэння варожых радараў. Напрыклад, у 2003 годзе, калі ЗША нанеслі ўдар па Іраку, які меў самалётныя сістэмы радыёлакацыйнага перахопу, беспілотнікі ізраільскай вытворчасці дапамаглі іх знайсці і знішчыць, каб амерыканцы маглі бяспечна ляцець у іракскую паветраную прастору.

3. Запуск беспілотніка сістэмы IAI Harpy

Яшчэ адным вядомым прыкладам аўтаномнай зброі з'яўляецца Карэйская сістэма Samsung SGR-1, размешчаны ў дэмілітарызаванай зоне паміж Паўночнай і Паўднёвай Карэяй, прызначаны для выяўлення і абстрэлу парушальнікаў на адлегласці да чатырох кіламетраў. Паводле апісання, сістэма "можа адрозніваць чалавека, які здаецца, і чалавека, які не здаецца" на аснове становішча іх рук або распазнання становішча зброі ў іх руках.

4. Дэманстрацыя выяўлення які здае салдата сістэмай Samsung SGR-1

Амерыканцы баяцца застацца ззаду

Цяпер не менш як 30 краін свету выкарыстоўваюць аўтаматычную зброю з розным узроўнем развіцця і выкарыстання ІІ. Кітай, Расія і ЗША разглядаюць штучны інтэлект як незаменны элемент пабудовы свайго будучага становішча ў свеце. "Той, хто пераможа ў гонцы ІІ, будзе кіраваць светам", — сказаў прэзідэнт Расіі Уладзімір Пуцін студэнтам у жніўні 2017 года. Прэзідэнт Кітайскай Народнай Рэспублікі Сі Цзіньпін не рабіў такіх гучных заяў у СМІ, але ён з'яўляецца асноўным рухавіком дырэктывы, якая заклікае Кітай да 2030 года стаць дамінуючай сілай у галіне ІІ.

У ЗША расце занепакоенасць з нагоды "эфекту спадарожніка", які паказаў, што Злучаныя Штаты вельмі дрэнна падрыхтаваны для рашэння новых задач, звязаных са штучным інтэлектам. І гэта можа быць небяспечна для свету хаця б таму, што краіна, якой пагражае панаванне, можа захацець ліквідаваць стратэгічную перавагу суперніка іншым шляхам, гэта значыць шляхам вайны.

Хоць першапачатковая задача праекта Maven заключалася ў тым, каб дапамагчы знайсці баевікоў ісламскага ІДІЛ, яго значэнне для далейшага развіцця ваенных сістэм штучнага інтэлекту велізарна. Электронная, заснаваная на самапісцах, маніторах і сэнсарах (у тым ліку мабільных, лятучых) вайна звязана з вялікай колькасцю разнастайных патокаў дадзеных, эфектыўна выкарыстоўваць якія можна толькі з дапамогай алгарытмаў ІІ.

Гібрыднае поле бітвы стала ваенная версія IoT, багатая важнай інфармацыяй для ацэнкі тактычных і стратэгічных пагроз і магчымасцей. Магчымасць кіраваць гэтымі дадзенымі ў рэжыме рэальнага часу мае вялікія перавагі, але няздольнасць атрымаць урокі з гэтай інфармацыі можа абярнуцца катастрофай. Здольнасць хутка апрацоўваць паток інфармацыі з розных платформаў, якія працуюць у некалькіх абласцях, дае дзве асноўныя ваенныя перавагі: хуткасць i дасяжнасць. Штучны інтэлект дазваляе аналізаваць дынамічныя ўмовы поля бою ў рэжыме рэальнага часу і наносіць удары хутка і аптымальна, мінімізуючы пры гэтым рызыку для ўласных сіл.

Гэта новае поле бітвы таксама з'яўляецца ўсюдыісным і. ІІ ляжыць у аснове так званага раі Дронов, якім у апошнія гады надаецца вялікая ўвага. з дапамогай усюдыісных датчыкаў не толькі дазваляе беспілотным апаратам перамяшчацца па варожай мясцовасці, але і ў канчатковым выніку можа дазволіць фармаваць складаныя злучэнні розных тыпаў беспілотных лятальных апаратаў, якія дзейнічаюць у шматлікіх раёнах, з дадатковым узбраеннем, якія дазваляюць выкарыстоўваць выдасканаленую тактыку бою, неадкладна адаптуюцца. манеўры, каб выкарыстоўваць магчымасці палёў бітваў і паведамляць аб змене умоў.

Дасягненні ў галіне цэлеўказання і навігацыі з дапамогай ІІ таксама паляпшаюць перспектывы эфектыўнасці ў шырокім спектры тактычных і стратэгічных сістэм абароны, асабліва супрацьракетнай, за кошт паляпшэння метадаў выяўлення, адсочвання і ідэнтыфікацыі мэт.

увесь час павялічвае магутнасць сімуляцый і гульнявых прылад, выкарыстоўваных для даследавання ядзернай і звычайнай зброі. Масавае мадэляванне і сімуляцыя будуць мець важнае значэнне для распрацоўкі ўсёабдымнай шматдаменнай сістэмы мэтавых сістэм для баявога кіравання і выкананні складаных задач. ІІ таксама ўзбагачае ўзаемадзеянне з некалькімі ўдзельнікамі (5). ІІ дазваляе гульцам дадаваць і змяняць гульнявыя зменныя, каб даследаваць, як дынамічныя ўмовы (узбраенне, удзел саюзнікаў, дадатковыя войскі і т. д.) могуць паўплываць на прадукцыйнасць і прыняцце рашэнняў.

Для ваенных ідэнтыфікацыя аб'ектаў з'яўляецца натуральнай адпраўной кропкай для ІІ. Па-першае, неабходны комплексны і хуткі аналіз расце колькасці малюнкаў і інфармацыі, якая збіраецца са спадарожнікаў і беспілотнікаў, каб знайсці аб'екты ваеннага значэння, такія як ракеты, перамяшчэння войскаў і іншыя дадзеныя, якія маюць дачыненне да разведкі. Сёння поле бою ахоплівае ўсе ландшафты - мора, сушу, паветра, космас і кіберпрастора - у глабальным маштабе.

Кіберпрастораяк па сваёй сутнасці лічбавы дамен, ён, натуральна, падыходзіць для прыкладанняў ІІ. З наступальнага боку ІІ можа дапамагчы знайсці і нацэліць асобныя сеткавыя вузлы або асобныя ўліковыя запісы для збору, парушэнні або дэзінфармацыі. Кібератакі на ўнутраную інфраструктуру і камандныя сеткі могуць мець катастрафічныя наступствы. Што да абароны, ІІ можа дапамагчы выявіць такія ўварванні і знайсці разбуральныя анамаліі ў грамадзянскіх і ваенных аперацыйных сістэмах.

Чаканая і небяспечная хуткасць

Аднак хуткае прыняцце рашэнняў і аператыўнае выкананне могуць не саслужыць вам добрую службу. у мэтах эфектыўнага антыкрызіснага кіравання. Перавагі штучнага інтэлекту і аўтаномных сістэм на полі бою могуць не даць чакай для дыпламатыі, якая, як мы ведаем з гісторыі, часта апынялася паспяховай як сродак прадухілення крызісу ці кіраванні ім. На практыцы запаволенне, паўза і час для перамоваў могуць быць ключом да перамогі ці, прынамсі, прадухілення катастрофы, асабліва калі на карту пастаўлена ядзерная зброя.

Рашэнні аб вайне і свеце нельга пакідаць на меркаванне прэдыктыўнай аналітыкі. Існуюць фундаментальныя адрозненні ў тым, як дадзеныя выкарыстоўваюцца ў навуковых, эканамічных, лагістычных і прагнозных мэтах. чалавечыя паводзіны.

Некаторыя могуць успрымаць ІІ як сілу, якая аслабляе ўзаемную стратэгічную адчувальнасць і, такім чынам, павялічвае рызыку вайны. Выпадкова ці наўмысна скажоныя дадзеныя могуць заахвоціць сістэмы ІІ здзяйсняць ненаўмысныя дзеянні, напрыклад, няправільна ідэнтыфікаваць і пераследваць няправільныя мэты. Хуткасць дзеянняў, якая пастулюецца ў выпадку распрацоўкі алгарытмаў вайны, можа азначаць заўчасную ці нават непатрэбную эскалацыю, якая перашкаджае рацыянальнаму кіраванню крызісам. З іншага боку, алгарытмы таксама не будуць чакаць і тлумачыць, бо ад іх таксама чакаюць хуткасці.

Трывожны аспект функцыянаванне алгарытмаў штучнага інтэлекту таксама прадстаўлены намі нядаўна ў МТ. Нават спецыялісты не ведаюць дакладна, як ІІ прыводзіць да вынікаў, якія мы бачым на выхадзе.

У выпадку алгарытмаў вайны мы не можам дазволіць сабе такое невуцтва ў адносінах да прыроды і таго, як яны іх "думаюць". Мы не жадаем прачынацца пасярод ночы сярод ядзерных выбліскаў, таму што «наш» ці «іх» штучны інтэлект вырашыў, што прыйшоў час канчаткова ўрэгуляваць гульню.