Каго заб'е беспілотны аўтамабіль? Машына, выратуй як мага больш людзей, але больш за ўсё выратуй мяне!

Калі ўзнікае сітуацыя, калі аўтаномнай сістэме аўтамабіля даводзіцца рабіць хуткі выбар, каго ахвяраваць у выпадку немінучай аварыі - як яна павінна рэагаваць? Ахвяраваць пасажырамі дзеля выратавання пешаходаў? Пры неабходнасці забіць пешахода, каб пашкадаваць, напрыклад, сям'ю з чатырох чалавек, якія едуць у аўтамабілі? Ці, можа, ён заўсёды павінен абараняць сябе ў першую чаргу?

У той час як толькі ў Каліфорніі больш за шэсцьдзесят кампаній ужо атрымалі дазвол на асабістае тэсціраванне, цяжка сказаць, што галіна рыхтуецца сутыкнуцца з этычнымі дылемамі. На дадзены момант ён змагаецца з больш базавымі праблемамі - працай і навігацыйнай эфектыўнасцю сістэм і проста прадухіленнем сутыкненняў і непрадбачаных падзей. У такіх сітуацыях, як нядаўняе забойства пешахода ў Арызоне або наступныя аварыі (1), пакуль гаворка ішла проста аб сістэмных збоях, а не аб нейкім «этычным выбары» машыны.

Ратуйце багатых і маладых

Праблемы, звязаныя з прыняццем такіх рашэнняў, не з'яўляюцца абстрактнымі праблемамі. Гэта можа пацвердзіць любы дасведчаны кіроўца. У мінулым годзе навукоўцы з Медыялабараторыі Масачусецкага тэхналагічнага інстытута прааналізавалі больш за сорак мільёнаў адказаў рэспандэнтаў з усяго свету, якія яны сабралі падчас даследавання, пачатага ў 2014 годзе. Сістэма апытання, якую яны назвалі «Этычная машына», паказала, што падобныя пытанні задаюць у розных частках краіны. свет розныя адказы.

Самыя агульныя высновы прадказальныя. У экстрэмальных сітуацыях людзі аддаюць перавагу ратаваць людзей клопату пра жывёл, імкнучыся захаваць як мага больш жыццяў, і, як правіла, маладзей, чым пажылыя людзі (2). Ёсць таксама некаторыя, але не такія відавочныя перавагі, калі гаворка ідзе аб выратаванні жанчын перад мужчынамі, людзей з больш высокім статусам перад бяднейшымі і пешаходаў, а не пасажыраў аўтамабіляў..

2. Каго павінна выратаваць машына?

Паколькі амаль паўмільёна рэспандэнтаў запоўнілі дэмаграфічныя анкеты, удалося суаднесці іх перавагі з узростам, падлогай і рэлігійнымі поглядамі. Даследчыкі прыйшлі да высновы, што гэтыя адрозненні не "значна паўплывалі" на рашэнні людзей, але адзначылі некаторыя культурныя ўплывы. Французы, напрыклад, выяўлялі схільнасць узважваць рашэнні на аснове меркаванай колькасці смерцяў, у той час як у Японіі акцэнт рабіўся менш за ўсё. Аднак у Краіне ўзыходзячага сонца жыццё старых шануецца значна больш, чым на Захадзе.

Перш чым мы дазволім нашым аўтамабілям самім прымаць этычныя рашэнні, нам неабходна правесці глабальныя дэбаты з гэтай нагоды. Калі кампаніі, якія працуюць над аўтаномнымі сістэмамі, даведаюцца аб нашых перавагах, тады яны будуць распрацоўваць на іх аснове этычныя алгарытмы ў машынах, а палітыкі змогуць пачаць уводзіць адэкватныя прававыя палажэнні», – пісалі навукоўцы ў кастрычніку 2018 года ў Nature.

Адзін з даследчыкаў, якія ўдзельнічалі ў эксперыменце "Маральная машына", Жан-Франсуа Бонефон, палічыў трывожным перавагу выратавання людзей з больш высокім статусам (напрыклад, кіраўнікоў, а не бяздомных). На яго думку, гэта вельмі моцна звязана з узровень эканамічнай няроўнасці ў дадзенай краіне. Там, дзе няроўнасць была большая, перавага аддавалася прынясенню ў ахвяру бедных і бяздомных.

Адно з папярэдніх даследаванняў паказала, у прыватнасці, што, на думку рэспандэнтаў, аўтаномны аўтамабіль павінен бараніць як мага больш людзей, нават калі гэта азначае страту пасажыраў. Пры гэтым, аднак, рэспандэнты заяўлялі, што не сталі б набываць запраграмаваны такім чынам аўтамабіль. Даследчыкі патлумачылі, што хоць людзі лічаць больш этычным ратаваць больш людзей, яны таксама кіруюцца ўласнымі інтарэсамі, што можа быць сігналам для вытворцаў аб тым, што кліенты будуць неахвотна купляць аўтамабілі, абсталяваныя альтруістычнымі сістэмамі.. Некаторы час таму прадстаўнікі кампаніі Mercedes-Benz заявілі, што калі б іх сістэма ратавала толькі аднаго чалавека, то яны б выбралі вадзіцеля, а не пешахода. Хваля грамадскага пратэсту прымусіла кампанію адклікаць сваю дэкларацыю. Але даследаванне ясна паказвае, што ў гэтым святым абурэнні было шмат крывадушнасці.

У некаторых краінах гэта ўжо адбываецца першыя спробы прававога рэгулявання у поле. У Нямеччыне прыняты закон, які патрабуе, каб аўтамабілі без кіроўцы любой цаной пазбягалі траўмаў ці смерці. У законе таксама гаворыцца, што алгарытмы ніколі не могуць прымаць рашэнні на аснове такіх характарыстык, як узрост, пол, здароўе ці пешаходы.

Audi бярэ на сябе адказнасць

Канструктар не ў стане прадбачыць усе наступствы эксплуатацыі аўтамабіля. Рэальнасць заўсёды можа даць камбінацыю зменных, якія ніколі раней не правяраліся. Гэта падрывае нашу веру ў магчымасць этычнага праграмавання машыны наогул. Нам здаецца, што ў сітуацыях, калі ўзнікае памылка і адбываецца трагедыя па віне аўтамабіля », адказнасць павінен несці вытворца і распрацоўшчык сістэмы.

Магчыма, гэтае разважанне правільна, але, магчыма, не таму, што яно было памылковым. Хутчэй таму, што быў дазволены рух, які не быў на 2019% вольны ад магчымасці яго здзяйснення. Падобна, менавіта ў гэтым і чыннік, і ад агульнай адказнасці не ўхіляецца кампанія, нядаўна якая заявіла аб тым, што возьме на сябе адказнасць за аварыі з удзелам A8 3 гады пры выкарыстанні ў ёй аўтаматычнай сістэмы Traffic Jam Pilot (XNUMX).

3. Інтэрфейс Audi Traffic Jam Pilot

З іншага боку, ёсць мільёны людзей, якія водзяць машыны і таксама здзяйсняюць памылкі. Дык чаму ж машыны, якія па статыстыцы здзяйсняюць значна менш памылак, чым людзі, што пацвярджаецца шматлікімі памылкамі, павінны падвяргацца дыскрымінацыі ў гэтых адносінах?

Калі нехта думае, што дылемы этыкі і адказнасці ў свеце аўтаномных транспартных сродкаў простыя, працягвайце думаць…