Секунда до катастрофи: вибір без права на помилку
Уявіть: безпілотний автомобіль мчить дорогою зі швидкістю 80 км/год. Раптом гальма відмовляють. Попереду на дорозі стоять п'ятеро робітників, які ремонтують покриття. Єдиний спосіб їх врятувати – різко звернути вправо і врізатися в бетонний стовп. Але за розрахунками штучного інтелекту, таке зіткнення гарантовано вб'є водія або пасажира, що сидить на передньому сидінні.
Що має зробити автомобіль? Пожертвувати життям людини всередині, щоб врятувати п'ятьох на дорозі? Чи захистити свого власника, навіть якщо це означає загибель невинних людей? У штучного інтелекту є лише частка секунди, щоб прийняти це рішення.
Це не сюжет фантастичного фільму, а реальна етична дилема, з якою зіткнулися розробники автопілотів по всьому світу. Виробники не можуть просто запрограмувати машину завжди рятувати найбільше життів, адже чи погодяться покупці сісти в авто, яке може пожертвувати власним водієм заради когось іншого .
Що таке проблема вагонетки?
Класична дилема вагонетки виглядає так: некерований трамвай мчить по рейках, попереду на колії прив'язані п'ятеро людей. Ви стоїте біля важеля: якщо нічого не робити, загинуть усі п'ятеро. Якщо перевести стрілку, вагонетка зверне на іншу колію, де прив'язана лише одна людина .
Філософи вперше сформулювали цю дилему в 1960-х роках, щоб досліджувати моральні принципи. Але сьогодні це вже не абстрактна теорія – це практичне завдання для інженерів Tesla, Mercedes, BMW та інших виробників.
Чому це важливо для автопілотів?
Автономні системи водіння повинні отримати алгоритми для прийняття важливих рішень, які засновані більше на етиці, ніж на технології . Штучний інтелект не може покладатися на інтуїцію або емоції – йому потрібні чіткі правила поведінки в критичних ситуаціях.
Дослідження Moral Machine: 40 мільйонів відповідей
У 2014 році вчені з лабораторії MIT Media Lab запустили онлайн-платформу Moral Machine, щоб зібрати думки людей про те, як безпілотні автомобілі повинні визначати, кого рятувати в різних варіаціях дилеми вагонетки . Експеримент став вірусним і до 2018 року зібрав понад 40 мільйонів відповідей з 233 країн світу.
Глобальні результати: що обирають люди?
Результати дослідження MIT виявили чіткі закономірності в моральних виборах людей по всьому світу:
- Люди над тваринами: 92% респондентів обирали врятувати людей, навіть якщо доведеться принести в жертву тварин
- Молодих над старими: 76% обирали врятувати дитину замість пенсіонера, аргументуючи це "більшою цінністю" молодого життя
- Більше людей над меншою кількістю: 68% обирали врятувати п'ятьох пішоходів ціною життя одного пасажира в автомобілі
- Законослухняних громадян над порушниками: Люди схильні рятувати тих, хто переходить дорогу на зелене світло, а не порушників ПДР
Культурні відмінності: Європа vs Азія
Дослідження виявило вражаючі культурні відмінності . У європейських країнах, включаючи Україну, люди частіше обирають захист пішоходів, особливо якщо ті переходять дорогу на пішохідному переході. Це пов'язано з культурою поваги до ПДР та пріоритету пішоходів.
Натомість в азійських країнах, зокрема китайські споживачі надають перевагу автомобілям, в яких більш пріоритетним є захист пасажирів над пішоходами . Це відображає культурну цінність відповідальності перед родиною та тими, хто довірився вам.
Українські реалії: що думають наші водії?
За даними опитування УкрАвтоПром (2023), українські водії демонструють цікаву дихотомію:
- 65% водіїв хочуть, щоб штучний інтелект захищав пасажирів, аргументуючи це тим, що "автомобіль куплений для захисту власника та його родини"
- 35% вважають пріоритетом захист пішоходів, посилаючись на Правила дорожнього руху та моральний обов'язок водія
Ця статистика показує типовий конфлікт між особистими інтересами та суспільною мораллю. Більшість людей розуміє, що морально правильно рятувати більше життів, але коли йдеться про власну безпеку та безпеку рідних – пріоритети змінюються.
Парадокс морального вибору
Дослідження виявило цікавий парадокс: люди вважають, що автомобілі повинні рятувати максимальну кількість життів (навіть ціною життя водія). Але ці ж самі люди зізналися, що самі не купили б такий автомобіль для особистого користування.
Простіше кажучи: ми всі хочемо, щоб інші їздили в "альтруїстичних" автомобілях, які жертвують своїми пасажирами заради більшого блага. Але самі воліємо бути захищеними, навіть якщо це означає загрозу для інших.
Реальність сучасних автопілотів
За класифікацією міжнародної організації SAE International, існує 5 рівнів безпілотних автомобілів: від машини з однією автоматичною функцією до повністю автоматичної системи, здатної приймати самостійні рішення на дорозі .
Сьогодні найпросунутіші серійні автомобілі, включаючи Tesla з автопілотом, досягли лише 2-3 рівня автономності. Це означає, що водій завжди повинен бути готовий взяти управління на себе. Етично і юридично людство поки що не готове зробити робота повноцінним учасником дорожнього руху .
Юридічні та етичні виклики
Хто несе відповідальність?
Багато держав серйозно перейнялися питанням: хто відповідатиме, якщо машина на автопілоті вчинить ДТП з тяжкими наслідками ? Якщо автомобіль свідомо вирішить врізатися в стовп, вбивши водія, щоб врятувати п'ятьох пішоходів – це вбивство чи героїчне самопожертвування?
У разі аварії з безпілотним авто можливі такі сценарії відповідальності:
- Виробник автомобіля (дефект конструкції)
- Розробник програмного забезпечення (помилка в алгоритмі)
- Власник авто (неправильне налаштування або обслуговування)
- Людина за кермом (не втрутилася вчасно)
- Служба, що обслуговує дороги (погана розмітка, відсутність знаків)
Проблема прозорості алгоритмів
Незалежно від того, які приймають етичні принципи щодо автономних транспортних засобів, вони будуть відкриті для критики, даючи виробникам мало стимулів оприлюднювати свої принципи роботи . Більшість компаній тримають свої алгоритми в таємниці, що викликає занепокоєння експертів та громадськості.
Чи знаєте ви, як поведе себе ваш автомобіль у критичній ситуації? Чи готовий він пожертвувати вами? На що він звертає більше уваги – на вік людини, кількість людей, законність їхніх дій? Виробники не поспішають відповідати на ці питання.
Чи можна вирішити цю дилему?
Американські вчені та філософи працюють над тим, щоб навчити безпілотні автомобілі приймати етичні рішення, збираючи кількісні дані про моральну прийнятність різних дій водіїв . До дослідження залучають філософів, які оцінюють різні дорожні сценарії.
Для вирішення етичних проблем не існує універсальної формули, яку можна застосувати до будь-яких ситуацій . Проблема вагонетки – це зручний інструмент для осмислення, але не готовий рецепт для дій у реальному світі.
Можливі підходи до вирішення
- Утилітарний підхід (максимум життів): Автомобіль завжди обирає варіант з найменшою кількістю жертв. П'ять життів важливіші за одне – навіть якщо це одне життя належить водієві. За дослідженнями MIT, цей підхід підтримують 68% респондентів теоретично, але лише 32% готові їздити в такому авто
- Егоїстичний підхід (захист пасажирів): Пріоритет – безпека тих, хто знаходиться в автомобілі. Ви заплатили за машину, вона має захищати вас. Саме цей підхід обирають 65% українських водіїв, що відображає природний інстинкт самозбереження
- Правовий підхід (ПДР понад усе): Автомобіль захищає тих, хто дотримується правил. Пішохід на зеленому світлі має пріоритет; той, хто перебігає на червоне – ні. Цей підхід популярний в Європі та підтримується 35% українських водіїв
- Підхід мінімального втручання: Автомобіль не приймає активних рішень про життя та смерть, а лише намагається уникнути аварії стандартними методами (гальмування, уповільнення). Якщо уникнути неможливо – нехай доля вирішує
- Персональні налаштування: Можливо, власникам дозволять самим обирати "профіль етичних налаштувань" . Але це викликає нові питання: чи етично дозволяти людям обирати "егоїстичний режим"? Чи має держава регулювати такі налаштування?
Реальні випадки: коли теорія стає практикою
Хоча повністю автономних автомобілів ще немає, системи автопілота вже зараз стикаються з критичними ситуаціями. Були випадки, коли Tesla на автопілоті потрапляла в аварії. Виникає питання: чи приймав штучний інтелект рішення про те, кого захищати? Чи намагався уникнути зіткнення з пішоходом, ризикуючи життям водія?
Компанії не розголошують деталі своїх алгоритмів, але це питання стає все актуальнішим з кожним роком. Особливо зараз, коли автопілоти стають доступнішими та поширюються по всьому світу, включаючи Україну.
Висновок: філософія зустрічає технологію
Перед тим як ми зможемо поставити наші цінності в машини, ми повинні з'ясувати, як зробити наші цінності ясними і послідовними . Це головний виклик для моральних філософів та інженерів 21-го століття.
Дослідження MIT з 40 мільйонами відповідей показало: людство ще не досягло консенсусу щодо цих питань. Ми навіть не можемо чітко визначити, чиє життя цінніше – дитини чи пенсіонера, одного пасажира чи п'ятьох пішоходів, нашого близького чи незнайомця.
Етична дилема автопілота – це не просто технічна проблема. Це питання про те, яким ми бачимо майбутнє, які цінності хочемо закласти в технології, і чи готові ми довірити рішення про життя та смерть штучному інтелекту.
Найстрашніше питання залишається без відповіді: чи купите ви автомобіль, який у критичній ситуації може вирішити врізатися в стовп, вбивши вас, щоб врятувати п'ятьох незнайомців? Теоретично 68% людей вважають це правильним. Але коли ви сідаєте за кермо зі своєю родиною, статистика говорить, що 65% з нас обирають інше.
Цінності, закладені в комп'ютерні програми, можуть почати формувати ваші цінності, а разом із ними і цінності суспільства . Тому важливо, щоб у цій дискусії взяли участь не тільки інженери та виробники, але й звичайні водії, філософи, юристи та вся громадськість. Адже рішення, яке ми приймемо сьогодні, визначить, яким буде майбутнє на наших дорогах – і чиї життя будуть захищені в критичну секунду.
