Секунда до катастрофы: выбор без права на ошибку

Представьте: беспилотный автомобиль мчится по дороге со скоростью 80 км/ч. Внезапно тормоза отказывают. Впереди на дороге стоят пятеро рабочих, ремонтирующих покрытие. Единственный способ их спасти – резко свернуть вправо и врезаться в бетонный столб. Но по расчетам искусственного интеллекта, такое столкновение гарантированно убьет водителя или пассажира, сидящего на переднем сиденье.

Что должен сделать автомобиль? Пожертвовать жизнью человека внутри, чтобы спасти пятерых на дороге? Или защитить своего владельца, даже если это означает гибель невинных людей? У искусственного интеллекта есть лишь доля секунды, чтобы принять это решение.

Это не сюжет фантастического фильма, а реальная этическая дилемма, с которой столкнулись разработчики автопилотов по всему миру. Производители не могут просто запрограммировать машину всегда спасать наибольшее количество жизней, ведь согласятся ли покупатели сесть в авто, которое может пожертвовать собственным водителем ради кого-то другого .

Что такое проблема вагонетки?

Классическая дилемма вагонетки выглядит так: неуправляемый трамвай мчится по рельсам, впереди на колее привязаны пятеро человек. Вы стоите у рычага: если ничего не делать, погибнут все пятеро. Если перевести стрелку, вагонетка свернет на другую колею, где привязан только один человек .

Философы впервые сформулировали эту дилемму в 1960-х годах, чтобы исследовать моральные принципы. Но сегодня это уже не абстрактная теория – это практическая задача для инженеров Tesla, Mercedes, BMW и других производителей.

Почему это важно для автопилотов?

Автономные системы вождения должны получить алгоритмы для принятия важных решений, которые основаны больше на этике, чем на технологиях . Искусственный интеллект не может полагаться на интуицию или эмоции – ему нужны четкие правила поведения в критических ситуациях.

Исследование Moral Machine: 40 миллионов ответов

В 2014 году ученые из лаборатории MIT Media Lab запустили онлайн-платформу Moral Machine, чтобы собрать мнения людей о том, как беспилотные автомобили должны определять, кого спасать в различных вариациях дилеммы вагонетки . Эксперимент стал вирусным и к 2018 году собрал более 40 миллионов ответов из 233 стран мира.

Глобальные результаты: что выбирают люди?

Результаты исследования MIT выявили четкие закономерности в моральных выборах людей по всему миру:

  • Людей над животными: 92% респондентов выбирали спасти людей, даже если придется принести в жертву животных
  • Молодых над старыми: 76% выбирали спасти ребенка вместо пенсионера, аргументируя это "большей ценностью" молодой жизни
  • Больше людей над меньшим количеством: 68% выбирали спасти пятерых пешеходов ценой жизни одного пассажира в автомобиле
  • Законопослушных граждан над нарушителями: Люди склонны спасать тех, кто переходит дорогу на зеленый свет, а не нарушителей ПДД

Культурные различия: Европа vs Азия

Исследование выявило поразительные культурные различия . В европейских странах, включая Украину, люди чаще выбирают защиту пешеходов, особенно если те переходят дорогу на пешеходном переходе. Это связано с культурой уважения к ПДД и приоритета пешеходов.

В то же время в азиатских странах, в частности китайские потребители отдают предпочтение автомобилям, в которых более приоритетной является защита пассажиров над пешеходами . Это отражает культурную ценность ответственности перед семьей и теми, кто доверился вам.

Украинские реалии: что думают наши водители?

По данным опроса УкрАвтоПром (2023), украинские водители демонстрируют интересную дихотомию:

  • 65% водителей хотят, чтобы искусственный интеллект защищал пассажиров, аргументируя это тем, что "автомобиль куплен для защиты владельца и его семьи"
  • 35% считают приоритетом защиту пешеходов, ссылаясь на Правила дорожного движения и моральный долг водителя

Эта статистика показывает типичный конфликт между личными интересами и общественной моралью. Большинство людей понимает, что морально правильно спасать больше жизней, но когда речь идет о собственной безопасности и безопасности близких – приоритеты меняются.

Парадокс морального выбора

Исследование выявило интересный парадокс: люди считают, что автомобили должны спасать максимальное количество жизней (даже ценой жизни водителя). Но эти же самые люди признались, что сами не купили бы такой автомобиль для личного пользования.

Проще говоря: мы все хотим, чтобы другие ездили в "альтруистичных" автомобилях, которые жертвуют своими пассажирами ради большего блага. Но сами предпочитаем быть защищенными, даже если это означает угрозу для других.

Реальность современных автопилотов

По классификации международной организации SAE International, существует 5 уровней беспилотных автомобилей: от машины с одной автоматической функцией до полностью автоматической системы, способной принимать самостоятельные решения на дороге .

Сегодня самые продвинутые серийные автомобили, включая Tesla с автопилотом, достигли лишь 2-3 уровня автономности. Это означает, что водитель всегда должен быть готов взять управление на себя. Этически и юридически человечество пока не готово сделать робота полноценным участником дорожного движения .

Юридические и этические вызовы

Кто несет ответственность?

Многие государства серьезно озаботились вопросом: кто будет отвечать, если машина на автопилоте совершит ДТП с тяжелыми последствиями ? Если автомобиль сознательно решит врезаться в столб, убив водителя, чтобы спасти пятерых пешеходов – это убийство или героическое самопожертвование?

В случае аварии с беспилотным авто возможны такие сценарии ответственности:

  • Производитель автомобиля (дефект конструкции)
  • Разработчик программного обеспечения (ошибка в алгоритме)
  • Владелец авто (неправильная настройка или обслуживание)
  • Человек за рулем (не вмешался вовремя)
  • Служба, обслуживающая дороги (плохая разметка, отсутствие знаков)

Проблема прозрачности алгоритмов

Независимо от того, какие принимают этические принципы относительно автономных транспортных средств, они будут открыты для критики, давая производителям мало стимулов обнародовать свои принципы работы . Большинство компаний держат свои алгоритмы в тайне, что вызывает обеспокоенность экспертов и общественности.

Знаете ли вы, как поведет себя ваш автомобиль в критической ситуации? Готов ли он пожертвовать вами? На что он обращает больше внимания – на возраст человека, количество людей, законность их действий? Производители не спешат отвечать на эти вопросы.

Можно ли решить эту дилемму?

Американские ученые и философы работают над тем, чтобы научить беспилотные автомобили принимать этические решения, собирая количественные данные о моральной приемлемости различных действий водителей . К исследованию привлекают философов, которые оценивают различные дорожные сценарии.

Для решения этических проблем не существует универсальной формулы, которую можно применить к любым ситуациям . Проблема вагонетки – это удобный инструмент для осмысления, но не готовый рецепт для действий в реальном мире.

Возможные подходы к решению

  • Утилитарный подход (максимум жизней): Автомобиль всегда выбирает вариант с наименьшим количеством жертв. Пять жизней важнее одной – даже если эта одна жизнь принадлежит водителю. По исследованиям MIT, этот подход поддерживают 68% респондентов теоретически, но лишь 32% готовы ездить в таком авто
  • Эгоистичный подход (защита пассажиров): Приоритет – безопасность тех, кто находится в автомобиле. Вы заплатили за машину, она должна защищать вас. Именно этот подход выбирают 65% украинских водителей, что отражает естественный инстинкт самосохранения
  • Правовой подход (ПДД превыше всего): Автомобиль защищает тех, кто соблюдает правила. Пешеход на зеленом свете имеет приоритет; тот, кто перебегает на красный – нет. Этот подход популярен в Европе и поддерживается 35% украинских водителей
  • Подход минимального вмешательства: Автомобиль не принимает активных решений о жизни и смерти, а лишь пытается избежать аварии стандартными методами (торможение, замедление). Если избежать невозможно – пусть судьба решает
  • Персональные настройки: Возможно, владельцам позволят самим выбирать "профиль этических настроек" . Но это вызывает новые вопросы: этично ли позволять людям выбирать "эгоистичный режим"? Должно ли государство регулировать такие настройки?

Реальные случаи: когда теория становится практикой

Хотя полностью автономных автомобилей еще нет, системы автопилота уже сейчас сталкиваются с критическими ситуациями. Были случаи, когда Tesla на автопилоте попадала в аварии. Возникает вопрос: принимал ли искусственный интеллект решение о том, кого защищать? Пытался ли избежать столкновения с пешеходом, рискуя жизнью водителя?

Компании не разглашают детали своих алгоритмов, но этот вопрос становится все актуальнее с каждым годом. Особенно сейчас, когда автопилоты становятся доступнее и распространяются по всему миру, включая Украину.

Вывод: философия встречает технологию

Прежде чем мы сможем заложить наши ценности в машины, мы должны выяснить, как сделать наши ценности ясными и последовательными . Это главный вызов для моральных философов и инженеров 21-го века.

Исследование MIT с 40 миллионами ответов показало: человечество еще не достигло консенсуса по этим вопросам. Мы даже не можем четко определить, чья жизнь ценнее – ребенка или пенсионера, одного пассажира или пятерых пешеходов, нашего близкого или незнакомца.

Этическая дилемма автопилота – это не просто техническая проблема. Это вопрос о том, каким мы видим будущее, какие ценности хотим заложить в технологии, и готовы ли мы доверить решение о жизни и смерти искусственному интеллекту.

Самый страшный вопрос остается без ответа: купите ли вы автомобиль, который в критической ситуации может решить врезаться в столб, убив вас, чтобы спасти пятерых незнакомцев? Теоретически 68% людей считают это правильным. Но когда вы садитесь за руль со своей семьей, статистика говорит, что 65% из нас выбирают иное.

Ценности, заложенные в компьютерные программы, могут начать формировать ваши ценности, а вместе с ними и ценности общества . Поэтому важно, чтобы в этой дискуссии приняли участие не только инженеры и производители, но и обычные водители, философы, юристы и вся общественность. Ведь решение, которое мы примем сегодня, определит, каким будет будущее на наших дорогах – и чьи жизни будут защищены в критическую секунду.