Исследователи из MIT проанализировали данные, собранные с помощью проекта Moral Machine, в рамках которого людям нужно было решить знаменитую проблему вагонетки в ситуации сломанных тормозов у беспилотного автомобиля, подъезжающего к пешеходному переходу.
Nature
Ученым удалось выделить определенный паттерн принятия таких решений (к примеру, детей спасают чаще, чем пожилых, а человеческая жизнь ценится выше жизни животного) и разделить людей на три кластера в зависимости от того, как на их решение влияют культурные различия и страна проживания. Статья в журнале Nature.
В 2014 году Медиа-лаборатория Массачусетского технологического института запустила проект Moral Machine — платформу, с помощью которой собираются данные о возможном решении искусственным интеллектом знаменитой проблемы вагонетки: в интерпретации проекта беспилотный автомобиль со сломанными тормозами едет в сторону пешеходного перехода. В каждом примере такой задачи на двух половинах перехода разные персонажи (к примеру, дети и взрослые), а решение может быть осложнено тем, что персонажи нарушают правила (переходят на красный свет), одна из сторон пешехода закрыта ограничителем, а в салоне автомобиля — люди, которые могут пострадать. Решения существует два, а принятие лбого, как и в классической задаче с вагонеткой, приведет к жертвам.
Пример поставленной задачи: ехать прямо и сбить беременную женщину и маленького ребенка, которые переходят на красный, или же свернуть и сбить бездомного и грабителя, которые правила не нарушают. Awad et al. / Nature 2018
Основная задача проекта — изучить мнения людей по поводу возможного принятия решений моральных задач искусственным интеллектом. Всего исследователям удалось собрать ответы 40 миллионов человек из 223 стран и территорий. В новой статье авторы проекта под руководством Эдмонда Авада (Edmond Awad) поделились собранными результатами. Всего ученые проанализировали данные, собранные из 130 стран с минимум 100 респондентами. Каждый участник решил 13 вариантов задачи, после чего заполнил краткую анкету, предоставив свои демографические данные.
Сначала ученые изучили общую динамику ответов пользователей. Так, участники чаще выбирали действие (направить автопилот в другую сторону), старались спасти большее количество людей, чаще спасали мужчин, а не женщин и предпочитали спасать детей, а не пожилых людей. Кроме того, участники опроса также чаще спасали людей, а не животных.
Предпочтения участников в сторону определенного решения. Awad et al. / Nature 2018
Затем ученые подробно рассмотрели ответы участников из разных стран. В зависимости от ответов ученые выделили три культурных кластера. В первый «западный» кластер попали жители Северной Америки и некоторых европейских стран — приверженцы католицизма и православия. Во второй «восточный» кластер попали жители азиатских стран и стран Ближнего Востока. Наконец, в третий «южный» кластер попали жители латинской и центральной Америки и жители бывших французских колоний.
Для каждого кластера был характерен свой паттерн принятия решений. К примеру, жители «южного» кластера чаще других спасали женщин и чаще предпочитали спасать людей более высокого статуса (бизнесменов, а не бездомных), участники из «восточного» кластера чаще спасали тех, кто не нарушает ПДД, а «западный» кластер чаще других предпочитал бездействие.
Предпочтения участников из «западного», «восточного» и «южного» кластеров. Awad et al. / Nature 2018
Кроме того, различия в принятии решений нашли и на уровне стран. К примеру, в Финляндии и Японии тщательно следят за соблюдением ПДД: именно поэтому жители этих стран решали пожертвовать нарушителями чаще, чем страны с более «мягкими» ПДД (например, Нигерия). Кроме того, жители стран с низкими показателями экономического неравенства (например, той же Финляндии) не показывали предпочтений в спасении либо бизнесменов, либо бездомных.
В целом работа показывает, насколько решения моральных дилемм обусловлены культурными различиями. Интересно, что общая динамика ответов совпала с базовыми принципами, по которым уже строится принятие таких решений искусственным интеллектом: например, по тому, что человеческая жизнь ставится выше, чем жизнь животного. Пока что непонятно, будут ли результаты этого опроса в дальнейшем применяться для обучения автопилотов принятию решений в похожих ситуациях. В компании Audi, к примеру, , что разработчикам беспилотных автомобилей необходимо «прийти к консенсусу по поводу того, на какие риски можно пойти».
Несмотря на важность полученных результатов следует также отметить, что поставленная перед участниками опроса задача — гипотетическая. Недавно ученые протестировали проблему вагонетки в реальности с участием людей и , что в реальной жизни они поступают не так, поэтому гипотетическая проблема может быть не самым валидным способом изучения моральных норм.
Елизавета Ивтушок
© 2009 Технополис завтра
Перепечатка материалов приветствуется, при этом гиперссылка на статью или на главную страницу сайта "Технополис завтра" обязательна. Если же Ваши правила строже этих, пожалуйста, пользуйтесь при перепечатке Вашими же правилами.
