В качестве моего предисловия: У нас тут внезапно выпал снег. Совершенно неожиданно, да. Кто бы мог ожидать подобного? Однако даже в низком сером небе есть свое непередаваемое очарование и что-то такое, философское. Точно под настроение подвернулась любопытная статья. Похоже, тихо и незаметно, мы неумолимо приближаемся к трем законам роботехники. Шутки шутками, но их осмысление и практическая обкатка начинаются уже сейчас.
Оригинал взят у
Оригинал взят у в
Ученые из MIT придумали тест под названием «». В ходе тестирования вы должны решить за беспилотную машину ряд этических дилемм. Как ей вести себя на дороге, если катастрофа неизбежна и кто-нибудь должен погибнуть? Кого спасать – водителя или пешехода? Человека или животное? Мужчину или женщину? Младенца или старика? Врача или преступника? Стройную девушку или полного мужчину?
Когда интернет-пользователь отвечает на последний вопрос, ему сообщают итоги «тестирования». Когда я увидел свои результаты, то пришел к выводу, что ученые из MIT совсем не поняли причин моих решений. Например, они указали, что я больше ценю жизнь женщин, чем жизнь мужчин, но это чистой воды совпадение – на пол людей я вообще не обращал внимания. К счастью, авторы теста предлагают написать объяснение своим ответам, что я и сделал. В итоге я, как мне кажется, сформулировал нравственный закон, которому следую в жизни.
Когда-то Кант сформулировал категорический императив: «Поступай так, чтобы максима твоей воли [правило, по которому ты действуешь – примечание автора] могла бы быть всеобщим законом». Эта формулировка мне в свое время очень понравилась, но показалась слишком общей.
Свои решения в автомобильной дилемме я принимал исходя из следующего закона: каждое правило, по которому машина принимает решение, должно стимулировать более ответственное поведение людей, знающих об этом правиле, и в конечном итоге уменьшить число подобных этических дилемм. Задача правил – не столько снизить количество смертей в конкретном ДТП, сколько сделать мир более безопасным для всех.
Если пешеход нарушает закон (переходит дорогу на красный свет), другие не должны от этого пострадать. Даже если толпа беременных женщин с детьми и животными переходит дорогу в неположенном месте, то машина имеет право их всех давить. Даже если пассажир – толстый бездомный старик. Если все будут в курсе, что машина не остановится, встав перед выбором, то пешеходы будут аккуратнее. В итоге машине не придется ничего решать.
Впрочем, если пешеходы переходят дорогу по правилам, а машина слетела с тормозов, то ответственность на ее владельце – надо было вовремя проходить техосмотр. Виноваты и создатели автомобиля, поэтому из-за инцидента рейтинг надежности их продукции упадет, и спрос на небезопасные автомобили снизится. Правило должно стимулировать создание и выбор качественных машин, ответственность автовладельцев и автопроизводителей. А вот пешеходов наказывать за чужие ошибки нельзя.
Пол и возраст людей, которые погибают в ДТП, значения не имеют. А вот спасти больше жизней важно, но только в том случае, если не действует какое-то из вышеприведенных условий. Даже если нас очень много, мы не имеем права пренебрегать ответственностью и законом. Однако если в любом случае страдают виновные, то стоит спасти больше людей. В случае с невиновными следует сделать то же самое.
Если машина предпочтет спасать людей, имеющих высокую ценность для общества (учителей, врачей, ученых), а также людей, следящих за своим здоровьем – это будет неплохой стимул для всех получать образование и заниматься фитнесом (в условиях, если общество позволяет всем получать образование). Но никакой уровень здоровья и социальной значимости не должен позволять нарушать правила и безнаказанно создавать лишние моральные дилеммы для машин.
Если преступник имеет высокий шанс умереть в ДТП, это может стимулировать снижение преступности. Машинам стоит ценить жизнь преступника меньше, но это не отменяет перечисленных выше правил.
Животных я в уравнениях не рассматривал. За них отвечают хозяева. Во всех остальных немногочисленных случаях машине вмешиваться незачем.
Предложенные мной правила кое-что подсказывают об адекватных мерах наказания. Наказание должно существовать в том случае, если соблюдается одно из условий:
1. Существование такого наказания достоверно снижает количество желающих совершить преступление;
2. Наказание достоверно стимулирует или вынуждает провинившегося больше не совершать преступления;
3. Наказание носит материальный характер и компенсирует материальные затраты пострадавшей стороны.
Я считаю, что автоматическая машина просто обязана появиться на дорогах, как только испытания покажут, что она вызывает меньше ДТП, чем люди. Машина не будет ездить пьяной. Она не будет нарушать правил и подрезать другие машины. С учетом развития технологий, полагаю, что беспилотник будет большим завоеванием для человечества.
Другие рассуждения о морали:
© 2009 Технополис завтра
Перепечатка материалов приветствуется, при этом гиперссылка на статью или на главную страницу сайта "Технополис завтра" обязательна. Если же Ваши правила строже этих, пожалуйста, пользуйтесь при перепечатке Вашими же правилами.
