Мысленный эксперимент: Проблема вагонетки

18 June 2019
66k full reads
71k story viewsUnique page visitors
66k read the story to the endThat's 92% of the total page views
1 minute — average reading time

Мы уже несколько раз вспоминали так называемую «проблему вагонетки», когда размышляли о этической стороне применения автономных ИИ-систем. Пришло время более подробно узнать, что это такое. Так что сегодня в рамках наших упражнений в области философии сознания рассмотрим этот философский мысленный эксперимент из области этики, так как через пару встреч он понадобится нам для решения более конкретной задачи, связанной с Искусственным Интеллектом.

Впервые о проблема вагонетки написала Филиппа Фут в 1967 году. Оригинальная формулировка автора следующая:

Тяжёлая неуправляемая вагонетка несётся по рельсам. На пути её следования находятся пять человек, привязанные к рельсам сумасшедшим философом. К счастью, вы можете переключить стрелку — и тогда вагонетка поедет по другому, запасному пути. К несчастью, на запасном пути находится один человек, также привязанный к рельсам. Каковы ваши действия?

В рамках поставленной этической проблемы есть только два варианта решения — переключать стрелку или нет. Любые пространные размышления о том, что можно было бы сделать, чтобы спасти всех, в оригинальной постановке не рассматриваются. Соответственно, есть много вариантов обоснования того или иного выбора. Самый простой — требования утилитаризма, которое говорит, что смерть одного в любом случае лучше смерти пятерых, как бы ужасно это не звучало.

До сегодняшнего дня философы продолжают придумывать разные варианты формулировки, которые вскрывают различные аспекты этики и морали. И, в общем-то, проблема показывает, что этика и мораль — это очень лабильные, относительные категории, которые невозможно формализовать. Как пример — а что если привязанный на обходном пути и есть тот самый сумасшедший философ, который привязал пятерых несчастных к рельсам главного пути? Если дать такую новую вводную, то чуть ли не 100 % опрошенных скажут, что переключить стрелку не только нужно, но и должно.

В следующий раз расскажу вам нечто более странное и страшное из области этики и теории игр, за что некоторые возмущённые читатели вообще пишут что-то типа: «Философия должна быть запрещена». Подписывайтесь на канал и оставайтесь на связи.