Мысленный эксперимент: Китайская комната

4 December 2018
2,2k full reads
3k story viewsUnique page visitors
2,2k read the story to the endThat's 76% of the total page views
2 minutes — average reading time

А сегодня у нас, возможно, самый знаменитый из мысленных экспериментов философии сознания и философии Искусственного Интеллекта, который называется «Китайская комната». Его предложил Джон Сёрль в 1980 году для, казалось бы, критики и опровержения возможности построения Сильного Искусственного Интеллекта. Давайте посмотрим, удалось ли это автору.

Нечто внутри комнаты, какова бы ни была его природа, ни бельмеса не понимает по-китайски.
Нечто внутри комнаты, какова бы ни была его природа, ни бельмеса не понимает по-китайски.
Нечто внутри комнаты, какова бы ни была его природа, ни бельмеса не понимает по-китайски.

Эксперимент выглядит так. Представим себе комнату, в которой сидит Джон Сёрль, который ни слова не знает по-китайски и не знает ни одного китайского иероглифа. Но у него есть большое количество томов, в которых на английском языке даны инструкции о том, как манипулировать китайскими иероглифами во всех возможных случаях, когда на вход в комнату подаётся записка на китайском языке. Когда это происходит, Джон Сёрль открывает свои тома и начинает манипулировать символами так, что в итоге у него на руках появляется «ответ», который он передаёт в выходное отверстие. Вопрос — понимает ли Джон Сёрль китайский язык, если на выходе всегда грамотные ответы по-китайски?

Мысленный эксперимент: Китайская комната

Проблема в том, что неясно, что такое «понимать». Сам Джон Сёрль может ничего не понимать, но система «Китайская комната» в техническом смысле понимает китайский язык и, возможно, делает это намного лучше, чем некоторые китайцы. Если Джон Сёрль задавался вопросом о наличии некоторого «внутреннего наблюдателя» (которого, к слову, и у нас в голове нет, это обывательская иллюзия), то это к вопросу о понимании не относится. Но мой личный ответ на этот эксперимент ещё проще: «Слабой ИИ-системе и не нужно ничего понимать, а что творится внутри Сильного ИскИна мы познать не сможем точно так же, как не можем познать субъективный мир человека от третьего лица». Ну вот как-то так.

Предыдущие рассмотрения мысленных экспериментов: