Мы думали это ИИ, а это …

Надежды на создание думающих машин, следуя мейнстриму современных IT технологий, — беспочвенны. Даже самая мощная и навороченная из современных вычислительных систем — просто «овощ», с момента «рождения» себя не осознающий и не имеющий ответных реакций на самого себя и на окружающий мир. Поэтому такой «овощ» ничего не понимает, ничего не познает и не может иметь опыта. А все, что он для нас делает (играет в Го, ведет авто и т.д.), — делается им, не приходя в сознание, как бы во сне или в бреду, на уровне бессознательных рефлексов, коим он обязан загруженному в него человеком программному коду.

Современный компьютер — просто «овощ»

Причин того, что современные компьютеры просто «овощи», по большому счету, две.

1) Вычислительные процессы (компьютинг), осуществимые на современных вычислительных системах (компьютеры и работающие на них программы), способны выполнять лишь те задачи, которые у людей выполняются на уровне подсознания — рефлексы, инстинкты и прочие реакции, не требующие их осознания. Аналогично тому, как мы не в состоянии осознавать биохимические управляющие воздействия гормональной системы на нашу психику, современные вычислительные системы не способны осознавать процессы осуществляемого внутри них компьютинга.

2) Люди (как и все живые биологические существа) с первой секунды жизни:

  • погружаются в колоссальный поток ощущений внешней среды;
  • фильтруют и систематизируют эти ощущения, переводя их на язык чувств и мыслей, формирующих и постоянно расширяющих опыт конкретной личности (это я);
  • моделируют отображение внешнего мира и собственной личности, ведя постоянный мониторинг динамики их взаимодействий, рефлексируя над ними (порождая в ходе этого новые мысли о мыслях) и познавая их (выстраивая собственную уникальную систему знаний о мире и о себе).

Так значит ли это, что раз даже самый навороченный компьютер — просто «овощ», то и все достижения в области ИИ (распознающие и переводящие нейронки, все более совершенствующееся машинное обучение и т.д.) ни на йоту не приближают человечество к по-настоящему думающим машинам?

Известный французский нейробиолог профессор экспериментальной когнитивной психологии Станислас Деан — автор оригинальной теории сознательной и бессознательной обработки информации в мозге человека — доказывает, что это не так.

Профессор Станислас Деан
Профессор Станислас Деан

Сознание, как результат вычислений

Гипотезой сознательной и бессознательной обработки информации в мозге человека Деан занимается уже 13 лет, будучи профессором кафедры экспериментальной когнитивной психологии в Collège de France в Париже и руководителем Центра визуализации головного мозга (Service Hospitalier Frédéric Joliot of the Commissariat à l’Energie Atomique).

Но лишь в 2017 ему с коллегами из 3х университетов (Парижский, Калифорнийский, Гонконга) и 2х научно-исследовательских центров (INSERM — Франция и Psychology and Brain Research Institute — США) удалось, обобщив результаты около сотни исследований, превратить эту гипотезу в полноценную теорию, подкрепленную широким спектром доказательств.

Международная группа исследователей обосновала альтернативное понимание (модель) интеллекта когнитивных систем (человека, компьютера, животных), как результата эволюционно усложняющегося вычислительного процесса, порождающего трехуровневый феномен, называемый нами сознание.

Искусственная реализация новой модели интеллекта на основе компьютеров потребует кардинального изменения их архитектуры, поскольку доминирующая сегодня архитектура Фон Неймана способна осуществлять компьютинг, соответствующий лишь низшему уровню сознания — подсознанию.

В работе Деана и его коллег определены 3 вычислительных уровня сознания: «Бессознательное», «Осознанный доступ к информации» и «Осознанное самоопределение».

1) Низший уровень С0 — «Бессознательное». Этот уровень функционирует у живых организмов даже в состоянии, когда они себя не осознают (сон, наркоз, кома, вегетативное состояние) можно моделировать на компьютерах ровно так, как это сейчас делается, например, при глубоком машинном обучении. При этом, рассчитывать на понимание того, как и почему машина приходит к тому или иному решению (основная проблема «черного ящика ИИ») не приходится. Как и при принятии подсознательных решений у человека, мотивы и логика компьютерных решений остаются недоказуемы, а мы можем лишь строить для них те или иные объясняющие гипотезы.

Схема исследований сознания, порождаемого вычислениями на уровне С0 — «Бессознательное». Источник http://science.sciencemag.org/content/358/6362/486
Схема исследований сознания, порождаемого вычислениями на уровне С0 — «Бессознательное». Источник http://science.sciencemag.org/content/358/6362/486

2) Для функционирования полноценного сознания, помимо уровня С0, необходимо наличие 2х более высоких уровней С1 и С2, отсутствующих в современных компьютерах.

Уровень С1 реализует «Осознанный доступ к информации». На этом уровне из моря накопленной и постоянно поступающей в мозг информации выделяется фрагмент, доступный для осознания в качестве мысли. Из обширного репертуара потенциально возможных мыслей, которые могут быть осознанны в данный момент, уровень С1 выделяет и усиливает одну.

Схема исследований сознания, порождаемого вычислениями на уровне С1 — «Осознанный доступ к информации». Источник http://science.sciencemag.org/content/358/6362/486
Схема исследований сознания, порождаемого вычислениями на уровне С1 — «Осознанный доступ к информации». Источник http://science.sciencemag.org/content/358/6362/486

Уровень С2 реализует «Осознанное самоопределение» (самоконтроль). Он занимается мониторингом и самонаблюдением над тем, что происходит в С1, обеспечивая мозг информацией о самом себе. Это «чувство» сознания соответствует тому, что обычно называют интроспекцией, или тому, что психологи называют «мета-познанием» — способностью строить и использовать внутренние представления о собственных знаниях и способностях.

Схема исследований сознания, порождаемого вычислениями на уровне С2 — «Осознанное самоопределение». Источник http://science.sciencemag.org/content/358/6362/486
Схема исследований сознания, порождаемого вычислениями на уровне С2 — «Осознанное самоопределение». Источник http://science.sciencemag.org/content/358/6362/486

3) На примерах нескольких десятков исследований авторы показывают, что сложные вычисления, — такие как распознавание лиц и речи, оценка шахматной позиции, синтаксический анализ предложения и извлечение смысла — осуществляются в человеческом мозге бессознательно на уровне С0 без участия уровня «Осознанный доступ к информации» С1 и «Осознанное самоопределение» С2 (см. таблицу).

Именно поэтому современные системы глубокого обучения столь преуспевают во всех таких «бессознательных» видах деятельности.
Примеры вычислений, относящихся к уровням обработки информации C0, C1 и C2 в мозге человека (в правой колонке ссылки на источники данных). Источник http://science.sciencemag.org/content/358/6362/486
Примеры вычислений, относящихся к уровням обработки информации C0, C1 и C2 в мозге человека (в правой колонке ссылки на источники данных). Источник http://science.sciencemag.org/content/358/6362/486

Дабы убедить читателя, что все эти уровни вычислений, «бессознательное» и т.д. не наукообразная абстракция, а самая что ни на есть практическая штука, вот замечательный пример.

Вы увидите и поймете, как работает уровень С0 на своем собственном примере, посмотрев на иллюзию с тенью на шахматной доске, разработанную Эдвардом Адельсоном — профессором Brain and Cognitive Sciences MIT.

Иллюзия с тенью на шахматной доске Эдварда Адельсона
Иллюзия с тенью на шахматной доске Эдварда Адельсона

Вы видите двух коней: темного оттенка серого цвета на таком же темном поле и светлого оттенка серого цвета на таком же светлом поле. Но это иллюзия — оба коня и оба поля одного и того же оттенка серого цвета (желающие проверить см. сюда).

Как это происходит? Наша работающая в подсознании визуальная подсистема обнаруживает присутствие темной зоны на изображении, которую она интерпретирует как тень, и вычитает ее из изображения, чтобы мы могли видеть «истинный» оттенок шахматных полей и фигур. В результате один конь и его поле выглядят ярче, чем другой конь и поле под ним.
Любая машина, цель которой состоит в том, чтобы извлечь подлинный внешний вид объектов, избавляясь от теней и других дефектов изображения, должна пройти тот же процесс вывода. В этом смысле многие бессознательные вычисления мозга или современной нейронки являются рациональными вычислениями. И как ни парадоксально, любая нейронка (или иная машина), «стремящаяся» к объективности, будет подвержена подобным человеческим иллюзиям.

Уровень «самоконтроля» С2, среди прочего, осуществляет выявление ошибок (расхождения представлений мозга и действительности) и формирует мета-память (систему второго порядка, которая контролирует внутренние сигналы (такие, как сила и качество информационных следов в памяти) для регулирования поведения.

Самое важное, что уровни С1 и С2 в своей работе демонстрируют синергию, конечным продуктом которой является то, что мы называем сознанием.

Ослабление или сбои в работе одного из уровней ведет ко всевозможным нарушениям сознания (например, сбои С2 ведут к галлюцинациям). При полном отсутствии хотя бы одного из этих 2х уровней сознание невозможно.

Это вам не паровозный свисток

У этой выдающейся работы 3 фундаментальных следствия. Каждое из них — поворотное для понимания когнитивных систем.

✔️ Стало понятно, что сознание не просто эпифеномен (бесполезный побочный эффект деятельности мозга, подобно свистку поезда).

Сознание — это результат эволюции интеллекта, приведший к возникновению у него новых уникальных когнитивных возможностей.

✔️ Несмотря на то, что вот уже несколько веков считается, что сознание несводимо к чисто физическим процессам, эмпирические данные свидетельствуют об обратном.

Существует возможность (пока что чисто теоретическая) возникновения сознания в результате исключительно вычислительных процессов обработки информации.

✔️ Уровень сознания (точнее, подсознания) С0 реализуем на современных компах, что позволяет автоматизировать широкий спектр функций, обычно выполняемых человеком на подсознательном уровне.

Т.е. то, что мы сегодня называем ИИ, следует называть 
ИП — искусственное подсознание.
 Одновременное функционирование всех трех уровней С0, С1, С2 на компах с традиционной архитектурой не представляется возможным.

Какая же она — новая компьютерная архитектура для настоящего ИИ?

Архитектура вычислительных систем, способная выполнять функции всех трех уровней сознания, должна позволять реализовать, как минимум, следующие 4 подсистемы интеллекта.

А) Единое рабочее пространство для глобального обмена информацией.
 Это некая система обмена информацией, позволяющая всем приложениям, работающим на компе, «знать», что делают остальные приложения и иметь доступ к обрабатываемой и порождаемой ими информации.

Б) Справочник самопознания.
 Это система, обеспечивающая машине внутреннее представление собственных способностей и возможностей, а также того, что она должна делать и как она может себя вести.

В) Система метакогнитивного знания (познание о познании).
 Это система, обеспечивающая машине:

— знание о том, чего она не знает;

— обнаружение ошибок, постоянно сравнивая текущую деятельность с предыдущими ожиданиями и спонтанно реагируя, если результаты не соответствуют ожиданиям;

— корректировку ошибок путем постоянного поиска альтернативных способов получения правильного ответа.

Г) Система обеспечения универсального формата самопознания.
 Это система, обеспечивающая машине способность представлять самопознание в том же формате, что и знание других. Т.е. машина, как и любой человек, должна имеет четкие представления о том, что она знает; что другие знают; что она знает, что другие знают; что она знает, что другие не знают; что другие знают, что она не знает; и т. д.

Вместо заключения

Все вышеизложенное относится не только к человеку, компьютеру или, допустим, к дельфину. Речь идет о том, как в результате вычислений в любой когнитивной системе возникают сознание и интеллект.

Осталось пояснить, что же такое когнитивные системы.

Похоже, что в 2017 произошел пороговый переход, после которого понятия ИИ, глубокое обучение и т.п. становятся для науки терминологией вчерашнего дня, а их обсуждение — уделом инженеров, а не ученых.

На смену этим устаревающим понятиям в 2018 приходит понятие когнитивная система.

Для этого понятия существует 2 интерпретации:

1) Маркетинговая (придуманная маркетологами IBM для продвижения на рынке своей ИИ-платформы Watson).

Согласно этой интерпретации, когнитивные системы — это категория технологий, использующих обработку естественного языка и машинное обучение, чтобы люди и машины могли более естественно взаимодействовать, расширяя и увеличивая человеческий опыт и познание. Эти системы будут учиться и взаимодействовать, чтобы предоставлять экспертную помощь ученым, инженерам, юристам и другим специалистам, ускоряя и делая более точной их работу на несколько порядков.

2) Научная — синергетический продукт меж- и транс-дисциплинарной кооперации традиционных дисциплин (психология, наука об ИИ и компьютерах, нейронаука, философия, лингвистика, антропология), инжиниринговых дисциплин (теории управления, робототехники и пр.) и социальных наук (экономика, социология, политическая наука).

Согласно этой интерпретации, когнитивные системы — это системы, которые:
— воспринимают и изучают окружающую среду,
— учатся на собственном опыте,
— приспосабливаются к изменяющимся обстоятельствам,
— предвосхищают результаты событий и собственных действий,
— действуют для достижения своих целей.

Другими словами, эти системы когнитивны, потому что таков эволюционный путь природы для борьбы с неопределенностью.

_________

Статья по результатам исследования https://goo.gl/pWTA9o

Видео (29 мин) и транскрипт презентации этой работы https://goo.gl/FPQPjG

Статьи об этой работе в СМИ https://goo.gl/PofpME

_________

Хотите читать подобные публикации? Подписывайтесь на мой канал в Телеграме, Medium, Яндекс-Дзене

Считаете, что это стоит прочесть и другим? Дайте им об этом знать, кликнув на иконку “понравилось”.