«Код разума» закодирован в геноме миллионами лет «эволюции с подкреплением»

14 May 2019

Это может стать Коперниковской революцией в понимании модели разума

Kоперниковская революция сменила парадигму модели мироздания — Земля перестала быть центром вселенной. Переход на гелиоцентрическую модель заложил основу научной революции не только в астрономии, но и во всем естествознании, радикально изменив образ мышления естествоиспытателей.

Революцией такого же масштаба в понимании разума

может стать «Задорская революция», манифест которой опубликовал профессор Энтони М. Задор.

Вот его суть.

1) Хватит морочить себе голову, и пора признать следующее.

  • Современные исследования в области ИИ вообще не ведут к созданию разума, а лишь имитируют его отдельные возможности (бумажный голубь тоже парит, но он — вовсе не птица, не модель птицы и даже не этап к построению модели птицы).
  • Во многих отношениях ИИ далек от возможностей интеллекта детенышей собаки, мыши или даже паука, и не похоже, что простое расширение существующих подходов позволит хоть когда-то достичь этих целей (многие животные эффективно функционируют после 10⁶ и даже меньшего количество секунд жизни: белка может прыгать с дерева на дерево через несколько недель от рождения, жеребенок может ходить через несколько часов, а пауки рождаются готовыми к охоте).
  • Никакими из существующих методов машинного обучения эту проблему не решить в принципе (земные живые существа не имеют такого времени и объемов данных, что требуются даже при самых продвинутых и эффективных методах машинного обучения).
  • Разрыв между мышью и человеческим интеллектом намного меньше, чем между нынешним ИИ и мышью. Это значит, что даже если наша конечная цель — догнать (не то что перегнать) человеческий интеллект, разумной ближайшей целью для ИИ было бы достичь интеллекта мыши.

2) Результаты исследований тысяч всевозможных типов разума живых существ однозначно показывают.

  • БОльшая часть сенсорных представлений и поведения живых существ врожденная. Например, многие обонятельные стимулы являются врожденно привлекательными и аппетитными (кровь для акул) или отвратительными (моча лисы для крысы). Ответы на зрительные стимулы также во многом врожденные. Например, мыши убегают от любой движущейся тени, что позволяет быстро обнаруживать и избегать воздушных хищников.
  • Роль врожденных механизмов выходит далеко за рамки простого установления реакций на сенсорные представления. Значительная часть поведенческого репертуара животных и людей является не результатом умных алгоритмов обучения — контролируемых, неконтролируемых, с подкреплением — а скорее программами поведения, уже присутствующими при рождении.
  • Выживание животного требует решения «проблемы К2БС» — кормление, борьба, бегство и спаривание. Решения многократного и, возможно, только с небольшими изменениями. Также и человек рождается и имеет очень ограниченное время — от нескольких дней до нескольких лет — чтобы выяснить, как решать К2БС проблему. Если ему это удается, он передает часть своего решения (т.е. половину своего генома) следующему поколению.

3) Если только не допустить вмешательство Бога, у нас нет иного объяснения передачи паттернов поведенческих умений между поколениями, чем геном.

  • Если большая часть поведения животного является врожденной, то жизненный опыт животного представляет лишь небольшую часть данных, которые способствуют его приспособленности. Другой потенциально гораздо больший пул данных способствует его врожденному поведению и представлениям. Эти врожденные формы поведения и представлений возникают в результате эволюции путем естественного отбора. Они кодируются в геноме и принимают форму правил прошивки мозга, определяющих структуру и интенсивность связей нейронов.
  • Таким образом, эволюция, как и обучение, также может рассматриваться как механизм извлечения статистических паттернов, хотя и в гораздо более длительном масштабе времени, чем обучение. Эволюция может рассматриваться как своего рода алгоритм обучения с подкреплением, действующий на временной шкале поколений, где сигнал подкрепления состоит из количества потомства, которое генерирует индивид.
  • Для ИИ нужны иные (новые) классы алгоритмов. Принципиальный изъян сегодняшних алгоритмов обучения ИИ в том, что эти алгоритмы НЕ являются аналогом обучения животных. Поскольку большинство данных, влияющих на приспособленность животного, кодируются эволюцией в геном, новые алгоритмы должны имитировать это свойство эволюции. Иными словами, нужно идти от Supervised Learning к Supervised Evolution, а потом и к «эволюции с подкреплением» — Reinforcement Evolution.

4) Мы думали, что понимаем код генома … Но мы ошиблись — все существенно сложнее

  • Врожденные механизмы кодируются в геноме. В частности, геном кодирует чертежи для подключения нервной системы — чертежи и спецификации прошивки топологии и силы связей нейронов. Эти чертежи были отобраны эволюцией в течение сотен миллионов лет, работая с бесчисленными квадриллионами живых существ. Схемы, указанные в этих чертежах, обеспечивают основу для врожденного поведения, а также для любого обучения, которое происходит в течение жизни животного.
  • Геном не обладает достаточной информационной емкостью, чтобы явно указывать каждое соединение (даже если бы каждый нуклеотид человеческого генома был бы направлен на эффективное определение связей в мозге, информационная емкость все равно была бы по меньшей мере на шесть порядков меньше необходимой). Вместо этого в геноме прописывается набор правил прошивки мозга во время его «изготовления» и функционирования. Даже короткий набор правил может легко определить проводку очень большого числа нейронов. Кроме того, в основе прошивки лежит использование множества копий базовой «канонической микросхемы», используемой не только для прошивки сенсомоторных и прочих чувственных элементов разума, но и для прошивки врожденных схем усвоения языка — привет Ноаму Хомскому, механизма рассуждений и здравого смысла(подробней см. в «манифесте Задорской революции»).
  • Итого получается, что геном не кодирует представления или поведение напрямую, а кодирует правила и шаблоны прошивки, которые затем должны создавать экземпляры поведения и представлений. Как кодирует — мы пока не знаем. Но именно эти правила прошивки («Код разума») и являются целью всей эволюции. Чтобы расшифровать «Код разума», нужен, как минимум, инструментарий для точного считывания прошивки на уровне каждого нейрона. И мы к такому инструментарию приближаемся.

Резюме.

Идя таким путем, мы, наконец, поймем ошибочность метафоры ИИ, использовавшейся нами десятки лет — метафоры полета птицы в основе построения самолета.

Тот универсальный ИИ общего назначения, что мы пытаемся строить в рамках вышеназванной метафоры — вовсе не будет универсальным. Да, он будет летать. Но при этом он останется настолько ограниченным, что никогда не сможет соответствовать человеческим возможностям.

Ведь и самолет по некоторым показателям значительно превосходит птицу: он может летать намного быстрее, на большей высоте, на большие расстояния, с гораздо большей грузоподъемностью. Но самолет не может нырнуть в воду, чтобы поймать рыбу, или бесшумно сбежать с дерева, чтобы поймать мышь.

Точно так же современные компьютеры по некоторым показателям уже значительно превзошли вычислительные способности человека (например, в шахматах или Го), но не могут сравниться с людьми по универсальности интеллекта.

Если мы хотим спроектировать систему, которая может делать то, что делаем мы, нам нужно построить ее в соответствии с теми же принципами проектирования.

Вместо заключения.

PRO

Автор «манифеста Задорской революции» Anthony M. Zador — известный американский нейробиолог, профессор биологии и зав. кафедрой нейронаук в Cold Spring Harbor Laboratory, соучредитель конференции по вычислительной и системной неврологии, обладатель звания Foreign Policy Global Thinker за 2015 и победитель премии Gill Transformative Investigator Award за 2018.

Т.е. это очень серьезный дядя. И отнестись к его «манифесту» следует весьма серьезно.

CONTRA

Опубликованный «манифест» — A Critique of Pure Learning: What Artificial Neural Networks can Learn from Animal Brains — пока что препринт и еще не прошел рецензирования.

Но, черт побери, мне он очень нравится!

________________________________

Если понравился пост:
- нажмите на “палец вверх”;
- подпишитесь на обновления канала на платформе Яндекс Дзен;
- оставьте комментарий.
Еще больше материалов на моем Телеграм канале «Малоизвестное интересное». Подпишитесь