Игорь Шнуренко «Победа технократов будет пирровой...»

27 April 2020

Игорь Шнуренко «Победа технократов будет пирровой...»

Герой интервью - признанный эксперт в области искусственного интеллекта, основатель платформы «U.today» и бывший главный редактор глобального издания о криптовалютах Cointelegraph. Эта беседа состоялась накануне выхода книги «Демон внутри» в издательстве «Пятый Рим».

О книге «Демон внутри», о новом опасном витке на пороге эры технократии, о неспокойном времени, заложником которого оказалось все человечество, речь и пойдет в нашей беседе.

Игорь Анатольевич, поговорим сначала о вещах простых. Почему у вас псевдоним Cyril Gilson, что он означает?

Пять лет назад, после публикации в издательстве «Современная литература» моего первого романа «Начальник башни», я поехал в заполярную тундру, где писал следующий роман и показывал разношерстным группам западных и восточных туристов Северное сияние, стойбища ненцев и стада оленей. И вдруг прямо туда мне позвонил знакомый знакомого из Петербурга и предложил редактировать на английском языке журнал о криптовалютах. Я ничего не знал о криптовалютах и сначала думал, что это какая-то финансовая пирамида, но врубившись, понял, что за ними стоят весьма интересные и симпатичные мне идеи децентрализации и избавления человечества от гнета банков. Я согласился и не пожалел. Авторы журнала со всех концов мира, от Мексики до Южной Африки, от Соединенных Штатов до Кореи, присылали мне свои тексты, а я доводил их до ума. Это издание, Cointelegraph, существует и сегодня, оно стало ведущим в своей области. Но с самого начала мне предложили взять англоязычный псевдоним, что принято среди русских, занимающихся криптовалютами. Практически никто из них не работает под своим настоящим именем, разве что Виталик Бутерин. Один из моих авторов, англичанин, живущий в Петербурге, предложил взять имя ирландца-священника из маленького городка, в котором он вырос. Он сказал, что священник тот был достойным человеком, большим любителем музыки. Ирландец, к сожалению, уже умер, но дело его, как видите, живет.

Что вас привело два года тому назад к изучению темы искусственного интеллекта?

Я ведь закончил физматшколу при Ленинградском университете и всегда интересовался наукой. Поэтому мне было относительно легко освоить не такую уж простую для неспециалистов тему криптовалют. Но в какой-то момент я почувствовал, что знаю об этом достаточно, и мне захотелось потренировать свой мозг на чем-то другом. Я написал пару статей о том, как IT-монополии вроде «Гугла» и «Амазона» подминают под себя рынки, и пока изучал вопрос, втянулся в тематику искусственного интеллекта. Я практически бросил все остальные занятия, ушел из своих изданий, днями просиживал в Ленинке (Российская национальная библиотека в Москве), читая серьезную литературу, прежде всего работы старых и современных философов. Философов – потому что интеллект напрямую связан с человеческим сознанием – единственной сущностью, в существовании которой мы можем быть на сто процентов уверены. Хотя сейчас есть очень модная точка зрения «отрицателей сознания». Не очень понятно, как можно, будучи в полном сознании, отрицать сознание, но это в так называемой аналитической философии очень распространенная точка зрения. Отрицают также реальность, при этом утверждая, что весь мир – сплошная математика и ничего больше. Все чаще дискутируется и тема того, что мы живем в копьютерной симуляции. Вообще сейчас, когда речь заходит о понятии «искусственный интеллект», люди никак не могут сойтись на том, а что, собственно, имеется в виду, и существует он вообще. Одни говорят, что ИИ придумали журналисты, другие представляют это неким всемирным заговором с целью заставить Россию вкладываться в то, чего нет, третьи, наоборот, считают, что Россия безнадежно отстала. Я поставил себе целью дойти до донышка и понять, что на самом деле скрывается за этим понятием, проследить всю цепочку работы искусственного интеллекта, понять, как это все устроено. Сегодня по большей части под ИИ подразумевают некий набор продвинутых технологий, который позволяет компьютеру решать задачи, когда-то считавшиеся прерогативой человека. Но мне это кажется, что это определение уводит в сторону от действительного понимания того, чем занимаются ученые и разработчики. Более правильно, как я думаю, определение искусственного интеллекта, данное одним из основателей лондонской лаборатории Deep Mind Шейном Леггом. Именно эта лаборатория разработала программу, победившую чемпиона мира по го. Он считает, что ИИ – это способность любого агента, реального или виртуального, ставить себе цели и решать разные задачи в меняющемся окружении. Если этот агент – человек, то интеллект естественный, а если машина – то искусственный. Конечно, такое понимание приводит к довольно страшным последствиям, потому что уже сейчас оказывается возможным создать агента или сеть агентов, которые бы управляли поведением человека от его рождения до смерти. В фокусе внимания разрабочиков и управление человеческими сообществами.

Могли бы предположить, будучи гражданином Советского Союза, основываясь исключительно на книгах фантастов, взять того же Станислава Лема или Стругацких, что человечество сделает шаг в сторону развития новых технологий компьютеризации, появлению всемирной паутины?

Наука и технологии во времена СССР развивались очень бурно, выходила масса научно-популярных журналов, прекрасные книги писали отечественные авторы, много издавалось и зарубежной литературы. Проблематика искусственного интеллекта и вообще развития науки была очень востребована в шестидесятые годы, даже на страницах массовых газет шли порой очень оживленные дискуссии. Я пошел в школу в тот год, когда американцы полетели на Луну, и, естественно, был еще слишком мал для таких споров, но когда я изучал тему, то увидел много интересного в подшивках старых советских газет. Например, в газете «Комсомольская правда» оживленно обсуждалось, что будут делать люди, когда машины будут выполнять за них всю работу. Некоторые говорили, что люди будут всецело заниматься творчеством, другие считали, что и сами люди будут походить на машины. Сейчас в подобных дискуссиях высказываются те же точки зрения, что и пятьдесят лет назад, ничего не поменялось. Кстати, мог бы порекомендовать всем книгу Станислава Лема «Сумма технологий». Она была написана в 1960-е годы, но идеи, высказанные там, крайне интересны и еще нескоро потеряют актуальность. Лем писал о виртуальной и дополненной реальности, об автоэволюции, а его идеи в области биокибернетики представляются мне весьма плодотворными для будущих исследований. Братья Стругацкие описывали социальное воздействие новых технологий, тот тупик, в который они способны поставить общество. Например, в известной повести «Трудно быть богом» Стругацкие ставили вопрос о цене прогресса, о том, допустимо ли ради него жертвовать человеческими жизнями. Но глубже всех из тогдашних фантастов понимал суть происходящего писатель Иван Ефремов. Кстати, по поводу всемирной паутины: у Ефремова был свой взгляд на развитие коммуникаций. Он предполагал, что человек будет развивать третью сигнальную систему, то есть внутренние возможности организма – с тем, чтобы люди могли обмениваться сообщениями на дальние расстояния силой мысли. Вместо это мы имеем сегодня посредничество машин, гаджетов, без которых люди уже не мыслят своего существования. Вообще, наука и техника сегодня развиваются совсем не так быстро, как думалось в 1960-е-70-е годы, я объясняю это прежде всего отсталым социальным устройством нашей цивилизации. Если ситуация не изменится, мы откатимся назад не только в области прав и свобод, в области технологий нас также будет ждать не прогресс, а регресс.

Можете ли вы назвать кого-то из ваших коллег, современных российских писателей, которые посвящали бы свои статьи и книги исследованию проблем ИИ?

Еще подростком я прочел всю доступную в Советском Союзе фантастику и практически к ней больше не возвращался, предпочитая классическую литературу. Но я знаю некоторых авторов, работающих в жанре фантастики, которые по-настоящему увлечены темой искусственного интеллекта. Это Максим Макаренков и Вадим Панов. Есть и авторы, которые пишут не художественные произведения, а серьезные статьи и книжки о реальном состоянии дел в сфере ИИ. Это генерал-майор милиции в отставке Владимир Овчинский, одно время возглавлявший Российское бюро Интерпола, а также член сообщества практиков конкурентной разведки Елена Ларина. Их книги отличаются глубиной проработки темы и источников, свежестью взгляда.

В вашей новой книге "Демон внутри" вы пишете: "Страна, отправившая в космос первого человека, перестала задумываться о будущем. Она живет в совершенно безумной реальности, в которой, с одной стороны, технологический процесс идет с огромной скоростью, а с другой не происходит никакого его осмысления". Может, дело в отсутствии моды на изучение ИИ или дело именно в инертности масс?

В своем романе «Час быка», написанном полвека назад, Иван Ефремов нарисовал общество, очень похожее на наше – и в масштабах страны, и в масштабах всей современной цивилизации. Его планета Торманс – от слова «пытка, страдание» - управляется олигархией, которая поставила под запрет стремление в космос, зато поощряет уход от реальности в мир иллюзий, например, через галлюциногены. Это общество – филиал ада, все в нем подчинено наживе и жажде власти, люди не верят ни правительству, ни друг другу, и планета оказывается на грани экологической катастрофы, от которой ее может спасти только внешнее вмешательство. Не правда ли, похоже на нас? Только в случае планеты Земля дела обстоят еще хуже: нужно добавить еще атомное оружие. Нежелание задумываться о будущем привело к сегодняшней глобальной пандемии, например, никто не слушал ученых, призывываших лет пятнадцать назад создать международный центр по прогнозу и борьбе с такими явлениями. В России и власти, и народ живут сегодняшним днем, люди привыкли думать, что будущее от них не зависит. То верили в некие бездушные законы социального развития, то в столь же бездушную невидимую руку рынка, на человека привыкли смотреть как на пешку. Власти уверены в том, что все в мире решают элиты, но и сами люди никому уже не верят, но считают, что не могут и ни на что повлиять. Бизнес сегодня вкладывает триллионы в интернет вещей, при этом никто не спрашивает у людей, нужна ли им земля, утыканная вышками 5G, умные утюги, холодильники и даже стены, которые будут за ними шпионить, позволяя компаниям захватить личное пространство людей и даже войти в их мысли. Примерно так же в Англии люди не сопротивлялись, когда их сгоняли с земли, чтобы устраивать на ней крайне выгодные овечьи пастбища.

Я бы сказал, что ваша книга естественнонаучная, если бы не наткнулся в конце книги на главу о Софии - роботе, с которым вы, как бы суммируя все вышесказанное ранее, говорите откровенно на разные темы. Вам с чем-то подобным приходилось сталкиваться в жизни: здесь или за рубежом?

Диалог – классическая форма философии. Вспомним Платона и других греческих философов, которые именно в такой непринужденной, естественной для человека форме приходили к очень глубоким выводам. Постоянно меняя точку зрения, мы делаем предмет обсуждения объемным. Способность вести воображаемый диалог, кстати, напоминает работу генеративно-состязательных нейросетей – а именно этот вид искусственного интеллекта сегодня достигает самых больших успехов. Врожденная, а вовсе не приобретенная, как считают некоторые модные ученые, способность к такому человеческого сознания меня потрясает. Речь здесь явно идет о самых глубинных основах реальности. Да и монологи в философии и литературе можно считать формой диалога между человеком и его Создателем. Так следует подходить и к воображаемому разговору на Патриарших, который я веду в своей книге с Софией. София реально существует, и я действительно встречался с ней и беседовал в Барселоне. Но, конечно, передо мной тогда был просто искусно сделанный робот с синтезатором речи, подключенный к компьютерному облаку. Облако и вырабатывало ответ на основе предыдущего опыта, полученного нейросетями. В моей книге София – искусственный интеллект - встречается со своим создателем – человеком и писателем – и ведет себя при этом вполне самостоятельно. Жжет своими вопросами и ответами настолько, что мне пришлось на этой главе закончить книгу, чтобы вещи окончательно не вышли из-под контроля.

В статье "Социальная сингулярность у ворот" вы говорите: "Нужно применить принцип "творческого разрушения" на самой стадии развития капитализма слежки. Нужно взорвать ее изнутри, предложив новые принципы развития и соответствующие им новые модели для социума и бизнеса". Вопрос: как образоваться той силе, способной выработать такие модели?

Такая сила может образоваться только внутри сообщества, образованного из людей, которые пытаются осознать, что происходит, понимая, что все главная проблема – у нас в головах. В мире и раньше существовали группы, которые искали выход из цивилизационного тупика. Сегодня их становится больше, ибо вопрос стоит о выживании человека или в лучшем случае о его превращении в удобного для управления белкового робота. Интересно, как быстро большинство власть имущих стали на «темную сторону»: оказалось, что госчиновниками и топ-менеджерами крупных корпораций управлять довольно легко, ведь пружинки их действий насквозь материальны. Сегодня государства становятся корпорациями, а крупные корпорации – государствами, вместе они стремятся встроить людей в матрицу подчинения и контроля. Тех, кто критикует модель капитализма слежки по существу, а тем более пытается предложить выход, они объявляют маргиналами и демонизируют. Есть много вполне. современных приемов манипуляции массовым сознанием, не связанных с откровенной цензурой. Например, они раскручивают какого-нибудь полусумасшедшего, который высказывает критические идеи, тем самым эти идеи дискредитируются. Или создается информационный шум, в котором тонет все имеющее смысл. Но в последнее время все чаще цензура работает старым, примитивным методом, просто запрещая неудобный контент. Такое мы наблюдаем в инфодемии, сопутствующей борьбе с коронавирусом.

В связи с выходом вашей статьи "Мир после коронавируса", где вы черным по белому говорите, что мир никогда уже не станет прежним. Можно ли считать фокус с коронавирусом, как грамотным социальным экспериментом, удавшимся?

Есть замечательная фраза, принадлежащая итальянскому писателю Томмазо де Лампедузе: «Если мы хотим, чтобы всё осталось по-старому, нужно всё поменять». В его романе «Леопард» сын князя Фабрицио говорит так отцу. Оба привыкли жить в роскоши и распоряжаться судьбами своих крестьян, но дело происходит в смутные времена, когда война за независимость под руководством Гарибальди поставила под вопрос их власть и собственность. Стоит заменить короля неаполитанского королем пьемонтским, считает сын, вступивший в армию Гарибальди. Тогда народ будет считать себя победившим, но для элиты все останется по-старому. Именно так поступает и сегодняшняя элита, когда использует новые технологии для сохранения своих привилегий и власти. Билл Гейтс может носить джинсы и встать в очередь за биг-маком, но это не сделает его человеком из народа. У него другие интересы, и именно эти интересы он будет до последнего отстаивать. А эти интересы у техноэлиты и стоящих за ними финансистов заключаются прежде всего в том, чтобы узаконить свой контроль над новой территорией. Эта территория – это мы, люди, наш опыт, наше поведение, которое они превратили в ресурс, при помощи систем искусственного интеллекта упаковывают в продукт и делают на нем фантастические деньги. Посмотрите на капитализацию компаний FAGMA – Facebook, Amazon, Google, Microsoft, Apple – которые через безальтернативность своих услуг контролируют сегодня значительнмую часть экономики мира (Китай при этом – отдельная история, но и там есть своя FAGMA). Фактически они становятся цифровыми феодалами, которым весь мир платит ренту просто за доступ в систему, вне которой не выжить. До эпидемии были попытки как-то ограничить их вторжение внутрь человека, ведь они нарушают и конституционные права – свободу слова, право на неприкосновенность личности и жилища. Но коронавирус и сопутствующие ему информационные вирусы, запугивание населения, нагнетание паники все изменили. Людям предложили ложный выбор между свободами и жизнью, и власти по умолчанию решили, что люди выбрали жизнь. Это дает им право на такие ограничения прав и свобод, которые еще совсем недавно казались немыслимыми. Те, кто считают, что после нынешнего кризиса «все будет как при бабушке», ошибаются. Ведь получив искомое, корпорации, ставшие государствами и государства, превратившиеся в корпорации, будут претендовать на новые территории. Они, например, захотят продавать уже не поведенческие, а управленческие продукты – то есть будут продавать управление людьми. Технически системы ИИ затачиваются именно под это.

В статье «Мир после коронавируса» Вы писали: «Быстрое глобальное распространение коронавируса стало возможным благодаря тем же массовым коммуникациям, глобализации, а может быть — кто знает — биотехнологиям и искусственному интеллекту». В этой же статье говорится, что такой вариант с пандемией был известен заранее и был опубликован годами раньше...

Да, действительно, существуют весьма интересные документы - например, один из четырех сценариев развития человечества, опубликованных фондом Рокфеллера и организацией “Глобальная сеть бизнеса” еще в 2010 году. В документе довольно подробно описывается некая пандемия, в результате которой по всему миру устанавливаются авторитарные режимы, а люди отдают свои права и свободы в обмен на безопасность. Что, если это был не сценарий, а план действий?

В 2008 году оксфордский Институт будущего человечества, в котором работает известный философ-“алармист” Ник Бостром, выпустил данные экспертного опроса по поводу глобальных катастрофических рисков. В этом документе риск того, что до 2100 года от пандемии, вызванной естественными причинами, погибнет более миллиона человек, оценивался в целых 60%. А вот угроза гибели человечества от искусственного вируса оценивалась в сорок раз выше риска всеобщего мора от вируса естественного! Те, кто говорят о том, что вирус не может быть создан искусственным образом, видимо, плохо знакомы с достижениями биотехнологий, где в последние годы произошли серьезнейшие прорывы. Что касается этических соображений, которые якобы могут помешать правительствам или корпорациям разработать такой вирус, то не стоит забывать, что подготовка к биологической войне никогда не останавливалась. Некоторые страны открыто пользуются эпидемией для продвижения своих интересов, например, подвергая эмбарго медицинские поставки своим противникам. А взять тот факт, что США засекретили данные об эпидемии коронавируса в армии и на флоте после того, как стало известно о массовом заболевании моряков на атомном авианосце “Теодор Рузвельт”. Точно так же, без единого выстрела, был выведен из строя единственный французский атомный авианосец. В мире много конфликтов, в том числе вооруженных, если предположительное заражение одной летучей мышью одного панголина вызвало такой эффект, то надо полагать, интерес к разработкам биооружия будет только расти. Можно не сомневаться, что биотехнологические лаборатории по всему миру в ближайшие годы ждет резкое увеличение финансирования, а во что это выльется через пять-десять-пятнадцать лет, можно только предполагать.

Есть и другие опасности, о которых сегодня почти никто не пишет. В 25 процентов оксфордские ученые оценили вероятность гибели миллиона человек до 2100 года от молекулярного нанотехнологического оружия типа “серой слизи”. При этом шанс гибели от него всего человечества в течение этого времени они оценивают как один из двадцати. Это, между прочим, в сто раз превышает вероятность для человечества погибнуть от пандемии типа той, через которую мы проходим сегодня. Те же цифры экзистенциальных рисков человечества, что и для “серой слизи”, Бостром приводит и для опасности, связанной с бесконтрольным развитием искусственного интеллекта.

После окончания нынешней эпидемии встанет вопрос: когда следующая? И как сделать так, чтобы какой-нибудь ученый не создал искусственный вирус, «серую слизь», «общий искусственный интеллект» или что-нибудь еще? Как лучше проследить за примерно десятью миллионами ученых по всему миру, ведь достаточно одного отщепенца - и какая-нибудь из угроз реализуется? С адаптацией систем 5G и интернета вещей следить за учеными – как впрочем, и за всеми остальными людьми - станет возможно 24 часа в сутки 7 дней в неделю. Все это не может не привести к расцвету по всей планете режимов, описанных в антиутопиях. Мы видим, как реализуются прозрения некоторых писателей XX века. Так, Китай движется в направлении общества, описанного в романе Евгения Замятина «Мы», Европа и США – на всех парах мчатся к «Дивному новому миру» Олдоса Хаксли, а Россия – вперед, в «1984» Джорджа Оруэлла.

Однако я думаю, что победа технократов будет пирровой. Вторая промышленная революция вызвала к жизни целый букет революций социальных. Самые совершенные системы контроля и управления не решат ни одной проблемы, ни одного противоречия. Я убежден, что нас ждет новая социальная сингулярность. Все изменилось, мир уже никогда не будет прежним, и всем нужно это осознать.

Беседовал Артем Комаров

https://5rim.ru/

Автор благодарит издательство "Пятый Рим" и лично Максима Макаренкова и Ольгу Зудову за помощь в подготовке интервью.