Перспективы гуманизации ИИ-революции

18 November 2018
Кай Фу Ли написал книгу «Суперсилы ИИ», одна из глав которой опубликована в Wall Street Journal. Перевод этой адаптированной и опубликованной главы я предлагаю вам.

Искусственный Интеллект радикально разрушит мир трудовых отношений, но выбор правильной политики может сделать его силой для более гуманизированного социального контракта.

Искусственный Интеллект — это технология, которая возбуждает человеческое воображение. Как будет выглядеть наше будущее, когда мы разделим Землю с интеллектуальными машинами? Наши умы тяготеют к крайностям, к резко контрастирующим видениям, которые привлекли внимание общественности и разделили большую часть технологического сообщества. Будучи давним исследователем ИИ и венчурным капиталистом в Китае и США, я наблюдал эти два лагеря на континентах и на протяжении многих десятилетий.

ИИ-утописты считают, что когда ИИ намного превзойдёт человеческий разум, он предоставит нам почти магические возможности для облегчения страданий и реализации человеческого потенциала. В этом видении сверх-интеллектуальные ИИ-системы будут так глубоко понимать Вселенную, что они будут действовать как всемогущие оракулы, отвечая на самые неприятные вопросы человечества и предлагая блестящие решения таких проблем, как болезни и изменения климата.

Но не все так оптимистичны. Самый известный член дистопического лагеря — технологический предприниматель Илон Маск, который назвал сверх-интеллектуальные ИИ-системы «самым большим риском, с которым мы сталкиваемся как цивилизация», сравнивая их создание с «вызовом демона». Эта группа предупреждает, что когда люди создадут самосовершенствующиеся ИИ-системы, чей интеллект затмит наш собственный, мы потеряем способность понимать или контролировать их.

Какое видение принять? Я бы сказал, что ни то, ни другое. Они просто невозможны на основе технологии, которая у нас есть сегодня, или каких-либо прорывов, которые могут произойти в ближайшее будущее. Оба сценария потребуют «Общего Искусственного Интеллекта», то есть ИИ-систем, которые могут справиться с невероятным разнообразием задач, выполняемых человеческим мозгом. Для этого скачка потребуются несколько фундаментальных научных прорывов, каждый из которых может занять много десятилетий, если не веков.

Реальные битвы, которые лежат перед нами, не будут иметь апокалипсической драмы голливудских блокбастеров, но они всё равно нарушают структуру наших экономических и политических систем. Надвигающийся перед нами кризис в ближайшие десятилетия — это кризис рабочих мест, неравенства и смыслов. Новая технология уничтожит огромную часть работы, как мы её знаем, резко увеличивая разрыв в богатстве и ставя под угрозу человеческое достоинство всех нас.

Это беспрецедентное разрушение не требует новых научных прорывов в области Искусственного Интеллекта, а просто основано на применении существующих технологий к новым задачам. ИИ поразит многих белых воротничков так же сильно, как и синих воротничков, работающих на фабриках.

Несмотря на эти огромные проблемы, я по-прежнему остаюсь полным надежд. Если работать с осторожностью и предвидением, этот новый кризис ИИ мог бы дать нам возможность перенаправить нашу общественную энергию на более гуманные занятия — заботиться друг о друге и наших сообществах. Чтобы иметь хоть какой-то шанс построить такое будущее, мы должны сначала понять экономическую парадигму, которую мы собираемся пройти.

Многие техно-оптимисты и историки утверждают, что рост производительности от новых технологий почти всегда приносит пользу всей экономике, создавая больше рабочих мест и процветания, чем раньше. Но не все изобретения созданы равными. Некоторые изменения заменяют один вид труда (как, например, калькулятор), а некоторые разрушают целую отрасль (хлопковый джин). Но сейчас у нас технологические изменения в более масштабном пространстве. Они не просто затрагивают одну задачу или одну отрасль, а привносят изменения в сотни из них. За последние три столетия мы действительно видели только три таких изобретения: паровой двигатель, электрификация и информационные технологии.

«Хан» — гуманоидный робот, разработанный Hanson Robotics.
«Хан» — гуманоидный робот, разработанный Hanson Robotics.

Рассматривая меньший набор данных, перед нами предстаёт смешанный пакет экономических последствий. Паровой двигатель и электрификация создали больше рабочих мест, чем они уничтожили, отчасти, декомпозировав работу одного мастера на более простые задачи, выполняемые десятками фабричных рабочих. Но информационная технология (и связанная с ней автоматизация заводов) часто цитируется экономистами как главный виновник потери заводских рабочих мест в США и усиления неравенства в доходах.

Революция Искусственного Интеллекта будет иметь значение промышленной революции, но, вероятно, произойдёт она сильнее и определённо быстрее. В то время как паровая машина заместила только физический труд, ИИ может выполнять как интеллектуальный, так и физический труд. И в то время как промышленная революция длилась на протяжении века, чтобы распространиться за пределы Европы и США, ИИ-решения уже возникают одновременно по всему миру.

Главное преимущество ИИ перед людьми заключается в его способности обнаруживать невероятно тонкие закономерности в большом количестве данных и учиться на них. В то время как сотрудник по ипотечному жилищному кредитованию будет рассматривать лишь несколько относительно грубых факторов при принятии решения о предоставлении вам кредита (ваш кредитный рейтинг, доход и возраст), ИИ-алгоритм будет рассматривать тысячи меньших переменных (какой веб-браузер вы используете, как часто вы покупаете продукты и т. д.). По отдельности прогностическая сила каждого из них крохотная, но вместе они дают гораздо более точное предсказание, чем способны самые взыскательные люди.

Гуманоидные роботы становятся всё лучше в ходьбе, разговоре и выглядят как люди. Но по мере того, как они продолжат развиваться, будем ли мы, настоящие люди, проводить с ними время? И насколько они полезны?
Гуманоидные роботы становятся всё лучше в ходьбе, разговоре и выглядят как люди. Но по мере того, как они продолжат развиваться, будем ли мы, настоящие люди, проводить с ними время? И насколько они полезны?

Для когнитивных задач эта способность учиться означает, что компьютеры больше не ограничиваются выполнением простого набора инструкций, написанных людьми. Вместо этого они могут постоянно учиться новым данным и работать лучше, чем их человеческие программисты. Для физических задач роботы больше не ограничиваются повторением одного набора действий (автоматизация), но вместо этого могут создавать новые пути на основе визуальных данных и данных датчиков, которые они принимают (автономность).

Вместе всё это позволяет ИИ взять на себя бесчисленные задачи в обществе: водить машины, диагностировать болезни или оказывать поддержку клиентам. Сверхчеловеческое выполнение ИИ этих задач приведёт к значительному увеличению производительности. Согласно исследованию, проведённому в июне 2017 года консалтинговой фирмой PwC, развитие ИИ увеличит к 2030 году совокупное богатство мира на 15.7 трлн долларов. Это отличная новость для тех, кто имеет доступ к большим объемам капитала и данных. Это очень плохая новость для тех, кто зарабатывает себе на жизнь, выполняя работу, которая вскоре будет заменена.

Однако существуют и ограничения в возможностях современного ИИ, и эти ограничения намекают на надёжный путь вперёд. Хотя ИИ отлично справляется с оптимизацией для узких целей, он не может выбирать свои собственные цели или мыслить творчески. И хотя ИИ является «сверхчеловеком» в холодном мире чисел и данных, ему не хватает социальных навыков или эмпатии — способности заставить другого человека чувствовать себя понятым и окружённым заботой. Аналогично, в мире робототехники ИИ способен справляться со многими грубыми задачами, такими как контроль запасов товаров или вождение автомобилей, но ему не хватает тонкой ловкости, необходимой для ухода за пожилым человеком или младенцем.

Что это значит для рабочих, которые боятся быть заменёнными? Рабочие места, которые являются асоциальными и рутинными, например, производители фастфуда или страховые агенты, скорее всего, будут заменены во всей полноте. Для рабочих мест, которые рутинны, но являются социальными, таких как бармены и врачи, многие ключевые задачи будут выполняться ИИ, но остаётся интерактивный компонент, который будет продолжать выполняться людьми. Рабочие места, которые останутся безопасными, по крайней мере на данный момент, — это те, которые находятся вне досягаемости возможностей ИИ с точки зрения творчества, стратегии и коммуникабельности, от социальных работников до руководителей.

Даже там, где ИИ не уничтожит рабочие места напрямую, он ещё больше усугубит неравенство. ИИ по своей сути монополистичен: компания с большим количеством данных и лучшими алгоритмами будет получать всё больше и больше пользователей и данных. Этот самоподкрепляющий цикл приведёт к одному победителю на всех рынках, причём одна компания будет получать огромные прибыли, в то время как её соперники умрут.

Подобная консолидация будет происходить и по профессиям. Работы, которые будут оставаться относительно изолированными от ИИ, попадают на противоположные стороны спектра доходов. Руководители, медсёстры по уходу на дому, адвокаты и парикмахеры — все они находятся в «безопасных» профессиях, но люди в некоторых из этих профессий будут купаться в богатстве ИИ-революции, в то время как другие будут конкурировать с огромным множеством отчаявшихся сослуживцев.

Мы не можем знать точную форму и скорость воздействия ИИ на рабочие места, но более широкая картина вполне ясна. Это не будет нормальным творческим разрушением капитализма, процессом, который неизбежно приведёт к новому равновесию большего количества рабочих мест, более высокой заработной плате и лучшему качеству жизни для всех. Многие из механизмов саморегуляции свободного рынка будут разрушаться в экономике ИИ. XXI век может принести новую кастовую систему, расколотую на плутократическую элиту ИИ и бессильные борющиеся массы.

Недавняя история показала нам, насколько хрупки наши политические институты, и социальные принципы могут оказаться перед лицом разрушительных перемен. Если мы позволим экономике ИИ работать естественным путём, геополитическая волна последних лет будет выглядеть как детская игра.

На персональном и психологическом уровне раны могут быть ещё глубже. Общество подготовило большинство из нас, чтобы связать наши личные ценности с целью достижения успеха и работы. В ближайшие годы люди будут смотреть на то, как алгоритмы и роботы легко переплюнут их в выполнении задач, на овладение которыми они потратили жизнь. Я боюсь, что это приведёт к сокрушительному чувству бесполезности и устаревания. В худшем случае это заставит людей подвергать сомнению их собственную ценность и то, что значит быть человеком.

Так что можно сделать?

Это мрачное видение разделяют многие технологи в Силиконовой долине, и оно направило их на поиски решений. Как архитекторы и бенефициары века ИИ, они чувствуют сочетание подлинной социальной ответственности и страха перед тем, что ИИ обратится против них, когда появится. В своём стремлении к быстрому исправлению многих из техноэлиты захватила идея базового основного дохода: безусловную денежную стипендию, предоставленную правительством, чтобы каждый гражданин мог удовлетворить свои основные потребности.

Я вижу призыв. БОД — это то, что любят предприниматели из Силиконовой долины: элегантное техническое решение проблемных социальных проблем. БОД может быть волшебной палочкой, которая позволит им избавиться от грязных сложностей человеческой психологии и вернуться к созданию технологий, которые «делают мир лучше», делая их богатыми. Это подход, который хорошо отражает то, как они склонны рассматривать общество: как набор «пользователей», а не как граждан, клиентов и людей.

Но мы можем сделать лучше. Некоторая форма гарантированного дохода действительно может понадобиться, но если мы разрешим такой поддержке стать окончательным решением, мы упустим возможность, предоставленную этой преобразующей технологией. Вместо того, чтобы просто отказаться от экономического обезболивающего, как БОД, мы должны использовать экономическую щедрость, генерируемую ИИ, чтобы удвоить то, что отличает нас от машин: человеческое сочувствие и любовь.

Такая революция, заключающаяся в том, как мы относимся к работе, потребует переосмысления во всех частях общества. В бизнесе вместо простого применения ИИ в качестве средства сокращения затрат посредством автоматизации предприятия можно создавать новые рабочие места, отыскивая симбиоз между оптимизацией ИИ и человеческими взаимоотношениями. Это будет особенно сильным в таких областях, как здравоохранение и образование, где ИИ может дать важные идеи, но только люди могут доставлять их с заботой и состраданием.

Помимо бизнеса правительствам всего мира необходимо начать думать о том, как использовать богатства, созданные ИИ, для переосмысления социального договора и переориентации наших экономик на поощрение человеческого процветания.

«Пеппер» — робот, изготовленный SoftBank Robotics и предназначенный для взаимодействия с людьми.
«Пеппер» — робот, изготовленный SoftBank Robotics и предназначенный для взаимодействия с людьми.

В центре этого видения, я бы сказал, должно быть то, что я называю Стипендией социальных инвестиций, почётной государственной зарплатой для тех, кто посвящает своё время трём категориям деятельности: забота, общественное обслуживание и образование. Эти мероприятия станут основой нового социального договора, приносящего пользу общественно полезной деятельностью, так же, как мы сегодня вознаграждаем экономически производительную деятельность. Идея проста: ввести больше амбиций, гордости и достоинства в работу, направленную на улучшение наших сообществ.

Работа по уходу может включать в себя уход за младенцами или воспитание детей младшего возраста, помощь пожилым родителям или помощь в жизни ребёнка с психическими или физическими недостатками в полной мере. Работа по обслуживанию будет сосредоточена на большей части текущей работы некоммерческих и добровольческих групп: руководить программами после школы, проводить экскурсии по паркам или собирать устные истории у старейшин в наших общинах. Поддерживаемые образовательные мероприятия могут варьироваться от профессиональной подготовки к работе в век ИИ, чтобы проводить занятия, которые превращают хобби в карьеру.

Требования к участию в стипендии не должны предназначаться для диктата образа жизни граждан. Будет достаточно широкий выбор вариантов для всех работников, которые были заменены Искусственным Интеллектом. Более ориентированные на людей могут выбрать работу по уходу, амбициозные могут записаться на высокотехнологичное обучение, а другие могут заняться общественным обслуживанием.

Требуя какой-либо социальный вклад для получения стипендии, мы будем развивать общественную философию, значительно отличающуюся от невмешательства индивидуализма БОД. Предоставление стипендии в обмен на участие в мероприятиях по строительству общин даёт чёткое послание: коллективные усилия людей в обществе позволили нам достичь этой точки экономического изобилия, и теперь мы должны использовать это изобилие, чтобы подтвердить друг перед другом нашу гуманность.

Разумеется, на многие трудные вопросы ещё предстоит ответить, прежде чем мы сможем рассмотреть возможность реализации такой радикальной и идеалистической политики. Насущная необходимость в создании и уплате значительного объёма Стипендии социальных инвестиций будет зависеть от темпа и характера экономического воздействия ИИ. Но гуманистические ценности, которые она воплощает, могут служить руководством, пока мы ориентируемся в предательских водах, лежащих впереди. Мы всё ещё можем использовать весь потенциал как машин, которые думают, так и людей, которые любят.

Это эссе является адаптированной главой из новой книги доктора Ли «Суперсилы ИИ: Китай, Силиконовая долина и Новый мировой порядок», которая опубликована Houghton Mifflin Harcourt 25 сентября. Кай Фу Ли является председателем и исполнительным директором Sinovation Ventures и бывшим президентом Google China.