Преобразование человечества в большие данные может стать причиной катастрофы.
СТИВ ПОЛСОН27 ДЕКАБРЯ 2018
Несколько лет назад Юваль Ной Харари был малоизвестным израильским историком с ловкостью для игры с большими идеями. Затем он написал « Сапиенс» - междисциплинарное изложение истории человечества, которое вошло в список бестселлеров и осталось там четыре года спустя. Как и « Оружие, микробы и сталь» Джареда Даймонда , Сапиенс предложил ослепительный исторический синтез, а также изворотливые высказывания Харари - «современное промышленное сельское хозяйство вполне может быть величайшим преступлением в истории» - сделанные для навязчивого чтения. Книга также принесла ему множество знаменитостей, в том числе Барака Обаму, Билла Гейтса и Марка Цукерберга.
В своей новой книге « 21 урок для 21-го века» Харари предлагает множество прогнозов на все, от новых технологий до политики и религии. Несмотря на то, что он стал любимцем Силиконовой долины, Харари открыто критикует то, как Facebook и другие технологические компании используют наши личные данные, и он беспокоится о том, что интерактивные взаимодействия заменяют реальные личные встречи. Большая часть книги размышляет о революционном влиянии искусственного интеллекта. Если компьютерные алгоритмы могут знать вас лучше, чем вы сами, есть ли место для свободной воли? И где это оставляет нашу политику?
Харари - быстрый собеседник, который, кажется, имеет мнение обо всем. Он удивительно уверен в себе и явно играет роль провокатора. Мы начали с того, что согласились с тем, что в этот момент истории что-то совсем другое. Мы находимся на пороге революции, которая изменит человечество либо для нашей вечной выгоды, либо для уничтожения - не ясно, какой именно. «Впервые в истории, - сказал Харари, - мы абсолютно не знаем, как будет выглядеть мир через 30 лет».
ХОМО МАЧИНА: Мы больше не боимся машины, говорит Харари, мы стали ею: «Мы больше не ищем информацию. Мы гуглим. Мы доверяем алгоритму Google и теряем возможность самостоятельно искать информацию ». Даниэль Набер / Викимедиа
Чем отличается этот момент в истории?
Отличается темп технологических изменений, особенно двойных революций в области искусственного интеллекта и биоинженерии. Они позволяют взламывать людей и другие организмы, а затем рерганизовывать их и создавать новые формы жизни.
Как далеко эта технология может изменить нас?
Очень далеко. За пределами нашего воображения. Это может изменить наше воображение тоже. Если ваше воображение слишком ограничено, чтобы думать о новых возможностях, мы можем просто улучшить его. В течение миллиардов лет вся жизнь была ограничена органическим царством. Не имело значения, амеба ли ты, тираннозавр , кокос, огурец или человек разумный . Вы были сделаны из органических соединений и подчинялись законам органической биохимии. Но теперь мы собираемся вырваться из этого ограниченного органического царства и начать объединять органических и неорганических ботов для создания киборгов.
Одна из самых важных сил в истории - человеческая глупость. Мы никогда не должны недооценивать человеческую глупость.
Что беспокоит вас о новых киборгах?
Уже проводятся эксперименты по увеличению иммунной системы человека неорганической, бионической системой. Миллионы крошечных нанороботов и сенсоров следят за тем, что происходит внутри вашего тела. Они могут обнаружить начало рака или какого-нибудь инфекционного заболевания и бороться с этими опасностями для вашего здоровья. Система может отслеживать не только то, что идет не так. Он может контролировать ваше настроение, ваши эмоции, ваши мысли. Это означает, что внешняя система может узнать вас гораздо лучше, чем вы сами. Вы годами ходите на терапию, чтобы войти в контакт со своими эмоциями, но эта система, принадлежит ли она Google, Amazon или правительству, может контролировать ваши эмоции так, что ни вы, ни ваш психотерапевт никак не можете к этому подойти.
Вы хотите сказать, что компьютерные алгоритмы могут взломать личные данные, о которых мы можем даже не знать?
Да. Страх, гнев и любовь, или любые человеческие эмоции, в конце концов, просто биохимический процесс. Таким же образом вы можете диагностировать грипп, вы можете диагностировать гнев. Вы можете спросить кого-нибудь: «Почему ты злишься? На что ты злишься? »И они скажут:« Я ни на что не злюсь, что ты хочешь? »Но этой внешней системе не нужно спрашивать тебя. Он может контролировать ваше сердце, ваш мозг, ваше кровяное давление. У него может быть шкала гнева, и он может знать, что вы сейчас 6,8 по шкале от 1 до 10. Сочетание этого с огромным количеством данных, собранных о вас 24 часа в сутки, может обеспечить лучшее медицинское обслуживание в истории. Это также может быть основой худших диктаторских режимов в истории.
Вы пишете: «Кто владеет данными, тот владеет будущим». Что вы имеете в виду?
Раньше в истории самым важным ресурсом была земля. Тогда это были машины. Теперь данные являются наиболее важным ресурсом. Политика становится борьбой за контроль над данными, и будущее принадлежит тем, кто монополизирует данные. Один из самых больших политических вопросов нашей эпохи: как вы регулируете владение данными?
Наш скромный туалет сформировал цивилизацию. Начиная с Британии 19-го века, она распространилась по всему промышленно развитому миру, ликвидировала повторяющиеся эпидемии холеры и способствовала удвоению продолжительности жизни. Но его распространение не было универсальным. Десятки стран не могли позволить себе ... ПРОЧИТАЙТЕ БОЛЬШЕ
В чем здесь большой страх?
Это означает, что внешняя система может знать вас лучше, чем вы сами. Он может предсказать ваш выбор и решение. Он может манипулировать вашими эмоциями и может продать вам что угодно, будь то продукт или политик.Так почему бы просто не отдаться компьютерам? Пусть они принимают решения за нас. Может быть, мы будем счастливее. В некоторых случаях это было бы очень хорошей идеей. Это начинается с таких вещей, как доверие к водителю. В настоящее время в результате дорожно-транспортных происшествий ежегодно погибает более 1 миллиона человек во всем мире. Это больше, чем количество людей, которые умирают от войны, преступности и терроризма вместе взятых. И почти все дорожно-транспортные происшествия происходят из-за того, что люди принимают плохие решения. Если мы переключим и позволим алгоритмам, компьютерам управлять транспортными средствами, это не уменьшит дорожно-транспортные происшествия до нуля, но, вероятно, уменьшит, возможно, 90 процентов дорожно-транспортных происшествий и спасет сотни тысяч жизней.
Так, когда придание власти алгоритмам плохая идея?
Когда вы начинаете давать алгоритмы полномочия решать, что изучать, где жить, за кого жениться, за кого голосовать. Алгоритм дает рекомендации, и вам решать, следовать этой рекомендации или нет. Во многих случаях люди будут следовать рекомендациям, потому что из опыта они понимают, что алгоритмы делают лучший выбор. Рекомендации могут никогда не быть идеальными, но они не должны быть. Они просто должны быть в среднем лучше, чем люди. Это не невозможно, потому что люди очень часто делают ужасные ошибки, даже в самых важных решениях своей жизни. Это не будущий сценарий. Мы уже даем алгоритмам право решать, какие фильмы смотреть и какие книги покупать. Но чем больше вы доверяете алгоритму, тем больше вы теряете способность самостоятельно принимать решения. После нескольких лет следования рекомендациям Карт Google у вас больше не осталось интуиции, куда идти. Вы больше не знаете свой город. Таким образом, хотя теоретически у вас все еще есть полномочия, на практике эти полномочия смещаются в сторону алгоритма.
Что происходит с нашим представлением о человечестве, если Гамлет просто достает свой мобильный телефон и спрашивает Сири, что делать?
Страх, который мы обычно слышим об искусственном интеллекте, состоит в том, что он позволит роботам вступить во владение. Они получат автономию и станут нашими хозяевами. Но вы говорите что-то совсем другое. Вы говорите, что мы уступим машинам.
Правильно. Мы передадим им власть. В большинстве научно-фантастических фильмов роботы перестраивают себя и пытаются убить людей. И люди должны дать отпор и уничтожить роботов. Это очень утешительный миф. Он говорит людям, что никто не может сделать лучше, чем вы. Если вы полагаетесь на роботов, это закончится катастрофой. Гораздо более пугающий сценарий состоит в том, что роботы будут принимать лучшие решения, чем мы. Тогда возникает вопрос: «Что такое человеческая жизнь?» В течение тысячелетий мы строили эту идею человеческой жизни как драму принятия решений. Жизнь - это дорога с множеством перекрестков, и каждые пару дней, месяцев или лет вам нужно принимать решения.
Это то, на чем основаны наши этические системы. Это в какой-то степени то, на чем основана религия.
Именно так. Вы принимаете правильные решения, вы идете на небеса. Вы принимаете плохие решения, вы идете в ад. И это все, от пьес Шекспира до глупых голливудских комедий. На ком они должны жениться? Должен ли я идти на войну или заключить мир? Что происходит с нашим представлением о человечестве, если Гамлет просто достает свой смартфон и спрашивает Сири, что делать?
Как этот технологический сдвиг влияет на политические системы? Доминирующая политическая идеология, либеральная демократия, несомненно, сейчас находится под угрозой.
Что случилось, у нас сейчас нет хорошей истории, чтобы понять, куда мы направляемся. Даже если некоторые из нас все еще привержены идеологии либеральной демократии, она утратила способность объяснять. В 1990-х и 2000-х годах он сделал несколько убедительных пророчеств о том, куда мы движемся. Либеральная демократия и рыночный капитализм распространятся по всему миру, и все страны станут такими, как США или Дания. Но теперь у либеральной истории больше нет ясного видения будущего. Ни у кого нет ясного видения будущего. Никто ни справа, ни слева не имеет сколько-нибудь значимого представления о том, как будет выглядеть человечество и мир в 2050 году. Даже те, кто верит в либеральную историю как этическую систему, больше не могут притворяться, что ее пророчества верны. Мир не ведет себя так, как ожидала либеральная история. Те, особенно,
Я не понимаю, что, черт возьми, происходит. Либеральная демократия, кажется, является залогом успеха, и, тем не менее, похоже, что она не работает таким образом для целой группы стран.
Да. По мере того как все более авторитарные лидеры берут под свой контроль, многие демократические страны борются. Но следует подчеркнуть, что мир за последние 30 лет, в условиях гегемонии либеральной демократии и либерализма, был в лучшей форме, по крайней мере, для людей. Мир никогда не был таким процветающим и мирным, как за последние 30 лет. Так что в значительной степени либеральная система поставила. Но люди теряют веру в это. И одна из главных причин заключается в том, что рост новых технологий означает, что больше людей осталось позади. И это не только технологии, но и новые научные идеи. Либеральная история основана на идеале и идее свободной воли, что свободная воля отдельных людей является основным источником власти в мире. Но наука сейчас говорит нам, что нет такой вещи, как свободная воля. Это миф
Люди, безусловно, делают выбор все время. Но мы не можем выбирать наши желания.
Об этом много споров. Многие ученые и философы не желают отказываться от этой идеи свободной воли.
Как частные лица, может быть. Но если вы посмотрите на научные журналы, статьи и эксперименты, наука даже не поймет значения свободной воли. Мы не знаем ни о каких свободных процессах в природе. Мы знаем только два типа процессов в природе. Мы знаем о детерминированных процессах и случайных процессах. И комбинация этих двух дает нам вероятностные процессы. Но случайность не свобода, а вероятность не свобода. У людей, конечно, есть желание. У людей конечно есть желания. Люди, безусловно, делают выбор все время. Но мы не можем выбирать наши желания. Мы не свободны выбирать, что будет. Наши желания формируются как природой, так и культурой способами, которые находятся за пределами понимания и контроля людей.
Вы говорите, что эта потеря индивидуального контроля подпитывает разрушение демократии?
Ну, две вещи происходят одновременно. Прежде всего, мы получили возможность взламывать людей. Если вы верите в свободную волю, вы скажете, что это невозможно. Никто не может знать меня лучше, чем я сам. Никто не может предсказать мой выбор или манипулировать моими желаниями, потому что они являются отражением моей свободной воли, моего свободного духа. Но тогда вам легче всего взломать и манипулировать.
Вы говорите о политических группах, которые использовали Facebook, чтобы влиять на политические взгляды?
Это была лишь вершина айсберга. Или звонок для пробуждения. Но да, Кембридж Аналитика и все эти компании и боты вели себя так, как будто они взламывали людей. Они узнали вашу существующую ненависть, страхи и предубеждения. И как только вы узнаете, какие уклоны и недостатки существуют у конкретного человека, вы можете работать над этим.
Страх и ненависть - это первичные эмоции. Вы говорите, что если вы можете использовать первичные эмоции, вы можете контролировать политический дискурс?
Да. Если вы хотите разрушить способность вести содержательный публичный разговор, вы обнаруживаете страхи и ненависть людей и усиливаете их. И вы делаете это на индивидуальной основе. Вы не можете просто показать одну и ту же историю всем, потому что разные люди имеют разные слабости. Поэтому, возможно, они обнаружат, что у вас есть предубеждение против иммигрантов. Они покажут вам фальшивую новость о местных женщинах-иммигрантах. Они знают, что вы поверите в это, потому что у вас уже есть этот уклон. Но у твоей соседки у нее совсем другой уклон. Она за иммиграцию. Но ее предвзятость в том, что она думает, что каждый, кто выступает против иммиграции, является фашистским, расистским идиотом. Таким образом, они показывают ей другую историю о банде правых фанатиков, которые убивают иммигрантов. И она поверит в это так же легко, как вы поверили истории об иммигрантах, насилующих местных женщин. Это играет с ее существующими страхами и ненавистью и слабостями. Теперь, если вы думаете, что люди принимают решения по совершенно свободной воле, вы скажете, что это невозможно. Но тогда вы очень легко становитесь жертвой таких манипуляций.
Вы сказали, что две вещи подпитывают развал демократии. Что второе?
Во-вторых, будущее оставляет больше людей позади. Большая часть обиды в современном мире, особенно в США, не связана с современными трудностями. Это о людях, которые смотрят в будущее и понимают, что будущее не нуждается в них. Центром стольких политических и социальных конфликтов в 20-м веке была эксплуатация - элиты, эксплуатирующие рабочий класс. Но в XXI веке большой страх не в том, что элиты эксплуатируют нас. Большой страх в том, что элите мы не нужны. Мы становимся неактуальными. В значительной степени этот страх оправдан. Многие люди станут не относящимися к экономике, к политической системе. Поэтому они пытаются использовать свою политическую власть, пока не стало слишком поздно.
Если ваш хрустальный шар точный, что мы можем сделать?
Мы можем определенно регулировать новые технологии. Мы можем убедиться, что они используются для добрых, а не злых целей. Мы должны убедиться, что алгоритмы больших данных служат нам, отдельным людям, а не только интересам корпорации или правительства. В настоящее время мы видим больше систем ИИ, которые используются для мониторинга отдельных лиц на службе правительств и корпораций. Но сама технология может использоваться для мониторинга корпораций и правительств на службе отдельных лиц. Большая часть усилий дает правительству или корпорациям возможность контролировать нас. Но нет технической проблемы в изменении направления наблюдения.
Мы также могли бы просто отключиться.
Я определенно рекомендовал бы, чтобы все отключались по крайней мере на час или два каждый день и в течение более длительных периодов в течение года. Я полностью отключаюсь и практикую два часа медитации каждый день. Каждый год я иду на более длительные ретриты по 30 или 60 дней полного отключения от всех телефонов, компьютеров, устройств. Я счастливее и спокойнее из-за этого; У меня больше спокойствия. Это также помогает мне лучше видеть мир. Потому что то, что действительно стоит между вами и миром, делает все настолько размытым и трудным для понимания, это ваши собственные слабости, ваши собственные предвзятые предубеждения и страхи. Если вы не знаете этих предубеждений, не знаете своих страхов, ненависти и страстного желания, вам будет чрезвычайно трудно понять мир. Если ваш разум повсюду, и вам трудно сосредоточиться на нем в течение длительного времени, Вы никогда не сможете углубиться в любой вопрос. Медитация помогает мне сосредоточиться. Это помогает мне узнать свои слабости и предубеждения.
Вы оптимист или пессимист о том, куда мы направляемся?
Я подведу итог моему взгляду на мир в трех простых утверждениях. Все лучше, чем когда-либо прежде. Все еще довольно плохо. Все может стать намного хуже. Это добавляет несколько оптимистичный взгляд, потому что если вы понимаете, что вещи лучше, чем раньше, это означает, что мы можем сделать их еще лучше. Мы не застряли в таком же плачевном положении для всей истории. Есть вещи, которые мы можем сделать, чтобы улучшить ситуацию. Но в этом нет ничего неизбежного. Я не верю, что наука и техника неизбежно создадут лучший мир. Наука и техника гарантируют только одно. И эта вещь сила. Человечество станет более могущественным. Но что делать с этой силой? Здесь у нас есть все виды вариантов. Если вы посмотрите назад в историю, иногда люди используют власть очень мудро, и очень часто они злоупотребляют своей властью. Одна из важнейших сил в истории человечества - человеческая глупость. Мы никогда не должны недооценивать человеческую глупость. Когда вы объедините безграничный ресурс человеческой глупости с удивительными новыми силами, которые человечество получит в 21-м веке, это может стать рецептом катастрофы.
Много интересного здесь.