Роботы и этика: «Звездный путь», А. Азимов и «Стелларис»

16 May
Роботы в Stellaris
Роботы в Stellaris

Роботы и немного истории развития искусственного интеллекта

История искусственного разума начинается с большой аферы. Так, в 1770 году изобретена машина, которая могла обыгрывать в шахматы любого противника. Машина была очень сложной для того времени – сотни деталей и их взаимодействий, которые показывали людям при работе механизма вводило в ступор всю интеллектуальную элиту. Создатель Вольфган фон Кемпелен попался случайно – внутри корпуса обнаружили живого человека и довольно хорошего шахматиста.

Первую обучающуюся сеть (правда только в теории) изобрели в 50-х годах прошлого века - персептрон. Она базировалась на том, чтобы выявлять ошибку во входных данных и запоминать ее.

В 1956 году создана «Элиза» - программа, поддерживающая разговор с пользователем (Алиса, привет!) и ее программная начинка - Logic Theorist.

Сейчас нейронные сети, запоминающие информацию, используют в основном соцсети. Такие же технологии уже используют в автомобильных автопилотах.

Нейронные сети и искусственный разум

Нейронные сети
Нейронные сети

Будущее не за горами. Уже сейчас нейронные сети достигли такого уровня развития, что формируют предложение контента исходя из ваших предпочтений. Даже Яндекс.Дзен также работает. Фантазии писателей и футурологов (в частности такое было в рассказах у Филиппа К. Дика) говорят нам о том, что любая реклама скоро станет персональной. Идете вы по метро, а с билборда персонально по имени к вам обращается модель с предложением купить зубную пасту.

Нейронные сети учатся, устройства связаны между собой тысячами каналов, скоро вся наша жизнь будет зависеть от развитой «нейроночки» настолько же, насколько сейчас она зависит от смартфона. Технопессимисты, вам есть чего бояться.

Кажется, что совсем скоро искусственный разум нейронных сетей пройдет пресловутый тест Тьюринга и мы не сможем отличить, кто общается с нами через приложение или по телефону.

Если говорить о тех или иных произведениях, то мы видим, что роботов с искусственным интеллектом изображают как самостоятельные мыслящие единицы. Но если мы уже сейчас снабдили кофеварки доступом в интернет, то и искусственный разум будет развиваться как обширная сеть подключенных к нему единиц.

А от этого уже зависит, как будет выстраиваться отношение к нему пользователей – будет ли машина сильнее и могущественнее отдельного человека, а главное юридический и этический статус разумного искусственного интеллекта. Ведь одно дело, если перед вами мыслящая (хоть и искусственно) единица с подобием чувств и эмоций, совсем другое – всезнающая и вездесущая бездна интернета в искусственном теле.

И в этом кроется главная проблема изображения роботов – авторы большую роль отдают форме (робот как «тело»), но совсем забывают о содержании – искусственном интеллекте и пути его развития.

Три закона роботехники: что не так

Айзек Азимов - автор трех законов роботехники
Айзек Азимов - автор трех законов роботехники

Законы сформулировал Айзек Азимов в своем рассказе «Хоровод» 1942 года, который стал классикой для роботоделов:

1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред.

2. Робот должен повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.

3. Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму Законам.

Далее в 1986 году господин Азимов добавляет «нулевой» закон:

0. Робот не может причинить вред человечеству или своим бездействием допустить, чтобы человечеству был причинён вред.

Вы можете определить, что не так с этими законами?

Мы создаем робота – самостоятельную мыслящую единицу, которая может оперировать этическими понятиями «добро», «зло», «вред», «польза», если получится, обязательно наделим ее чувствами и эмоциями, заключаем их разум в антропоморфную тело-оболочку (то есть создадим внешнее подобие человека). А теперь внимание, мы создаем равную нам единицу, что робот, что его хозяин понимают свой статус по отношению друг к другу исходя из законов роботехники. Получается, мы создаем новых рабов?

На самом деле это какой-то садизм, которому даже прожженный БДСМ-практик позавидует. А потом, читая книги, смотря фильмы или играя в игры, где по сюжету роботы начинают бунтовать, мы все такие удивляемся и спрашиваем себя - как так могло случится.

Это древний философский вопрос – как определить разум, как отличить существо равное человеку, для придания ему равного статуса (дело даже не только в роботах, но и в существовании других разумных существ). Отсюда проводится ватерлиния – кого можно наделять правами и обязанностями, каким образом выстраивать взаимодействие и определять к ним отношение.

Роботы в культуре

Андроид Дейта из серила "Звездный путь"
Андроид Дейта из серила "Звездный путь"

Интересно изобразили расы разумных роботов в компьютерной игре Stellaris и то, как они пришли к самостоятельной жизни, какие мотивы ими движут:

Ассимиляторы – раса, которая пытается ассимилировать всех органиков в свой коллективный разум через вживление устройств и физической модификации;

Экстерминаторы – за уничтожение всей органической жизни (есть вариации – использование органиков в качестве энергии (Матрица edition));

Служители – эти роботы своей главной целью считают служение всей органической жизни с принципом "органик как биотрофей".

В этой же стратегии отражены и варианты взаимодействия с неорганическими формами жизни. Например, если вы играете за органическую расу и создали роботов, вы можете наделить их полноправным гражданством, что улучшит ваши отношения с независимыми империями роботов.

О моральной дилемме роботов, как независимой и мыслящей единицы существует огромное количество всяких разных произведений. Из последнего я бы посоветовал сериал «Звездный пути: Пикар» (хотя может он мне понравился потому, что вызвал волну ностальгии по закончившемуся основному сериалу), «Лучше чем люди» (неплохой российский сериал, права на которые купила западная стриминговая площадка) и, конечно, большой пул литературной фантастики от Ф.К.Дика, А.Азимова и до Р.Хайнлайна.

Сергей Стрикун