Страны и IT-корпорации вкладывают десятки миллиардов в развитие искусственного интеллекта, и при этом у нас все еще нет достаточного понимания, как эффективно встроить ИИ в решение социальных вопросов. В т.ч., в практику государственного управления. Мы рассмотрели несколько сценариев того, как это может быть сделано.
Битва платформ
Последствия применения искусственного интеллекта в жизни человечества может быть сравнимо разве что с эффектом после открытия электричества. Во всяком случае так считают его апологеты, по мнению которых сегодня ряд стран уже вплотную подошли к порогу, за которым последует качественный прорыв. В первую очередь, речь идет про США и Китай.[1]
Впрочем, другие страны не намерены сдаваться. В этом году сразу несколько европейских правительств объявили о программах масштабной государственной поддержки ИИ-исследований и создания благоприятной экосреды для ИИ-стартапов. Существующее отставание от лидеров они пытаются компенсировать за счет резкого ускорения и объединения усилий в рамках ЕС.[2]
Одновременно с усилением национальной конкуренции в финальную стадию вышла «битва ИИ-платформ» между крупными IT-корпорациями, которые свою войну начали намного раньше правительств и действуют намного быстрее их.
Показателен пример Google, который только за последние два года создал специальный чип, способный выполнять операции машинного обучения в 15–30 раз быстрее обычных чипов, построил на его основе дата-центры и разработал специализированное программное обеспечение с открытым исходным кодом.[3]
Путь в неизведанное
Хотя корпорации, а теперь и правительства, активно сражаются за развитие искусственного интеллекта, общество по-прежнему воспринимает его крайне неоднозначно. Особенно, когда речь идет о процессах, регулирующих социальные и политические отношения.[4]
Способствует негативному мнению и то, что первые примеры масштабной алгоритмизации со стороны государства не всегда были удачными, а главное — однозначно свидетельствовали: любой человек может быть недооценен и подвергнут жестокому обращению искусственным интеллектом.[5]
Социальные сомнения были оформлены, например, в виде «Декларации об этике и защите данных в искусственном интеллекте». В этом документе говорится, что любое создание, развитие и использование ИИ-систем должно в полной мере уважать права человека, и что у людей должны сохраняться понимание ИИ-механизмов и контроль за ними.[6]
По мнению экспертов ООН, такие сильные сомнения населения могут поставить под угрозу саму возможность осуществления четвертой промышленной революции. Поэтому эксперты предлагают власти, бизнесу и обществу строить новый цифровой мир вместе. Тем более, что внедрение искусственного интеллекта в деятельность правительства не будет простым и потребует решения многих технических, социально-экономических и правовых проблем, которые решить сегодня человечество не в состоянии. А значит всё, что ему остается, — это строить базис для тех, кто в будущем сможет это сделать.[7]
Четыре сценария
Чтобы определить то, каким образом может быть построен этот базис, Kompetenzzentrum Öffentliche IT провел девятиступенчатое форсайт-исследование. На выходе получились четыре варианта того, как искусственный интеллект может быть встроен в государственное управление.[8]
Сценарий первый. «Сказочный»[9]. ИИ широко используется во всех областях государственного управления, и это приводит к повышению эффективности последнего. Искусственный интеллект сам принимает основные решения, но существует процедура их пересмотра высококомпетентным профессиональным чиновником, который получил специальное образование. Все данные открыты и правительство имеет к ним полный доступ. Население поддерживает использование ИИ. В общем, все как в сказке, единственный минус — это серьезно перегружены политические механизмы страны.
Сценарий второй. «Спаситель». Искусственный интеллект вводят только потому, что страна находится в кризисе, и нужно экономить. Чиновников сокращают, оставшимся платят мало. Основные работы выполняют подрядчики со стороны. Госслужащий становится лишь пользователем внешнего сервиса. Формально ИИ в этом сценарии не принимает серьезных решений и дает только рекомендации. Но так как отказ от этой рекомендации чиновник должен будет обосновать и нести за него ответственность, то ему будет проще согласиться с решением машины. В результате — серьезная экономия бюджета, диктат искусственного интеллекта и риски утраты субъектности правительства вкупе с ростом социального недовольства.
Сценарий третий. «ИИ-государство». В этом сценарии развитие и использование искусственного интеллекта направлены, в первую очередь, на увеличение возможностей государства. ИИ-системы строятся правительством как с учетом необходимости роста производительности, так и с учетом социального фактора. В зависимости от сферы принимать решения может как человек, так и машина. Внедрение происходит постепенно. На государственной службе находятся высококвалифицированные специалисты и их количество велико. Доступ к данным строго регламентирован, но у государства есть широкие права. Население поддерживает использование искусственного интеллекта, имеет механизмы контроля над его работой и коммуникации с правительством.
Сценарий четвертый. «Следы присутствия». В четвертом сценарии предпосылки для внедрения ИИ существуют, но внедряется он медленно и только для решения конкретных задач. Для них удается обеспечить сбор качественных данных и необходимое ведомственное взаимодействие. В целом, государственная служба остается нетронутой, а уровень ее ИИ-профессионализма по-прежнему очень невысок.
Источники и примечания
[1] http://russiancouncil.ru/ai
[2] https://medium.com/politics-ai/an-overview-of-national-ai-strategies-2a70ec6edfd
[3] https://www.vox.com/new-money/2017/5/18/15655274/google-io-ai-everywhere
[4] https://www.oeffentliche-it.de/-/Denkende-Maschinen
[5] Например, https://www.theverge.com/2018/3/21/17144260/healthcare-medicaid-algorithm-arkansas-cerebral-palsy
[6] https://icdppc.org/wp-content/uploads/2018/10/20180922_ICDPPC-40th_AI-Declaration_ADOPTED.pdf
[7]https://publicadministration.un.org/egovkb/Portals/egovkb/Documents/un/2018-Survey/E-Government%20Survey%202018_FINAL%20for%20web.pdf
[8] https://www.oeffentliche-it.de/publikationen?doc=84404&title=Exekutive+KI+2030+-+Vier+Zukunftsszenarien+für+Künstliche+Intelligenz+in+der+öffentlichen+Verwaltung
[9] Названия сценариев не являются точным переводом, но отражают их суть
