В то же время направление разработки ИИ в Китае диктуется грандиозными амбициями государства. Китай спешно закладывает фундамент, чтобы в будущем превратиться в бесспорного мирового гегемона в области ИИ. Китайское руководство представило свой план разработки ИИ следующего поколения, цель которого – добиться мирового лидерства в ИИ к 2030 году со стоимостью отрасли внутри страны как минимум 150 млрд долларов^[1]. Согласно этому плану, часть фонда национального благосостояния направляется на создание новых лабораторий и стартапов, а также учебных заведений, которые должны будут вырастить следующее поколение талантов именно для ИИ^[2]. В октябре того же года президент Китая Си Цзиньпин объявил о своих планах в отношении ИИ и больших данных в подробной речи перед тысячами партийных функционеров. ИИ, сказал он, поможет Китаю превратиться в одну из самых передовых экономик мира. Уже сейчас объем китайской экономики в 30 раз больше, чем был три десятилетия назад. Baidu, Tencent и Alibaba, будучи гигантскими компаниями, чьи бумаги обращаются на бирже, все равно обязаны подчиняться воле Пекина, что типично для крупного китайского бизнеса.

Огромное население Китая – 1,4 млрд человек – означает, что в его распоряжении находится самый богатый и, возможно, самый важный природный ресурс эпохи ИИ: данные о людях. Чтобы добиться высокой точности от алгоритма распознавания образов, требуются огромные объемы данных, и поэтому китайские системы распознавания лиц, например Megvil или SenseTime, так привлекательны для инвесторов. Все данные, которые китайские граждане генерируют, когда звонят друг другу, делают покупки онлайн или публикуют фото в социальных сетях, помогают Baidu, Alibaba и Tencent создавать лучшие в своем классе системы ИИ. Важное преимущество Китая – отсутствие ограничений, связанных с неприкосновенностью частной жизни и безопасностью, которые отчасти могут тормозить прогресс в Соединенных Штатах.

Нам следует рассматривать планы разработки ИИ в более широком контексте грандиозных планов Китая. В апреле 2018 года президент Си выступил с большой речью, где поставил задачу превратить Китай в глобальную компьютерную сверхдержаву. Государственное информационное агентство Синьхуа воспроизвело отрывки из нее, где описана сеть для администрирования киберпространства и Интернет, который «распространял бы положительную информацию, держался бы верной политической линии, направлял бы общественное мнение и ценности в правильную сторону»^[3]. Авторитарный закон, по которому Китай хочет заставить жить всех нас, не имеет ничего общего со свободой слова, рыночной экономикой и распределенным управлением – ценностями, которыми мы дорожим на Западе.

ИИ упоминается в ряде законодательных актов Китая, которые нацелены на тотальный контроль над всей информацией, создаваемой внутри границ страны, и перехват данных ее резидентов, а также граждан государств – стратегических партнеров. Один из таких актов требует хранить все данные о китайских гражданах на серверах, расположенных на территории Китая. Тем самым государственные службы получают возможность свободного доступа к этим данным. Другая инициатива, «Облако китайской полиции», разработана для контроля и отслеживания местоположения душевнобольных, критиков режима и уйгуров – этнического меньшинства, исповедующего ислам. В августе 2018 года Организация Объединенных Наций заявила о наличии у нее достоверных сведений, что Китай удерживает миллионы уйгуров в тайных лагерях на дальнем западе страны^[4]. Так называемая Китайская интегрированная программа совместных действий использует ИИ для поиска отклонений от общепринятого социального поведения – например несвоевременной оплаты счетов. Система социального кредита, согласно удачной фразе из ее основополагающего документа, разработана ради создания идеального общества, «позволяя достойным доверия свободно перемещаться, в то время как дискредитировавшим себя будет трудно сделать хотя бы шаг^[5]». Понятие «достойный доверия» определяется на основании численных показателей, например за «героические поступки» (гражданину начисляются баллы) и штрафы за нарушение правил дорожного движения (баллы вычитаются). Граждане с низким рейтингом могут столкнуться с трудностями при приеме на работу, покупке дома или попытке отдать детей в школу. В некоторых городах портреты граждан с высоким рейтингом выставляются на доске почета^[6]. В других городах, таких как Шаньдун^[7], фотографии людей, нарушающих правила перехода улицы, выставляются на цифровых рекламных стендах на всеобщее обозрение и автоматически отправляются в Weibo, популярную социальную сеть^[8]. Если все это кажется слишком невероятным, вспомните, что Китай смог успешно провести в жизнь политику одного ребенка, чтобы сдержать рост населения.

Эти проекты и инициативы рождены в узком кругу советников президента Си Цзиньпина, которые примерно десять последних лет сосредоточены именно на превращении Китая в мировую сверхдержаву – и соответствующем изменении восприятия Китая окружающим миром, – а также реформах внутри страны. Сегодня Китай более авторитарен, чем при любом из предыдущих руководителей со времен Мао Цзедуна, и разработка и внедрение ИИ – необходимое условие сохранения такого положения дел. Инициатива «Один пояс и один путь» – на самом деле масштабный глобальный стратегический план, замаскированный под план строительства инфраструктуры, которая повторяет маршруты Шелкового пути, что связывал когда-то Китай с Европой через Ближний Восток и Африку. Китай не просто строит мосты и шоссе – он экспортирует технологию слежения и собирает данные, увеличивая таким образом влияние Коммунистической партии Китая в мире в противовес нашему либеральному демократическому порядку. Инициатива Global Energy Interconnection – еще один национальный стратегический план, который поддерживает президент Си. Он предусматривает создание первой в мире глобальной сети электроснабжения, управляемой из Китая.

Там уже научились масштабировать технологию передачи электроэнергии по сверхвысоковольтным кабелям, что позволяет доставлять электричество в Шанхай с дальнего запада страны – и сейчас Китай заключает договоры, превращающие его в поставщика электроэнергии для соседних стран.

Эти инициативы, как и многие другие, – остроумный способ надолго обеспечить расширение своей «мягкой власти». Это великолепный ход со стороны Си Цзиньпина, за отмену предельного срока пребывания на посту которого КПК проголосовала в марте 2018 года, тем самым позволив ему по сути оставаться президентом пожизненно. Конечная цель стратегии президента Си предельно проста: построить мировой порядок, обеспечивающий Китаю лидерство де-факто. Тем не менее во время расширения сферы дипломатического влияния Китая Соединенные Штаты необъяснимым образом перестали замечать долгосрочные глобальные союзы и соглашения с его участием, когда президент Трамп возвел новый «бамбуковый занавес».

Если говорить о будущем ИИ, то его разработка сейчас движется двумя путями, часто не соответствующими представлениям о благе человечества. Усилия Китая являются частью скоординированного плана построения нового мирового порядка с Си Цзиньпином во главе, а в Америке главными движущими силами служат рыночные факторы и консьюмеризм. Сочетание этих двух факторов представляет собой слабое место, потенциально угрожающее всем нам. Разрешение этой проблемы – самый важный вопрос для будущего развития ИИ, именно в этом и заключается задача настоящей книги. Может быть, компании «Большой девятки» преследуют одну и ту же благородную цель – взломать код машинного интеллекта, чтобы строить системы, способные мыслить подобно человеку, – но со временем результаты их работы могут нанести непоправимый вред человечеству.

В принципе я верю, что ИИ представляет собой положительную силу, которая принесет много пользы следующим поколениям и поможет построить будущее, соответствующее нашим самым идеалистическим представлениям о нем.

Но я прагматик. Мы все знаем, что даже люди, которые руководствуются самыми благими намерениями, способны причинить огромный вред. Говоря о технологии, особенно об ИИ, всегда следует иметь план на случай злоупотребления ею, как случайного, так и намеренного. Особенно важно это сейчас, когда ИИ захватывает все сферы человеческой деятельности: глобальную экономику, рынок труда, сельское хозяйство, транспорт, банковскую сферу, контроль за состоянием окружающей среды, образование, вооруженные силы и национальную безопасность. Вот почему, если нынешние направления развития ИИ в Соединенных Штатах и Китае сохранятся, 2069 год может оказаться совсем не похожим на 2019-й. По мере того как структуры и системы, управляющие обществом, постепенно перейдут на использование ИИ, мы увидим, что принятые ими от нашего имени решения выглядят совершенно разумными только с точки зрения машины, а не с нашей.

Мы, люди, быстро теряем бдительность – как раз тогда, когда машины пробуждаются. Мы уже прошли несколько важных этапов технологического и геополитического развития ИИ, но при этом с каждым значительным шагом вперед ИИ становится все менее заметен нам. Наши данные анализируются и уточняются все менее очевидным для нас образом, а наша способность понимать, каким образом автономные системы принимают решения, снижается. Таким образом, уже сейчас мы не в состоянии понять, каким образом ИИ влияет на нашу жизнь, и этот разрыв будет расти по экспоненте с течением времени, когда для нас минуют годы, а потом и десятилетия. Сократить этот разрыв насколько возможно, критикуя нынешний путь развития ИИ, – вот задача, ради которой я пишу эту книгу. Моя цель – сделать обсуждение искусственного интеллекта более демократичным, снабдить вас дополнительными знаниями относительно того, что нас ждет, а также объяснить, пока еще не поздно, как последствия развития ИИ коснутся именно вас и почему они будут совершенно ощутимыми и конкретными.