Мы все больше полагаемся на ИИ с его многочисленными сложными нейросетями глубокого обучения, и одновременно с этим развивается одна интересная область: разработка систем ИИ, которые смогут объяснить человеку, каким образом они пришли к тому или иному решению. Однако, заставив ИИ объяснять самого себя, мы тем самым ограничим его возможности – по крайней мере, в некоторых случаях. Дело в том, что многие из этих систем способны создавать гораздо более сложные модели реальности, чем люди могут себе представить. Эксперт по ИИ Дэвид Ганнинг даже предполагает, что самая высокопроизводительная система окажется и самой труднообъяснимой.

Структура и цель этой книги

Меня давно увлекает вычислительная техника и интересуют проблемы, возникающие на переднем крае науки. В этой книге, адресованной широкой аудитории, я предлагаю краткий путеводитель по любопытным и вместе с тем важным практическим идеям из истории искусственного интеллекта – хотя сам этот термин был предложен только в 1955 г. информатиком Джоном Маккарти. Каждая глава состоит всего из нескольких абзацев, так что книгу можно читать с любого места, не продираясь через многословные описания. Конечно, такой формат не позволил мне углубляться в подробности, однако в разделе «Примечания и список литературы» я предлагаю материалы для дальнейшего чтения и поиска источников цитат или трудов упомянутых авторов.

Главы этой книги охватывают такие области, как философия, поп-культура, информатика, социология и теология, а также темы, которые интересуют меня лично. В молодости я был очарован книгой Ясии Рейхардт «Кибернетическая проницательность: компьютер и искусство», опубликованной в 1968 г. В книге рассказывалось, как компьютеры создают стихи, картины, музыку и многое другое. Также меня поражает, каких успехов в области искусства достигли специалисты по ИИ, используя порождающие состязательные сети для создания потрясающих фотореалистичных изображений смоделированных лиц, цветов и птиц. Порождающие состязательные сети – это две нейросети, которые «натравлены» друг на друга: одна генерирует идеи и паттерны, а другая оценивает результаты.

Сегодня возможности применения ИИ кажутся безграничными, и в разработки в этой области ежегодно вкладываются миллиарды долларов. Технологии ИИ использовали, например, для расшифровки документов из Ватиканского секретного архива: ученые пытались разобрать сложные рукописные тексты из этой огромной исторической коллекции. ИИ также помогает прогнозировать землетрясения, интерпретировать медицинские снимки, распознавать речь и предсказывать время смерти пациента на основе информации из его электронной медицинской карты. С помощью ИИ придумывают шутки, игры и головоломки, формулируют математические теоремы, создают патентуемые изобретения, разрабатывают инновационные конструкции антенн, новые оттенки красок, парфюмерные ароматы и многое другое. Уже сегодня многие из нас разговаривают со своими смартфонами и прочими устройствами, а в будущем наши отношения с машинами станут еще более близкими и похожими на человеческие.

Главы расположены в хронологическом порядке с указанием года, связанного с важным событием, книгой или открытием. Датировка часто условна, некоторые годы приводятся приблизительно; там, где это было возможно, я попытался объяснить, почему указал ту или иную дату.

Как легко заметить, больше половины глав приходится на период после 1950 г. Даниэль Кревье, автор книги «Бурная история поиска искусственного интеллекта» (1993), отмечает, что в 1960-е гг. «искусственный интеллект расцвел тысячей цветов. Специалисты по ИИ использовали новые методы программирования для решения многих проблем, которые, хоть и были реальными, оказались значительно упрощены – отчасти ради разделения задач, требующих решения, отчасти для того, чтобы втиснуть их в крошечную память компьютеров того времени».

Тайны сознания, недостатки ИИ и природа разума будут изучаться еще многие годы; но эти проблемы интересовали людей с древних времен. Памела Маккордак в своей книге «Машины, которые думают» высказывает предположение, что ИИ начался с желания древних людей «выковать богов».

Грядущие открытия, связанные с ИИ, войдут в число величайших достижений человечества. История ИИ – это история не только о том, как мы создаем свое будущее, но и о том, как люди будут жить в условиях бурного развития интеллекта и творческих возможностей. Что будет вкладываться в понятие «человек» через сто лет? Каким будет общество, в котором повсеместно станут использоваться устройства с ИИ? Что произойдет с рабочими местами? Будем ли мы влюбляться в роботов?

Если методы и модели ИИ уже помогают решать, кого нанять на работу, с кем пойти на свидание, кто получит условно-досрочное освобождение, кто более склонен к психическим расстройствам и как управлять беспилотными автомобилями и дронами, то какой уровень контроля над нашей жизнью мы доверим системам ИИ будущего? Если они все чаще принимают решения за нас, легко ли будет обмануть какой-нибудь модуль ИИ и заставить его совершить катастрофическую ошибку? Как специалистам по ИИ выяснить, почему одни алгоритмы и архитектуры машинного обучения эффективнее других, и в то же время упростить воспроизведение чужих экспериментов и их результатов?

Наконец, есть ли гарантии, что устройства на основе ИИ будут действовать этично или у машин когда-либо появятся психические состояния и чувства, свойственные людям? Несомненно, устройства с ИИ станут чем-то вроде протезов для нашего слабого мозга и помогут нам мыслить и мечтать по-новому. Для меня искусственный интеллект – источник постоянного удивления по поводу границ разума, будущего человечества и нашего места в огромном пространственно-временном ландшафте, который мы называем своим домом.

Крестики-нолики. Ок. 1300 до н. э.

По данным археологов, нечто похожее на игру с выстраиванием трех элементов в ряд существовало еще примерно в 1300 г. до н. э. в Древнем Египте. При игре в крестики-нолики два игрока по очереди вписывают свои символы (О или Х) в клетки поля размером 3 × 3. Выигрывает тот, кто первым проставит три своих знака в ряд по горизонтали, вертикали или диагонали.

Крестики-нолики попали в эту книгу потому, что их часто упоминают при объяснении базовых принципов программирования и искусственного интеллекта из-за простоты их игровых деревьев (где узлы графа – это позиции в игре, а ребра – ходы). Крестики-нолики – это так называемая игра с полной информацией, поскольку все игроки в курсе всех сделанных ходов. Кроме того, это последовательная игра без рандомизации: игроки ходят по очереди и не используют игральные кости.

Крестики-нолики можно назвать атомом, на основе которого веками формировались молекулы более сложных позиционных игр. Даже при минимальных вариациях и расширениях эта простая игра становится труднейшей задачей, решение которой требует большого количества времени. Математики и любители головоломок усложняли крестики-нолики, добавляя дополнительные клетки и измерения, а также необычные игровые поверхности, например прямоугольные или квадратные поля, соединенные по краям в форме тора (бублика) или бутылки Клейна (поверхности, у которой только одна сторона).

Рассмотрим некоторые любопытные особенности этой игры. Всего существует 362 880 (9! то есть 1 × 2 × 3 × 4 ×… × 9) возможных сценариев заполнения поля двумя игроками. Однако, если рассматривать все возможные партии, при которых игра заканчивается в 5, 6, 7, 8 или 9 ходов, наберется 255 168 таких партий. В 1960 г. ИИ-система MENACE (хитроумная конструкция из спичечных коробков и разноцветных шариков) научилась играть в крестики-нолики путем обучения с подкреплением. В начале 1980-х г. компьютерные гении Дэнни Хиллис и Брайан Сильверман с несколькими друзьями сконструировали из 10 тысяч деталей конструктора Tinkertoy® компьютер, который играл в крестики-нолики. В 1998 г. ученые и студенты Университета Торонто создали робота для игры в трехмерные крестики-нолики (4 × 4 × 4) с человеком.

СМ. ТАКЖЕ Мельница Лейбница (1714), Обучение с подкреплением (1951), Четыре в ряд (1988), Реверси (1997), Решение для игры вари (2002)

Крестики-нолики можно сделать более сложными для людей и машин с ИИ, расширив стандартное поле 3 × 3 до больших размеров, добавив новые измерения и эффект гравитации, при котором каждый элемент опускается в нижнюю свободную позицию, например как в этой трехмерной версии 4 × 4 × 4.

Талос. Ок. 400 до н. э.

«Многим людям образ Талоса знаком по его воплощению в виде бронзового гиганта в фильме 1963 г. „Ясон и Аргонавты“, – пишет Брайан Хотон. – Но откуда взялась идея Талоса и мог ли он быть первым роботом в истории?»

Согласно греческой мифологии, Талос был огромным бронзовым автоматоном («роботом»), созданным для защиты Европы – матери критского царя Миноса – от захватчиков, пиратов и других врагов. Он был запрограммирован патрулировать берега острова и трижды в день обходил по кругу весь Крит. Порой, чтобы остановить неприятелей, он бросал в них огромные валуны. В других случаях этот гигантский робот прыгал в огонь, раскалялся докрасна, а затем обхватывал тело врага и сжигал его заживо. Иногда Талоса изображали в виде крылатого существа – как на монетах из критского города Феста, датируемых приблизительно 300 г. до н. э. Изображения Талоса также были обнаружены на вазах, созданных около 400 г. до н. э.