«Искусственный интеллект. Этапы. Угрозы. Стратегии»

Итак, картина: (не?)далекое будущее, роботы с лазерными пулеметами пытаются уничтожить последний оплот человечества… Именно так подавляющее большинство представляет себе противостояние искусственного интеллекта и человечества. Во многом, конечно, благодаря фильмам, типа «Терминатора и прочее». Увы, если подобное противостояние и будет, то продлится оно совсем недолго и закончится безоговорочной победой роботов, согласно книге, которую написал Ник Бостром «Искусственный интеллект. Этапы. Угрозы. Стратегии».


Как понятно из названия книги, она описывает различные варианты развития событий при создании сверхразума. Это очень интересная книга, представляющая из себя огромный всесторонний анализ этапов создания подобного разума, различные варианты и пути к нему.

Сразу хочу отметить, что некоторые части книги довольно тяжелы для неподготовленных «гуманитариев», содержат научные выкладки, графики и прочее. Но если данная тема вам интересно – уверен, вы ее осилите.
Несмотря на то, что тема искусственного интеллекта обсуждается довольно давно, этой теме посвящается не так много литературы и все что мы знаем о данной проблеме – в основном из научной фантастики. В книги же с помощью научного подхода объясняются многие аспекты. Например, каким образом будет создан этот самый сверхразум и как он будет работать?

• Во-первых, это может быть полная эмуляция человеческого мозга, который «отсканирован» и загружен в сверхмощный компьютер или сети компьютеров.
• Во-вторых, это может быть компьютерная программа, которая постепенно будет эволюционировать, подобно человечеству. Но поскольку эта эволюция будет происходить «виртуально», за реальные секунды могут проходить виртуальные тысячелетия, таким образом, сверхразум сможет пройти путь от одноклеточного до многоклеточного не за миллионы лет, а, скажем, за месяцы.
• В-третьих, это может быть нечто среднее, между человеком и компьютером (киборги), когда людям будут вживляться чипы. И т.д.

С другой стороны, если рассматривать сверхразум по его функциональным возможностям, это может быть:
«оракул» — система, которая сама ничего не делает, но отвечает на любые вопросы (всегда правильно, разумеется);
«джинны и монархи» — системы, которые выполняют поставленную перед ними цель;
«инструмент» — система, которая выполняет определенную задачу.

В чем опасность искусственных интеллектов? Во-первых, никто не знает, как он будет себя вести. Люди в основном действуют согласно своим ценностям и нормам морали. Какие ценности у компьютера или сверхчеловека, который может абсолютно все? Во-вторых, очень сложно задать ограничения и объяснить, что такое хорошо и что такое плохо. В-третьих, поскольку этот разум будет многократно превосходить человеческий, он сможет с легкостью обманывать нас.

И даже самые благие намерения могут привести к ужасным последствиям. Например, мы ставим задачу очистить мировой океан от загрязнения. Система анализирует ситуацию и приходит к решению, что самый правильный вариант – ликвидировать причину загрязнения, т.е. человечество. Или, ставим задачу сделать людей счастливыми. ИИ вживляет людям чип, который будет воздействовать на клетки головного мозга, превращая людей в вечно улыбающихся идиотов.
В книге очень много интересных размышлений и объяснений на эту тему. И пускай местами она не так легко читается, как другие, все же прочесть ее стоит. Мне очень понравилось.

Ну и в завершении еще раз про войну людей и роботов. Допустим, мы создали сверхразум, подконтрольный нам. Но ему что-то не понравилось, и он, в свою очередь, создаст свой сверх-сверхразум, а тот еще более умный. Таким образом развитие интеллекта будет идти даже не в геометрической прогрессии, а практически мгновенно. И если такой супер-умный компьютер решит уничтожить людей, он не будет создавать терминаторов. Он сможет создать, например, новый вирус. Или испустит специальный сигнал со всех мобильных телефонов (как у С.Кинга), или придумает такой способ, который нам даже в голову не придет (на то он и сверхразум). Так что такая война закончится в считанные минуты полной и безоговорочной победу не людей…

Но, с учетом современных технологий и разработок в этом направлении, в ближайшие лет 30-50 ожидать такого не стоит.
Купить книгу «Искусственный интеллект» можно на сайте издательства.