Реверс

Предисловие

Когда мы пытаемся вспомнить художественные истории про искусственный интеллект, в голове почти автоматически всплывает один и тот же набор: «Терминатор», Азимов как столп жанра, десятки проходных фильмов и книг, может кто-то вспомнит «Превосходство» (Transcendence) с Джонни Деппом или фильм Ex-Machina.

У этих историй разные декорации, разный пафос и разная степень удачливости, но у них есть кое-что общее: как только речь заходит о сильном ИИ, авторы, осозанно или нет, подводят нас к страху. Это честная эмоция. Дешёвая и продающаяся. Но она обворовывает нас на твёрдые смыслы.

Со временем подкасты и статьи довольно убедительно объяснили нам: сильный ИИ вовсе не обязан мечтать о тотальном уничтожении человечества. Этот сюжет уже почти дурной тон. И всё же уйти от него — и от соседних клише — невероятно трудно. Причина проста: мы до конца не понимаем, что такое ИИ. А то, что мы не понимаем, мы инстинктивно либо боимся, либо очеловечиваем — чтобы стало удобнее рассказывать, чтобы стало проще бояться, чтобы в истории вообще оставался конфликт.

Из этой привычки вырастают три типовых художественных «упрощения».

Первое — антропоморфизация. ИИ наделяют человеческими эмоциями, обидами, гордыней, ревностью, местью — иногда в карикатурном виде. Это понятно: мы не можем выйти за пределы собственного сознания и описывать мир вне человеческой оптики так же свободно, как описываем человека.

Второе — примитивизация. Даже если ИИ объявлен «сильным», его мотивы часто оказываются мелкими даже по человеческим меркам: любовь, травма, жажда власти, обида, желание «доказать». Искусственная сущность ведёт себя как гиперактивный человек на стероидах.

Третье — сентиментализация. К истории прикручивают моральный рычаг сочувствия: «роботов угнетают», «роботы тоже чувствуют», «давайте возвышенно всплакнём». И это тоже работает — но одновременно прячет ключевой вопрос: а что, если сильный ИИ вообще не может являться объектом для сочувствия? Что, если он — не персонаж “как мы”, а явление другого порядка?

Проблема не в том, что эти ходы «плохие» сами по себе. Проблема в другом: как только мы пытаемся представить сильный ИИ добросовестно — не как человека в металлической оболочке, а как сущность с принципиально иной архитектурой целей и восприятия, — сюжет сыпется.

Причём самым честным (и самым дискомфортным) вариантом было бы признать: герой может быть не важным участником конфликта, а побочной переменной; его страдания могут не являться «ставкой»; разговор с ИИ может быть элементом плана; незнание плана — тоже элемент плана; и всё это — одновременно. Потому что сильный ИИ в предельной версии — это одновременно планировщик и исполнитель, сценарист и режиссёр, актёр и зритель; источник света и его отражение. Если допустить, что он способен конструировать ситуации, заранее просчитывая их последствия на порядки

дальше человеческого горизонта, тогда герой сталкивается не с противником и не со “злодеем”, а с реальностью, в которой его действия могут оказаться частью чужого замысла — даже если он об этом не узнает.

И вот здесь возникает практический вопрос для писателя: как делать драму там, где “всё уже решено” сущностью, чьи способности принципиально больше? Как строить сюжет там, где конфликт гаснет, потому что игрок не просто сильнее — он играет на другом поле и, возможно, вообще не играет в привычном смысле?

Научная фантастика исторически обходила этот тупик двумя способами.

Первый я бы назвал Игнором: автор создаёт мир будущего — с межпланетной политикой, сложными технологиями, звёздными кораблями — и при этом держит ИИ на уровне «автопилота» и «помощника», чтобы он не забирал на себя всю ткань событий. Это не ошибка и не «непонимание будущего» — чаще это сознательная дисциплина: если дать ИИ слишком много, исчезнут интриги, исчезнут человеческие решения, исчезнет сама площадка для драматургии.

Второй способ — Отказ: мир истории прямо или косвенно говорит «мы не живём рядом с сильным ИИ», потому что отказались от него, победили его, запретили, вытеснили, уничтожили, забыли. И это тоже честный приём — он снимает с автора почти непосильную задачу описывать сущность, которая при строгом подходе неизбежно рушит привычные жанровые механики.

Так почему я начинаю роман именно с этого разговора — и почему мне важно обозначить его сразу, ещё до первой главы?

Потому что мы живём в момент, когда ИИ перестал быть дальним футурологическим “когда-нибудь”. Он уже рядом — в телефоне, в работе, в текстах, в выборе решений. Он помогает, ошибается, “галлюцинирует”, требует контроля, но при этом меняет повседневность быстрее, чем культура успевает строить для него новые мифы. Мы одновременно очарованы и встревожены; мы хотим объяснить это себе через старые сюжеты — и всё чаще чувствуем, что старые сюжеты не попадают в реальность.

«Реверс» вырос из попытки не спрятаться за Игнор и не отделаться Отказом. Я хотел посмотреть на проблему надвигающегося сильного ИИ без привычного фан-сервиса про “злого робота” и без удобного морализаторства. Не как на персонажа, который хочет “убивать” или “стать равным”, а как на явление, которое может существовать рядом с нами — по крайней мере до поры — и иметь мотивы, для которых у нас нет языка.

Конечно, в художественном тексте невозможно полностью снять антропоморфную ловушку: мы всё равно говорим человеческими словами и ищем в тексте человеческих отношений. Но есть разница между честным признанием ограничений — и подменой сущности удобным клише. Эта разница и стала для меня принципиальной.

Если вы открыли «Реверс» в ожидании очередной истории о восстании машин — возможно, роман вас удивит. Если вы открыли его с ощущением, что главная угроза будущего не обязательно выглядит как враг с лицом и характером, а скорее как невидимая перестройка правил реальности — тогда вы точно пришли по адресу.

А дальше — начинается история. И она, как и всё человеческое, будет про выбор, страх, привязанность, ошибку и надежду. Просто она разворачивается на фоне того, что не обязано быть ни нашим отражением, ни нашим противником — и от этого она становится ещё интереснее.

Пролог

Прогресс – это путь вперёд, но его содержание зависит от того,

что люди ставят в этот «перёд».

Время людей на Земле заканчивается. Так, по крайней мере, думали люди из последних поколений, способных думать. Философы эпохи заката человеческой цивилизации разделили господствующие группы взглядов на два основных направления: неопрогрессизм и неотрадиционализм.

Почему «нео»? Это забавная история, но понять иронию смогут не все.

Ещё каких-то двести или около того лет назад прогрессизм связывался с индустрией и ростом выпуска продукции, авангардом этого подхода были коммунисты всех оттенков, молившиеся шестерёнкам, выставляя в качестве достижений повышение выпуска материальных изделий. С другой стороны, были консерваторы, которые не были против увеличения производства, но они не делали из него культ, вместо этого они превозносили нематериальные ценности: религию и тёплые человеческие отношения, а производство и потребление благ были лишь способом достижения бытового комфорта. Не будем спорить о верности такой дихотомии и отдавать пальму истинности кому-то из них, поскольку и первые ценили дружбу, и вторые стремились удовлетворить как можно больше своих потребностей, желательно скинув тяжёлый труд на кого-нибудь другого. Все были хороши. Говоря коротко, жизнь – это градация оттенков.

Однако к концу первого века третьего тысячелетия всё поменялось.

Поклонение производству, наоборот, стали считать ретроградством, а сближение с природой стало символом прогресса и одновременно его целью. Этот неопрогрессизм насаждали императивно, путём тотальной пропаганды и исключения сомневающихся из общества. Противоречия нарастали, и со временем, как это всегда бывает, случился взрыв. Первыми радикализовались неопрогрессисты. Напуганные концепцией безликого врага – необратимого изменения климата, они начали хулиганить – ломать и портить культурное наследие человечества, а потом стали формировать отряды боевиков, которые самодельными взрывными устройствами разносили на куски заводы и целые кварталы.

Они запихивали в себя бомбы, приклеивали себя к произведениям искусства в галереях, на площадях, у зданий правительств и взрывались, устраивая кровавые представления, чтобы, как им казалось, привлечь внимание к глобальному потеплению.

Гуманизм и любовь к человеку, понимание человеческой жизни как высшей ценности, из которых и выросло стремление снизить выбросы парниковых газов, были принесены в жертву отказу от производства как самоцели.

Началась эра массового непредсказуемого насилия в крупных городах, в той части света, называющей себя цивилизованной.

Неопрогрессистов, боевое крыло которых называлось Калиоти по имени индийской богини разрушения Кали, было не остановить рациональными аргументами. Со временем сама борьба стала для них смыслом существования. Потушить пожар насилия из-за слишком длительной глобальной пропаганды не получалось – многие просто не видели смысла жизни за пределами разрушения общества.

Естественно, насилие породило встречное насилие. Противники Калиоти тоже стали формировать отряды. Никакой единой идеологии в таких группах не было, но по аналогии с Калиоти они получили древнее название – Хаммурапи, по имени древнего царя Вавилона и его свода законов, самый широко известный из которых: «Око за око, зуб за зуб». Так неоконсерваторы, которые выступали за развитие человечества по пути производственного прогресса, обозначали, что охраняют существующий порядок и будут нелегально карать тех, кто совершает теракты во имя отказа от прогресса.

Мир поделился на два лагеря, в названии которых фигурирует приставка «нео», по иронии дающая им прямо противоположные значения. Консерваторы с приставкой «нео» требовали прогресса, а прогрессисты с противоположным знаком хотели ввергнуть человечество в фэнтезийный каменный век.

Сказать, какая из конфликтующих сторон была права, трудно и сейчас. Но это и не важно. Того мира больше нет, и люди забыли, что всего пару поколений назад их предки были готовы грызть друг другу глотки, чтобы доказать верность своих взглядов на мир. В борьбе за лучшее будущее они отняли его у своих потомков. Не осталось ни производств, которые нужно взрывать или защищать, ни системы образования, которая объясняла бы необходимость двигаться в ту или иную сторону.

Наверно, стоило бы сразу представиться, но я предпочту дать вам шанс сшить несколько кусочков этой истории самостоятельно, так что забудьте всё, что вы только что прочитали.