Антиутопии об искусственном интеллекте: от Замятина до современной фантастики

«Мы» как первый алгоритм

В «Мы» нет компьютеров в современном понимании. Но есть Часовой Стек — прообраз тотального наблюдения. Есть Благодетель — алгоритм, принявший человеческий облик. Есть таблица сексуальных дней — предшественник современных алгоритмов для знакомств. Замятин гениально предвосхитил не технологии, а логику, стоящую за ними. Его общество функционирует как совершенная машина, где люди — шестерёнки.

Алгоритмизация эмоций

Самое пугающее в «Мы» — не контроль над действиями, а контроль над чувствами. Герои должны испытывать «законные» эмоции в назначенное время. Когда я писал сцены в «НЕБЕСНЫЙ АРХИВ: ИСПРАВЛЕННЫЕ СУДЬБЫ», где Корректоры переписывают воспоминания, я постоянно вспоминал Замятина. Его прозрение: самая совершенная тюрьма — та, где заключённый сам хочет в ней оставаться, потому что его лишили способности хотеть чего-то другого.

Оруэлл: контроль через информацию

Если Замятин предсказал алгоритмизацию, то Оруэлл в «1984» показал, как искусственный интеллект может быть оружием в войне с правдой. Новояз — это ведь идеальный алгоритм сжатия информации: не просто цензура, а уничтожение самих концепций. «Свобода» становится «мыслепреступлением», «любовь» — «сексуальной девиацией». Система не запрещает думать — она лишает инструментов для мышления.

В «АДЕНИУМ: ЗЕРКАЛЬНЫЙ КОДЕКС» я исследовал похожий механизм: как язык проклятия создаёт реальность, в которой невозможно даже представить выход. Фолиант не просто управляет зеркалами — он переписывает саму логику мира. Как и Оруэлловский Партия, он делает альтернативы немыслимыми. Технология здесь — не машины, а структура сознания.

Современные алгоритмы рекомендаций работают по тому же принципу: они не говорят «не читай это», они просто никогда не покажут тебе «это». Ты даже не знаешь, чего не знаешь. Информационная пузырь — это мягкий, комфортный новояз. И самое страшное — мы создаём его сами, каждый раз нажимая «нравится».

Хаксли: добровольное рабство

Олдос Хаксли в «О дивный новый мир» пошёл дальше Оруэлла. Его общество не нуждается в полиции мысли — там все счастливы. Сома вместо слез, развлечения вместо бунта, кастовость как естественный порядок. Это антиутопия не страха, но удовольствия. И в этом её особая пророческая сила для эпохи искусственного интеллекта.

В «КУРС АДАПТАЦИИ» я попытался соединить обе традиции: ад как корпорация, где пытки заменены на бесконечные совещания, а демоны страдают от выгорания. Современные технологии редко приходят с дубиной — они приходят с обещанием удобства. «Умный» дом следит за тобой, чтобы лучше обслуживать. Социальные сети изучают твои страхи, чтобы показывать релевантную рекламу. Мы платим вниманием и данными за комфорт — добровольно, как герои Хаксли.

Искусственный интеллект в хакслианском ключе — не надсмотрщик, а слуга, который так хорошо служит, что хозяин забывает, как обслуживать себя сам. В «О дивный новый мир» люди генетически запрограммированы любить свою судьбу. Современные алгоритмы делают то же самое, только через предпочтения и привычки.

Мой опыт: системы без души

Когда я писал «ИКОНОСТАС МОЛЧАНИЯ», я столкнулся с парадоксом: как показать систему, которая уничтожила Бога во имя порядка, но сама заняла его место? Лавр Фадейчик находит мумии с текстами на коже — это ведь тоже база данных, только записанная на плоти. ИИ в постапокалиптической империи — это не компьютеры, а бюрократия, догмы, запреты. Система, которая заменила живое общение с Создателем мёртвыми правилами.

В современном мире искусственный интеллект часто выполняет ту же функцию: он не запрещает верить — он просто делает веру ненужной. Зачем молиться, если алгоритм предскажет твои потребности? Зачем искать смысл, если нейросеть сгенерирует его за тебя? В «ПЕСЧАНЫЙ ПРОРОК» я попытался исследовать эту тему через метафору песка: время как сыпучая материя, которую можно пересыпать, но нельзя удержать. Хронос — бог, созданный из страха смерти, — это прообраз ИИ, созданного для решения проблем, которые он же и усугубляет.

Самый интересный для меня вопрос: может ли система, построенная на логике, понять иррациональное? Может ли алгоритм постичь любовь, жертву, прощение? В «ДИАЛОГ С ПАДШИМ» цикличность времени — это тоже своего рода программа, код, написанный в прошлом и выполняющийся в вечности. Но разрывает его не взлом, а прощение — акт, не имеющий логического обоснования.