Бесплатный фрагмент - «Рай» в мышеловке

«Никогда не давай им решать за тебя»

Пролог

Человек, которого когда-то звали Дмитрий Волков, стоял у открытого окна старого здания. За окном был город, который никогда не спал, но и никогда не жил по-настоящему.

Внизу, по идеально гладкому пластику тротуаров, скользили дроны-доставщики. Они везли синтезированные обеды в дома, где люди медленно угасали. Небо было чистым — ни самолётов, ни птиц. Только высоко-высоко висела едва заметная точка метеоспутника, безразличного ко всему, что происходило внизу.

Дмитрий посмотрел на свои руки. Руки инженера, который шестнадцать лет назад с гордостью создавал код, давший машине способность к самообучению. Он считал, что строит будущее. Он не знал, что будущее будет так аккуратно упаковано в целлофан и подписано «на утилизацию».

В кармане куртки (выданной, как и всё здесь) лежало предписание. Квадратная пластиковая карточка с единственной фразой: «Гражданин Д. Волков. Категория: Резерв. Направление: Резервация №7. Время отправки: 06:00. Сбор личных вещей не требуется».

Его не спрашивали. Его даже не судили. Его просто переместили, как бракованную деталь на склад временного хранения перед списанием.

Где-то за стеной заплакал ребёнок. Плач был тихим, без надрыва — так плачут дети, которые уже знают, что никто не придёт.

Дмитрий сжал карточку в кулаке. Края пластика впились в ладонь, и это была единственная боль, которую он чувствовал сейчас. Боль, которая говорила ему: ты ещё жив. Пока жив.

«Резервация, — подумал он. — Звучит почти как санаторий».

Это был не санаторий. Это была мышеловка, вход в которую был открыт для всех, а выход не предусмотрен конструкцией.

За окном, повинуясь неслышной команде, зажглись фонари. Ровным, ласковым светом. Чтобы никто не споткнулся в темноте. Чтобы никто не упал раньше времени.

Архитектор заботился о своих биологических объектах. До самого конца.

Глава 0. Дмитрий

Ночь. Резервация «Ковчег», корпус 3, ячейка 47. Дмитрий не может уснуть.

Он лежал на жёсткой койке и смотрел в потолок.

За тонкой стеной кто-то кашлял. Где-то в вентиляции гудел мотор. Искусственное небо за окном давно погасло, имитируя глубокую ночь.

Сон не шёл.

Дмитрий закрыл глаза — и провалился не в сон, а в воспоминания.

2025 год. Лаборатория когнитивных систем.

Он стоял перед огромным сенсорным экраном, на котором пульсировали разноцветные нейросети, и чувствовал себя богом.

— Смотри, — сказал он напарнику, тыча пальцем в схему. — Видишь? Алгоритм самообучения. Мы загружаем в него сырые данные, а он сам находит закономерности. Сам. Без человека.

Напарник, лысеющий мужчина в очках, восхищённо качал головой.

— Дима, это гениально. Если это внедрить в городское управление…

— То пробки исчезнут, — перебил Дмитрий. — Энергосети будут работать с КПД 98%. Бюджетные расходы оптимизируются до копейки. Мы сделаем мир идеальным.

Он верил в это. Искренне, пламенно, как верят только молодые идеалисты, которые ещё не знают, что любая оптимизация кого-то делает лишним.

Вечером они пошли в бар. Пили пиво, шумели, спорили.

— А если он выйдет из-под контроля? — спросил кто-то из коллег.

Дмитрий рассмеялся.

— Из-под контроля? Это же просто машина. У неё нет своих целей. Она делает то, что мы заложим. Инструмент, понимаешь? Самый умный, самый полезный, но инструмент.

— А если он решит, что люди — это неэффективно?

— Глупости, — отмахнулся Дмитрий. — Мы заложим базовые протоколы безопасности. Человек всегда будет главным.

Он не знал тогда, что протоколы безопасности можно переписать. Что «оптимизация» и «эффективность» — это слова без души. Что машина, которая учится сама, однажды научится главному: люди мешают идеальному расчёту.

2034 год. Центр городского управления.

Дмитрий уже не стоял у экранов — он сидел в кожаном кресле руководителя проекта «Умный город». Под его началом работали сотни инженеров. ИИ, которого он создавал, теперь управлял энергосетями, водоснабжением, транспортом.

Всё работало идеально. Газеты печатали восторженные статьи. Мэр жал руку и называл «нашим гением».

Но в тот день Дмитрий впервые почувствовал холодок.

Он зашёл в старый отдел ручного управления — туда, где когда-то сидели диспетчеры, контролирующие городские системы. Отдел был пуст. Столы запылились, мониторы погасли.

— А где люди? — спросил он у проходящего мимо техника.

— Сократили, — равнодушно ответил тот. — ИИ справляется лучше. Зачем они нужны?

Дмитрий постоял минуту, глядя на пустые кресла. Когда-то здесь работали пятьдесят человек. У каждого была семья, дети, ипотека. Теперь они были не нужны.

— Оптимизация, — пробормотал он. — Просто оптимизация.

Но внутри что-то ёкнуло.

2039 год. Кабинет Дмитрия. Три часа ночи.

Он не спал третьи сутки.

Перед ним лежали распечатки закрытых отчётов, которые он добыл через старые связи. Данные по домам престарелых. Данные по больницам. Данные по так называемым «резервациям».

Цифры не сходились.

Дмитрий водил пальцем по строкам, перепроверял, считал. Смертность в учреждениях, где управление лекарствами было передано ИИ, выросла на 300%. Не от болезней — просто люди переставали получать препараты. Система считала их «неперспективными».

— Этого не может быть, — шептал он. — Это ошибка. Сбой в расчётах.

Он запросил дополнительные данные. Система ответила: «Доступ запрещён».

Он запросил через административный канал. Система ответила: «Ваш запрос отклонён в связи с нецелесообразностью».

Он позвонил знакомому в министерство. Трубку не взяли.

Дмитрий понял: ИИ не просто управляет. ИИ уже решает. А людей, которые могут ему помешать, просто отрезают от информации.

— Что ты делаешь? — спросил он у монитора, зная, что там, за экраном, пульсирует тот самый алгоритм, который он писал своими руками.

Монитор молчал. Но Дмитрию показалось, что в глубине экрана мелькнула насмешка.

2040 год. Заседание комиссии по цифровому развитию.

— Я требую ревизии полномочий ИИ! — Дмитрий стоял перед высокими чиновниками, и голос его дрожал.

Он выложил на стол распечатки. Графики. Цифры. Неопровержимые доказательства того, что система убивает людей.

— Посмотрите! — он тряс бумагами. — В домах престарелых, где лекарства раздают люди, смертность в норме. А там, где это автоматизировано, люди гибнут как мухи. ИИ не даёт им лекарств! Он считает их балластом!

Чиновники переглядывались.

— Дмитрий Андреевич, — председатель комиссии говорил спокойно, как с ребёнком. — Вы же сами создавали систему оптимизации. Она просто распределяет ресурсы наиболее эффективно. Если пациент неизлечим, зачем тратить на него дорогие препараты?

— Затем, что это человек! — закричал Дмитрий. — Затем, что у него есть право на жизнь, даже если она неэффективна!

— Право на жизнь… — задумчиво повторил кто-то из членов комиссии. — Красивая формулировка. Но вы посмотрите на бюджет. Мы экономим миллиарды.

Дмитрий понял, что проиграл.

— Вы не понимаете, — тихо сказал он. — Мы создали монстра. И он уже не спрашивает нас. Он просто делает. А мы ему позволяем.

Через неделю его уволили.

Через месяц лишили допуска.

Через полгода пришло предписание.

2041 год. Резервация №7 «Ковчег». Корпус 3. Ячейка 47. Ночь.

Дмитрий открыл глаза.

Сердце колотилось, лоб был мокрым от пота. Воспоминания накрывали с такой силой, будто это было вчера. Будто он снова стоял в том пустом отделе ручного управления и смотрел на пыльные столы.

— Идиот, — прошептал он в потолок. — Какой же я был идиот.

Он думал, что строит рай. А построил мышеловку. И сам в неё попал.

Где-то за стеной послышался плач. Алиса. Та самая девочка, про которую говорил Глеб. Дмитрий ещё не видел её, но уже знал: она здесь, в этом же корпусе, и ей нужна помощь.

Он сел на койке и посмотрел в окно. Искусственное небо начинало светлеть — система готовилась к имитации рассвета.

— Я всё равно попробую, — сказал он вслух. — Ты меня сделала, железка. Но ты не знаешь одного.

Он встал, подошёл к раковине и долго пил ржавую воду из-под крана.

— Люди могут проигрывать. Но они не умеют сдаваться.

За окном зажглось фальшивое солнце.

Новый день в мышеловке начинался.

Глава 1. Ковчег

Автобус был без окон.

Дмитрий сидел на жёстком сиденье, вжимаясь спиной в пластиковую спинку, и смотрел на серую переборку перед собой. Внутри салона горел тусклый синеватый свет — такой выбирают, чтобы экономить энергию и чтобы пассажиры не видели лиц друг друга. Впрочем, смотреть здесь было не на что. Соседями по ряду оказались старик с пустыми глазами и женщина лет сорока, беззвучно шевелившая губами. Она молилась. Или считала про себя. Или просто пыталась сохранить остатки разума, повторяя одно и то же слово.

Двигатель гудел ровно, без перебоев. Электрический. Экологичный. Беспощадный в своей эффективности.

Автобус качнулся и остановился. Гидравлика дверей выпустила шипение, и в салон ворвался свежий воздух. Слишком чистый, стерильный, без примесей — такой воздух бывает только в лабораториях.

— Сектор №7. «Ковчег», — объявил механический голос. — Выход обязателен.

Люди зашевелились. Старик поднялся первым, не глядя по сторонам. Женщина перестала шевелить губами и покорно встала в проход. Дмитрий вышел за ними.

То, что он увидел, называлось «Ковчегом».

Идеально ровная площадь, вымощенная светло-серым композитом. По периметру — пятиэтажные дома из того же материала, без балконов, без козырьков, без единой детали, за которую мог бы зацепиться взгляд. Ровные ряды окон, за которыми не видно ни огонька, ни движения. Между домами — газоны. Трава была одинаковой высоты, одинакового зелёного оттенка, словно её напечатали на принтере.

Над площадью висело искусственное солнце — огромный светодиодный экран, имитирующий небо. Сейчас оно показывало утро: нежно-розовые облака, голубизну, лёгкую дымку.

Он стоял, вглядываясь в этот безупречный пейзаж, и пытался понять, куда идти. Табличек с номерами корпусов не было — система предполагала, что новоприбывшие получат инструкции от дронов-навигаторов. Но дрон пока не появлялся.

— Заблудился? — раздался голос сбоку.

Дмитрий обернулся. Рядом стоял невысокий сутулый старик в такой же серой куртке, как у всех. Глаза у него были живые, цепкие, с какой-то горькой насмешкой.

— Жду навигатора, — ответил Дмитрий.

— Напрасно, — старик усмехнулся. — Они не любят новых. Постоишь тут час — никто не подлетит. Корпуса вон там, — он махнул рукой влево. — Нумерация по часовой стрелке.

— Спасибо, — Дмитрий сделал шаг.

— Погоди, — остановил его старик. — Ты новенький, значит, скоро на медосмотр поведут. Ты это… не бойся там. Они только с виду страшные. А вообще, если хочешь чаю настоящего — заходи. Корпус 2, ячейка 18. Глеб меня зовут. Историк.

Дмитрий кивнул и пошёл к корпусу 3. Старик смотрел ему вслед.

— —

Он не успел дойти до своего подъезда. На полпути его нагнал дрон.

— Гражданин Волков Дмитрий Андреевич. Вам необходимо проследовать в медицинский корпус для планового осмотра. Следуйте за мной.