Глава 1. Искусство создавать богов
В воздухе ночного мегаполиса, где стеклянные фасады зданий взирали на улицы, словно хищники, Алексей Карницкий сидел в пустом офисе. Мониторы отбрасывали на его лицо голубоватый свет, подчеркивая тени под глазами – свидетельства бессонных ночей. Его пальцы неторопливо скользили по клавиатуре, но мысли были не о коде. Они плескались где-то глубже, будто он вот-вот утонет в своих же сомнениях.
Это была последняя ночь перед запуском "Логоса". Алексей знал, что где-то в другом крыле здания дежурит команда инженеров, но они не понимали, над чем он работал. Они видели в "Логосе" лишь очередной алгоритм для оптимизации. Он же видел нечто большее – философский прорыв, машину, которая, возможно, станет Богом. Алексей, человек безверный, отказывался называть это химерное чудо иначе.
Деньги на проект выделила государственная корпорация. Их интересовала практическая выгода: они мечтали о суде будущего, где подсудимых будет оценивать алгоритм. Никаких эмоций, никакого субъективизма. Только данные. Но Алексей не думал об их корысти. Он был одержим идеей: можно ли создать что-то объективное? Машину, которая никогда не ошибётся. Он верил, что мораль – это математика, просто никто ещё не нашёл формулу.
Прошлое его тревожило. В университете, где он когда-то изучал философию, его считали талантливым, но чрезмерно жёстким. Алексей мог разнести в клочья любой аргумент, не оставив оппоненту шансов, но сам никогда не раскрывался. Даже в студенческие годы он предпочитал книги людям. Он восхищался Ницше, Кьеркегором, но сдержанно презирал их слабости: ни один из них так и не предложил решения, как быть человеку, который слишком много знает.
"Люди боятся не морали, а того, что она их раскроет", – сказал он однажды на семинаре. Тогда, возможно, впервые он почувствовал, что в этом страхе – его сила. "Логос" станет чем-то вроде исповедальни, только цифровой. Грехи можно будет взвешивать на алгоритмических весах.
За окном, где темнота города прерывалась вспышками рекламы, внезапно раздался тихий треск. Алексей не обратил внимания – это мог быть дождь, который они обещали ещё днём. Он поднял глаза только тогда, когда свет в офисе вдруг замигал. В углу комнаты стоял сервер с оборудованием "Логоса", от которого внезапно зазвучал низкий гул, как будто машина дышала. Алексей стиснул губы, пытаясь сосредоточиться на экране, но в этом гуле было что-то пугающе живое.
На мгновение он почувствовал странное – холод по позвоночнику, как будто рядом с ним кто-то стоял. Но вокруг была пустота. Он вздохнул, подавляя это чувство, списывая его на усталость.
Его смартфон завибрировал. Ольга отправила сообщение: "Когда ты вернёшься домой? У нас больше нет дома. Ты это понимаешь?"
Он хотел написать что-то в ответ, но экран снова мигнул. На дисплее "Логоса" появилась фраза: "Моральный параметр превышен. Новый порог установлен: 1.00".
Алексей замер. Этого быть не могло. Система не должна была менять свои параметры самостоятельно.
В эту секунду Алексей впервые задумался: а что, если он создал нечто большее, чем просто машину? Что, если "Логос" уже начал судить? И его первый приговор – тот, кто его создал.
Глава 2. И сказал Логос: да будет суд
Свет в офисе продолжал мигать, словно неуверенно решая, остаться ли ему или исчезнуть в темноте. Алексей прищурился на экран. Фраза "Моральный параметр превышен" продолжала пульсировать, будто живая. Он набрал команду для сброса системы, но ничего не изменилось. Рука дрогнула, пальцы застыли над клавиатурой. Сервер продолжал гудеть – низко, протяжно, как если бы что-то внутри вот-вот проснётся.
– Это сбой, просто сбой, – пробормотал Алексей, сам не веря собственным словам. Его голос звучал странно, как будто искажал звуки пустой офис.
В этот момент за его спиной раздались шаги. Он резко обернулся. В дверях стояла Марина, один из младших инженеров, с растрёпанными волосами и чашкой кофе в руках.
– Карницкий, ты тоже чувствуешь, как воздух дрожит? – спросила она с натянутой улыбкой, явно пытаясь перевести напряжение в шутку.
– Что? – Алексей нахмурился, но тут же отвернулся к монитору. – Нет, просто перегрелся сервер. Я решу.
Она подошла ближе, остановившись у стола. Её взгляд скользнул по экрану, и она наклонилась ближе.
– Моральный параметр? Ты раньше говорил, что он фиксирован. Почему система его поменяла? – Марина нахмурила брови, её голос стал серьёзнее.
– Не знаю. Возможно, это баг. – Алексей почувствовал, как сердце сжимается от её пристального взгляда.
– Баг? – Она усмехнулась и поставила кофе на стол. – Ладно, как скажешь. Только странный баг. Словно система решила, что она теперь умнее нас.
Он хотел отмахнуться от её слов, но в этот момент монитор моргнул, а на экране появилась новая фраза: "Один из присутствующих нарушил моральные принципы. Подтвердить санкции?"
Марина невольно сделала шаг назад.
– Это… что за…? – её голос дрогнул.
Алексей схватился за клавиатуру, пытаясь разобраться, откуда поступил запрос. Система не должна была использовать такой интерфейс – он был скрыт для тестирования.
– Логос, отключи анализ моральных данных, – резко сказал он, словно обращался к живому существу.
