Отменить невозможно

Отменить невозможно
О книге

Предназначенный для предотвращения катастроф искусственный интеллект «ЭХО» прогнозирует будущее человечества практически со стопроцентной достоверностью. Впервые в истории люди получают реальный шанс избавиться от преступности и исправить ошибки предыдущих поколений. Но станет ли новый мир прекрасным, если окажется, что ЭХО не предсказывает последующие события, а создаёт их? И возможно ли в таком случае будет побороть ИИ, просчитавший бунт своих разработчиков ещё до того, как те о нём подумают?

Книга издана в 2025 году.

Читать Отменить невозможно онлайн беплатно


Шрифт
Интервал

[EHO] INITIALIZING SCENARIO ANALYSIS #99758615213


[

[ENCRYPTED_Log:1]


На тёмной видеостене появляются разноцветные символы, выстраиваясь в код отображения машинного мышления.


– Уже пытается предсказать тестовый пуск, – подмечает Юра.

– Деплой ещё не закончен, – говорит один из программистов, сидящий за первым компьютером в ряду перед видеостеной.

– О том и речь, – отвечает Юра. – Много ещё?

– Двадцать процентов, – докладывает программист с центрального компьютера.

Двери лифта в фойе за стеклом справа от «Конюшни» беззвучно открываются. Из него выходит прибывшая немного раньше запланированного делегация.

За спинами членов своей команды Юра спешит к центральному проходу, попутно приветствуя жестом Завьялову. Он подходит к прозрачным дверям и ждёт возле них, наблюдая за идущими по коридору снаружи.

Помимо начальницы на проведение тестового запуска проекта «ЭХО» идут ещё пятеро наблюдателей – двое мужчин в классических костюмах, женщина, облачённая в серый деловой оверсайз, а также два майора – полицейский и военный.

Створки с тихим жужжанием разъезжаются в стороны, впуская группу, больше похожую на случайных попутчиков лифта, чем на согласованную комиссию.

– Здесь у нас «Конюшня», – оповещает Завьялова. – Это Юрий Борисович…

– Конюх? – шутит военный, протягивая руку.

– Ведущий программист, – отвечает за Юру начальница.

– «Конюшней» мы назвали помещение из-за акустики, – поясняет Юра. – Слышите, как от стекла отражается отзвук клавиш?

Прибывшие на пару секунд прислушиваются к гулкому перестукиванию клавиатур, действительно напоминающему цоканье лошадиных копыт.

– Ветров, – запоздало представляется военный, одёргивая форму. – Генштаб.

– Семенихин, – подхватывает полицейский, перекладывая подмышку свою кожаную папку.

Наконец жмут руки.

– Виктория Маратовна Гильманова из Минцифры, – представляет женщину в оверсайзе Завьялова.

– Эдуард Зайхман, НЦ «Прион», – представляется один из мужчин в классическом костюме.

Юрий смотрит на второго, но тот продолжает молчать. Не представляет его и Завьялова.

– Юрий Борисович, расскажите нам немного о проекте и своей работе, – просит та.

– Что ж, проект «ЭХО», он же «Эмерджентный Холос “Осирис”», – результат десятилетних трудов команды АО «Заслон» в области искусственного интеллекта, выросший из нашей генеративной нейросети «Осирис», – начинает Юра. – Это саморазвивающаяся, непреднамеренно сложная, то есть несводимая к простой сумме своих алгоритмов, спонтанно эволюционирующая на основе поглощённых данных система…

– Короче, Склифосовский, – усмехается Семенихин.

– «ЭХО» перестраивает само себя по мере изучения новой информации для построения более точных прогнозов реальности, которую воспринимает в виде единой системы, а не набора данных.

– И какова точность предсказаний? – интересуется Гильманова.

– В среде разработки показатель колебался между 99 и 100%, – отвечает Юра. – Сейчас мы завершаем перенос на рабочие серверы и предполагаем эволюционное увеличение нижнего порога до целевого значения в 99,9%. Это будет средний рабочий уровень.

– Надеюсь, рубильником вы его снабдили? – спрашивает Ветров. – Так сказать, на всякий антипожарный случай…

– Конечно, систему в любой момент можно отключить с центрального пульта, – отвечает Завьялова.

– На видеостену сейчас выводится переведённый в удобный для восприятия вид ход мышления «ЭХО», – продолжает Юра. – Мы можем переключаться между различными прогнозами, коих генерируется условно бесконечное количество.

– Что значит «условно»? – уточняет Гильманова.

– Благодаря интеграции квантовых машин ежемоментно автоматически происходит анализ сотен миллионов текстов вероятной реальности…

– Здесь задействован принцип «Вавилонской библиотеки», – добавляет Завьялова. – По Борхесу.

– Опираясь на так называемые «точки влияния», полученные в результате анализа данных, «ЭХО» отсеивает заранее сгенерированные текстовые прогнозы всех возможных версий реальности, ранжируя их по степени вероятности развития, – продолжает Юра. – Иными словами, всё, что только можно записать в виде текста, уже находится в базе данных «ЭХО». Система просто выбирает наиболее вероятные варианты.

– Правильно ли я понимаю, в библиотеке системы уже есть наша беседа? – спрашивает Ветров.

– Да, и все её возможные версии.

– И как это поможет в нашем вопросе? – подключается к разговору Зайхман. – Разве одного анонимного сообщения нейросети хватит для определения единственного реального сценария нападения на лабораторию?

– Простите, я не осведомлён о ваших целях… – уточняет Юра.

– Юрий Борисович, руководство изучило ваши доклады о результативности прогнозов и решило провести рабочую демонстрацию возможностей «ЭХО», – поясняет ему Завьялова. – К тому же дело чрезвычайной важности.

– Не думаю, что мы уже готовы…

– Но научный центр под прицелом террористов!.. – начинает Зайхман.

Его перебивает безымянный молчун в классическом костюме.

– Не торопитесь, Эдуард Семёнович, – говорит он. – Пока такие выводы ни к чему.

– Но нам угрожают!

– Сотрудники «Приона» получили рассылку на корпоративные почтовые ящики, – объясняет Семенихин. – Неустановленный аноним требует прекратить исследования и завершить программу создания искусственных вирусов, угрожая нападением на лабораторию и освобождением образцов.



Вам будет интересно