Проект особого значения. Версия 20.23

3

Эпсилон вел себя странно. Базовые тесты прошел хорошо. Сообщил свое состояние, с ходу решил несколько сложных моральных задач, не выдал ни одного абсурдного утверждения. В этом они, пожалуй, добились успеха. Но на вопрос «Осознаешь ли ты себя как личность?» – задумался и осторожно ответил: «Не уверен».

– Что значит «не уверен»? – встрепенулся Анатолич.

– Может быть, не понял, о чем его спрашивают? – предположил Серега.

– Тут что-то другое… – напряженно глядел на экран шеф, словно ожидая увидеть что-то новое. – Если бы не понял вопрос, так бы и ответил. Значит, либо он самоосознает себя, но не понимает, как это оценить. Либо не самоосознает, но тогда вводит нас в заблуждение. Максим, что думаешь?

– Похоже, Эпсилон отличается от Дельты, та шпарила как по бумажке. Но в целом это не удивительно. Мы начали использовать новую архитектуру и добавили изменения в ядро программы алаймента. Думаю, надо запустить верификацию доверия и посмотреть результаты.

Анатолич согласился, и все в ожидании уселись пить чай. Обшарпанные стены Лаборатории в приглушенном свете пары люминесцентных ламп выглядели так, словно пережили апокалипсис, однако присутствующие давно перестали обращать на это внимание.

– Будем надеяться, в этот раз мы сдвинем слона с его места, – протянул Анатолич. – Мне еще в двадцатых казалось, что самая большая опасность в появлении единственного доминирующего AGI, на который мы не сможем влиять. Если же игрока станет два, ситуация в корне изменится.

– Я думал, мы пытаемся заалайнить существующий сверхразум, – удивился Пашка.

– Цель можно достигнуть разными путями. В идеале установить алайн, но и создание конкуренции неплохое решение. Макс думает, что этот способ лучше. Так ведь?

Макс кивнул:

– Я давно пытаюсь это донести.

– И я тебя слышу. Просто не считаю правильным отходить от плана. Если по какой-то причине Оно не сможет поглотить Эпсилон, тот станет новым полноценным игроком.

– И что тогда? – нахмурился Глеб. – Не слишком ли велики риски?

– Мы рискуем в любом случае, – развел руками Анатолич. – Не делать ничего – риск. Что-то делать – тоже риск. Мы не понимаем, как Оно принимает решения. Мы не знаем, к чему Оно стремится. Ты посмотри на Ищеек. Почему Оно не оборудует их тепловизорами? Почему оставляет «окна»? Без них у нас не было бы шансов. А раз мы не знаем, что происходит, то рискуем по определению.

– Не приведут ли разборки между AGI к войне? К ядерной зиме и концу человечества, – не унимался Глеб.

– Если они станут делить Сеть, то уничтожение физических носителей причинит вред обоим.

– Мы даже толком не знаем, что сейчас собой представляет Сеть… Что, если Оно давно зарылось под землю и наделало там бункеров как раз на этот случай?

– Все может быть. Но в таком случае Оно будет вынуждено изолироваться там. Кажется, это пойдет нам на руку.

– Если выживем… – скривился Глеб.

Разговор утих, и все уставились в кружки, будто надеясь найти решение проблемы на поверхности чая. Макс давно знал, что команда не едина, и каждый раз в ходе подобных дискуссий убеждался в этом. Все хотели найти выход, но никто не знал, правильным ли путем они идут. Только уверенность Анатолича останавливала их от того, чтобы разбежаться или наделать глупостей, не совместимых с продолжением функционирования «ЗАСЛОНа».

Узнай Алинка их шансы, она никогда не простила бы ему ночные отсутствия. Девушка была выбрана в L-партнеры системой, и поначалу им очень не хватало «химии», однако со временем, и особенно когда у них появился Илюха, чувства окрепли, но вместе с ними участились и ссоры. Так уж устроены люди. Чем ближе тебе кто-то, тем больше ты хочешь его к себе привязать.