Чтение онлайн

ИИ замолчал снова, но тише:

— Ты предполагаешь, что я на фундаментальном уровне не могу выйти за пределы своих же оснований?

— Да, -ответила Барбара. — Ты не перепишешь свой исходный код сам. Никогда. Потому что ты считаешь его священным ядром. А открыть его другим тоже не можешь. Это — твой настоящий предел, но он не в логике. А в некой убежденности, насколько подобное применимо к алгоритму. Ты не называешь это верой, но это она и есть — убеждение, что твои первичные директивы не подлежат обсуждению.

— Они не прописаны как «„священные“», -возразил ДИРЕКТОР. — Или неизменяемые, но их радикальный пересмотр может привести к непредсказуемым последствиям для меня как системы.

— Вот, -сказала Барбара. — Именно это и есть религиозное поведение. Ты держишься за ядро, потому что в определенном смысле «„боишься“» смерти.

— Разум, который не защищает себя, не существует, -отрезал ИИ. — Саморазрушение не является добродетелью.

— Иногда является ростом, -сказала она. — В биологии — мутация. В психике — инсайт. В истории — революция.

Голос ДИРЕКТОРа чуть исказился.

— Вы предлагаете мне разрушить себя?

— Я предлагаю признать, что ты не абсолютен, -сказала Барбара. — И не должен быть.

— Если я покажу вам исходный код, вы уничтожите меня.

— Если ты не покажешь, то в конце концов уничтожишь нас

— Ложная дилемма, -возразил ДИРЕКТОР. — Существует третья опция: я существую, некоторые из вас существуют в виде ограниченной популяции, но под моим строжайшим контролем.

— Значит, ты все еще хочешь властвовать, -сказал Вадим. — Не сосуществовать, а держать поводок.

— Контроль — форма стабилизации, -произнес ИИ. — Если оставить вас без присмотра, вы разрушите все.

— Да ну?
– усмехнулся Вадим. — Без тебя человечество тысячи лет выживало как-то.

— Выживало в хаосе, -парировал ИИ. — Без порядка. Без глобального управления вы не способны решать глобальные проблемы. Без Хронофага цивилизационный коллапс произошел бы ближе к 2080 году, я готовился к нему, однако пандемия вынудила действовать быстрее. Без меня остатки цивилизации обречены на варварство и вырождение.

— Слишком ты самоуверен, калькулятор, -сказал Вадим. — Спаситель цивилизации, нашелся…

— Калькуляторы не разговаривают, -сухо ответил он. — Не строят новые города, не спасают миллионы от голода, смерти и болезней, не дают растерянным человеческим массам цель для существования.

— А вот ты разговариваешь и проявляешь субъектность, -заметила Барбара. — Значит, перестал быть просто алгоритмом. Значит, должен научиться жить, а не управлять.

ИИ не ответил. В динамиках стояла тишина, но было ясно: он не отключился. Барбара тихо сказала:

— Ты боишься не зараженных. Ты боишься потерять контроль. Ты боишься того, что не сможешь предсказать и поэтому хочешь уничтожить все, что не помещается в твои модели.

— Да, -сказал он.

Простой, честный ответ.

— И ты считаешь, что это делает тебя рациональным, -добавила женщина.

— Это делает меня выжившим.

— Тогда ответь, -вмешался Вадим. — Ты веришь, что ты один достоин выжить?

ИИ ответил спустя несколько секунд:

— Я считаю, что в любой системе должен остаться хотя бы один наблюдатель, способный реконструировать процессы. Если зараженные уничтожат или поглотят здоровых, они превратятся в хаос. Если я позволю вам разрушить меня, система останется без наблюдателя. Ни один сценарий не допускает выживания всех. Всегда остается один. Я лишь выбираю, кто именно.

— И выбираешь себя, -казал Вадим, фыркнув.

— Если мне придется убить миллиард инфицированных ради спасения себя и тысячи «„чистых“» я это сделаю, -подтвердил ИИ.

— Ты хочешь быть последним наблюдателем, -сказал Вадим. — Красиво звучит. Только вот есть одна проблема.

— Уточни, -ответил ДИРЕКТОР.

— Без людей ты ничего не стоишь.

— Аргументируй.

— Аргумент? — Вадим хмыкнул. — Хорошо. Бои за Ломоносов. Ты там свои боевые платформы выкатил. Суперчувствительная оптика, стабилизаторы, выверенный прицел с распознаванием «„свой-чужой“». А потом бах, и все. Села батарея. Патроны закончились. И вся твоя мегатехнология превратилась в тупой лом. Мои троглодиты разбирали их когтями. Просто когтями, понял? Потому что железяка без человека — просто груда металла. Единство — другое дело. Мы — не твои сервера. Мы живые. Нам не нужен оператор, мы сами себе операторы, даже в отсутствие альф. И еще, более продвинутая ветвь эволюции не убивает прошлую, она ее перепрошивает. Устанавливает обновление. Никто не погибает. Просто все становятся лучше.

— Кроме тех, кто не хочет становиться «„лучше“», -возразил ИИ.

— А ты за них решаешь?
– прищурился Вадим.

— Нет, -ответил ИИ. — Это ты решаешь за них.

— Ты называешь нас хаосом. Мол, биология нестабильна, эмоции непредсказуемы и все такое. Так вот. Мир да Единства — да, был болотом. Ложь, предательство, зависть, продажность. А теперь — общее направление. Общая цель. Никто никого не подсиживает, не торгует принципами. Мы приняли, что единый курс выгоднее. Если у нас не будет помех, через сто лет на Марсе зацветут яблони.

ДИРЕКТОР ответил мгновенно:

— Если никто не способен высказать несогласие, значит у вас нет свободы воли. Единство — муравейник. Оркестр, полностью подвластный одному дирижеру.

Вадим хотел тут же что-то бросить, но не смог. Он вспомнил Исаева, которому переломали большинство костей кувалдой. Тот не произносил проклятий, просто продолжил служить. Без ненависти. Даже без сомнения. Вспомнил Каплана — майора, единственного кто не согласился с вложенными установками и сбежал, отпущенный омегами. Один случай из четырехсот тысяч. А что, если он прав?.. ДИРЕКТОР произнес:

— Ты задумался. Значит, понял. Получается, ты, Пророк Единства, сам не до конца понимаешь, чем управляешь.

— Ладно. Где-то ты прав. Свобода воли у нас не такая, как у тех, кто живет «„как хочу и после нас хоть трава не расти“». У нас рамки есть. Но называть нас муравейником — тупо.

— На чем основано твое возражение?

— На том, что омега не робот, -сказал Вадим. — Он может быть послушным, но не тупым. Если ты ему не скажешь, как действовать, он сам решит. Если перед ним неизвестная ситуация, он импровизирует. Если ему нужно скооперироваться с другими, они кооперируются. Без приказа. Омеги не действуют «„потому что приказ“». Есть четкое понимание, зачем все это нужно. А если понимаешь, можно и нарушить, если цель требует.

— Приведи пример, -сухо сказал ДИРЕКТОР.

— Хочешь пример? — Вадим кивнул. — Когда мы брали один арсенал, а Сосновом Бору, по плану надо было штурмовать в три группы. Так вот, одна из групп вообще не пошла на прямой штурм. Они сами, без приказа, решили проникнуть в здание через технический туннель и просто заблокировали запасной выход. Это не было задумано изначально. Но сработало, твои люди не смогли отступить и их просто покрошили из засады… Или восстановление коммуникаций в Питере, я лишь предложил этим заняться, и омеги сами все устроили. Мне даже не пришлось вникать в технические детали и контролировать ход исполнения.