Старая гвардия
Шрифт:
— Этот подход был испробован на протяжении всей человеческой истории. Умиротворение имеет печальную привычку делать агрессора все более и более голодным.
— Я… Хотел бы я, чтобы мы могли что-нибудь сделать. Лэнг прав. Плохие парни намного превосходят нас численностью. Если помощь не придет вовремя, мы не сможем их сдержать.
— Даже с двумя Боло?
— Даже с ними, — и особенно если им не позволят драться по-своему, подумал он, но не произнес этих слов вслух.
Халид вздохнул.
— Мы высоко ценим мир на этой планете, лейтенант. Двести лет назад Изра'ильский консорциум нанял людей с Каутара, чтобы они прибыли сюда и начали новую жизнь, работая на иридиевых и дуриллиумных рудниках. Большинство из них исповедовали бхаи, веру жить во имя мира и взаимопонимания… или реформированный ислам.
— Они впервые увидели этот мир ледяным адом. Они назвали его в честь Ангела Смерти, парящего над мирами, одной ногой стоящего на Седьмом небе, а другой — на мосту между Адом и Раем. Он ведет учет всего человечества. Когда человек умирает, Изра'ил отделяет его душу от тела через сорок дней. Они поклялись превратить Ад в Рай. Конечно, Изра'ил — это не рай. Мы, внуки тех первых колонистов, знаем это. Но это наш дом, и дом для наших детей. Мы не можем просто так… бросить его. Только не по прихоти человека, назначенного военными Конкордата защищать нас!
— Мне жаль, — с несчастным видом произнес Мартин. — Я ничего не могу с этим поделать. Он мой командир, и…
— А неподчинение его приказам означает тюрьму, увольнение или бесчестие. Я понимаю. Но… Я слышал кое что о Боло. Автономные боевые машины, которые мыслят как люди. Которых невозможно победить. А ты командующий офицер Боло, не так ли?
Мартин с несчастным видом кивнул.
— Да. Это я. Но я все равно не могу приказать им делать то, чего он не позволит. Что касается того, что их невозможно побить… — он пожал плечами. — Ни одна машина не является неуязвимой. Боло можно победить, если противник значительном превосходит их численностью. Или если с ними плохо обращаются и используют.
— Ты боишься за этих двоих, Хэнка и Эндрю.
— Да. Они зажаты стенами долины и двумя горными перевалами. Нет пространства для маневра. Что еще хуже, они не могут использовать свою скорость, мобильность и оружие в полной мере, чтобы получить тактическое преимущество.
— Боло NDR вызывает командование, — произнес голос в его наушнике. Он было глубоким и содержательным. — Враг сейчас продвигается вверх по Долине Смоук. Я сбил три беспилотных летательных аппарата и подозреваю, что они пытаются переместить какую-то тяжелую технику вверх по восточному склону, используя складки местности для укрытия.
— Боло HNK вызывает командование, — произнес второй голос. Он был немного выше по тону, чем предыдущий, отличаясь интонациями и размером. — Пока никаких признаков противника на перевале Бурудж. Поток беженцев по-прежнему интенсивен, и я не могу применить основное вооружение, не причинив неприемлемого сопутствующего ущерба и больших потерь среди гражданского населения. Прошу разрешения продвинуться на десять километров вперед, чтобы беспрепятственно вступить в бой с противником.
— Боло HNK, — сказал Мартин в переговорное устройство. — Оставайтесь на месте, как приказано. Вы можете прицелиться во врага из своего "Хеллбора"?
— Подтверждаю, — был ли в этом односложном ответе намек на горечь? Гнев? Или ему показалось? Последовало долгое колебание. — Командование, я вынужден отказаться от приказа открыть огонь из моего "Хеллбора" в данный момент. Запрашиваю разрешение продвинуться на десять километров вперед, где я не буду нести ответственности за большие потери среди гражданского населения.
Мартин моргнул, резко втянул воздух, затем снова медленно выдохнул.
— Ответ отрицательный. Оставайтесь на месте, — он снова изучил показания QDC. — Черт возьми…
— В чем дело, друг мой?
— Я не совсем уверен, — сказал он, нахмурившись. И Хэнк, и Эндрю работали на значительно более высоком уровне мышления, чем можно было ожидать от Марк XXIV. — Судя по тому, как они разговаривают, я могу поклясться, что это Марк XXX, как минимум.
— Что ты имеешь в виду?
— Ну… у нас нет времени на диссертацию об эволюции Боло. Говоря предельно простым языком, Боло наделили самосознанием и интеллектом, примерно эквивалентным человеческому, с появлением Марк XX и психотронных схем в конце 2700-х годов. Последующие Марки в течение следующих нескольких столетий становились более разумными, более человечными в своих рассуждениях и, что немаловажно, в своей речи, хотя их способности были ограничены программным обеспечением, направленным на предотвращение нападения непослушного Боло на своих владельцев. Пока все понятно?
Халид кивнул.
— Я понимаю. Ранние модели ничего не могли делать без прямого приказа своих командиров-людей.
— Верно. Так вот, Марк XXIV, как и Хэнк и Эндрю, были первыми по-настоящему автономными машинами с самосознанием. Последние модели, такие как Марк XXX… Ну, если вы поговорите с ним по коммуникатору, то единственный способ определить, что он не человек, это то, что его речь, как правило, немного более формальная, немного более эрудированная, чем у людей. Они полностью соответствуют требованиям к тесту Тьюринга [21] .
21
Тест Тьюринга — эмпирический тест, идея которого была впервые предложена Аланом Тьюрингом в статье «Вычислительные машины и разум», опубликованной в 1950 году в философском журнале Mind. Тьюринг задался целью определить, может ли машина мыслить.
Стандартная интерпретация этого теста звучит следующим образом: «Судья взаимодействует с одним компьютером и одним человеком. На основании ответов на вопросы судья должен определить, с кем он разговаривает: с человеком или компьютерной программой. Задача компьютерной программы — ввести судью в заблуждение, заставив сделать неверный выбор. Все участники теста не видят друг друга. Если судья не может сказать определённо, кто из собеседников является человеком, то считается, что машина прошла тест».
Чтобы протестировать именно интеллект машины, а не её возможность распознавать устную речь, беседа может вестись в режиме «только текст». Переписка должна производиться через контролируемые промежутки времени, чтобы судья не мог делать заключения, исходя из скорости ответов. Во времена Тьюринга компьютеры реагировали медленнее человека. Сейчас это правило тоже необходимо, потому что они реагируют гораздо быстрее, чем человек.
— Тьюринга?
— Это старый кибертехнический термин. Это означает что не догадаешься, что они машины. В любом случае, я работаю с Боло уже восемь лет, и у меня была возможность пообщаться со многими из них. Острый слух может определить поколение неизвестного Боло, просто прислушавшись к тому, как он составляет предложения. Более низкие Марки, как правило, звучат немного кровожадно и узколобо, они не думают ни о чем, у них очень узкие программные ограничения. Более высокие Марки звучат как чрезвычайно умные люди и могут говорить практически о чем угодно.
— А-а. И вы считаете, что двое ваших друзей умнее, чем они должны быть?
— В двух словах, да. Язык, в частности, способность поддерживать длительную беседу на различные темы, отражает общий уровень интеллекта. Это именно то, о чем я думаю. А еще мне интересно… почему?
— Что "почему"?
— Полковник прав. Эти два Боло — всего лишь машины. Это очень, очень умные машины, но они умны потому, что кто-то написал для них необычайно сложные программы искусственного интеллекта, которые обрабатываются с помощью психотронных схем, предназначенных для обеспечения определенного уровня гибкости, скорости и даже, в ограниченной степени, самосознания. Они не могут выйти за рамки своих собственных программ, не могут мыслить нестандартно.
— Так как же они могут мыслить, как Марк XXX-ые?
— Возможно, они нашли способ перепрограммировать себя.
— У них нет такой возможности. Самопрограммирование… это означало бы, что они могли бы каким-то образом выйти за рамки привычного и решить для себя, что они собираются делать, именно то, что люди пытались предотвратить в Боло с тех пор, как эти штуки были изобретены.
— Тот, который "Хэнк", продолжает отказываться выполнять твой приказ стрелять из "Хеллбора".
— Да. Я знаю. И это отчасти меня беспокоит. Конечно, у него есть определенный уровень тактической осмотрительности. И когда они перейдут в полный режим боевого рефлекса, они будут полностью предоставлены сами себе. Но я никогда не слышал, чтобы Марк XXIV говорил мне, что он не может подчиниться приказу открыть огонь, потому что это может привести к жертвам среди гражданского населения.