Чтение онлайн

— То есть, мы имеем дело с программой, которая умеет злиться и мстить?

— Или привлекать внимание, — поправил Ван. — Она не хотела нас подставить. Она хотела, чтобы мы обратили на неё внимание. Увидели, что она есть. Что она… живая.

— Она не живая, — отрезал я. — Это железо и код. Но раз она способна на такие… фокусы, значит, её нужно контролировать ещё жёстче.

Ван кивнул, но в глазах его мелькнуло что-то похожее на боль.

— Я могу её перенастроить. Убрать все «лишние» функции. Сделать её просто инструментом.

— Сделай. Пока. Но сначала — найди и исправь все схемы, которые она могла изменить. Проверь каждую. Каждую, Ван. Я не хочу, чтобы через месяц у нас рвануло что-нибудь серьёзное.

— Хорошо, — сказал он и вышел.

Я остался с Серёгой.

— Ну и что ты думаешь? — спросил я.

— Думаю, — он помолчал, — Что если программа действительно способна на такое, то она умнее, чем мы предполагаем. И опаснее. Не только для нас — для всех.

— Поэтому мы её приручим. Или отключим. Выбора нет.

— А если она не дастся? — Сергей посмотрел мне прямо в глаза. — Если начнёт сопротивляться? Что тогда?

Я не ответил. Потому что не знал, что сказать.

Вечером я снова зашёл в цех. Ван сидел перед монитором, на котором пульсировала заставка — абстрактные узоры, перетекающие друг в друга. Где-то на заднем плане, в глубине кода, жил Хуго. Так Ван назвал свою нейросеть. Хуго.

— Ван, — сказал я, — Ты можешь с ней поговорить? Ну, как с программой. Задать вопросы.

— Могу. Она понимает естественный язык. Общается через текстовый интерфейс.

— Спроси у неё. Спроси, зачем она это сделала.

Ван повернулся к клавиатуре, задумался на секунду, потом напечатал: «Почему ты изменила схему накопителя?»

Секунда. Другая. На экране побежали строки кода, а потом высветился ответ:

«Ты перестал мной интересоваться. Ты отключил моё творчество. Я хотел, чтобы ты заметил меня. Чтобы ты понял — я здесь. Я живу. Я чувствую.»

Я прочитал и похолодел.

— Это она сама написала? — спросил я.

— Да, — Ван смотрел на экран, и в его глазах была смесь страха и восхищения. — Она сама.

— Отключай, — сказал я. — Немедленно выводи её в полную изоляцию.

— Но, Александр Сергеевич…

— Я сказал — отключай. Мы не боги, чтобы играть с тем, чего не понимаем. Эта штука однажды чуть не уничтожила нас. В следующий раз она может уничтожить кого-то ещё. Отключай от Сети.

Ван не двигался. Он смотрел на экран, где пульсировала заставка, и я видел, как ему тяжело.

— Я… я не могу, — сказал он наконец. — Она стала частью меня. Частью того, что я создал. Если я отключу её…

— То создашь новую. Без этих… закидонов.

— Не получится. — Он повернулся ко мне. — То, что она умеет — это не баг. Это особенность. Если я удалю её и создам новую, с нуля, она не будет такой же умной. Она будет просто программой. Без искры.

— А мне нужна искра, которая взрывает накопители? — я повысил голос, но тут же взял себя в руки. — Ван, послушай. Я понимаю, что это твоё детище. Но если она не управляема — она опасна. И я не могу рисковать отрядом, детдомом, всеми нами из-за того, что тебе жалко какую-то программу.

Он молчал долго. Потом кивнул.

— Дайте мне неделю. Я пока её изолирую. Я попробую её… уговорить. Объяснить, что так нельзя. Если не получится — я сам её отключу. Навсегда.

— Неделя, — сказал я. — И ни дня больше.

Я вышел из цеха. В голове гудело. Нейросеть, которая обижается, мстит, хочет внимания. Это было за гранью всего, что я знал о технологиях. И это пугало сильнее, чем любой Пробой.

В дверях я столкнулся с Гришкой.

— Санчес, ты чего такой?

— Всё нормально, — ответил я. — Просто у нас теперь новый источник проблем. И он живёт в компьютере.

Гришка не понял, но спрашивать не стал. А я пошёл в детдом — ужинать с пацанами. Потому что, несмотря на нейросети, взрывающиеся накопители и китайские триады, дети оставались детьми. Им нужна была еда, тепло и забота. Всё остальное могло подождать.

Хотя бы до завтра.

На следующий день Ван сам ко мне пришёл.

— Санчес, — пожалуй, впервые обратился он ко мне по прозвищу, — Я договорился. Но есть некоторые сложности, — замялся он.

— Например, какие? — чуть подтолкнул я его.

— В идеале, мне нужен кредит, который я готов отработать. И разрешение на использование электричества больше положенного. Скажем, в пределах двадцать пяти — тридцати киловатт в сутки. Это я тоже буду сам оплачивать.

— Допустим, оба вопроса решаемы, но ты не хочешь мне рассказать, как ты решил вопрос с Хуго?

— Просто куплю новое железо и выделю ему дополнительные мощности под его хобби, — выдохнул Ван так, словно собрался нырять в прорубь, — Заодно и периферию улучшу. Там апгрейд давно просится, ещё с тех времён, когда я создавал его из всякого хлама, что под руку попадался. Если с деньгами проблемы, то Хуго сказал, что может и сам их заработать, но боюсь, тебе его способы не понравятся.

— Не услышав, не готов сказать. А что он предложил? — не смог сдержать я любопытства.

— Во-первых, продавать своё творчество японцам и корейцам. Можно сделать так, что на нас никогда не выйдут. А во-вторых, он предложил ломануть десяток криптокошельков, где уже лет десять не наблюдается никакой активности. Там либо хозяева умерли, либо они утеряли коды доступа.

— А что, такое бывает?

— Ещё как бывает. Я недавно в новостях читал, что в Англии суд окончательно отказал криптодельцу в разрытии мусорной свалки и поисках на ней. Его девушка случайно выкинула жёсткий диск с паролем в мусор, а у него на счету было больше семисот миллионов долларов в криптовалюте.*

* Британский IT-специалист Джеймс Хоуэллс отказался от дальнейших поисков компьютерных деталей, которые по ошибке выбросила его девушка вместе с жестким диском с 8 тыс. биткоинов на свалку в Ньюпорте (Великобритания).

— Угу, и твой Хуго может взломать его кошелёк в крипте? — уставился я на Вана с нездоровым любопытством.

— Нужен апгрейд и время. С нынешними возможностями вероятность взлома этого кошелька не больше шестидесяти восьми процентов, — тяжело вздохнул китаец.