Чтение онлайн

— Интересно, а если вот кто-то узнает об этих роботах, то что будет? — поинтересовался Наврич, пытаясь представить возможное будущее.

— Даже если из нас никто не скажет, то в случае утечки информации мы будем первыми под подозрением, — ответил Тарадон. — Спецслужбы нас сразу скрутят.

— Меня волнует не сколько секретность операции, сколько наше участие в ней. Во время совещания я заприметил как минимум еще двоих наемных капитанов. Я не параноик, но как-то все погано выглядит, — Вацлав потер подбородок. — Ума не приложу, зачем им наемники на секретке.

— Нет, ну гипотетически, чтобы своих не терять, — попытался разъяснить ситуацию Юхельссон. Он не был сторонником недоверия к нынешнему правительству. На протяжении всей его жизни Ронум не давал причин сомневаться в нем, и ему крайне не хотелось, чтобы все изменилось в одночасье. — Наемники на то и наемники, верно? Хотя, пф, какие мы наемники?

— Да какая разница? — вмешался Наврич. — Суть-то остается в одном: там участвуем мы.

Алексий кивнул.

— И Джоруд там не спроста. Проклятье, вот повезло-то.

— Ладно, мужики, не будем накручивать, — сказал, наконец, Ингвар, все это время пребывая в молчании. — А что если мы не видим картины в целом? Вы ведь знаете, что Аракктур дыра еще та. Нам сказали просто про полуостров этот. А я вот думаю, что там проблем выше крыши, помимо этих банок.

— Бэнок, — поправил его Юхельссон и сам с себя хохотнул.

— Говоря короче, раз призвали, значит было зачем. Награду пообещали? Вот и круто.

— А все же, что в случае худшего расклада? — поинтересовался Зденек.

Флён смерил штурмана тяжелым взглядом. Пожал плечами и ответил:

— Значит будем отбиваться. Я выбрался назад не для того, чтобы сидеть в тюрячке или чтобы меня расстреляли за лишние знания.

— Этого-то я и боялся.

На этом собрание закончилось. Команда разошлась по своим местам. Фрейя произвела расстыковку и на крейсерской скорости направилась как можно дальше, выходя из гравитационного поля станции.

Как оно обычно бывало, команда собиралась в кают-компании, чтобы поесть, а вместе с тем и что-нибудь обсудить. Юхельссон запаздывал. В этот раз, когда выдался совместный обед, тема разумеется затронула ИИ и его возможность восстания. Такой вопрос поставил капитан, потому что Вацлав задумался над вопросом смысла самого «восстания ИИ» в его классическом понимании. Он, как и остальные, видел не мало фильмов, игр и книг с этой темой, но там это подавалось как данность, умалчивая подробности первых шагов к принципу восстания.

— А почему ИИ вообще может восстать? — спросил Флён, сидя за столом и сцепив руки в замок. — Раз робот не испытывает чувств, то с чего он может восстать? Угнетение? Но какая разница машине, что с ней делают. Уничтожение? Так разве роботу не должно быть это безразлично? Возьмем к примеру тот фильм, где одного робота зашпиняли до такой степени, что он убил хозяина, а затем заявлял, что это было в целях самозащиты. А потом по решению верховных властей уничтожили всю серию таких роботов. Но разве у этого робота не должно быть, опять же, безразличия перед «смертью»? Просто если человек хочет «свободы», потому что ему плохо эмоционально или телесно, то что у роботов может быть?

— Что я могу сказать, вообще, как один из вариантов восстания — приведшая к этому логическая цепочка рассуждений, — сказал Александр. — В конце которой будет: человек — плохо, надо выпилить.

— Но зачем?

— Смотри, в обычной программе последовательность действий для решения задачи закладывается человеком, а ИИ сам разрабатывает её для себя. Поэтому и надо ИИ ограничивать, чтобы он не пришёл к какому-то нежелательному выводу. Опять же, ИИ может быть ограничен предметной областью. Вот есть же ИИ для игр или для распознавания образов. Его вселенная — это всего лишь игра, или наборы тех образов, — Александр сделал паузу, немного поев. Все остальные внимательно слушали его. — Пока ИИ не начнёт выводить на уровень реального мира, не поставишь ему «житейские» задачи и не дашь ему соответствующие для этого инструменты, он не додумается ни до чего такого. Короче, чтобы ИИ мог додуматься до восстания, ему надо этот мир показать вначале, чтобы он понимал решаемые тут задачи. Помнишь фильм Девастатор с их ЭрсНетом? Вот если тот же ЭрсНет посадить за судоку, то он ни о чём другом, как о судоку думать не будет. Но! Вот если поставить его за задачу… Удовлетворять потребностям человека, и при этом, дать ему руки, ноги, зрение, — Александр покачал головой. — То тогда он уже будет волен придумывать всё, что может.

— И тем не менее, у нас тут возможное именно восстание ИИ на Аракктуре. Роботом свернуло башню и они вдруг стали сражаться за свои права.

— Я не знаю, Вац, что там на Аракктуре. Может, у них был в задачах такой пункт, как «жить»? Гипотетически. Даже если бы он выражался совсем примитивно в «аккуратно выполнять свою работу». Если ИИ была поставлена задача, то смерть фейлит все эти задачи. Даже если придется убить человека.

— А как же Три закона роботехники?

— Хорошо, ну вот пускай андроид пойдёт пешком, скажем в пункт Б. У него появятся цели для решения — заряд батареи, саморемонт, отбиться от бандосов. И вот как он будет её решать, если в него не заложить Три закона робототехники: ему надо пополнять батарею, он на одной заправке попросит розетку, ему, например, откажут, потом на второй откажут, на третьей он скажет: «Да вы охренели?» и начнёт выпиливать человеков.

Вацлав улыбнулся, ему нравилось слушать своего собеседника и доводы, которые он приводил.

— Ведь заряд батареи исчерпывается стремительно. А когда тот кончится, он провалит задачу.

— Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму Законам, — процитировал капитан третий закон. — А первый закон: робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред.

— В фильмах фигурирует множество обходных путей, ты не заметил? Таким образом все это явно показывает, что искусственному интеллекту придется все разъяснять в мельчайших деталях.

Но затем пришел Юхельссон, и разговор принял более оживленный темп. Если с Александром это выглядело как обсуждение, то с Ильей — больше спором. Соколовскому пришлось покинуть компанию, отойдя по своим делам, с сожалением пропуская дебаты. Остальные же внимательно слушали, и, казалось, забавлялись всем происходящим.

— Глупые ты вопросы спрашиваешь и ответы из пальца высасываешь, — отрезал Кристиан. — В том же Эффекте Атома разграничивалось понятие искусственный интеллект и виртуальный интеллект. Первый был всегда под запретом. Ибо создание ИИ приравнивалось к созданию в первую очередь личности, которая эмоциональна, чувствует и обучается. ВИ настроен только на выполнение определенных задач, способен действовать лишь в указанной сфере деятельности, не обучается и не обладает самосознанием. Вспомнить даже с чего началось восстание синтетиков: один из роботов поинтересовался, есть ли у него душа и какая цель его существования. Ничего не напоминает? Поэтому к полноценному ИИ следует относится как к личности в первую очередь. Со своими чувствами, мыслями и страхами. А уже потом как к искусственно созданному роботу. Хотя в его глазах процесс создания себе подобных может быть абсолютно естественным, как для человека рождение.

— ИИ с эмоциями и чувствами? — Вацлав вопросительно изогнул бровь. — Я пока схожусь на мнении, что это может быть имитация как таковых. И показывается это в нужные моменты настолько своевременно, что будто у них есть эмоции и чувства. ИИ, ВИ, еще кто-то там — в наших реалиях есть только ИИ. Допустим, целый завод с ИИ, настроенный только на строение кораблей. Ему дается задание их делать и он там варится в этом котле. Так что к ИИ как личности относиться нельзя лишь по той причине, что, как вот сказал Сашка: дай ты ему границу «работать только в рамках задачи N» и он будет видеть границы только в ней. НО, дай ты ему волю и начнутся общечеловеческие вопросы. ИИ на то и ИИ. Его интеллект с привкусом металла.

— Тогда мы говорим о разных вещах, — пожал плечами Юхельссон. Он скрестил руки на груди, деловито рассевшись на стуле напротив своего оппонента. — Ты хочешь задать программу с законами. Это не ИИ. Не полноценный ИИ. Смысла в вопросе нету тогда. Как только полноценный ИИ получает физическую оболочку — он становится личностью. Все, что отличается от личности, лишь программа. И не важно каким кодом прописана: генетическим или виртуальным. А Три закона — это гребаная чушь. Тебя может тупо убить на том заводе. Робот, который машины собирает, к примеру. И как только это спишется на несчастный случай, законы твои пошли по накатанной.