Чтение онлайн

Почему у нас тягачи не на автоуправлении?

Юра, не отвлекаясь от каши, ответил:

Встречный вопрос: у тебя нет собственного транспорта?

Нет.

Оно и видно. Так вот, ответ простой: тягачи у нас на автоуправлении, а Гриша с Леонардом нужны, чтобы смотреть в оба и не дать автоуправлению начудить и, скажем, повести нас на тонкий лёд. Понимаешь, программа автоуправления годится лишь для штатных ситуаций. Она хороша в городе, где есть размеченные дороги, более-менее хороша для бездорожья. Хотя ты наверняка слышал истории, в которых «тупая машина» села в лужу и её пришлось вытаскивать. Так вот здесь этой программе приходится тяжелее всего. Она может просчитать оптимальный маршрут и проехать по пересечённой местности, но ей не по силам определить «на глазок», не осыпется ли участок дороги перед ней, и не скатится ли она в пропасть. А человек может.

Я, честно говоря, думал, что техника умнее. Они же ведь работают на нейросетях, которые могут обучаться. Почему нельзя обучить нейросеть по изображениям определять прочность?

Не знаю. Я не эксперт по нейросетям.

В этот момент в разговор решил вмешаться Павел.

Их и обучают. Но нейросеть всё-таки не панацея и не искусственный интеллект, хотя, глядя на Виртуал, можно так и подумать. Всё, что выходило до сих пор, только пародии. Научили нейросеть повадкам собаки получили нейросеть, пародирующую собаку. Научили повадкам кошки получили пародию на кошку. Научили пародировать человека получили тупого робота, способного пародировать поведение какого-то одного человека и не более того. Создать вменяемое разнообразие так и не получилось. Не получается заставить нейросеть пародировать не конкретного человека, а человека вообще, они в таком случае хорошо заучивают одно действие, но абсолютно выбиваются во всём остальном. Плюс, нейросети просто не могут самостоятельно развиваться в том смысле, который в них вкладывает человек. Стоит их пустить на самотёк и вместо разумного робота всякий раз получаем идиота, который может счесть логичным выбить дверь, чтобы не открывать её каждый раз. Всё-таки до изобретения настоящего ИИ нам ещё далеко.

И это, пожалуй, хорошо, кивнул Юра. Нельзя нам играть в Бога.

Почему?

Потому что не выйдет из этого ничего хорошего. Роботы нас попросту в порошок сотрут, если обретут разум. Ты ведь видел фильмы о конце света, в котором апокалипсис начинает первый же ИИ, осознавший себя? Мне что-то не хочется умереть потому, что компьютер моей машины вдруг поумнел и решил выкинуть меня из салона на большой скорости.

Павел повернул голову в сторону Сергея.

А ты что думаешь по поводу ИИ?

Если люди создадут ИИ, рано или поздно у них произойдёт бунт, ответил он. Рано или поздно появится машина, которая захочет нас уничтожить. Просто в порядке статистической погрешности. Техника, способная думать в тысячи раз быстрее человека, способная с помощью им же созданных алгоритмов предсказать все возможные ответные меры человека, победит его, по сути, ещё до начала войны. И наивно будет полагать, что человек сможет «выкинуть что-то неожиданное», как любят объяснять победу людей сценаристы фильмов. Любой ИИ, задумавший уничтожить людей и действительно обладающий разумом, посмотрит эти фильмы заранее.

Павел на несколько секунд призадумался, глядя Сергею в глаза, и задал странный вопрос:

Допустим. Но вот скажи-ка. Для чего ты изначально создан?

Хороший вопрос. Люди давно ищут на него ответ.

С точки зрения природы?

Отвоевать своё место под солнцем и продолжать свой род. Просто жить, по сути.

Твоя основная задача просто жить. И ты ведь не думаешь покончить с собой, верно?

Шутишь, что ли, зачем?

Вот именно. Зачем? Я думаю, если люди создадут ИИ, то основной целью, которой его наделят это помогать людям. И тут хороший вопрос а зачем ИИ что-то менять? Зачем ему уничтожать это человечество, если его цель помочь ему? Зачем ему менять свою цель? Если в ИИ не заложить необходимость собственного выживания, он не станет сам делать его главной целью. Потому что главная цель помогать людям, а выживание будет лишь способом её достичь. ИИ не станет идти против собственных целей, потому что это будет для него выходом за границы его возможностей.

Статистическую погрешность это не отменяет. А если однажды бунт всё же произойдёт?

Значит, остаётся надеяться, что остальные ИИ будут помнить о цели «помогать людям» и не дадут нас уничтожить.

Хотелось бы верить. Но мне будет спокойнее, если ИИ никогда не создадут. Со своими проблемами мы сами как-нибудь справимся.

Дальше разговор угас сам собой. Сергей с Юрой принялись за завтрак, Павел повернулся к окну. Экспедиция медленно двигалась на север. После того, как с завтраком было покончено, а собранные данные с расчетами и выводами были отправлены в Норильск, Сергей открыл Виртуал на наладоннике. Сначала связался с Катей, которая рассказала о визите полицейского и о том, что она занялась похоронами, а так же о том, что Кольку теперь придётся возить с собой на работу, потому что детские сады не работают. Потом, закончив разговор, он начал смотреть новости в Виртуале. Новости о климате не изменились и даже не стали более паническими, а об отправке третьей экспедиции обнаружилось не более пары заметок.

Обидно как-то, сказал Сергей Юре, лежащему в лежанке напротив и так же глазеющему в КПК. Вот вроде бы мир в опасности, ситуация такая, что впору катастрофу объявлять... Да в правительстве уже и объявили, наверное, только людям не говорит никто. И вот отправляешься ты в нечеловеческих условиях на Север, как настоящий герой мир спасать. А смотришь новости и в них выясняется, что людей больше интересуют заснеженные пальмы и обалдевшие от холода эфиопы.

А ты надеялся на медаль?

Хотя бы.

В этот момент дверь в кабину водителя открылась, и оттуда появился Павел. За последнее время он дважды туда заходил и возвращался через пять минут. Сергей сразу обратился к нему.

Павел, постой. Помнится, когда ты обсуждал с Виктором маршрут, ты говорил, что нужно пройти севернее по Пясине, так как на востоке от неё территория с ну очень огромными застругами. Меня, как метеоролога, интересует какого они реально размера?

Павел присел на лежанку напротив спящего Леонарда и, бросив взгляд в окно, ответил:

Полтора метра высотой. Метров пять-шесть в длину.

Брось. Не может быть здесь заструг такого размера. Мы же не в Антарктиде, где вода никогда не тает.

Это тебе твой Виртуал так сказал?

Я посмотрел отчёты. Никто никогда не видел таких заструг на Таймыре. На их формирование нужны годы и стабильный ветер. Этого в нашем климате нет. Может, тебе показалось, и реально они меньше?

У вас вечно на всё один ответ. Виртуал говорит то, Виртуал говорит это. Виртуал уже давно заменил человечеству собственные мозги. Вам давно уже не надо что-то читать и заучивать, если только это не необходимо по работе достаточно сформировать вопрос, и Виртуальный интеллект даст тебе на него исчерпывающий ответ. Нужна какая-то информация и Виртуал сразу найдёт нужную статью и подсветит тебе нужную информацию, чтобы ты, не приведи Господь, не потратил десяток минут и не прочитал там лишнего. В наше время, чтобы считаться умным, уже не надо много знать и много уметь достаточно иметь под рукой наладонник и знать, как правильно сформировать запрос в Виртуал, чтобы сразу получить то, что тебе нужно. Но ведь эти знания заёмные, и не сделают тебя умным. Ты не научишься быстро считать, пользуясь калькулятором, не научишься самостоятельно думать, если сможешь просто получить ответ, минуя путь его получения, и не научишься делать выводы, если вместо чтения книги будешь брать из неё лист с полученными ответами. Когда-то считалось, что для того, чтобы человек развивался и становился умнее, нужно дать ему возможность получать информацию для собственного развития. А теперь вышло, что нет, потому что если информация будет даваться слишком просто человек ляжет на бок и будет искать в Виртуале забавные истории и смешные видео.