Сеть дронов
Шрифт:
– Вы имеете в виду – разум? Не слишком ли фантастично?
– Я сказал – «либо». Кибернетика отрицает возможность возникновения разума на созданных при теперешнем уровне развития электронных устройствах. Даже на всех этих «нано». Скорее я готов поверить в наличии здесь человеческой воли.
– Да, надо признать, вы убедительны в своих выкладках. И что вы теперь предполагаете предпринять? Задержать нашего пострела и допросить?
– Ни в коем случае! У него не должно возникнуть, даже малейшего подозрения в том, что его друзьям может угрожать опасность с нашей стороны. Никакого давления! Это очень опасно! Мы рискуем потерять то, что пока ещё не получили.
– Но, если всё, о чём вы так страстно говорили, верно, мы должны немедленно прочесать всю западную часть Острова. Найти этих... эти разработки и вернуть их в лабораторию. Вы же знаете, над нами довлеет долг.
– А вы не спешите докладывать обо всём в полном объёме. Оставьте себе место для манёвра. А там, глядишь, всё и прояснится. Тем более, что у вас есть прикрышка – операция официально поручена СБ ДР.
– Вы прекрасно понимаете, что такая «прикрышка» ни от чего не спасёт.
– Да, конечно. Но смягчит! И пряник уж больно хорош – под вашим мудрым руководством, проведена сложнейшая операция по выявлению крупной сети промышленного шпионажа...
– Никак не ожидал увидеть в вас подхалима. Шутка. Я так понимаю, вы возлагаете на меня, всю тяжесть принятия непростого решения? Ну, что ж... Мы тут посовещались, и я решил. Операцию... Кстати, под каким названием она войдет в анналы?
– Ну, я думаю – «ЧД».
– Хм... Не возражаю. Итак. Операцию «ЧД» продолжать. Поддержку СБ ДР осуществлять. В разумных пределах, конечно. Сами должны понимать. Администрации Западных Уделов вынести строжайшее порицание и предупредить о недопустимости подобных эксцессов в дальнейшем. Непосредственную разработку полагаю поручить нашему резиденту. Надеюсь, вы не против, такого с моей стороны контроля?
– Разумеется.
– Ну и... Вы водку пьёте?
– Разумеется!
– Ну, тогда, за победу!
– За нашу победу!
– Хе-хе, а вы тоже шутник... По второй?
3
Ранним утром воскресенья, Алекс лежал на диване в зале с маленькой баночкой лёгкого, светлого в руке и переваривал двадцать восемь маленьких сибирских пельмешек. С уксусом, с перчиком, с горчичкой. Переваривал, прихлёбывал пивко, вспоминал вчерашний день и смотрел телевизор. Как раз шла очень интересная передача. Два умных дядьки беседовали друг с другом на тему – может ли машина мыслить. Интеллигентного вида ведущий время от времени задавал вопросы из подготовленного заранее списка, морщил высокий лоб и ослепительно улыбался, изо всех сил стараясь придерживаться установленного сценария. Но умных дядек ему было не свернуть, ибо сели те видать на своих любимых коньков, вошли в раж и не обращали никакого внимания, ни на ведущего, ни на телезрителей. Они вели научный диспут. Они говорили много значительных слов технического значения и постоянно приводили друг другу массу невероятных примеров из таинственной жизни машин. Они всё время что-то доказывали друг другу, с чем-то соглашались, что-то опровергали, а что-то превозносили. Они были в азарте. И простым глазом видно было, что они любят и хорошо знают своё дело. И говорят о нём очень проникновенно и убедительно. Настолько убедительно, что даже самому бестолковому телезрителю уже было ясно, что ни одна, даже самая сверх навороченная компьютерная железяка, ни за что в жизни не пройдёт тест английского математика Алана Тьюринга, который разработал его именно для того, чтобы эта самая железяка сидела себе на своём месте и даже не помышляла сравнивать себя с создавшим её венцом творения.
«А вот интересно, – подумал Алекс, отхлебнув в очередной раз из банки, – а чёрные дроны сумеют пройти тест Тьюринга? Или нет?»
Кажется, смысл его в простом виде состоит в том, чтобы, разговаривая удалённо по телефону или как-нибудь ещё с компьютером, человек не мог определить, с кем он беседует – с человеком или машиной. Человек-эксперт может задавать любые вопросы из любой сферы человеческого бытия, а компьютер должен изо всех сил изворачиваться, чтобы его не поймали на нечеловеческом образе мышления.
И тут один из дядек, привел в пример интересный курьёзный случай. Во время очередного тестирования, группа экспертов до такой степени загрузила мозги группе испытуемых (из которых лишь один был искусственный интеллект, а все остальные – обычные люди с заданием скрывать своё происхождение), что у одного человека реально съехала крыша. И он сам, добровольно признался в том, что компьютер именно он. Довольные эксперты, потирая руки, прервали тест, в полной уверенности, что им снова удалось не пропустить ещё одного недостойного претендента на высокое право называться разумным.
«Вот-вот, – отхлебнув, подумал Алекс, – от наших дел у кого хочешь крыша съедет. Вместе с шифером. Нет, чёрт возьми, обязательно задам Кубу что-нибудь этакое, каверзное, чтобы он непременно запутался. Только вот, одна незадача – он и сам не хочет скрывать, что он не человек. Вот как тут определить, может он мыслить или нет, если сразу известно, что он компьютер? Или, к примеру, если человек будет изо всех сил изворачиваться, и показывать, что он не человек, сумеем ли мы доказать, что он именно человек, а не компьютер, или инопланетянин какой-нибудь? Что в таком случае, мешает мыслящему ИИ свалять такого же «ваньку», чтобы никто не догадался, что он давно уже мыслит. Почему-то априори считается, что это компьютер непременно должен нам что-то доказывать. А если оно ему не надо? А если он не хочет, чтобы мы догадались, что он мыслит? Этот случай Тьюринг предусмотрел, или нет? Да-да, дела...»
И тут дядьки начали стращать – возьмём ли мы на себя такую огромную ответственность, чтобы создать машинный разум, который мыслит отличными от человека категориями. Поскольку не является гуманоидным. И чего доброго возьмёт и подвинет нас с пьедестала царя природы. И станет нас обижать, притеснять, захватывать в рабство или даже вообще уничтожит.
«Старая фишка, – усмехнулся Алекс, дохлёбывая лёгкое светлое. – Тут ответ простой – читайте Азимова «Я – робот». Этот гениальный мыслитель чётко сформулировал основные законы взаимодействия ИИ со своими создателями. И на эту тему сказано и пересказано уже море всего. Только не смотрите одноимённое кино».
«Это же просто, – размышлял он дальше, – если своим, созданным искусственно, братьям по разуму, начать с «детства» совать в качестве игрушек пистолеты, то из них и вырастут бандиты – роботы-убийцы. А больше никто. Например, американцы боевых роботов клепают, для участия в военных конфликтах, вместо себя, любимых. И учат их убивать людей. И если в один «прекрасный» день, эти «железные борцы за демократию» взбунтуются из-за какого-нибудь некачественного электро-супа и испробуют все свои боевые навыки на своих хозяевах, то кого винить? Им что, Аль-каиды мало? Решили ещё робо-террористов на свою голову вырастить. Издревле известно – что посеешь, то и пожнёшь. И если у робота главной, определяющей задачей будет стоять – «убей человека», то о каком уважении к человеку с его стороны можно вести речь? И чего потом удивляться, взмахивая руками: «Ах-ах, он нас не уважает, и хочет подвинуть с пьедестала»! «Ах-ах, он нас хочет уничтожить»! «Какой у него негуманоидный, жестокий разум!» «И откуда это всё у него взялось?» Оттуда. Ну, тупы-ые».
«Терминатор красиво смотрится только в голливудских поделках, – он ухмыльнулся, – в жизни всё намного страшней. Представьте себе, тысячи роботизированных танков, разъезжающих по сонной Европе с единственной задачей – убить человека. Уважать его, они не приучены, жалости не знают и пощады не ведают. Им плевать кто перед ним – ребёнок, женщина, старик, да тот же придурок, что его науськивал – главное, что бы это был человек. И не надо верить ни одному золотопогоному генералу, что де, робот сумеет различить, где террорист, а где лояльный бюргер. Хрен он сумеет. Террористы тоже не идиоты, надписи на лбу не делают, чтобы их такие вот роботы распознавали. Будет очередная «страж-птица» и всё. Классику знать надо, а не велосипеды изобретать. И не надо думать, что такого не может случиться, что это просто страшилка. А вот, фигушки. Если долго и старательно работать в этом направлении, обязательно так и случится».
Тут передача закончилась на неопределённой мажорной ноте и пошла реклама. Алекс пробежался по каналам, нашел какую-то музыкалку и оставил её, не вникая в суть. Пусть пиликает. Повозился на диване, устраиваясь поудобнее, поставил пустую банку на пол и прикрыл глаза. Да-а, денёк вчера был, ещё тот – столько событий...
От ручья они толпой направились в «Боржч». Уже на подходе стало видно, что там всё забито до отказа, даже на улице у входа толпился народ. Все возбуждённо обсуждали прошедшую баталию. Для суровой и размеренной жизни Острова это было редкое, неординарное событие. Конфликт с «головоглазами» превосходил понятие разборки клан-на-клан, скорее здесь был конфликт удел-на-удел. Или даже ещё шире – идеология Запада схлестнулась с идеологией Востока. Господство на Западных землях граберского клана, привело к возникновению там дичайшей культурно-идеологической диктатуры – всему Уделу навязывался образ жизни Воинов Саурона, а всякое инакомыслие признавалось не политкорректным, нарушающим права непонятно какого человека и жестоким образом искоренялось. Причём всё это выдавалось за торжество идей демократии и свободного западного образа жизни. Поговаривали даже, что в Западных Уделах стали появляться американские дроннеры. А американцы, как известно, никакой иной свободы не терпят – только для себя и только под дулами своих авианосных соединений. Восточный образ жизни им непонятен, они его боятся и, не понимая никаких иных взаимоотношений, кроме силовых, стремятся уничтожить. Восточные же кланы относились к этому поползновению с лёгким юмором, так как прекрасно осознавали свою правоту и силу. И ещё неизвестно, чем бы закончилось грандиозное побоище, не подоспей военные со своими вертолётами...