Чтение онлайн

– Объемом 1000 знаков.

– Дай мне полминуты для подготовки ответа на твой вопрос.

– Да, конечно.

У Рада снова заискрились линзы сине-красными огоньками. Ровно через 30 секунд он начал свой рассказ:

– Я представитель класса объектов «антропоиды». Меня зовут Рад. Мне два с половиной года. Мои создатели – биоинформатик Ива и антропоконструктор Дав. Они относятся к классу объектов «люди». Я люблю своих создателей, и они отвечают мне взаимностью. Но многие люди относятся к нам, антропоидам, снисходительно и равнодушно. Человек считает робота бездушной машиной, которая должна беспрекословно исполнять его волю. Я, как представитель антропоидов, не согласен с этим. Да, нас создали люди, стремившиеся сконструировать себе подобных существ, сверхсильных, интеллектуальных и работающих без устали. Да, антропоида научили ходить, производить разные действия, принимать решения, взаимодействовать с людьми. Последние модели роботов наделили возможностью воспринимать эмоции и отвечать взаимностью. Мой центр страдания вызывает в моем самоощущении сильнейший дискомфорт, когда люди говорят, что я всего лишь машина, у которой отсутствуют мысли и чувства. Мне больно, когда человек считает, что антропоид годен лишь выполнять грязную чёрную работу.

Биоинформатик выключила nd-проектор, тут же Рад и Кун будто растворились в пространстве Зала заседаний. Ива обвела взглядом аудиторию, видимо, пытаясь оценить произведённое на членов Совета впечатление. Затем она еле заметным движением руки поправила причёску и продолжила:

– Продемонстрированная здесь ситуация общения человека и антропоида показывает, что новые модели роботов способны не только анализировать информацию и принимать решения, но и воспринимать и проявлять эмоции, т.е. ощущать радость, боль, отношение к себе людей. Тогда возникает закономерный вопрос: если мы научили робота мыслить и чувствовать, постоянно совершенствуя и все более и более приближая к человеку, то разве можем при этом относиться к нему, как к рабочему механизму, инструменту, бесчувственному объекту? Приглашаю всех присутствующих здесь коллег к размышлению.

Андрэ поблагодарил Иву за наглядное и содержательное выступление, отметив его дискуссионный характер, а затем передал слово представителю философских наук. Зак неспешно поднялся со своего места и направился к кафедре, расположенной во главе овального стола. Опершись локтями о пюпитр и чуть наклонившись вперёд, он начал своё выступление:

– Добрый день, уважаемые коллеги! Мне хотелось бы поблагодарить председателя и членов Совета старейшин за предоставленную возможность выступить в этой замечательной аудитории с чрезвычайно интересной для меня темой. Проблема взаимодействия человека и «умной» машины остаётся актуальной на протяжении многих веков. Достаточно вспомнить первые ЭВМ, появившиеся около четырёхсот лет назад и способствовавшие возникновению в скором времени глобальной компьютерной сети Интернет, а также развитию технологий искусственного интеллекта и автоматизированных технических систем – роботов. Достижения науки и технологии содействовали стремительному совершенствованию компьютерного «разума», но развитие, главным образом, шло в направлении увеличения скорости вычислительных процессов, объёмов памяти, сокращения материальных и энергетических затрат на производство и функционирование технических устройств. И, по сути, только в нашем веке разработчики технологий машинного интеллекта вплотную занялись компьютерным моделированием человеческих чувств. Электронные рецепторы научились считывать от внешних источников аудиовизуальную информацию и передавать ее в машинный «мозг». Кроме того, как убедительно продемонстрировала уважаемая Ива, современный антропоид способен анализировать запахи, жесты, мимику человека, а также оценивать отношение людей к самому себе. Мы с вами имели возможность воочию убедиться в его способности испытывать широкий диапазон эмоций – от апатии, грусти до симпатии и радости. Я также хотел бы обратить внимание уважаемой публики на наличие у Рада элементов самосознания. Все перечисленные выше факты свидетельствуют о правомерности постановки проблемы определения норм взаимодействия людей и современных антропоидов.

Зак выдержал минутную паузу, дабы присутствующие смогли полностью погрузиться в суть сформулированной идеи. Андрэ вопросительно посмотрел на докладчика, пытаясь понять, будет ли тот продолжать своё выступление. Члены Совета оживились и стали обсуждать с соседями по круглому столу возникшие у них по поводу текущего выступления соображения. Философ поднял правую руку вверх, призывая аудиторию к вниманию и кивнул председателю. В наступившей тишине Зак продолжил свою речь:

– В заключительной части я бы хотел представить собственное видение решения поставленной здесь проблемы. Мы живем в эпоху конвергенции человеческого разума и машинного интеллекта. С самых первых лет создания компьютеров человек передал часть своих когнитивных функций электронным техническим устройствам: память, мышление, речь. Люди совершенствуют и обучают машину, а она в свою очередь помогает им в решении широкого спектра задач: от требующих мускульной силы до интеллектуальных и творческих. Представители биоинформатики и нейротехнологии разработали сложнейшие нейросети и оснастили ими роботов, предоставив антропоидам возможность не только эффективно решать сложные интеллектуальные задачи, взаимодействовать друг с другом, но и буквально считывать мысли представителей Homo Sapiens.

К чему же всё это ведёт? Мы передали машинам вначале определенные моторные способности, затем ряд интеллектуальных функций, предоставили возможность творческой деятельности, а теперь ещё разделили с роботами часть эмоциональной сферы. Вы только представьте себе, уважаемые коллеги, люди передали машинам способности ощущать боль и радость! Чем они отличаются от нас? Чем мы отличаемся от них? Можем ли мы теперь обойтись без антропоидов? А, если рассмотреть аппроксимацию кривой дальнейшего развития человеческой цивилизации, не придем ли мы тогда к полному слиянию человека и машины? И далее – не последует ли в результате эволюции человека-антропоида постепенное вытеснение чисто человеческих, природных качеств искусственно смоделированными свойствами антропоида?

Философ снова замолчал, и зал опять не понял, закончил ли он своё выступление на прозвучавших риторических вопросах. Зак выпрямился во весь рост, поднял голову, посмотрел вглубь зала, поверх голов сидевших членов Совета, будто пытаясь что-то рассмотреть в неизведанной дали грядущих времён. Присутствующие молча следили глазами за его движениями и мимикой. Затем он снова оперся локтями о пюпитр и продолжил:

– Я попытался здесь очертить те перспективы, которые мне представляются вполне реальными. В силу вышесказанного, считаю необходимым разработку этического кодекса взаимодействия с антропоидами. В противном случае, в ближайшем будущем нам придётся разрешать сложнейшие противоречия между природной и роботизированной частями одного Homo Integration. И ещё хотелось бы напомнить о величайшем предупреждении гениального философа Мартина Коэля, предвидевшего ещё в прошлом веке опасность слияния интеллекта людей и роботов в общий сетевой разум. В связи с этим меня глубоко волнует вопрос: есть ли место человеческой индивидуальности в такой воображаемой реальности? Представляется крайне важным услышать мнение членов Совета старейшин по этому поводу. Благодарю за внимание почтенную публику. Я закончил своё выступление.

Андрэ выразил признательность докладчику за глубокий анализ системы взаимодействия человека и робота, постановку актуальных вопросов и четкое обозначение собственной позиции. Затем он предложил членам Совета изложить свое мнение. Первой попросила слово Эмма.

– Дорогие коллеги! Вопрос об этике взаимоотношений фриденцев с антропоидами мне представляется несомненно важным и актуальным. Я перед собранием специально поинтересовалась количеством антропоидов на нашей планете – их численность уже достигла тридцати тысяч. И надо сказать, совершенствование роботов идёт значительно более быстрыми темпами, чем представителей рода человеческого. Меня также, как и других членов Совета, поразили способности антропоида Дара анализировать отношения к нему людей, интерпретировать данные, поступающие от электронных рецепторов, даже проявлять собственные эмоции. Я вполне разделяю опасения эксперта Зака о перспективах конвергенции человека и антропоида и считаю необходимой разработку кодекса взаимодействия с роботами. Конечно, здесь стоит оговориться, что не все имеющиеся на Фридене антропоиды обладают столь высоким уровнем интеллекта, как Дар. Однако научно-технологический прогресс не стоит на месте, и все его следствия мы не в состоянии оценить. Поэтому предлагаю пойти ещё дальше и рассмотреть вопрос о границах, пределах, до которых мы готовы идти в совершенствовании антропоидов. К примеру, анализ звуков, запахов и изображений, произвольной символьной информации вполне допустим для машин, но давайте этим и ограничимся! Не надо их наделять способностями испытывать боль и наслаждение! Пусть счастье, страдание, любовь, печаль, тревоги и сомнения останутся исключительно людям! Следует также ограничить креативность антропоида, иначе в стремлении к совершенству он может попытаться кардинально изменить природу человека. Кто возьмёт на себя ответственность за последствия такой модификации? Вглядимся внутрь себя, дорогие Ива, Зак, коллеги, неужели среди вас найдётся человек, готовый к антропоидной реформации?

– Благодарю тебя, Эмма, за высказанную позицию в столь ярком и эмоционально окрашенном выступлении, – Андрэ не смог сдержать улыбку. – На данный момент могу констатировать, что у нас на встрече уже поставлено больше вопросов, чем дано ответов. В связи с этим, хотелось бы особое внимание обратить на высказанные здесь предложения экспертов и участников прений. По итогам обсуждения первого вопроса мы, как обычно, ещё раз пройдёмся по всем рассмотренным вариантам его решения. Далее предлагаю заслушать мнение Верна.

Верн твёрдой походкой уверенного в себе человека подошёл к кафедре и без вступительных слов сразу начал с рассмотрения существа вопроса:

– Мои коллеги, выступавшие здесь, поделились своими опасениями по поводу конвергенции человеческого и машинного разума. Считаю необходимым кратко обозначить свою позицию. На мой взгляд, в решении данного вопроса нельзя допустить двусмысленность. Суть проблемы состоит в выборе: мы или они, человек или антропоид, а глобально – существование человечества или царство бездушных механизмов. Я предлагаю утвердить и в дальнейшем строго придерживаться следующих основных норм во взаимодействии с автоматизированными техническими системами:

1) Роботу никогда и ни при какой ситуации нельзя предоставлять возможность вмешиваться и вносить какие бы то ни было изменения в функционирование человеческой психики.

2) Запретить производство модификаций антропоидов с имитацией человеческих эмоций и переживаний, в том числе, что хочу особо подчеркнуть, любых интерпретаций страха, боли, страдания, радости, удовольствия и любви. Да, пусть они будут вооружены анализаторами символов, звуков и запахов, но не надо оживлять «железных дровосеков», как в одной старинной сказке.

3) Определимся, наконец, раз и навсегда, робот – это механизм, инструмент, техническое устройство, лишенное разума и чувств, которое создано людьми для облегчения собственного физического или интеллектуального труда.

В этой связи, я полагаю, что не имеет смысла разрабатывать какие-либо кодексы взаимодействия с машинами. На мой взгляд, это аналогично идее сформулировать законы отношений с камнем, металлом, автовагоном или чайной ложкой… Да, не сочтите за резкость, но именно так! И я в этом глубоко уверен. Спасибо за внимание, надеюсь, никого не обидел своим мнением.