Айзек Азимов. Эссе о роботах --------------------------------------------------------------- Издательство ЭКСМО; Серия Шедевры фантастики; 2002 г. Переводчики: Владимир Гольдич, Ирина Оганесова. Сборник эссе ---------------------------------------------------------------  * Из сборника "МЕЧТЫ РОБОТОВ" *  Айзек Азимов. Роботы, с которыми я был знаком ----------------------------------------------------- Scan & OCR: Гуцу Анатолий (Atlantis), 15 января 2003 ----------------------------------------------------- Механические люди, или роботы, если использовать универсально принятый термин, придуманный Чапеком, являются темой, к которой снова и снова возвращаются современные фантасты. Не существует другого неизобретенного изобретения (возможно, за исключением космического корабля), столь же надежно поселившегося в сознании такого огромного количества людей: пугающая конструкция, огромная, металлическая, слегка напоминающая человека, двигающаяся как машина и разговаривающая лишенным эмоций голосом. Ключевым в данном описании является слово "пугающий", и в нем заключено трагическое начало, поскольку ни одно научно-фантастическая тема не лишилась настолько своей привлекательности, как тема роботов. Среднему писателю оказался доступен только один сюжет, связанный с роботами: механический человек становится угрозой, выступает против своего создателя, представляет собой опасность для человечества. Почти все рассказы подобного рода имели одинаковую мораль, намеренно или нет: "Есть вещи, которые человечеству не следует знать". Начиная с 1940 года ситуация заметно улучшилась. На книжных полках появилось множество рассказов о роботах; родилась новая точка зрения, более механистичная и менее морализованная. Некоторые люди (например, Грофф Конклин в своем вступлении к антологии научной фантастики "Фантастические разумные машины", опубликованной в 1954 году) посчитали возможным объявить, что, по крайней мере отчасти, новый вид рассказов о роботах появился благодаря моим произведениям, написанным начиная с 1940 года. Поскольку на Земле скорее всего не найдется человека, меньше меня страдающего от ложной скромности, я с удовольствием и без возражений принимаю это мнение. Хочу лишь добавить еще одно имя - Джон У. Кэмпбелл-младший, редактор "Эстаундинг сайенс фикшн", с которым мы провели много часов в чрезвычайно полезных и плодотворных дискуссиях на тему рассказов о роботах. Лично я считаю, что роботы - это не проклятая богом, святотатственная имитация жизни, а всего лишь высокоразвитые машины. Машина не может "выступить против своего создателя", если она правильно сконструирована. Когда механизм, например электропила, случайно отгрызает своему владельцу конечность, его достойная сожаления склонность к агрессии устраняется при помощи установки специальных защитных устройств. Подобные защитные устройства, очевидно, могут быть созданы и в роботах. А самым логичным местом для размещения таких устройств являются электрические цепи "мозга" робота. Позвольте мне сделать паузу и объяснить вам, что мы, писатели, работающие в жанре научной фантастики, не вступаем друг с другом в яростные споры по поводу строения "мозга" роботов. Имеется некоторое механическое устройство, которое приблизительно похоже на человеческий мозг и содержит цепи, необходимые для того, чтобы робот обладал уровнем восприятия и разумного реагирования, эквивалентным человеческому существу. Как это сделать без использования механических приспособлений размером с молекулу протеина или по крайней мере с клетку мозга, не объясняется. Кое-кто из писателей рассуждает о транзисторах и печатных схемах. Большинство предпочитает хранить молчание. Лично я обожаю делать слегка мистические заявления о "позитронном мозге", предоставляя читателю возможность самому решать, какое отношение позитроны имеют к предмету обсуждения, и рассчитываю на то, что он не отложит книгу в сторону, даже если не сможет найти ответ на этот вопрос. Так или иначе, по мере написания рассказов о роботах идея об устройствах, обеспечивающих безопасность людей, превратилась в Три закона роботехники. Эти три закона впервые были подробно описаны в рассказе "Хоровод". В утонченном и исправленном виде они выглядят следующим образом: 1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред. 2. Робот должен повиноваться всем приказам, которые отдает человек, кроме тех случаев, когда эти приказы противоречат Первому закону. 3. Робот должен заботиться о своей безопасности в той мере, в какой это не противоречит Первому и Второму законам. Эти законы вносятся в мозг роботов или, точнее, в электрические цепи, заменяющие им мозг. Естественно, я не собираюсь данные цепи описывать. Правду говоря, я никогда не обсуждаю инженерные проблемы по очень простой причине: я абсолютно невежествен относительно практических аспектов создания роботов. Первый закон, как вы видите, мгновенно покончил со старым, всем надоевшим сюжетом, о котором я торжественно обещаю больше вам не напоминать. Хотя на первый взгляд кажется, что такие строгие ограничения могут повлиять на творческие способности, выяснилось, что Законы роботехники послужили богатым источником для научно-фантастических произведений. И уж ни в коей мере не загнали писателей-фантастов в тупик ограниченности. Примером может послужить рассказ "Хоровод", о котором я уже говорил. В этой истории робот, дорогая экспериментальная модель, создан специально для работы на солнечной стороне планеты Меркурий. Третий закон был внедрен в его сознание надежнее остальных по вполне понятным экономическим причинам. В самом начале рассказа он отправляется в экспедицию с целью добыть жидкий селен для очень важных и абсолютно необходимых ремонтных работ. (Можете мне поверить: на солнечной стороне Меркурия, где самое настоящее пекло, жидкого селена сколько хочешь.) К несчастью, приказ, который получил робот, был сформулирован не слишком четко, а цепи, отвечающие за Второй закон, оказались слабее, чем обычно. Что еще хуже, селеновая лужа, к которой отправили робота, находилась рядом с районом вулканической активности. В результате там возникла высокая концентрация углекислого газа. Я пришел к выводу, что при высоких температурах на солнечной стороне Меркурия углекислый газ быстро вступит в реакцию с железом и образуется летучий карбонил железа, отчего пострадают наиболее хрупкие детали сочленений у робота. Чем дальше он проникает на опасную территорию, тем большей угрозе подвергает себя, а следовательно, вступает в силу Третий закон, заставляющий его остановиться. Второй закон, который при обычных обстоятельствах перевешивает Третий, толкает его вперед. В определенной точке возникает ситуация, когда более слабый в данной конкретной ситуации Второй закон и более сильный Третий достигают равновесия и робот не может ни двигаться дальше, ни отступить. И потому он ходит в районе селеновой лужи по эквипотенциальной траектории, отдаленно напоминающей круг. Тем временем наши герои отчаянно нуждаются в селене. Они надевают специальные скафандры, находят робота, видят, какая сложилась ситуация, и пытаются понять, что же им делать дальше. После нескольких неудач они находят ответ на свой вопрос. Один из людей совершенно сознательно подвергает себя опасности: если робот его не спасет, он обязательно погибнет. За дело принимается Первый закон, который заставляет робота покинуть свою бессмысленную орбиту, поскольку этот закон важнее двух других. И все заканчивается благополучно. Кстати, именно в рассказе "Хоровод" я впервые употребил термин "роботехника" (наука конструирования, создания роботов и управления ими). Много лет спустя мне сказали, что я изобрел новый термин и что до меня он никогда не появлялся в печати. Не знаю, правда ли это. Если да, то я счастлив, поскольку считаю данное слово логичным и полезным и потому с удовольствием дарю его всем, кто работает в интересующей нас области. Ни один из других моих рассказов не имеет такого прямого и непосредственного отношения к Трем законам, как "Хоровод", но все они так или иначе с ними связаны. Например, один из рассказов посвящен роботу, который умел читать мысли и был вынужден лгать, поскольку не мог сказать человеку того, что тот не хотел слышать. Видите ли, правда неминуемо причинила бы ему "вред" - в виде огорчения, разочарования, горя, смущения, потери иллюзий и прочих эмоций подобного рода. Вот еще одна история: загадка человека, которого подозревали в том, что он робот, иными словами, что у него квазипротоплазменное тело и "позитронный мозг" робота. Доказать, что он человек, он мог только одним способом - публично нарушить Первый закон. Он не стал отказываться и при свидетелях ударил человека. Однако рассказ заканчивается сомнением, поскольку существует подозрение, что другой "человек" тоже мог быть роботом, а в Трех законах ничего не говорится о том, что один робот не может причинить вред другому. А еще у нас имеются идеальные роботы - модели такие продвинутые, что они используются для предсказания погоды, размеров урожая, выпуска промышленной продукции, поворотов в политической жизни и тому подобное. Они нужны для того, чтобы мировая экономика была меньше подвержена воздействию факторов, на которые человек влиять не в состоянии. Но эти поразительные роботы тоже подчиняются первому закону. Они не могут допустить, чтобы человек страдал в результате их бездеятельности, поэтому совершенно сознательно дают ответы, которые не обязательно являются правдивыми и порой вызывают локальные экономические кризисы, спланированные для того, чтобы заставить человечество выйти на дорогу, ведущую к миру и процветанию. В конце концов роботы начинают играть решающую роль, но люди от этого только выигрывают. Не следует недооценивать взаимоотношения человека и робота. На уровне сознания люди могут знать о существовании Трех законов, однако это не мешает им испытывать иррациональный страх и не доверять роботам на эмоциональном уровне. Если бы вы хотели придумать соответствующий термин, это можно было бы назвать "комплексом Франкенштейна". Кроме того, существует и еще одна проблема - протесты профсоюзов, которые боятся, что роботы заменят людей и те лишатся средств к существованию. Вот вам еще одна тема для рассказов. Мой первый рассказ о роботах был посвящен роботу-няне и ребенку. Как и следовало ожидать, ребенок обожал своего робота, однако мать боялась его, что тоже вполне объяснимо. Конфликт заключался в том, что мать пыталась избавиться от робота, а ребенок всячески противостоял ее попыткам. Мой первый длинный роман, посвященный роботам,- "Стальные пещеры" (1954) - заглядывает в далекое будущее. Действие происходит в те времена, когда на других планетах, населенных эмигрантами с Земли, развивается роботизированная экономика, но сама Земля по экономическим и эмоциональным причинам протестует против засилья металлических существ. Совершено убийство, мотивом которого является ненависть к роботам. Оно разгадано парой детективов - человеком и роботом с использованием дедуктивного метода (являющегося главным во всех дедуктивных историях) и Трех законов. Мне удалось убедить себя, что Три закона необходимы и достаточны для безопасности человека, когда речь идет о роботах. Я искренне верю, что наступит день, когда будут созданы сложные в техническом отношении роботы, в "мозг" которых будет внесено что-нибудь вроде Трех законов. Я с удовольствием сыграю роль пророка в данной области, только вот боюсь, что вряд ли это произойдет при моей жизни*. * Это эссе написано в 1956 году. С тех пор слово "роботехника" действительно вошло в английский язык и стало широко использоваться, и мне удалось дожить до тех времен, когда Три закона роботехники принимаются всерьез.- Примеч. автора. Айзек Азимов. Новые учителя ----------------------------------------------------- Scan & OCR: Гуцу Анатолий (Atlantis), 15 января 2003 ----------------------------------------------------- Количество пожилых людей в мире увеличивается, а молодых, наоборот, уменьшается. Эта тенденция будет неуклонно расти, если уровень рождаемости станет падать, а достижения медицины будут продлевать продолжительность жизни человека. Чтобы пожилые люди не теряли воображения и творческих способностей и не стали обузой для постоянно уменьшающегося числа активных молодых людей, я часто выступал с предложениями модифицировать нашу систему образования таким образом, чтобы человек продолжал учиться до конца жизни. Но как это сделать? Откуда взять столько учителей? А кто говорит, что учителя должны быть людьми или вообще живыми существами? Предположим, что в грядущем веке коммуникационных спутников станет значительно больше, чем сейчас. Кроме того, они будут значительно сложнее и "умнее". Предположим, что вместо радиоволн главным средством связи станут лазерные лучи, которые обладают гораздо более широкими возможностями. В таком случае появится возможность создать многие миллионы отдельных каналов для звука и изображения, и уж совсем просто представить себе, что каждый человек на Земле получит свой собственный телевизионный канал. Каждый человек (ребенок, человек средних лет или старик) будет иметь свой собственный выход, к которому он сможет в любое удобное для него время подключать обучающую машину. Это будет гораздо более разносторонняя интерактивная обучающая машина, чем те, что имеются у нас в настоящий момент, поскольку компьютерные технологии тоже не стоят на месте. Мы можем надеяться, что такие машины будут достаточно сложными и гибкими, чтобы модифицировать свои программы (иными словами, "учиться") в результате деятельности ученика. Ученик будет задавать вопросы, отвечать на них, делать заключения, высказывать свое мнение, благодаря чему машина оценит его прогресс и в соответствии с этим будет менять скорость и интенсивность курса обучения и, что еще важнее, ставить акценты на вопросах, которые больше всего занимают ученика. Однако персональная обучающая машина не должна быть очень большой. Размером и внешним видом она может походить на телевизор. Возможно ли, чтобы такое маленькое устройство содержало столько информации, сколько необходимо учащемуся, которого интеллектуальное любопытство может завести достаточно далеко? Нет, если речь идет об изолированной обучающей машине, - но в таких машинах нет никакой необходимости. В цивилизации с развитыми компьютерными технологиями, способной производить обучающие машины, непременно будут существовать компьютеризиро- ванные библиотеки. Они могут быть соединены единой сетью и подключены к единой планетарной библиотеке. Все обучающие машины будут иметь прямую связь с планетарной библиотекой и смогут получить в свое распоряжение любую книгу, периодическое издание, документ, звуковую или видеозапись в закодированном виде. Дальше ученик либо увидит интересующий его материал на экране, либо получит в распечатанном виде на бумаге, чтобы иметь возможность изучить его потом, в более спокойной обстановке. Разумеется, необходимость в учителях-людях не отпадет. Существуют некоторые предметы, например занятия спортом, театральным и ораторским искусством и тому подобное, где взаимодействие ученика с учителем просто необходимо. Кроме того, определенную ценность и интерес представляют групповые занятия студентов, когда они собираются вместе, чтобы обсудить друг с другом и с преподавателем какую-нибудь проблему, поделиться своими умозаключениями, сделать новые открытия. После такого общения с себе подобными они могут с известным облегчением вернуться к всезнающей, гибкой и бесконечно терпеливой машине. Но кто будет учить обучающие машины? Естественно, тот, кто учится у машины, будет одновременно и учить ее. Люди, которые с удовольствием занимаются интересующими их вопросами, склонны думать, наблюдать, размышлять, ставить эксперименты и время от времени изобретать нечто новое, неизвестное до них. Они будут делиться своими знаниями с машиной, которая в свою очередь зафиксирует полученную информацию (не забыв, разумеется, указать имя изобретателя) в планетарной библиотеке, где ей смогут получить другие машины. Новые сведения останутся в памяти машины и послужат отправной точкой для тех, кто придет следом. Таким образом, обучающие машины позволят людям устремиться к достижениям, которые сейчас невозможно даже предсказать. Я рассуждал здесь лишь о технической стороне обучения, а как насчет содержания? Какие предметы будут изучать люди? Когда наступит век обучающих машин? Поговорим об этом в следующем эссе. А.Азимов. Все, что ты хочешь ---------------------------------------------------------- Scan & OCR: Гуцу Анатолий (Atlantis), 16 января 2003 ---------------------------------------------------------- Трудности в решении вопроса о том, какие профессии появятся в будущем, обусловлены тем, какое будущее мы для себя выберем. Если мы позволим цивилизации погибнуть, единственной профессией будет борьба за выживание, и сомневаюсь, что многие добьются в ней успеха. Предположим, что нам удастся не только сохранить свою цивилизацию, но и сделать еИ процветающей и владеющей развитыми технологиями. В таком случае логичным кажется существование в будущем следующих областей деятельности: программирование, добыча полезных ископаемых на Луне, атомная и космическая инженерия, лазерные коммуникации, нейрофизиология и тому подобное. Однако я не могу не думать о том, что развитие компьютеризации и автоматизации положит конец известным видам деятельности человека - всем этим отупляющим однообразным действиям, как физическим, так и умственным, которые могут превосходно выполняться машинами, причем машинами не сложнее тех, какие мы уже сейчас в состоянии создать. Короче говоря, мир может стать настолько отлаженным, что потребуется лишь небольшая горстка людей-ЋпрорабовЛ, которые будут следить за тем, чтобы население Земли было накормлено, имело уютные дома и было избавлено от повседневных забот. А что станет делать бoльшая часть человечества в практически полностью автоматизированном будущем? Как насчИт тех, у кого не окажется способности или желания работать по одной из новых профессий будущего - или для кого не найдИтся в них места? Складывается впечатление, что из-за отсутствия работы в нынешнем понимании этого слова им просто нечего делать. Пугающая мысль. Что станут делать люди, когда у них не будет работы? Будут сидеть и скучать? Или, что того хуже, станут раздражительны и неуравновешенны? Существует поговорка, что дьявол всегда находит тех, кто бездельничает, и творит зло их руками. Но мы делаем выводы исходя из существующей в наше время ситуации, когда люди, предоставленные сами себе, неминуемо скатываются в пропасть. Вспомните, что истории известны времена, когда аристократия жила в праздности, питаясь плодами труда живых машин из плоти и крови - иными словами, рабов и крестьян. При высоком уровне развития культуры аристократия занималась искусствами, литературой и философией. Разумеется, такое времяпрепровождение нельзя рассматривать как полезную работу, но оно давало пищу для ума, часто становилось темой интересных бесед и оживляло жизнь тех, кто мог позволить себе тратить время на подобные вещи. Речь идИт о гуманитарных науках, и ими занимались люди, которым не нужно было ничего делать руками. Считалось, что такие занятия приносят гораздо больше удовлетворения и что они значительно возвышеннее технических наук - всего лишь полезных. В таком случае, возможно, будущее увидит всемирную аристократию, которой станут служить единственно возможные в данной ситуации рабы - сложные машины. И тогда возникнет гораздо более широкая и интересная программа развития гуманитарных наук, которые будут преподавать машины. Люди выберут компьютерные технологии, или атомную инженерию, или исследования лунной поверхности и добычу полезных ископаемых, или любую другую профессию, которая в определИнный момент будет важной для процветания мира. Почему бы и нет? Такие профессии, требующие от человека определИнных умений и развитого воображения, станут привлекательны для многих, и я не сомневаюсь, что желающих найдИтся достаточно, чтобы заполнить все необходимые места. Впрочем, большинство людей займИтся более приземлИнными делами. Они могут собирать марки, глиняную посуду, живопись, готовить экзотические блюда, пробовать себя в театральном искусстве и тому подобное. Иными словами, будет предоставлен широкий выбор возможностей, и единственным принципом станет следующий: ЋВсИ, что ты хочешьЛ. Каждый человек под руководством обучающих машин, достаточно сложных, чтобы предложить ему разные варианты деятельности, сможет выбрать то, чем он больше всего хотел бы заниматься. Достаточно ли разумен человек, чтобы понимать, какое именно дело он сможет делать лучше всего? Но почему бы и нет? Кто другой может это знать? А если вам нравится ваше занятие, вы, естественно, добьИтесь в нем успехов. А если люди решат ничего не делать? Просто проспать свою жизнь? Если они этого хотят - пусть так и поступают. Только я сомневаюсь, что так будет. Ничего не делать - трудная работа, и лично мне кажется, еИ выберут те, кто никогда не имел возможности извлечь из своей души нечто более интересное и, следовательно, простое. Получается, что в по-настоящему автоматизированном и образованном мире машины будут оказывать на людей гуманитарное влияние. Машины будут делать тяжИлую работу и тем самым облегчат жизнь человеку, который сможет заняться чем-нибудь более приятным и занимательным для себя. Айзек Азимов. Эссе No 4. Наши друзья --------------------------------------------------------------- Издательство ЭКСМО; Серия Шедевры фантастики; 2002 г. Переводчики: Владимир Гольдич, Ирина Оганесова. Scan & OCR: Гуцу Анатолий (Atlantis), 16 января 2003. --------------------------------------------------------------- Термину ЋроботЛ всего шестьдесят лет. Его придумал и впервые употребил в своей пьесе ЋR. U. R.Л чешский драматург Карел Чапек - это слово на чешском языке означает ЋрабочийЛ. Однако сама идея значительно старше. Она родилась во времена, когда люди впервые начали мечтать о слуге, наделИнном умом, сильном, не знающем ни усталости, ни скуки и не испытывающем разочарования. В греческих мифах богу огня Гефесту помогали золотые девушки, казавшиеся живыми и созданными из плоти и крови. А остров Крит охранял бронзовый великан по имени Талос, который без устали обходил его берега, чтобы не допустить туда врага. Возможно ли существование роботов? И если да, так ли нам это нужно? Механические устройства с пружинами, разными приспособлениями и храповиками, конечно, могут заставить похожие на людей машины действовать похоже на людей, но суть хорошего робота заключается в его способностях думать - причИм так, чтобы он мог быть полезным без постоянного надзора со стороны человека. Однако чтобы думать, нужен мозг. Человеческое существо состоит из микроскопических нейронов, каждый из которых обладает невероятно сложной субструктурой. В нашем мозгу имеется 10 миллиардов нейронов и 90 миллиардов сопутствующих им клеток, соединИнных между собой исключительно сложным образом. Разве можно повторить что-нибудь подобное в искусственном виде и поместить в робота? До изобретения электронного компьютера тридцать пять лет назад о нИм даже и помыслить было невозможно. Прошло некоторое время после его рождения, и он становился всИ компактнее и компактнее, с каждым годом вмещал в себя всИ больше информации, а места занимал всИ меньше. Вполне возможно, что через несколько десятилетий появится крошечный компьютер размером с человеческий мозг, которым можно будет снабдить робота. Совсем не нужно, чтобы такой компьютер был столь же продвинутым, как человеческий мозг, достаточно, чтобы он мог руководить действиями робота, в чью задачу входит, скажем, пылесосить ковры, управлять гидравлическим прессом или наблюдать за лунной поверхностью. Робот, естественно, должен иметь встроенный источник питания: не будем же мы вечно привязаны к розетке на стене. Эту задачу решить совсем не сложно. В определИнном смысле батарейка, нуждающаяся в периодической подзарядке, ничем не отличается от живого существа, которому периодически требуется пища. Но зачем придавать роботам вид человека? Не разумнее ли сконструировать специализированную машину, предназначенную для выполнения определИнных заданий, не заставляя еИ страдать от неудобств вроде ног, рук и торса? Предположим, вы создадите робота, который сможет, засунув палец в печку, определить еИ температуру, а затем поддерживать еИ на одном уровне, манипулируя переключателем. Вне всякого сомнения, простой термостат не хуже такого робота справится с подобной задачей. Однако подумайте вот о чИм: за тысячи лет развития человеческой цивилизации мы создали технологию, приспособленную для удобств человека. Предметы, используемые людьми, конструируются таким образом, чтобы они подходили нам по размерам и форме. Машины строятся так, чтобы человек мог дотянуться до рычагов управления с учИтом, например, длины и расположения человеческих пальцев. Вспомните лишь о проблемах, которые возникают у тех, кто немного выше или ниже средней нормы - или делает всИ левой, а не правой рукой - чтобы понять, как важно правильно использовать технологический прогресс. В таком случае, если нам требуется управляющее устройство, которое сможет работать с инструментами и приборами, предназначенными для людей (а значит, сумеет вписаться в технологическую схему), разумнее всего построить это устройство, придав ему внешний вид человека, придав ему внешний вид человека, со всеми изгибами и сочленениями, характерными для человеческого тела. Нам совсем не нужно, чтобы данное устройство оказалось слишком тяжИлым или непропорциональным по нашим представлениям. Во всех отношениях соответствие среднему уровню будет как нельзя лучше. Следует также заметить, что нам свойственно находить или воображать человеческие качества в существах и предметах, не имеющих никакого отношения к классу людей. Мы даИм человеческие характеристики домашним животным и даже автомобилям. Мы персонифицируем природу и всИ, что к ней относится, а в древние времена делали из разных природных материалов богов и богинь по образу и подобию человека. И разумеется, когда мы возьмИм на службу механизированного думающего партнИра (или, в конце концов, думающего слугу), то будем чувствовать себя в его обществе уютнее, а к нему относиться проще, если своими очертаниями он будет напоминать человека. Гораздо легче подружиться с роботом, похожим на человека, чем со специализированной машиной, имеющей нейтральную форму. Иногда я думаю, что в том отчаянном положении, в котором сегодня оказалось человечество, мы будем рады иметь механических друзей, даже если они будут созданы нами самими. Эссе No 5. Наши разумные инструменты ----------------------------------------------------- Scan & OCR: Гуцу Анатолий (Atlantis) ----------------------------------------------------- Роботам не нужно быть слишком умными, чтобы быть достаточно умными. Если робот сможет исполнять простые приказы и делать работу по дому, то есть управлять несложными машинами вроде кухонного комбайна, - иными словами, эффективно заниматься однообразной работой, - нас это полностью удовлетворит. Построить робота непросто, потому что необходимо засунуть ему в голову компактный компьютер, если вы хотите, чтобы он хотя бы отдаленно напоминал человека. Сделать достаточно сложный компьютер размером с человеческий мозг тоже очень трудно. Но забудем на время о роботах. А зачем нам вообще строить компактный компьютер? Детали, из которых делаются компьютеры, становятся все меньше и меньше - от вакуумных трубок и транзисторов до интегральных схем и силиконовых чипов. Предположим, что в дополнение к тому, что мы уменьшаем детали, мы одновременно увеличиваем всю структуру. Мозг, который становится слишком большим, в конце концов начинает терять эффективность, потому что нервным импульсам требуется больше времени, чтобы добраться до места своего назначения. Даже самые быстрые из них развивают скорость лишь около 6 километров в минуту. Нервный импульс может попасть из одного отдела мозга в другой за 0,002 секунды, но в мозгу длиной в 15 километров - если мы в состоянии себе представить такой - импульсу потребуется 2,5 минуту, чтобы добраться туда, куда ему нужно. Дополнительная сложность, которая становится возможной благодаря большим размерам, окажется совершенно бесполезной просто потому, что информация будет слишком долго путешествовать и обрабатываться в цепях мозга. Но компьютеры используют электронные импульсы, которые передвигаются со скоростью более 17,5 миллионов километров в минуту. Компьютер протяженностью 650 километров будет посылать электронные импульсы из конца в конец примерно за те же 0,002 секунды. По крайней мере, в этом отношении компьютер таких громадных размеров в состоянии обрабатывать информацию с той же скоростью, с какой это делает человеческий мозг. Таким образом, если мы представим себе производство компьютеров, состоящих из все более и более миниатюрных деталей, которые все более и более сложно взаимодействуют между собой, и одновременно представим, что наши компьютеры будут увеличиваться в размерах, не можем ли мы предположить, что рано или поздно наступит момент, когда они начнут выполнять работу, которую сейчас делают люди? Существует ли теоретический предел разумности компьютера? Я об этом не слышал. Мне кажется, что всякий раз, когда мы усовершенствуем какую-то модель, делая ее более сложной, возникает ощущение, что этот компьютер способен на большее. Всякий раз, когда мы увеличиваем компьютер в размерах, стараясь одновременно сохранить сложность каждой детали, выясняется, что компьютер способен на большее. Итак, если мы научим делать достаточно сложные и достаточно большие компьютеры, почему они не могут быть наделены человеческим умом? Кое-кто наверняка нам не поверит и скажет: "Разве может компьютер создать великую симфонию, произведение живописи или новую научную теорию?" В таких ситуациях мне всегда хочется ответить вопросом на вопрос: "А вы можете?" Впрочем, не следует забывать, что в мире, населенном самыми обычными людьми, есть и великие люди, настоящие гении. Однако они становятся гениями лишь потому, что атомы и молекулы у них в мозгу организованы особым способом. У них в голове нет ничего другого, кроме атомов и молекул. Если мы особым образом выстроим атомы и молекулы в компьютере, он тоже сможет создавать гениальные произведения; и даже если отдельные его детали будут не такими крошечными и изощренно сложными, как в человеческом мозгу, мы компенсируем это увеличением размеров компьютера. Кое-кто скажет: "Но компьютеры могут делать только то, на что они запрограммированы". Ответ на это таков: "Совершенно верно. Но мозг тоже может делать только то, на что он запрограммирован - гениями. Частью программы мозга является способность учиться, что должно войти и в программу сложного компьютера". На самом деле, если можно создать компьютер, не уступающий по уровню интеллекта человеку, почему нельзя сделать его умнее? Действительно, почему? Может быть, в этом и заключается эволюция. За три миллиарда лет, методом проб и ошибок на уровне атомов и молекул, в результате чрезвычайно медленного и постепенного усовершенствования появился наконец вид, достаточно разумный для того, чтобы сделать следующий шаг вперед уже в течение века или даже нескольких десятилетий. И вот тогда начнется настоящий прогресс. Однако если компьютеры станут умнее людей, не возникнет ли опасность, что они нас заменят? Ну а почему бы и нет? Они могут быть не только разумными, но и добрыми и позволят нам просто плыть по течению. Будут держать нас при себе в роли домашних животных или так, про запас. А теперь подумайте, что мы сами сейчас делаем со всеми живыми существами и с самой планетой, на которой живем. Вполне возможно, уже пора нас заменить? Может быть, главная опасность заключается в том, что компьютеры будут развиваться недостаточно быстро, чтобы занять наше место? Подумайте об этом*. * Я представляю вам эту точку зрения лишь в качестве темы для размышления. Совершенно другой позиции я придерживаюсь в эссе "Разумы, действующие совместно", напечатанном в данном сборнике. - Примеч. автора. Эссе No 6. Законы роботехники ----------------------------------------------------- Scan & OCR: Гуцу Анатолий (Atlantis) ----------------------------------------------------- Довольно трудно думать о компьютерах, представляя себе вариант, когда они могут "захватить" наше место. Заменят ли они нас, превратят ли в какой-то пережиток, выбросят ли на свалку, как мы в свое время расправились с копьями и трутницами? Если мы представим себе компьютерный мозг внутри металлической имитации человека, которую мы называем роботом, страх окажется еще более ощутимым. Роботы так напоминают людей, что один только их внешний вид может послужить причиной возникновения у них мятежных мыслей. Эта проблема стала одной из самых популярных в мире научной фантастики в 1920-1930-х годах, когда было написано множество рассказов, темой которых являлись роботы, восставшие и уничтожившие своих создателей. Когда я был молодым человеком, мне ужасно надоели предупреждения, звучавшие в произведениях подобного рода, поскольку мне представлялось, что робот - это всего лишь машина, а люди постоянно строят машины. Учитывая, что все машины так или иначе представляют для нас опасность, мы специально встраиваем в них самые разнообразные защитные устройства. В 1939 году я начал серию рассказов, в которых с симпатией описывались тщательно сконструированные машины, выполнявшие определенные задачи, причем в каждой из машин имелось встроенное устройство, обеспечивающее их миролюбие. В рассказе, написанном в октябре 1941 года, я наконец дал имя этому защитному устройству - Три закона роботехники. (Я изобрел термин "роботехника", который до тех пор никогда и нигде не использовался.) Они звучат так: 1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред. 2. Робот должен повиноваться всем приказам, которые отдает человек, кроме тех случаев, когда эти приказы противоречат Первому закону. 3. Робот должен заботиться о своей безопасности в той мере, в какой это не противоречит Первому и Второму законам. Эти законы внесены в компьютеризированный мозг робота и явились темой многих моих рассказов, посвященных роботам. По правде говоря, они так понравились читателям и звучали так разумно, что другие писатели-фантасты начали использовать их (никогда не цитируя напрямую - в отличие от меня), и все старые рассказы о роботах, уничтожавших своих создателей, просто умерли. Ну, это научная фантастика. А как насчет работ по созданию сложных компьютеров и искусственного интеллекта, которые проводятся учеными? Когда строятся машины, обладающие собственным разумом, будут ли в их сознание внедрены законы, подобные Трем законам роботехники? Разумеется да, поскольку создатели компьютеров и сами обладают высокоразвитым интеллектом. Более того, защита будет не только иметь некоторое отношение к Трем законам - она будет на них опираться. В тот момент, когда я придумал Три закона, я не понимал, что человечество уже давным-давно пользуется ими. "Три закона инструментов" звучат следующим образом: 1. Инструмент должен быть безопасным для использования. (Это же очевидно! У ножей и мечей имеются рукоятки. А инструмент, который может причинить вред тому, кто взял его в руки - если, конечно, человек знает об опасности, - никогда не будет использован, каким бы полезным он ни казался.) 2. Инструмент должен выполнять свои функции при условии, что он не представляет ни для кого никакой опасности. 3. Инструмент должен оставаться в целости и сохранности во время его использования, если только его уничтожение не продиктовано соображениями безопасности или если это не входит в его функцию. Никто никогда не цитирует эти три закона, поскольку все принимают их как должное. Каждый закон, если о нем говорят вслух, будет встречен дружным восклицанием вроде: "Ну, это же любому ясно!" В таком случае давайте сравним "Три закона инструментов" c Тремя законами роботехники, и вы увидите, что они полностью совпадают. А разве может быть иначе? Ведь робот, или, если желаете, компьютер, является инструментом, которым пользуется человек. Но можно ли сказать, что мы защищены от всех неприятностей в достаточной степени? Подумайте об усилиях, которые предпринимаются, чтобы сделать автомобили безопасными, - однако они продолжают убивать около 50 000 американцев в год. Подумайте об усилиях, которые предпринимаются, чтобы обезопасить банки, - однако ограбления продолжаются. Подумайте об усилиях, которые предпринимаются, чтобы защитить компьютерные программы, - однако количество компьютерного мошенничества растет. Впрочем, если компьютеры станут достаточно разумными, чтобы "перехватить инициативу", они уже не будут нуждаться в ограничениях, предписываемых Тремя законами. И тогда по доброте душевной они решат заботиться о нас и оберегать от неприятностей и проблем. Однако кое-кто из вас может возразить, что мы не дети и, как только возникнет необходимость нас охранять, мы лишимся своей человеческой сути. Правда? Посмотрите на сегодняшний мир и мир прошлого и задайте себе вот какой вопрос: в самом ли деле мы не дети (причем склонные к насилию и уничтожению всего вокруг) и справедливо ли утверждение о том, что за нами не нужно присматривать? Если мы хотим, чтобы с нами обращались как со взрослыми, нам следует вести себя как взрослые. И когда же начнем? Эссе No 7. Будущая фантастика ----------------------------------------------------- Scan & OCR: Гуцу Анатолий (Atlantis) ----------------------------------------------------- В прошлом три фундаментальных достижения в области коммуникаций полностью изменили все области нашей жизни. Первое - это речь, второе - письмо и третье - книгопечатание. Сейчас можно говорить о четвертом достижении, не менее важном, чем первые три, - о компьютере. Четвертое революционное изобретение позволит человеку развить свои творческие способности до небывалых высот. И если мы не уничтожим мир при помощи ядерного оружия, перенаселения или загрязнения окружающей среды, мы получим мир технодетей, настолько отличающийся от нынешнего, насколько нынешний отличается от мира пещерного человека. Каким будет мир следующего поколения по сравнению с миром наших предков? Ответ, который напрашивается сам собой: компьютер можно рассматривать как еще один вид развлечения, что-то вроде супертелевизора. Его можно будет использовать для сложных игр, общения с друзьями и других простых вещей. Однако даже это может коренным образом изменить нашу жизнь. Прежде всего, общение ч