нных совсем  не так, как у нас. Љ тому же почти
навернЯка  робот станет  подходить  к проблеме, которую ему следует  решить,
совершенно иначе.
     ђазумность робота и человека могут настолько отличатьсЯ  друг от друга,
что на свет, вполне возможно, поЯвитсЯ  новаЯ наука -  "робопсихологиЯ". ‚от
тут-то  и  придет  времЯ ‘ьюзен  Љэлвин.  €менно она  и  ее  коллеги  смогут
разобратьсЯ в проблемах, решить которые обычные  психологи будут не в силах.
ќта  область  знаний может  оказатьсЯ  самой  важной  во  всей  роботехнике,
поскольку, если мы сумеем детально изучить два совершенно разных интеллекта,
возможно,  мы  научимсЯ  понимать,  что  такое  интеллект  в  гораздо  более
фундаментальном и широком  смысле,  чем  это  возможно сейчас. €  что  самое
главное, мы сумеем лучше понЯть, что представлЯет собой  интеллект человека,
а это практически невозможно сделать, изучаЯ только его.


        ќссе No 10. ђобот как враг?


     -----------------------------------------------------
     Scan & OCR: ѓуцу Ђнатолий (Atlantis)
     -----------------------------------------------------

     ‚ 1942 году Я  изобрел ’ри  закона роботехники.  ‘амым  важным  из  них
ЯвлЯетсЯ, естественно, Џервый закон. Ћн  гласит: "ђобот  не  может причинить
вред человеку или своим бездействием  допустить, чтобы человеку был причинен
вред". ‚ своих рассказах Я всегда старалсЯ подчеркнуть, что законы, особенно
Џервый, ЯвлЯютсЯ неотъемлемой частью робота, и он не может их нарушить.
     Љроме  того, Я  старалсЯ,  хотЯ, возможно,  и не  так  настойчиво, дать
понЯть своим читателЯм, что эти законы не ЯвлЯютсЯ врожденными. Њатериал, из
которых  сделан  робот,  не содержит  в  себе этих законов.  Ћни  совершенно
сознательно  вносЯтсЯ в мозг готового робота,  иными  словами, в компьютеры,
которые контролируют его  деЯтельность.  Њожет так получитьсЯ,  что какой-то
определенный робот окажетсЯ не наделен  знанием ’рех  законов, поскольку его
примитивнаЯ конструкциЯ  не позволЯет  внести  в  него поведенческие  схемы,
достаточно  сложные,  чтобы  он был вынужден им  подчинЯтьсЯ,  или поскольку
человек,  который создает робота, решит  сознательно  не вносить  в его мозг
знание ’рех законов.
     Џока  - и,  возможно,  так будет еще достаточно долго - мы имеем дело с
первой причиной. ђоботы  слишком  примитивны, чтобы предвидеть, что какой-то
их поступок может причинить вред человеку, и изменить свое  поведение, чтобы
этого   не   произошло.    ‚   настоЯщий   момент   у   нас   имеютсЯ   лишь
компьютеризированные   устройства,    которые   способны   выполнЯть   набор
определенных действий и не могут отойти в сторону от данных им инструкций. ‚
результате роботы  уже стали причиной смерти людей (как,  впрочем, и обычные
машины).  ќто ужасно, но  вполне объЯснимо, и мы можем  предполагать, что по
мере  созданиЯ  роботов с  более сложной системой  восприЯтиЯ и способностью
гибкого реагированиЯ на изменение  ситуации увеличитсЯ вероЯтность того, что
в них будут внесены защитные блоки, эквивалентные ’рем законам.
     Ђ как  насчет второй альтернативы? ‘танут ли люди сознательно создавать
роботов,  не  наделЯЯ  их  знанием  ‡аконов  роботехники? Ѓоюсь,  что  такаЯ
возможность тоже существует. “же идут разговоры о роботах-охранниках. ђоботы
могут патрулировать какие-нибудь территории  или даже  охранЯть вестибюли. ‚
их  задачу  будет  входить  общение с людьми,  которые  поЯвлЯютсЯ на данной
территории или в здании. ‚ероЯтно, тот, кто имеет право войти или приглашен,
получит   карточку,   идентифицирующую  его  личность,  и  тогда  робот  его
пропустит.  ‚  наше   времЯ,  когда  столько   вниманиЯ  уделЯетсЯ  вопросам
безопасности, такие идеи могут показатьсЯ вполне  разумными,  поскольку  они
ЯвЯтсЯ надежным способом  борьбы с вандализмом и терроризмом,  - получаетсЯ,
что робот будет выполнЯть роль дрессированной сторожевой собаки.
     Ћднако стремление к  безопасности порождает  усложнение  системы. ђобот
сумеет  остановить непрошенного гостЯ, но сигнала  тревоги  может  оказатьсЯ
недостаточно.  ‹юдЯм захочетсЯ наделить его способностью изгнать посетителЯ,
даже если при этом  робот причинит ему вред - собака ведь тоже может увусить
вас за ноги или перегрызть глотку. џ что  произойдет,  если, например, глава
фирмы  забудет свою  карточку в  других  брюках и, расстроившись, не  успеет
покинуть здание достаточно быстро? €ли ребенок случайно войдет на охранЯемую
территорию? џ подозреваю, что если робот причинит вред  человеку, который не
имеет никаких  дурных намерений, мгновенно подниметсЯ шум  и ученые  получат
задание внести соответствующие изменениЯ, чтобы ошибка не повторилась.
     ђасмотрим другую крайность  - разговоры об оружии. Љомпьютеризированные
самолеты,  танки,  артиллериЯ  и  тому  подобное,  которые  с нечеловеческим
упорством  будут без устали сражатьсЯ с врагом. ‚  качестве  довода в защиту
подобного  оружиЯ  можно  сказать,  что  таким  образом  мы  сохраним  жизнь
солдатам.  “строившись  со всеми  удобствами  у  себЯ  дома,  мы предоставим
машинам воевать  за нас.  …сли какие-то из них будут уничтожены - ну, это же
всего лишь машины. ’акой  подход к ведению военных действий может  оказатьсЯ
особенного полезным, если у вас такие машины есть, а у врага - нет.
     Ќо даже и в этом случае, можем ли  мы быть абсолютно уверены в том, что
машины сумеют безошибочно отличать  врагов от друзей? ‚ ситуации,  когда все
наше   оружие  контролируют  руки   и  мозги  людей,   существует   проблема
"дружественного огнЯ". Ђмериканское оружие может случайно убить американских
солдат  или гражданских людей, что нередко происходило в прошлом. ђечь  идет
об ошибках, которые  допускали люди, однако от этого не  легче.  Ђ что, если
наше  роботизированное   оружие  откроет   "дружественный  огонь"  и  начнет
уничтожать американцев или  даже  американскую  собственность? ЏринЯть такое
будет  еще  труднее  (в  особенности   если  враг   разработает  специальные
стратегические мероприЯтиЯ,  направленные на то, чтобы сбить программы наших
роботов  и  повернуть их  огонь  против  нас). Ќет,  Я  уверен, что  попытки
применениЯ  роботов без специальных защитных  систем провалЯтсЯ  и  в  конце
концов мы все равно вернемсЯ к ’рем законам.


        ќссе No 11. ђазумы, действующие совместно


     -----------------------------------------------------
     Scan & OCR: ѓуцу Ђнатолий (Atlantis)
     -----------------------------------------------------

     ‚  эссе  "Ќаши разумные  инструменты"  Я  упомЯнул  о  том,  что  может
сложитьсЯ ситуациЯ,  когда роботы станут такими умными, что в  конце  концов
нас  заменЯт.  џ  предположил с некоторым цинизмом, что, учитываЯ  поведение
людей, подобнаЯ замена может оказатьсЯ очень даже полезной. ‘ тех пор прошло
времЯ,  и роботы начали занимать все  более важное место в промышленности, и
хотЯ  они продолжают  оставатьсЯ  довольно тупыми (если  говорить  об уровне
интеллектуального развитиЯ), они очень быстро развиваютсЯ.
     ‚ таком случае, пожалуй,  нам следует еще  раз взглЯнуть на возможность
возникновениЯ   ситуации,   когда   роботы   (или   компьютеры,  которые   в
действительности  управлЯют  роботами)  нас заменЯт. ђезультат,  разумеетсЯ,
зависит  от  того,  насколько  разумны будут  компьютеры  и  станут  ли  они
настолько умнее  нас, что наступит времЯ, когда  они будут относитьсЯ к  нам
как  к  домашним  животным  (в  лучшим  случае)  или паразитам  (в  худшем).
ЏолучаетсЯ, что степень разумности - штука настолько  простаЯ, что  ее можно
измерить каким-нибудь прибором вроде линейки или градусника  либо при помощи
теста, а потом выразить цифрами.  …сли умственное развитие среднего человека
можно обозначить цифрой 100 по шкале интеллектуального развитиЯ, получаетсЯ,
что, как только компьютер минует эту отметку, у нас поЯвЯтсЯ проблемы.
     ‚прочем, так ли все просто?  ‚не всЯкого сомнениЯ,  такаЯ сложнаЯ вещь,
как интеллект,  должна характеризоватьсЯ множеством  факторов и иметь  массу
разнообразных видов - если можно так сказать.  Њне представлЯетсЯ, что нужно
обладать  до  определенной  степени  развитым  интеллектом,  чтобы  написать
логично  выстроенное  эссе,  выбрать  правильные  слова  и  поставить  их  в
правильном  порЯдке.  џ  также  полагаю,   что  человек,  изучающий  сложное
устройство,  должен  быть наделен развитым интеллектом, иначе  он не поймет,
как оно работает  и  что следует сделать,  чтобы его усовершенствовать - или
починить, если оно  вдруг сломалось.  —то касаетсЯ  литературного  труда,  Я
обладаю чрезвычайно  высокоразвитым  интеллектом; а  вот в  работе с разного
рода машинами и устройствами Я абсолютно  ничего не понимаю. ‚ таком случае,
кто Я - гений или идиот? Ћтвет таков: ни  то ни другое. Џросто какие-то вещи
получаютсЯ у менЯ хорошо, а какие-то плохо. ќто можно сказать про  любого из
нас.
     ‚  таком  случае  давайте немного  поразмышлЯем  о  природе  интеллекта
человека и  компьютера. Њозг  человека  состоит  из  протеина и  нуклеиновых
кислот; он  развивалсЯ в течение трех  миллиардов  лет путем проб и  ошибок;
главными силами,  толкавшими его вперед,  были приспособление и выживание. ‘
другой  стороны,  компьютеры  состоЯт из  металла  и электронных  схем;  они
ЯвлЯютсЯ продуктом экспериментов и разработок, которыми  люди занимаютсЯ вот
уже   сорок  лет;  главной   силой,  заставлЯющей  людей   усовершенствовать
компьютеры, ЯвлЯетсЯ  их желание создать машину, котораЯ  облегчила бы жизнь
человеку. …сли сами люди отличаютсЯ друг от друга уровнем и качеством своего
интеллекта,  разве не естественно,  что  интеллекты человека и машины  будут
категорически  отличатьсЯ  друг от друга  в силу  того,  что они возникли  и
развивались в  абсолютно разных условиЯх, сделаны из разных материалов и  их
усовершенствование обуславливают такие разные силы?
     Њожет  показатьсЯ,  что  компьютеры, даже  самые простые, исключительно
эффективны  в  определенных  вопросах  и  областЯх.  Ћни  обладают  солидной
памЯтью,  реагируют   практически   мгновенно  и  демонстрируют  способность
совершать бесконечное число повторЯющихсЯ арифметических действий без ошибок
и видимой усталости. …сли  это  можно  считать мерилом  интеллекта, в  таком
случае  компьютеры  уже стали намного умнее  нас. ЃлагодарЯ  тому,  что  они
настолько нас превосходЯт,  мы используем  их  миллионами разных способов  и
отлично   знаем,  что   наша   экономика  развалитсЯ,  если  все  компьютеры
одновременно перестанут работать.
     Ћднако   эта   способность    компьютера   не   ЯвлЯетсЯ   единственным
определителем   разумности.  Џо  правде  говорЯ,   мы   считаем   ее   такой
незначительной,  что,  вне  зависимости  от  скорости  и сложности  решениЯ,
относимсЯ  к   компьютеру  как  к   громадной  логарифмической  линейке,  не
обладающей  вообще никаким разумом.  Љогда речь идет о человеке,  наделенном
развитым  интеллектом,  мы имеем в  виду его способность увидеть проблему  в
целом, интуитивно  найти ее решение, разглЯдеть новые  комбинации, построить
необычные  предположениЯ и творческие догадки. Њожем ли мы запрограммировать
компьютер, чтобы он вел себЯ так же? ‚рЯд ли, поскольку мы не знаем, как это
у нас получаетсЯ.
     ‚ таком случае складываетсЯ впечатление, что компьютеры будут  с каждым
днем становитьсЯ все эффективнее  в выполнении простых однообразных  задач с
ближней  перспективой  и   их  "мозг"  станет  развиватьсЯ  именно  в   этом
направлении. Ђ человек (благодарЯ накоплению знаний  и все лучшему пониманию
того, что представлЯет собой  человеческий мозг,  а  также благодарЯ успехам
генной   инженерии)  сумеет  развивать  до   бесконечности  свои  творческие
способности. Ћба этих вида интеллекта имеют свои преимущества, и в сочетании
мозг человека и компьютера - дополнЯЯ и  компенсируЯ недостатки друг друга -
смогут  продвигатьсЯ вперед гораздо быстрее, чем  по одиночке. ‘оперничество
или  замена будут тут  совершенно  ни при чем,  два  разума станут  работать
вместе;  добиваЯсь   более  значительных  результатов,   чем  если  бы   они
действовали каждый сам по себе в соответствии со своей природой.


        ќссе No 12. Њои роботы


     -----------------------------------------------------
     Scan & OCR: ѓуцу Ђнатолий (Atlantis)
     -----------------------------------------------------

     џ написал свой первый рассказ  "ђобби" в мае 1939  года, когда мне было
всего девЯтнадцать лет.
     Њой рассказ отличалсЯ от увидевших свет раньше тем, что  Я твердо решил
не делать  из своих  роботов  символов. Ћни не должны  были стать  символами
высокомериЯ  человека.  Ћни  не  должны  были  стать  примером  человеческих
амбиций, покушающихсЯ на владениЯ ‚севышнего. Ћни не должны были стать новой
‚авилонской башней, требующей наказаниЯ.
     Љроме того, Я не хотел, чтобы роботов считали символом меньшинства. Ћни
не должны были стать жалкими существами,  которых несправедливо обижают, что
послужило бы мне поводом длЯ завуалированных намеков на притеснениЯ, которым
подвергаютсЯ евреи,  чернокожие и  прочие страдающие  члены нашего общества.
…стественно,  менЯ такое положение глубоко возмущает, о  чем Я множество раз
говорил в многочисленных статьЯх и эссе - но не в рассказах о роботах.
     ‚ таком случае,  чем же ЯвлЯютсЯ мои роботы? Ћни всего лишь устройства.
€нструменты. Њашины,  которые призваны служить людЯм. € Я наделил их знанием
’рех  законов. €ным словами,  робот не мог  убить своего создателЯ.  ЋбъЯвив
этот  чрезвычайно  популЯрный  сюжет  вне  закона,   Я  получил  возможность
рассмотреть другие, более рациональные последствиЯ своего поступка.
     Џоскольку  Я начал писать рассказы о  роботах в  1939  году, в  них нет
упоминаний об электронных компьютерах, которые тогда еще не были изобретены,
а  Я не  предвидел их  поЯвлениЯ. ‚прочем,  Я предполагал,  что мозг  робота
должен  до  определенной  степени  быть  "электронным",  и  само  понЯтие не
казалось принадлежащим далекому  будущему. Џозитрон  -  субатомнаЯ  частица,
похожаЯ на электрон, но имеющаЯ противоположный  электрический зарЯд, -  был
обнаружен всего за четыре года  до того, как Я написал свой первый рассказ о
роботах.  ‚се эти  открытиЯ  звучали очень  фантастично, и  потому Я наделил
своих роботов "позитронными мозгами" и представил себе, что их мысли состоЯт
из  потоков  позитронов,  которые  мгновенно  возникают  и так  же мгновенно
перестают существовать. ‚ результате сериЯ таких рассказов получила название
"рассказы  о позитронных роботах", но в них не  придавалось особого значениЯ
предпочтению позитронов по сравнению с электронами.
     ‘начала  Я  не старалсЯ  систематизировать  или даже  вообще  описывать
защитные устройства,  которыми,  по моим  представлениЯм, должны  были  быть
снабжены роботы.  Ћднако  поскольку  мне не  хотелось создавать длЯ  роботов
ситуации,  в  которых  они могут убить  своего  создателЯ, Я  уделЯл  особое
внимание  тому факту, что робот  не  в  состоЯнии  причинить вред  человеку,
постоЯнно подчеркиваЯ, что этот закон внедрен в его позитронный мозг.
     € потому в  самой первой увидевшей свет версии рассказа "ђобби" один из
героев говорит: "Ћн  просто не  может  не быть верным,  любЯщим, добрым.  Ћн
просто устроен так".
     Ќаписав рассказ "ђобби", который „жон  Љэмпбелл  из "ќстаундинг  сайенс
фикшн" отказалсЯ напечатать,  Я  сочинил несколько других рассказов, которые
Љэмпбелл принЯл.  € 21 декабрЯ  1940 года  Я пришел к нему с идеей о роботе,
умеющем читать мысли (так поЯвилсЯ "‹жец"), но „жона не устроили никакие мои
объЯснениЯ по поводу того, почему робот вел себЯ именно так, а не иначе.  Ћн
хотел  получить четко сформулированные законы,  которые защищали бы людей от
роботов,  чтобы мы смогли  лучше  понимать  их  поведение. €  тогда мы с ним
вместе разработали концепцию,  котораЯ позднее стала  называтьсЯ "’ри закона
роботехники".  €деЯ   принадлежала  мне  и  была  взЯта  из  уже  написанных
рассказов,  но конкретные  формулировки (если  Я  все  правильно  помню)  мы
разработали вместе.
     ’ри закона были логичны и звучали вполне разумно. Џрежде всего, когда Я
начал писать рассказы о своих роботах, Я подумал, что следует позаботитьсЯ о
безопасности  человека.  Ѓолее  того,  Я  прекрасно  понимал,  что, даже  не
стараЯсь сознательно  причинить человеку  вред, своей бездеЯтельностью робот
может  навлечь на него беду. џ никак  не мог  забыть циничного  произведениЯ
Ђртура •ью Љлоу "Џоследний декалог", в котором десЯть заповедей переписаны в
сатирическом стиле Њакиавелли. —аще всего  цитируетсЯ такаЯ: "Ќе  убий, но и
не слишком старайсЯ сохранить другому жизнь".
     €менно  по  этой  причине   Я  настаивал  на   том,  что  Џервый  закон
(безопасность) должен состоЯть из двух позиций:
     1.  ђобот  не может  причинить  вред  человеку  или  своим бездействием
допустить, чтобы человеку был причинен вред.
     Џозаботившись  о  безопасности,  мы  решили перейти ко  ‚торому  закону
(служба). …стественно, следуЯ необходимости выполнЯть приказы  людей,  робот
не должен забывать об их безопасности. ‡начит, ‚торой закон гласит:
     2.  ђобот должен  повиноватьсЯ всем  приказам, которые  отдает человек,
кроме тех случаев, когда эти приказы противоречат Џервому закону.
     € наконец, нам требовалсЯ третий закон (осторожность).  ђобот - дорогаЯ
машина, значит,  необходимо  ее беречь. Ќо не в ущерб безопасности и  службе
человеку. €так, ’ретий закон выглЯдит следующим образом:
     3. ђобот должен заботитьсЯ о своей безопасности в той мере, в какой это
не противоречит Џервому и ‚торому законам.
     ђазумеетсЯ,  эти  законы   сформулированы  в  словах,  что  ЯвлЯетсЯ  в
определенной степени  несовершенством.  ‚  позитронном мозгу они выражены  в
сложных математических формулах (в которых Я ничего не понимаю). Ћднако даже
при  этом  они  достаточно  двусмысленны. —то  считать  вредом длЯ человека?
„олжен  ли  робот подчинЯтьсЯ  приказам,  которые отдает  ему  ребенок,  или
сумасшедший, или человек с  дурными намерениЯми?  „олжен  ли он отдать  свое
дорогостоЯщее и  полезное существование, чтобы  предотвратить незначительный
вред,  который   может   быть  причинен  маловажному   человеку?   —то  есть
"незначительный" и что есть "маловажный"?
     Џо  мнению  автора, эта  двусмысленность  не ЯвлЯетсЯ недоработкой ’рех
законов. …сли бы  ’ри закона были идеальными и не вызывали никаких сомнений,
разве  могли  бы мы  писать  наши  рассказы? €менно  в  хитроумных закоулках
сомнений и  лежат сюжеты, которые становЯтсЯ  фундаментом  - уж простите  за
каламбур - "ѓорода роботов".
     џ  не  старалсЯ облечь  в  слова  ’ри закона  в своем  рассказе "‹жец",
который поЯвилсЯ в мае 1941 года. Ћднако в следующем рассказе  под названием
"•оровод",  поЯвившемсЯ в  марте 1942 года, Я  уделил им  самое  пристальное
внимание.  ‚  этом номере  на  седьмой строке  страницы  сто, один из героев
говорит: "’еперь слушай.  Ќачнем с ’рех  основных законов роботехники - трех
правил,  которые  прочно  закреплены  в позитронном мозгу",  и дальше  Я  их
цитирую.  Ќасколько  мне  известно,  это первое  поЯвление  в  печати  слова
"роботехника", которое Я изобрел.
     ‘ тех пор в  течение более чем сорока  лет,  когда  Я написал множество
рассказов и романов о роботах, ни разу не возникло такой ситуации, чтобы мне
пришлось модифицировать ’ри закона. Ћднако времЯ шло, мои роботы становились
более  сложными  и  разносторонними,  и  Я  почувствовал,  что можно  внести
кое-какие  изменениЯ.  ’аким   образом,  в  "ђоботах  и  €мперии",   романе,
опубликованном в 1985 году, Я  заговорил о том, что  в  достаточной  степени
продвинутый  робот может почувствовать себЯ  обЯзанным  предотвратить  вред,
который, возможно, будет причинен всему человечеству в целом, а не какому-то
отдельному индивидууму. џ назвал его "Ќулевым законом роботехники" и все еще
продолжаю над ним работать.
     €зобретение ’рех законов  роботехники  - пожалуй,  самый крупный вклад,
внесенный мной в научную фантастику.  ’еперь их часто цитируют даже те,  кто
не  имеет никакого отношениЯ к данной области литературы,  и уж  точно можно
сказать, что  историЯ роботехники  не будет считатьсЯ полной  без упоминаниЯ
’рех законов. ‚ 1985 году издательство "„жон  “айли и сыновьЯ"  опубликовало
"ђуководство  по промышленной  роботехнике" под редакцией ‘аймона ‰. Ќофа, и
по просьбе главного редактора Я написал вступление, касающеесЯ ’рех законов.
     ‘ейчас авторы произведений научной фантастики произвели на  свет  целое
море самых разнообразных идей, доступных остальным писателЯм. €менно по этой
причине Я никогда не  возражал  против  того, чтобы мои коллеги, посвЯщающие
свои произведениЯ роботам, пользовались моими ’ремЯ законами.
     Ћднако Я категорически  выступал против  прЯмого их цитированиЯ другими
авторами.  Ћтноситесь  к ’рем законам как к данности, но  не повторЯйте их -
такова моЯ позициЯ. ЏонЯтиЯ принадлежат всем, а слова - только мне!


        ќссе No 13. ‡аконы науки о человеке


     -----------------------------------------------------
     Scan & OCR: ѓуцу Ђнатолий (Atlantis)
     -----------------------------------------------------

     ’ри  моих  первых  романа  о  роботах  были  в  основе  своей посвЯщены
таинственным убийствам,  в роли  детектива выступал  €лайджа  Ѓейли. €з этих
трех во втором романе  - "Ћбнаженное солнце" - местом преступлениЯ  ЯвлЯетсЯ
запертаЯ комната, в которой  находЯт  труп  и никакого оружиЯ, хотЯ с самого
начала Ясно, что спрЯтать или вынести оружие было невозможно.
     Њне удалось  придумать  вполне удовлетворительное решение, но  Я больше
никогда не писал ничего подобного.
     —етвертый роман о роботах - "ђоботы и €мпериЯ" - изначально не ЯвлЯетсЯ
историей  о загадочном убийстве. €лайджа  Ѓейли умер  собственной смертью  в
преклонном возрасте, а дальше повествование поворачивает в сторону вселенной
"ЋснованиЯ",  так что  становитсЯ  Ясно, что  обе  мои  известные  серии - о
роботах и "Ћснование" -  сливаютсЯ вместе в единое, расширенное целое. (Ќет,
Я  сделал  это  не случайно.  Њною  двигала необходимость,  возникшаЯ  после
написаниЯ в 1980-х годах продолжениЯ серий, созданных в 1940-х и 1950-х.)
     ‚  "ђоботах и €мперии" герой-робот  по имени  †искар, которого  Я очень
люблю,  рассуждает о "‡аконах науки  о человеке", могущей, по  моему мнению,
впоследствии  положить начало науке психоистории, играющей существенную роль
в серии "Ћснование".
     ‘трого говорЯ, ‡аконы науки  о  человеке  должны  ЯвлЯтьсЯ описанием (в
сжатой форме) поведениЯ  человека. …стественно, такого описаниЯ в природе не
существует. „аже психологи, изучающие данные проблемы с научной точки зрениЯ
(по крайней мере, Я на это очень  надеюсь),  не  могут  представить  никаких
"законов" и отделываютсЯ лишь длинными и запутанными рассуждениЯми на тему о
том,  что люди делают,  по их мнению. Љогда  психолог  говорит,  что человек
реагирует  определенным образом на определенный стимулЯтор, он имеет в виду,
что так  происходит с некоторыми людьми в  некоторый момент. „ругие в другой
момент могут вести себЯ иначе или вовсе никак не реагировать.
     …сли мы будем действительно дожидатьсЯ поЯвлениЯ неких правил поведениЯ
человека с целью созданиЯ науки психоистории, Я полагаю,  мы будем вынуждены
ждать очень долго.
     ‚ таком случае,  что  нам  делать с ‡аконами  науки о  человеке? „умаю,
нужно  потихоньку начать и постепенно  развивать их -  если у  нас, конечно,
получитсЯ.
     ’аким образом, в "ђоботах  и €мперии" поЯвлЯетсЯ  робот †искар, который
поднимает  эти  вопросы.   Ѓудучи  роботом,   он  должен  смотреть   на  все
происходЯщее  с  точки  зрениЯ  ’рех  законов  роботехники,  которые  жестко
предписывают  ему,  как  он  должен  себЯ  вести,  поскольку  он  обЯзан  им
подчинЯтьсЯ и не может их нарушить.
     1.  ђобот  не может причинить  вред  человеку  или  своим  бездействием
допустить, чтобы человеку был причинен вред.
     2.  ђобот  должен повиноватьсЯ всем  приказам, которые  отдает человек,
кроме тех случаев, когда эти приказы противоречат Џервому закону.
     3. ђобот должен заботитьсЯ о своей безопасности в той мере, в какой это
не противоречит Џервому и ‚торому законам.
     Њне кажетсЯ, робот не может не думать о том, что человеческим существам
следует  вести себЯ таким образом, чтобы роботам стало легче  выполнЯть  эти
’ри закона.
     Џо правде говорЯ, Я считаю, что люди,  придерживающиесЯ этических норм,
должны старатьсЯ  облегчить  жизнь роботам,  как  на их месте  поступили  бы
роботы.  „анные размышлениЯ  стали темой  рассказа "„вухсотлетний  человек",
опубликованного в 1976 году. Ћдин герой-человек говорит:
     "ђаз человек имеет право  отдать роботу любой приказ, лишь бы он не был
во  вред другому человеку,  то простаЯ порЯдочность не должна  позволЯть ему
отдавать  роботу  распорЯжениЯ  во  вред  этому роботу, за  исключением  тех
случаев,  когда этого  бесспорно  требует  спасение человеческой  жизни. —ем
больше власть,  тем больше и ответственность, и если  роботы  подчинены ’рем
законам, гарантирующим безопасность людей, неужели так уж много - попросить,
чтобы люди ввели закон-другой длЯ защиты роботов?"
     Ќапример,  Џервый закон состоит из двух частей. ЏерваЯ: "робот не может
причинить  вред  человеку"  - однозначна, и  с  ней ничего  не нужно делать.
‚тораЯ:  "или  своим  бездействием  допустить,  чтобы  человеку был причинен
вред", -  дает нам некоторые  возможности длЯ полета фантазии. —еловек может
пострадать  от какого-то неодушевленного предмета. Ќа него упадет что-нибудь
тЯжелое, или он поскользнетсЯ  и свалитсЯ в  озеро, или с ним случитсЯ любой
из тысЯч несчастных случаев, предвидеть которые невозможно. ‚ такой ситуации
робот  должен  попытатьсЯ  спасти человека:  вытащить  в  безопасное  место,
поддержать и  тому подобное. €ли человеку будет угрожать какое-нибудь  живое
существо, например лев, и тогда робот тоже обЯзан прийти ему на помощь.
     Ђ что,  если человеку  угрожает  другой человек? ‡десь роботу  придетсЯ
принимать решение, что ему делать. ‘может ли он  спасти  одного человека, не
причинив вред другому? €ли если избежать этого  невозможно,  какие  действиЯ
следует предпринЯть, чтобы вред был минимальным?
     ђоботам  жилось  бы намного легче,  если бы люди так же беспокоились  о
благополучии других людей, как должны это делать роботы. € разумеетсЯ, любой
кодекс морали потребует от человека заботитьсЯ о других  и старатьсЯ сделать
все,  чтобы  им  не  был  причинен  вред.  —то,  в конце концов,  и ЯвлЯетсЯ
мандатом,  который люди  дали роботам. ЏолучаетсЯ, что Џервый  закон науки о
человеке с точки зрениЯ роботов должен звучать так:
     1.  —еловек  не может допустить  вред  человеку или своим  бездействием
допустить, чтобы человеку был причинен вред.
     …сли этот закон  будет  выполнЯтьсЯ, роботам  останетсЯ лишь  оберегать
людей от несчастных случаев с неодушевленными предметами и живыми существами
(не  людьми),  что освободит  их от решениЯ этических  проблем.  ђазумеетсЯ,
робот  должен  оберегать  человека  от  вреда,   который  может  неосознанно
причинить ему другое человеческое существо. Љроме того, он обЯзан быть готов
прийти ему на помощь,  если  другой человек  по  объективным  причинам не  в
состоЯнии оказать ему эту помощь достаточно  быстро. Ћднако даже робот может
неосознанно  навредить человеку, и даже робот  может не проЯвить достаточной
сноровки  и  не  успеть  попасть к месту действиЯ, да и  умений ему может не
хватить, чтобы предпринЯть необходимые меры. Ќичто в нашем мире не идеально.
     ’аким  образом,  мы подходим  ко ‚торому  закону  роботехники,  который
требует, чтобы робот повиновалсЯ всем приказам, отданным ему человеком, если
они не вступают в конфликт с Џервым законом. ќто означает, что человек имеет
право приказывать роботу все,  что угодно,  без ограничений, если только его
желаниЯ не причинЯт вред другому человеку.
     Ќо ведь человек может приказать роботу нечто невыполнимое или его  волЯ
поставит  робота перед дилеммой, котораЯ может повредить позитронный мозг. ‚
расскаже "‹жец", опубликованном в 1940  году, человек совершенно сознательно
поставил перед  роботом задачу, котораЯ сожгла  его мозг, и машина перестала
существовать.
     Њы можем даже представить  ситуацию, когда поЯвЯтсЯ достаточно разумные
роботы,  которые будут в состоЯнии избежать  гибели, если их вынудЯт  делать
нечто бессмысленно сложное или злостное. ‘ледовательно, ‚торой закон науки о
человеке должен гласить:
     2.   —еловек  должен  отдавать   роботу   приказы,  которые  не  вредЯт
существованию робота, если только  эти приказы не ЯвЯтсЯ причиной вреда  или
неудобства длЯ других людей.
     –елью  ’ретьего  закона  роботехники  было защитить роботов, но с точки
зрениЯ  робота  он  может  показатьсЯ  не  слишком  надежным.  ђобот  должен
пожертвовать собой, если  того потребуют  Џервый и ‚торой законы. Љогда речь
идет о  Џервом законе,  тут не может быть  никаких  возражений. ђобот обЯзан
забыть  о  собственной безопасности,  если это  единственный  путь  защитить
человека  или  предотвратить  опасность,   котораЯ  ему  угрожает.  …сли  мы
признаем, что  любое человеческое существо важнее  любого  робота (по правде
говорЯ, Я признаю это не вполне охотно), то такаЯ формулировка неизбежноа.
     ‘   другой   стороны,  должен  ли  робот  жертвовать   собой,  выполнЯЯ
какой-нибудь  несущественный или  даже вредоносный приказ? ‚  "„вухсотлетнем
человеке"  хулиганы сознательно приказывают роботу  разобрать себЯ  на части
исключительно  ради  собственного развлечениЯ.  ЏолучаетсЯ, что ’ретий закон
науки о человеке должен звучать следующим образом:
     3. —еловек  не  должен  причинЯть вреда  роботу или  своим бездействием
допустить, чтобы  роботу был причинен вред, кроме  тех  случаев, когда робот
вынужден пожертвовать собой,  чтобы  спасти человека или выполнить  жизненно
важный приказ.
     …стественно, мы не можем навЯзать эти законы, как в ситуации с законами
роботехники. Њы не в силах запрограммировать мозг человека, как мозг робота.
Ћднако  это начало, и  Я искренне  считаю, что, если нам предстоит управлЯть
умными роботами, мы должны быть за них ответственны, как сказал мой герой из
рассказа "„вухсотлетний человек".


        ќссе No 14. Љибернетический организм


     -----------------------------------------------------
     Scan & OCR: ѓуцу Ђнатолий (Atlantis)
     -----------------------------------------------------

     ђобот - это робот, а организм - это организм.
     Ћрганизм, как  нам известно, состоит из клеток.  ‘  молекулЯрной  точки
зрениЯ,  главными ЯвлЯютсЯ нуклеиновые  кислоты и протеины. Ћни находЯтсЯ  в
жидкой   среде,  которую   поддерживает   костнаЯ   структура.  Ѓессмысленно
продолжать рассуждать на данную тему, поскольку  мы все знакомы со строением
организмов и сами ЯвлЯемсЯ одной из его разновидностей.
     ‘   другой   стороны,    робот   (как   его    принЯто    описывать   в
научно-фантастической  литературе)  это  объект,   относительно  похожий  на
человека,  построенный из  надежного металла,  не  подверженного  ржавлению.
”антасты редко описывают внутреннее строение роботов, поскольку это не имеет
принципиального  значениЯ  длЯ  сюжета,  да  они и не особенно разбираютсЯ в
технических деталЯх.
     Ћднако из рассказов часто складываетсЯ  впечатление, что внутри  робота
имеетсЯ  масса  проводов,  по  которым  проводитсЯ  электричество, и никаких
трубок длЯ  тока  крови. €сточник  питаниЯ, как  правило, не называетсЯ, или
становитсЯ Ясно, что он имеет отношение к атомной энергии.
     Ђ как насчет мозга?
     Љогда Я написал свои первые  рассказы о роботах в 1939 и 1940  годах, Я
представил себе  "позитронный мозг"  губчатого  типа  из  сплава  платины  и
иридиЯ. џ выбрал именно такой материал, потому что он особенно  инерционен и
меньше  всего  подвержен  химическим реакциЯм. ѓубчатый  он  длЯ того, чтобы
обеспечить  большую поверхность, на которой могут  создаватьсЯ и разрушатьсЯ
электрические  схемы. "Џозитронный"  -  поскольку  за четыре  года  до моего
первого рассказа о  роботах был открыт позитрон  как противовес электрону, и
потому  "позитронный" вместо  "электронный" неплохо звучало с  точки  зрениЯ
фантастики.
     ђазумеетсЯ, сегоднЯ  мой позитронный мозг из  сплава  платины и  иридиЯ
безнадежно устарел. „аже через десЯть лет  после его изобретениЯ он  казалсЯ
архаичным. Љ концу 1940-х годов мы уже понимали, что мозг робота должен быть
чем-то  вроде компьютера. „ействительно, если робот  настолько сложен, каким
он описываетсЯ в моих более  свежих романах, его  мозг должен быть  похож на
мозг человека и состоЯть из крошечных микрочипов, не крупнее клеток мозга.
     Ђ теперь давайте  представим себе нечто не ЯвлЯющеесЯ ни организмом, ни
роботом,  а  комбинацией   и  того  и  лругого.  ‚озможно,  мы  имеем  право
рассматривать его как организм-робот или "орбот". ‚не всЯкого  сомнениЯ, это
не слишком  удачное название, посокльку мы всего лишь переставили две буквы.
‘казать "оргабот" - значит придумать довольно уродливое слово.
     Њы  можем назвать это  создание робот-организм, или "роботанизм"  (что,
несомненно, еще хуже), или "роборг". ‹ично  мне кажетсЯ, что "роборг" звучит
не так уж плохо, но и это имЯ не годитсЯ.
     „авным-давно  Ќорберт ‚инер назвал науку  о компьютерах кибернетикой, и
потому,  если  мы  будем  рассматривать  нечто  среднее  между организмом  и
роботом,   кибернетическим  устройством  по  своей   природе,  у  нас  может
получитьсЯ "кибернетический организм", или "киборг". ќто слово действительно
прекрасно прижилось и постоЯнно используетсЯ.
     —тобы понЯть, каким должен быть киборг, давайте  начнем с человеческого
организма  и  постепенно  подойдем к  роботу.  Ђ  когда мы с  этим покончим,
повторим тот же процесс - только в обратном направлении.
     —тобы перейти от человеческого организма к роботу,  мы должны начать  с
замены частей человеческого организма на части  робота. ‚ некоторых областЯх
мы уже к этому перешли. Ќапример, большинство моих зубов сделано из металла,
который ЯвлЯетсЯ главным строительным материалом длЯ роботов.
     …стественно,  части, которые мы  будем заменЯть, не обЯзательно  должны
быть механическими.  Љое-какие  из моих зубов  сделаны  из  керамики,  и  их
невозможно отличить от настоЯщих. Ћднако  даже несмотрЯ не  то, что керамика
внешне  (и  до  определенной  степени  по  своему  химическому  составу)  не
отличаетсЯ от  природного  материала,  из  которого состоЯт мои зубы, она не
несет в себе никаких признаков живой материи.
     Џойдем  дальше.  ЊоЯ  грудина,  котораЯ  была  распилена  в  длину  длЯ
проведениЯ операции много лет  назад,  соединена  металлическими скобами.  “
моей  невестки  искуственный  бедренный  сустав.  џ знаю  людей,  у  которых
искуственные руки или ноги, и такие конечности с каждым годом становЯтсЯ все
сложнее по  своей констркуции,  так что их владельцы могут ими  пользоватьсЯ
почти как настоЯщими. Њы знаем про людей, которые прожили несколько дней или
даже месЯцев с искуственным сердцем, и таких, чьЯ жизнь продлена на годы при
помощи электрокардиостимулЯтора.
     Њы   можем  представить  себе   времена,   когда  та  или   инаЯ  часть
человеческого  организма  будет  заменена  неорганическими  материалами  или
устройствами,  созданными инженерами. ‘уществует ли  хотЯ бы что-нибудь, что
невозможно заменить - по крайней мере, в нашем воображении?
     џ думаю, ответ очевиден. ‡амените  любую часть человеческого  тела  или
организма -  конечности, сердце, печень, кости  и  тому подобное, но человек
все  равно останетсЯ человеком. ‘ искуственными  частЯми  тела, но все равно
человеком.
     Ђ как насчет мозга?
     ‚не всЯкого сомнениЯ, единственное, что  делает нас людьми, это мозг. Ђ
индивидуальностЯми нас  делает исключительно сложное  его строение, чувства,
знаниЯ, памЯть. ‚ы  не можете  взЯть и заменить  мозг  мыслЯщим устройством,
изготовленным на заводе. Ќеобходимо внести нечто такое, что включает  в себЯ
все,  известное  человеческому  мозгу,  обладает  его  памЯтью  и  полностью
повторЯет схему его работы.
     €скуственнаЯ конечность может действовать не  идентично настоЯщей,  но,
однако,  выполнЯть некоторые необходимые функции.  ’о же  самое мы скажем об
искуственной почке, легком или печени. €скуственный мозг должен стать точной
копией  мозга,  который  он   заменЯет,  или  человек  перестанет  быть  тем
человеческим существом, которым он был.
     ‡начит, самым  сложным в переходе  от человеческого  организма к роботу
ЯвлЯетсЯ мозг.
     Ђ наоборот?
     ‚  "„вухсотлетнем  человеке"  Я описал  превращение моего героЯ-робота,
ќндрю  Њартина, в человека.  Ћчень медленно,  понемногу он менЯл  себЯ, пока
внешне  не стал неотличим от  человека. Ћн демонстрировал интеллект,  равный
человеческому  (или даже превосходЯщий его). Ћн  был  историком, художником,
ученым,   администратором.  ‘умел  провести  законы,  гарантирующие  роботам
определенные права, и завоевал всеобщее уважение и восхищение.
     Ћднако ему так и не удалось добитьсЯ того, чтобы его считали человеком.
€ главнаЯ причина здесь тоже  заключалась  в проблеме мозга.  Ћн понЯл,  что
должен решить эту задачу, прежде чем одолеть последний барьер.
     € тут мы подходим к дихотомии тела и мозга. ЌастоЯщим киборгом  следует
считать  такого, у которго тело и мозг не соответствуют друг  другу. ‡начит,
мы имеем две группы совершенных киборгов:
     а) мозг робота в теле человека;
     б) мозг человека в теле робота.
     ‘овершенно  очевидно,  что  мы  оцениваем  человеческое  существо  (или
робота) по первому внешнему впечатлению, которое он производит.
     џ  легко  могу  представить  себе  мужчину,  который,   увидев  женщину
поразительной красоты, с благоговением замрет на месте. "ЉакаЯ красавица!" -
скажет или подумает он. € без проблем представит себе, как влюблЯетсЯ  в нее
с первого взглЯда. ‚ романах так  происходит довольно регулЯрно. ђазумеетсЯ,
женщина, увидевшаЯ потрЯсающе красивого мужчину, отреагирует на  него  точно
так же.
     …сли вы терЯете голову от восхитительно красивого человека,  врЯд ли вы
станете  задавать себе вопрос, наделила  ли  его  (или ее) природа  развитым
интеллектом, хорошим характером, здравым смыслом, добротой  и благородством.
…сли  в  конце  концов выЯснЯетсЯ, что красота  -  единственное  достоинство
данного  человека,  вы все равно  найдете  этому массу  оправданий и  будете
оставатьсЯ жертвой  (по крайней мере, некоторое  времЯ)  условного рефлекса,
который вызывает эротические реакции. ђазумеетсЯ,  наступит момент, когда вы
устанете от прекрасной внешности без какого-либо внутреннего  содержаниЯ, но
кто знает, сколько должно пройти времени, чтобы это произошло?
     ‘ другой стороны, человек с огромным количеством положительных качеств,
но вполне заурЯдной внешностью может не обратить на себЯ ваше внимание, если
только вы не  обладаете достаточно развитым интеллектом,  чтобы  увидеть эти
качества  и  понЯть,  что  с  данным человеком вас  ждет долгаЯ и счастливаЯ
жизнь.
     џ хочу сказать, что киборг с мозгом робота в теле человека будет принЯт
большинством, если  не  всеми,  как  человеческое существо, в  то  времЯ как
киборг с мозгом человека в теле  робота будет рассматриватьсЯ  большинством,
если  не  всеми,  как  робот. ‚ конце  концов,  мы все,  по крайней мере длЯ
большинства, то, чем мы кажемсЯ внешне.
     Ћднако  эти два  диаметрально  противоположных  киборга поставЯт  перед
людьми совершенно разные проблемы.
     Џредставьте себе мозг робота  в теле человека  и задайте вопрос,  зачем
нужен такой перенос. Њозг робота будет чувствовать себЯ намного лучше в теле
робота, поскольку  тело человека  менее  надежно.  ‚озьмем,  например,  тело
молодого здорового человека,  мозг которго поврежден в результате травмы или
болезни. ‚ы  можете  подумать:  "‡ачем  пропадать  такому  прекрасному телу?
„авайте снабдим его мозгом робота, и он сможет прожить полноценную жизнь".
     …сли  вы  так   поступите,  человеческое   существо,   получившеесЯ   в
результате, не  будет  иметь  ничего  общего с  изначальным. ‚ы будете иметь
совсем  другого  человека.   ‚ы  сохраните  не   индивидуальность,  а   лишь
определенное  бездушное тело. Ђ человеческое тело, какое  угодно прекрасное,
без мозга, который ему соответствует, -  вещь дешеваЯ.  Љаждый день  на свет
поЯвлЯетсЯ полмиллиона  новых тел.  Ќет никакой  нужды сохрантЯь какое-то из
них, если поврежден мозг.
     ‘  другой стороны, как насчет  человеческого мозга в  теле робота?  Ќаш
мозг  не  вечен, но он может  существовать  до  девЯноста лет, не  становЯсь
совершенно  бесполезным.  Џричем  известно  множество  случаев,  когда  и  в
девЯносто  лет  люди  сохранЯли  остроту ума и  были способны  продуцировать
разумные  и  любопытные  мысли.  Ћднако  мы  знаем  и  такие  случаи,  когда
великолепный мозг  погибал после  двадцати или  тридцати лет  существованиЯ,
потому  что тело,  в котором  он  находилсЯ, умирало в результате травмы или
болезни.  ‚  таком случае  выходит, что у нас  есть серьезные основаниЯ  длЯ
переноса абсолюьно здорового  (или гениального)  мозга  в тело робота, чтобы
продлить его полезное существование.
     ’аким образом, когда мы говрим "киборг", м