o chto vybezhali, povalil chernyj
dym. Kluby dyma podnimalis' v chistoe goluboe nebo nad pustynej.
Pilot uvidel eto i skazal:
-- Vzletaem!
Vertolet podnyalsya v vozduh i rezko svernul na sever, podal'she ot
korpusov fabriki. Teper' dym valil izo vseh ventilyacionnyh otverstij v kryshe
kompleksa. Nebo zatyagivala chernaya pelena.
Mae obernulas' ko mne:
-- Ogon' sozhzhet i nanochasticy, i bakterii. Ne bespokojsya.
Pilot sprosil:
-- Kuda poletim?
-- Domoj.
On povernul na zapad, i cherez neskol'ko minut proizvodstvennyj kompleks
ostalsya pozadi. Belye zdaniya fabriki skrylis' za gorizontom. Mae sidela,
otkinuvshis' na spinku siden'ya i zakryv glaza. YA skazal:
-- YA nadeyalsya, chto vse vzorvetsya. No oni snova vklyuchili sistemu
bezopasnosti, tak chto vzryva mozhet i ne byt'.
Mae nichego ne otvetila.
YA prodolzhil:
-- Poetomu ya by ne stal tak speshit'. Ne stoit srazu otsyuda uletat'. I,
kstati, gde ty byla? Nikto ne mog tebya najti.
-- YA byla snaruzhi, na sklade, -- ob®yasnila Mae.
-- I chto ty tam delala?
-- Iskala termitnye shashki.
-- I kak, nashla chto-nibud'?
Zvuka ne bylo. Tol'ko yarkaya zheltaya vspyshka, kotoraya na mgnovenie
sverknula v pustyne za gorizontom, a potom pomerkla. Mozhno bylo podumat',
chto nikakoj vspyshki nikogda i ne bylo. No vertolet rezko dernulsya i
podprygnul v vozduhe, kogda mimo nas prokatilas' vzryvnaya volna.
Pilot skazal:
-- Mater' bozh'ya, chto tam takoe sluchilos'?
-- Neschastnyj sluchaj na proizvodstve, -- ob®yasnil ya. -- Ochen'
nepriyatno.
On potyanulsya k racii:
-- YA luchshe srazu soobshchu ob etom.
-- Da, -- soglasilsya ya. -- Luchshe soobshchite srazu.
My leteli na zapad. Vperedi uzhe pokazalas' zelenaya liniya lesov v
predgor'yah S'erry. Vskore my peresekli granicu Kalifornii.
Den' sed'moj. 22:57
Uzhe pozdno.
Pochti polnoch'. V dome tiho. YA ne znayu navernyaka, chem eto obernetsya.
Vseh detej otchayanno toshnit, bukval'no vyvorachivaet naiznanku posle togo, kak
ya dal im virus. YA slyshu, kak moi syn i doch' izvergayut soderzhimoe zheludka v
otdel'nyh vannyh komnatah. Neskol'ko minut nazad ya zaglyadyval k nim,
proveryal, kak dela. Oba byli smertel'no bledny. YA videl, chto oni ispugany,
poskol'ku znayut, chto ya tozhe ispugan. YA eshche ne rasskazal im o Dzhulii. Oni ne
sprashivali. Sejchas im slishkom ploho, chtoby zadavat' kakie-to voprosy.
Bol'she vsego ya bespokoyus' za malyshku -- no ya dolzhen byl dat' virus i
ej. |to ee edinstvennaya nadezhda. Sejchas s nej |llen, no |llen tozhe toshnit.
Malyshka tol'ko splevyvaet, a ne srygivaet po-nastoyashchemu. Ne znayu, horosho eto
ili ploho. U malen'kih detej mozhet byt' sovsem drugaya reakciya, ne takaya, kak
u vzroslyh.
So mnoj kak budto vse v poryadke -- po krajnej mere poka. YA smertel'no
ustal. Navernoe, vremya ot vremeni ya nenadolgo zasypayu, potom prosypayus'
snova. Sejchas ya sizhu u okna, smotryu na zadnij dvor i zhdu Mae. Ona perelezla
cherez izgorod' v dal'nem konce dvora i, navernoe, osmatrivaet sklon holma
uzhe za predelami moego uchastka -- tam tozhe stoyat polival'nye ustanovki. Mae
pokazalos', chto gde-to pod holmom vidneetsya bledno-zelenyj svet. YA skazal
ej, chtoby ona ne hodila tuda odna, no ya slishkom ustal i ne mog pojti vmeste
s nej. Esli by ona podozhdala do utra, syuda priehali by soldaty s ognemetami
i vyzhgli by vse dotla -- chto by eto ni bylo.
Armiya popytalas' zamolchat' vsyu etu istoriyu, kak budto nichego takogo
nikogda i ne bylo. No u menya doma ostalsya noutbuk Dzhulii, i u nee na zhestkom
diske sohranilas' vsya perepiska s Pentagonom. YA vynul zhestkij disk iz
komp'yutera -- prosto na vsyakij sluchaj. Skopiroval ego i polozhil original v
nadezhnyj bankovskij sejf v gorode. No na samom dele ya ne ochen' volnovalsya
iz-za armii. Gorazdo bol'she menya bespokoil Larri Hendler i drugie iz
"Ksimosa". Oni ponimali, chto eto delo grozit im koshmarnymi obvineniyami v
sude. Kompaniya "Ksimos" uzhe ob®yavila o bankrotstve, no eto ne osvobozhdaet ih
ot obvinenij v ugolovnyh prestupleniyah. Osobenno Larri. YA ne stanu lit'
slezy, esli ego posadyat za reshetku.
My s Mae sumeli najti ob®yasnenie pochti vsem neponyatnym sobytiyam,
kotorye proizoshli za poslednie neskol'ko dnej. Razdrazhenie u Amandy bylo
vyzvano gamma-assemblerami -- mikrorobotami, kotorye sobirali konechnye
molekuly iz fragmentarnyh komponentov. Gamma-assemblery byli na odezhde
Dzhulii, kogda ona vernulas' domoj iz laboratorii. Dzhuliya podozrevala, chto
takoe vozmozhno. Poetomu ona vsegda prinimala dush srazu zhe, kak tol'ko
vozvrashchalas' domoj. V samoj laboratorii procedura obezzarazhivaniya byla
dostatochno nadezhna, no Dzhuliya kontaktirovala s roem i za predelami
laboratorii. I ona ponimala, chto eto opasno.
Kak by to ni bylo, v tu noch' ona sluchajno zanesla gamma-assemblery v
detskuyu Amandy. Gamma-assemblery iznachal'no rasschitany na to, chtoby vyrezat'
fragmenty iz silikona, no, vstretivshis' s takoj podatlivoj substanciej, kak
kozha, oni tol'ko shchipali ee. |to dovol'no boleznenno i vyzyvaet mikrotravmy,
podobnyh kotorym vrachi eshche nikogda ne videli. Nikto dazhe ne podozreval, chto
takoe voobshche vozmozhno. Neudivitel'no, chto u Amandy nachalas' lihoradka. No
infekcii u nee ne bylo. Lihoradku vyzvali nanochasticy, kotorye pokryvali
kozhu devochki i bol'no zhalili ee. Moshchnoe magnitnoe pole v apparate dlya
magnitorezonansnogo issledovaniya mgnovenno vylechilo Amandu. Pri pervom zhe
impul'se vse assemblery uneslo s kozhi rebenka. (Ochevidno, to zhe samoe
proizoshlo i s tem ekologom v pustyne. On kakim-to obrazom natknulsya na
gruppu assemblerov. |kolog postavil palatku vsego v mile ot
proizvodstvennogo kompleksa "Ksimosa").
Dzhuliya znala, chto proishodit s Amandoj, no ona nikomu nichego ne
skazala. Vmesto etogo ona vyzvala iz "Ksimosa" komandu zachistki, kotoraya
pobyvala u nas v dome posredi nochi, poka ya sidel s Amandoj v bol'nice. Ih
videl tol'ko |rik -- i teper' ya tozhe znayu, chto imenno on videl. Potomu chto
ta zhe samaya komanda priezzhala syuda neskol'ko chasov nazad, chtoby vychistit'
moj dom. |to byli te zhe lyudi, kotoryh ya videl v belom furgone na meste
avarii.
Oni nosili polnost'yu zakrytye serebristye kombinezony iz antimagnitnogo
materiala i pohodili v nih na privideniya. Iz-za serebristyh dyhatel'nyh
masok kazalos', chto u nih net lic. Snachala komanda osmotrela uchastok vokrug
doma, potom oni propylesosili i vychistili vse v dome. YA skazal |riku, chto
emu vse eto prisnilos', no on na samom dele ih videl. Oni ostavili pod
krovat'yu Amandy odin iz svoih detektorov -- special'no, chtoby opredelit', ne
ostalos' li v dome gamma-assemblerov posle zachistki. |to byl ne setevoj
fil'tr, pribor prosto byl skonstruirovan tak, chto vyglyadel kak setevoj
fil'tr.
Kogda ya nakonec uznal vse eto, ya strashno razozlilsya na Dzhuliyu za to,
chto ona mne nichego ne govorila. Za to, chto zastavlyala menya volnovat'sya. No,
konechno, ona byla uzhe bol'na. I vse ravno teper' bessmyslenno na nee
zlit'sya.
Pleer |rika vyveli iz stroya tozhe gamma-assemblery -- tochno tak zhe, kak
povredili oni mashiny v pustyne i apparat dlya magnitorezonansnogo
issledovaniya. Po kakoj-to neyasnoj prichine gamma-assemblery razrushali tol'ko
chipy pamyati, a glavnyj processor ne trogali. Mne poka tak i ne udalos'
ponyat' pochemu.
V noch', kogda sluchilas' avariya, u Dzhulii v mashine byl roj. Ona privezla
ego s soboj iz pustyni. Ne znayu -- sluchajno ili namerenno. Roj sposoben
szhat'sya bukval'no v nichto -- poetomu |rik i ne uvidel nichego, kogda
osmatrival mashinu. I ya ne byl sovershenno uveren, chto imenno videl v mashine u
Dzhulii, kogda ona uezzhala. Vprochem, eto kak raz ponyatno. Navernoe, roj
otrazil solnechnye luchi neobychnym obrazom. Mne zapomnilos', chto roj vyglyadel
kak Riki. No eto vryad li -- v to vremya roi eshche ne nastol'ko
evolyucionirovali, chtoby prinimat' chelovecheskij oblik. A mozhet, ya uvidel
prosto kakuyu-to neyasnuyu figuru i v pristupe revnosti voobrazil, chto eto
chelovek. Mne samomu ne kazalos', chto ya chto-to vydumyvayu, no takoe tozhe ne
isklyucheno. |llen dumaet, chto ya mog domyslit' nedostayushchie detali.
Kogda mashina Dzhulii popala v avariyu, ona snova vyzvala brigadu dlya
zachistki. Poetomu ya i videl ih na doroge toj noch'yu. Oni zhdali, kogda mozhno
budet spustit'sya vniz, v ovrag, i zachistit' mestnost'. YA ne znayu, chto stalo
prichinoj samoj avarii, imeet li roj kakoe-to otnoshenie k avarii, ili eto byl
prosto neschastnyj sluchaj. I uzhe ne u kogo sprosit', chto togda proizoshlo na
samom dele.
Proizvodstvennyj kompleks v pustyne polnost'yu unichtozhen. V laboratorii
skopilos' stol'ko metana, chto pri vzryve poluchilsya ognennyj shar s
temperaturoj vyshe dvuh tysyach gradusov po Farengejtu. Takoj temperatury bolee
chem dostatochno, chtoby unichtozhit' lyuboe veshchestvo biologicheskogo
proishozhdeniya. No ya po-prezhnemu bespokoyus'. V razvalinah ne nashli ni odnogo
trupa. Ne ostalos' dazhe skeletov.
Mae otvezla bakteriofagi v svoyu staruyu laboratoriyu v Palo-Al'to. YA
nadeyus', Mae smogla dohodchivo raz®yasnit' kollegam, naskol'ko eto otchayannaya
situaciya. Ona byla ochen' spokojna v otnoshenii ih reakcii. YA dumal, chto oni
poselyat fagi v kakoe-nibud' vodohranilishche, no Mae skazala, chto hlorirovanie
vody ub'et fagi. Navernoe, budet razrabotana special'naya programma
vakcinacii. Naskol'ko my sejchas znaem, fagi ubivayut roi.
Vremya ot vremeni u menya nachinaet zvenet' v ushah. |to plohoj priznak. A
inogda ya oshchushchayu vibraciyu v grudi i v zhivote. Ne znayu, mozhet byt', u menya
prosto paranojya. A mozhet, so mnoj dejstvitel'no chto-to proishodit. YA
starayus' derzhat'sya molodcom pered det'mi. No, konechno, detej obmanut'
nevozmozhno. Oni znayut, chto ya ispugan.
Poslednyaya zagadka, kotoruyu ostalos' ob®yasnit', -- pochemu roi postoyanno
vozvrashchalis' k laboratorii. Dlya menya eto nikogda ne imelo nikakogo smysla. I
menya eto bespokoilo, potomu chto cel' byla vybrana sovershenno neracional'no.
Takaya cel' ne sootvetstvovala formulirovkam programmy "Hi-Dob". Nu zachem
hishchniku postoyanno vozvrashchat'sya k kakomu-to opredelennomu mestu?
Konechno, v retrospektive vozmozhno tol'ko odno normal'noe ob®yasnenie.
Roi special'no zaprogrammirovali tak, chtoby oni vozvrashchalis'. Programmisty
sami, namerenno, opredelili etu cel'.
No zachem komu-to ponadobilos' programmirovat' takuyu cel'?
YA uznal eto neskol'ko chasov nazad.
Riki pokazyval mne sovsem ne tot kod, kotoryj oni na samom dele
ispol'zovali v nanochasticah. Riki ne mog pokazat' mne nastoyashchij kod, potomu
chto ya by srazu dogadalsya, chto oni tam natvorili. Riki tak i ne skazal mne
pravdu. Nikto ne skazal mne pravdu.
Bol'she vsego menya bespokoilo pis'mo, kotoroe ya segodnya dnem nashel v
elektronnoj perepiske, sohranivshejsya na diske u Dzhulii. Pis'mo bylo ot
Dzhulii Riki Morsu, kopiya otoslana Larri Hendleru, glave kompanii "Ksimos". V
pis'me Dzhuliya opisyvala procedury, napravlennye na obuchenie roya-kamery
rabote pri sil'nom vetre. Dzhuliya planirovala special'no vypustit' roj v
okruzhayushchuyu sredu.
Imenno eto oni i sdelali.
Oni podali delo tak, kak budto utechka roya proizoshla sluchajno -- iz-za
otsutstviya vozdushnogo fil'tra na odnom iz ventilyatorov. Radi etogo Riki i
ustroil mne dlitel'nuyu ekskursiyu po vsej fabrike, s pesnyami i plyaskami pro
negodnikov-podryadchikov i ventilyacionnuyu sistemu. No vse, chto rasskazyval mne
Riki, bylo nepravdoj.
Oni vypustili roj special'no.
Tak bylo zadumano s samogo nachala.
Kogda im ne udalos' zastavit' roj-kameru rabotat' pri sil'nom vetre,
oni popytalis' otyskat' kakoe-nibud' inzhenernoe reshenie. Iz etogo nichego ne
poluchilos'. CHasticy byli slishkom malen'kie i legkie, a vozmozhno, i
nedostatochno umnye. V nih s samogo nachala imelis' defekty konstrukcii, i
"Ksimos" ne mog ih ispravit'. Ves' mnogomillionnyj oboronnyj proekt uletal
kotu pod hvost -- potomu chto "Ksimos" ne mog reshit' problemy s roem.
I togda v "Ksimose" dodumalis' zastavit' roj reshat' eti problemy
samostoyatel'no.
Oni pomenyali konfiguraciyu nanochastic, snabdili ih mikrochipom pamyati i
solnechnym elektroelementom. Oni perepisali bazovuyu programmu dlya chastic,
dobaviv tuda geneticheskij algoritm. I vypustili roj, chtoby on razmnozhalsya i
evolyucioniroval. Oni sobiralis' proverit', smozhet li roj samostoyatel'no
vyzhit' v okruzhayushchej srede.
Na etot raz eksperiment udalsya.
|to bylo tak glupo, potryasayushche glupo. YA ne ponimal, kak mogli oni
vzyat'sya za takoe, dazhe ne podumav o vozmozhnyh posledstviyah. Kak i vse
ostal'noe, chto ya videl v "Ksimose", etot plan slepili na skoruyu ruku,
koe-kak, po-bystromu -- tol'ko dlya togo, chtoby kak-to uladit' nasushchnuyu
problemu, i sovershenno ne uchityvaya otdalennye posledstviya, ne dumaya o
budushchem. Navernoe, eto ochen' tipichno dlya korporativnogo myshleniya, kogda
prihoditsya vse vremya bezhat' naperegonki s konkurentami. No kogda imeesh' delo
s podobnymi tehnologiyami, eto chertovski opasno.
No, konechno, na samom dele vse proishodilo gorazdo slozhnee. |ta
tehnologiya sama podtalkivaet k opredelennoj modeli povedeniya. Raspredelennye
sistemy agentov rabotayut samostoyatel'no i sami soboj upravlyayut. Tak oni
ustroeny. V etom-to ves' smysl -- ty ih programmiruesh', nastraivaesh' i
otpuskaesh' -- dal'she vse proishodit samo soboj. Esli ty zanimaesh'sya etim
postoyanno, to postepenno privykaesh' tak delat'. Privykaesh' obrashchat'sya s
sistemami agentov imenno takim obrazom. Ved' glavnoe ih dostoinstvo --
avtonomnost'.
No odno delo -- vypustit' v pamyat' komp'yutera populyaciyu virtual'nyh
agentov, chtoby oni reshili kakie-to problemy. I sovsem drugoe -- vypustit'
real'nye agenty v real'nyj mir.
Oni v "Ksimose" prosto ne ponyali raznicy. Ili ne pozabotilis' o tom,
chtoby etu raznicu poiskat'.
I vypustili roj na volyu.
"Samooptimizaciya" -- tehnicheskij termin, kotorym eto oboznachaetsya. Roj
evolyucioniroval samostoyatel'no, menee uspeshnye agenty pogibali, bolee
uspeshnye vosproizvodilis' v sleduyushchih pokoleniyah. CHerez desyat' ili sto
pokolenij evolyucioniruyushchij roj priblizilsya k nailuchshemu resheniyu. K
optimal'nomu resheniyu.
Takoe postoyanno proishodit vnutri komp'yuterov. |ta zakonomernost' dazhe
special'no ispol'zuetsya dlya razrabotki novyh komp'yuternyh algoritmov. Denni
Hillz sdelal eto odnim iz pervyh, uzhe mnogo let nazad -- dlya optimizacii
algoritma otbora. On hotel uznat', smozhet li komp'yuter sam pridumat' sposob,
kotoryj pozvolit emu luchshe rabotat'. I programma nashla novyj sposob. Vsled
za Denni Hillzom metodiku srazu zhe podhvatili i drugie.
No eshche nikto ne delal takogo s avtonomnymi robotami v real'nom mire.
Naskol'ko mne izvestno, etot sluchaj -- pervyj. A mozhet byt', takoe uzhe
sluchalos', no my prosto ob etom ne znali. Kak by to ni bylo, ya uveren, chto
nechto podobnoe obyazatel'no sluchitsya snova.
I, navernoe, dovol'no skoro.
Uzhe dva chasa nochi. Detej nakonec perestalo toshnit'. Oni poshli spat'.
Pohozhe, s nimi poka vse v poryadke. Malyshka tozhe spit. |llen do sih por
sil'no toshnit. YA, navernoe, snova zadremal. Ne znayu, chto menya razbudilo. YA
uvidel Mae, kotoraya podnimalas' po sklonu holma pozadi moego doma. Vmeste s
Mae shli lyudi v serebristyh kombinezonah -- komanda "SSVT". Mae shla ko mne. YA
videl, chto ona ulybaetsya. Nadeyus', u nee horoshie novosti.
Sejchas mne ochen' ne pomeshali by horoshie novosti.
Dzhuliya pisala v svoih pis'mah: "Nam bol'she nechego teryat'". No v konce
koncov oni poteryali vse -- i svoyu kompaniyu, i svoi zhizni, vse. I chto zabavno
-- ved' na samom dele plan Dzhulii srabotal. Roj dejstvitel'no reshil
problemu, kotoruyu pered nim postavili.
No na etom roj ne ostanovilsya. On prodolzhal evolyucionirovat'.
I oni eto dopustili.
Oni ne vedali, chto tvoryat.
Boyus', takaya nadpis' budet na nadgrobii vsej chelovecheskoj rasy.
No ya ochen' nadeyus', chto do etogo ne dojdet.
Mozhet byt', nam povezet.