Stanislav LEM

SUMMA TEHNOLOGII

[ Titul'nyj list ] [ Soderzhanie ] <= Glava chetvertaya (n) ] [ Glava pyataya (a) =>

GLAVA CHETVERTAYA

INTELLEKTRONIKA

             
(o)  SOMNENIYA I ANTINOMII   
     
     1.   Smelaya   "programma-maksimum",   namechennaya   uzhe    sozdatelyami
kibernetiki, v poslednie gody neodnokratno podvergalas' kritike,  zachastuyu
ves'ma rezkoj; poslednyaya ob®yavlyala etu programmu  utopicheskoj  ili  voobshche
mificheskoj,  kak  ob  etom  svidetel'stvuet  hotya  by  podzagolovok  knigi
Mortimera Taube - "Mif o dumayushchih mashinah".
     "Zametim... - pishet  Taube,  -  chto  gigantskij  iskusstvennyj  mozg,
mashiny-perevodchiki,  obuchayushchiesya  mashiny,  mashiny,  igrayushchie  v   shahmaty,
ponimayushchie mashiny i  t.p.,  zapolnivshie  nashu  literaturu,  obyazany  svoim
"sushchestvovaniem" lyudyam, prenebregayushchim soslagatel'nym nakloneniem.  V  etu
igru igrayut tak. Snachala zayavlyayut, chto, esli ne  uchityvat'  neznachitel'nye
detali inzhenernogo haraktera, mashinnuyu programmu  mozhno  priravnyat'  samoj
mashine.  Zatem  blok-shemu  programmy  priravnivayut  samoj  programme.   I
nakonec,  zayavlenie,  chto  mozhno   sostavit'   blok-shemu   nesushchestvuyushchej
programmy dlya  nesushchestvuyushchej  mashiny,  oznachaet  uzhe  sushchestvovanie  etoj
mashiny. Tochno takim  putem  byli  "sozdany"  mashiny  uslovnoj  veroyatnosti
Attli, "perceptron" Rozenblatta, analizator obshchih problem  Simona,  SHou  i
N'yuvela i mnogie drugie nesushchestvuyushchie mashiny,  na  kotorye  v  literature
delayutsya ssylki kak na sushchestvuyushchie" ¹.
     A neskol'ko dalee,  v  svyazi  s  voprosom  ob  otnosheniyah  v  sisteme
"chelovek - mashina", M. Taube pishet: "...klassicheskij porochnyj krug:
     1) predlagaetsya konstrukciya mashiny, prednaznachennoj dlya modelirovaniya
chelovecheskogo mozga, kotoryj ne opisan;
     2) podrobno opisannye harakteristiki mashiny  polagayutsya  analogichnymi
harakteristikam mozga;
     3) zatem delaetsya "otkrytie", chto mashina vedet  sebya  podobno  mozgu;
porochnost' sostoit v "otkrytii" togo, chto bylo postulirovano".
     V toj mere, v kakoj tehnicheskij progress  oproverg  nekotorye  vyvody
Taube, polemika s ego knigoj, anglijskoe izdanie kotoroj vyshlo v 1961  g.,
yavlyaetsya sejchas izlishnej ². Sushchestvuet  uzhe  ne  tol'ko  perceptron,  no  i
dejstvuyushchie real'nye programmy dlya mashinnoj igry v shahmaty,  pravda,  poka
tol'ko na urovne srednego shahmatista. Neponyatno, odnako, pochemu  priznanie
fakta, chto sushchestvuyut mashiny, igrayushchie v shahmaty, sleduet otlozhit' do  toj
minuty, kogda poslednij eshche nepobezhdennyj  chempion  mira  poluchit  mat  ot
elektronnoj mashiny, - ved' ogromnoe bol'shinstvo lyudej ne umeet igrat' dazhe
na upomyanutom srednem urovne (k ih  chislu,  hotya  eto  i  ne  dovod,  uvy,
otnositsya i avtor etih strok).
     Odnako Taube  v  svoej  polemicheskoj,  mestami  dazhe  nigilisticheskoj
knige,   v   manere,   ves'ma   harakternoj   dlya   opredelennogo    kruga
issledovatelej, vyskazal zamechaniya, vse eshche dostojnye vnimaniya.  On  vnov'
podnyal vpolne klassicheskuyu problemu "Mozhet li mashina myslit'?", razbiv  ee
na dve chasti: na  dejstviya,  svyazannye  s  semantikoj,  i  na  intuitivnye
dejstviya. Sozdaetsya vpechatlenie, chto  formal'nye  procedury  dejstvitel'no
imeyut ogranicheniya, vytekayushchie kak sledstviya iz teoremy Gedelya o  nepolnote
deduktivnyh sistem, i chto chisto  algoritmicheskimi  metodami  nevozmozhno  s
nastoyashchej  effektivnost'yu  perevodit'  s  odnogo  estestvennogo  yazyka  na
drugoj, poskol'ku mezhdu nimi ne sushchestvuet otnoshenij vzaimno  odnoznachnogo
sootvetstviya.
     |tim voprosom my zajmemsya  neskol'ko  pozzhe.  Prezhde  chem  perejti  k
obsuzhdeniyu dovol'no tumannogo ponyatiya intuicii,  dobavim  eshche,  chto  Taube
prav i togda, kogda otmechaet, kak chasto  okazyvayutsya  shodnymi  rezul'taty
deyatel'nosti cheloveka i mashiny i kak razlichny  processy,  kotorye  k  etim
rezul'tatam privodyat. Poetomu naprashivaetsya predosteregayushchij vyvod: nel'zya
legkomyslenno perenosit' nablyudeniya,  sdelannye  pri  izuchenii  ustrojstv,
zaprogrammirovannyh dlya resheniya konkretnyh zadach, na  oblast'  psihicheskoj
deyatel'nosti cheloveka. Podobnoe  sopostavlenie  cheloveka  i  mashiny,  esli
vdumat'sya, vedet eshche dal'she: vpolne vozmozhno, chto u raznyh lyudej k odnim i
tem zhe rezul'tatam privodyat ves'ma razlichnye mozgovye  processy.  Nakonec,
dazhe odin i tot zhe chelovek, pered kotorym neskol'ko raz  stavyatsya  zadachi,
prinadlezhashchie s algoritmicheskoj tochki zreniya k odnomu i tomu zhe klassu (to
est' takie, dlya kotoryh izvesten algoritm  resheniya),  zachastuyu  reshaet  ih
razlichnymi  sposobami;   eta   neregulyarnost'   chelovecheskogo   povedeniya,
nesomnenno,  izryadno  portit   nastroenie   vsem   tem,   kto   zanimaetsya
modelirovaniem mozgovyh processov.
     CHto zhe kasaetsya intuicii, to problema ee avtomatizacii, inache  govorya
vnemozgovogo vosproizvedeniya, ne  predstavlyaetsya  stol'  beznadezhnoj,  kak
polagaet Taube. Byli  provedeny  interesnye  issledovaniya,  v  kotoryh  na
primere igry v shahmaty  sopostavlyalas'  evristika  cheloveka  s  evristikoj
mashiny. Delo v tom, chto  shahmaty  ne  nesut  "semanticheskoj  nagruzki",  i
reshenie shahmatnyh problem v opredelennoj stepeni ne zavisit  ot  vsyacheskih
"znachenij",  kotorye  vnosyat  tyagostnuyu  putanicu  v  oblast'  psihicheskoj
deyatel'nosti.  Neobhodimo  srazu  zhe  ustanovit',  chto  takoe   evristika.
Sovetskij issledovatel' Tihomirov ³ ponimaet  pod  evristikoj  opredelennye
obshchie  pravila,  kotorymi   pol'zuetsya   sub®ekt,   stremyas'   k   resheniyu
postavlennoj pered nim zadachi,  -  v  tom  sluchae,  kogda  sistematicheskij
perebor vseh potencial'no sushchestvuyushchih variantov  nevozmozhen  (imenno  tak
obstoit delo v shahmatah, gde  chislo  vozmozhnyh  partij  dostigaet  poryadka
10⁹⁹). Ran'she pytalis' analizirovat' evristiku shahmatista,  trebuya,  chtoby
na protyazhenii vsej igry on dumal vsluh. Okazalos', odnako, chto bol'shinstvo
operacij  "slezheniya"  (poiskov   optimal'nogo   manevra)   proishodit   na
doyazykovom urovne, v chem shahmatist, kstati govorya,  dazhe  ne  otdaet  sebe
otcheta.  Poetomu  Tihomirov  registriroval   dvizhenie   glaz   shahmatista;
vyyasnilos', chto poiskovaya evristika igroka, hotya by chastichno  otrazivshayasya
v  etih  dvizheniyah,  obladaet  dovol'no  slozhnoj  strukturoj.   Proishodit
nepreryvnoe  izmenenie  shiriny  zony  orientacii,  to  est'  togo  uchastka
shahmatnoj doski s figurami na nej, kotoryj  shahmatist  nablyudaet  naibolee
aktivno. Peremeshcheniya glaznyh yablok signaliziruyut o  nalichii  opredelennyh,
ochen' bystro konstruiruemyh, svoego  roda  "probnyh"  serij  hodov  (takim
obrazom, eti serii - eto  kak  by  "perenesennye  vnutr'"  elementy  igry,
vnutrennie modeli posledovatel'no  vypolnyaemyh  operacij,  rassmatrivaemye
poocheredno). Kogda hody protivnika sootvetstvuyut ozhidaemomu, to est' tomu,
chto predvidel igrok,  zona  suzhaetsya  do  minimuma,  i,  naprotiv,  kazhdyj
neozhidannyj, nepredvidennyj hod vlechet za  soboj  znachitel'noe  rasshirenie
zony  orientirovochnyh  poiskov  i  gorazdo  bolee  obshirnoe   issledovanie
al'ternativ voznikshej situacii. No osobenno interesno,  chto  opredelennogo
roda "nahodki", vse  eti  "vnezapno  rozhdayushchiesya"  takticheskie  zamysly  -
svoeobraznyj analog  "tvorcheskogo  vdohnoveniya",  kotoroe  v  klassicheskom
rasskaze simvoliziruetsya vozglasom "evrika", - predvaryayutsya seriyami  ochen'
bystryh  dvizhenij  glaz,  mezhdu  tem  kak  sam  shahmatist  sovershenno   ne
predpolagaet, chto u nego vot-vot "roditsya v ume"  kakaya-to  mysl'.  Otsyuda
mozhno  zaklyuchit',  chto  kazhushchayasya  vnezapnost'  i   poyavlenie   "niotkuda"
sovershenno  novyh   myslej,   kotoroe   sub®ektivno   vosprinimaetsya   kak
"otkrovenie",  "ozarenie",  -  eto  illyuziya  ili  samoobman,   porozhdennye
nesovershenstvom nashego introspektivnogo  samoanaliza.  V  dejstvitel'nosti
kazhdoj takoj mysli predshestvuet uskorennyj do predela sbor  informacii  (v
dannom sluchae poluchaemoj s shahmatnoj  doski),  a  "vnezapnost'"  poyavleniya
mysli est' rezul'tat proniknoveniya informacii, organizovannoj i po krajnej
mere shematicheski obrabotannoj na podporogovom urovne, v oblast' soznaniya,
perehoda ee s nizshih urovnej  integracii  na  tot  naivysshij  uroven',  na
kotorom okonchatel'no formuliruetsya plan naibolee effektivnyh dejstvij.
     Konechno, my po-prezhnemu nichego ne znaem o tom, chto proishodit na etih
nizshih  urovnyah  mozgovoj  dinamiki;  vo   vsyakom   sluchae,   issledovaniya
Tihomirova podtverzhdayut  gipotezu  o  tom,  chto  informacionnaya  obrabotka
vhodnyh signalov, kotorye poluchaet mozg, yavlyaetsya  mnogostupenchatoj.  Esli
ponyatie algoritma voobshche primenimo k rabote  mozga,  to  v  reshenii  zadach
uchastvuet srazu mnogo algoritmov, chastichno vzaimno svyazannyh,  a  chastichno
nezavisimyh.  Mozg  kak  by  slagaetsya  iz  celogo  kompleksa   podsistem,
rabotayushchih dovol'no nezavisimo drug ot druga, prichem to, chto  my  nazyvaem
"soznaniem", mozhet, obrazno govorya, "uvlech'" v odnu storonu,  a  vmeste  s
tem chelovek bezotchetno oshchushchaet, kak "chto-to" sbivaet ego s  puti,  kotoryj
on uzhe vybral soznatel'no, hotya v ego  soznanii  eshche  net  nikakogo  inogo
konkretnogo plana  dejstvij.  Pribegaya  k  metafore,  mozhno  skazat',  chto
podsoznatel'nye oblasti, eshche do togo kak oni  mogut  peredat'  v  soznanie
gotovyj rezul'tat informacionnoj obrabotki, "kak-to" - ne po "kanalam"  li
emocional'nogo   napryazheniya?   -   izveshchayut   soznanie    o    nazrevayushchej
"neozhidannosti". Nam pora, odnako, kak  mozhno  bystree  ostavit'  podobnuyu
obraznost'; ved' v luchshem  sluchae  ona  privedet  v  yarost'  konstruktora,
kotoryj stremitsya modelirovat' yavleniya intuitivnoj  evristiki,  ibo  samyj
izoshchrennyj  yazyk  "vnutrennih  monologov"  samoanaliza  nichem  ne  pomozhet
inzheneru na ego rabochem meste.
     Mashina dlya igry v shahmaty, to est' sootvetstvenno zaprogrammirovannaya
elektronnaya mashina, praktikuet evristiku, v kotoruyu ee posvyashchaet programma
(sposobnaya,  kstati  govorya,  k  samoobucheniyu).  Bez  preuvelicheniya  mozhno
skazat',  chto  ochen'  mnogoe  zavisit   ot   talanta   programmista   (ibo
programmirovanie, nesomnenno, trebuet talanta). Za edinicu vremeni  mashina
sumeet rassmotret' nesravnenno bol'she operacij, chem chelovek (ona dejstvuet
primerno v million raz bystree ego), i vse zhe chelovek pobivaet ee,  potomu
chto on sposoben k svoeobraznoj dinamicheskoj  integracii:  esli  on  umelyj
shahmatist, to kazhdoe otdel'noe  raspolozhenie  figur  on  vosprinimaet  kak
opredelennuyu  slitnuyu  sistemu,  kak  nechto  celostnoe,  obladayushchee  chetko
vyrazhennymi "razvetvlyayushchimisya"  tendenciyami  razvitiya.  Mashina  pol'zuetsya
razlichnymi taktikami, sledovatel'no,  ona  mozhet  s  pomoshch'yu  opredelennyh
hodov podgotovit' sleduyushchie hody, mozhet pojti na zhertvu  i  t.p.,  no  ona
vynuzhdena v kazhdom otdel'nom sluchae "prokvantovat'" situaciyu na  doske,  a
svoi predvaritel'nye raschety ona ne sposobna,  konechno,  delat'  na  mnogo
hodov vpered, potomu chto eto fizicheski nevozmozhno dazhe dlya mashiny.  Odnako
shahmatnaya evristika cheloveka pozvolyaet emu  delat'  takie  sokrashcheniya,  na
kotorye mashina ne sposobna. Poziciya, obretaya nekuyu emocional'no-formal'nuyu
cennost', rassmatrivaetsya  uzhe  kak  individualizirovannoe  celoe.  Tol'ko
takoj uroven' integracii,  kogda  dve  pozicii  s  nemnogimi  otlichiyami  v
rasstanovke  figur  vosprinimayutsya  kak   sovershenno   raznye,   pozvolyaet
grossmejsteru razygryvat' neskol'ko desyatkov partij odnovremenno.
     Otmetiv stol' fenomenal'nye - s "mashinnoj" tochki zreniya - sposobnosti
mozga, my vynuzhdeny umolknut'. Kak by tam ni bylo, chelovecheskaya  evristika
yavlyaetsya proizvodnoj ot "evristiki" vseh zhivyh sushchestv, potomu  chto,  edva
vozniknuv, zhivye organizmy byli vynuzhdeny  vsegda  dejstvovat'  tol'ko  na
osnove nepolnoj i netochnoj informacii; im prihodilos' po etomu priblizheniyu
otyskivat' invarianty - to est'  dovol'stvovat'sya  rasplyvchatym  resheniem.
Poetomu ishodnym v modelirovanii byl by ne takoj pribor, kotoryj na osnove
imeyushchihsya predposylok dejstvuet strogo  logicheski,  opredelyaya  istinu  ili
lozh' v 100% sluchaev, a ustrojstvo,  dejstvuyushchee  po  principu  "bolee  ili
menee",  "gde-to  okolo",  "priblizhenno".  Uzh  esli  evolyuciya  (na  urovne
organizmov v celom) sozdala v pervuyu ochered'  imenno  takie  "ustrojstva",
znachit, eto vse-taki  bylo  proshche,  chem  sozdavat'  apparaty,  soznatel'no
pol'zuyushchiesya  logikoj.  Dejstvitel'no,  kazhdyj  chelovek,  dazhe   malen'kij
rebenok,  "sam  togo  ne  zhelaya",   pol'zuetsya   logikoj   (zalozhennoj   v
neosoznavaemyh  zakonah  yazyka),  togda  kak  izuchenie  formal'noj  logiki
trebuet nemalyh umstvennyh usilij. To, chto kazhdyj otdel'nyj  nejron  mozhno
rassmatrivat' pri etom  kak  miniatyurnyj  logicheskij  element,  ne  menyaet
polozheniya del. Otmetim eshche i sleduyushchee. CHislo takih elementov  v  mozgu  u
kazhdogo cheloveka, grubo govorya, odno i to zhe. Odnako mezhdu lyud'mi  imeyutsya
ochen' sushchestvennye razlichiya: odin, naprimer, fenomenal'no vychislyaet v ume,
no yavlyaetsya  posredstvennym  matematikom;  drugoj  -  otlichnyj  matematik,
odnako ego zatrudnyayut prostye arifmeticheskie raschety; tretij - kompozitor,
sposobnyj ponyat' lish' matematicheskie azy; nakonec,  chetvertyj  -  chelovek,
lishennyj kak tvorcheskih, tak i ispolnitel'skih sposobnostej. My ochen' malo
znaem o tom, chto est' obshchego v funkcionirovanii  mozga  u  vseh  lyudej,  i
vovse nichego ne znaem o material'nyh prichinah stol' rezkih razlichij. A eto
v svoyu ochered' eshche  oslozhnyaet  nashu  problemu.  Vot  pochemu  kibernetik  s
radost'yu privetstvuet poyavlenie  ustrojstv,  kotorye  hotya  by  v  zachatke
sposobny k nekotorym operaciyam poznaniya, to  est'  dejstvuyut  po  Principu
"bolee ili menee", dazhe esli obshchaya  formal'naya  teoriya  takogo  poznavaniya
otsutstvuet. My imeem v vidu perceptrony.
     Perceptrony ⁴  -  eto  sistemy,  snabzhennye  "zritel'nym  receptorom",
kotoryj  predstavlyaet  soboj  grubyj  analog  setchatki  glaza,   a   takzhe
psevdonejronnymi   elementami,   soedinennymi   sluchajnym   ("loterejnym")
sposobom. Perceptrony priobretayut sposobnost' raspoznavat' obrazy (prostye
ploskie konfiguracii, naprimer  cifry  ili  bukvy)  v  processe  obucheniya,
kotoryj  idet  po  dovol'no   prostomu   algoritmu.   Sozdavaemye   sejchas
perceptrony vse eshche primitivny i raspoznavat', naprimer, chelovecheskie lica
poka ne mogut, kak ne mogut,  konechno,  i  "chitat'  teksty",  no  oni  uzhe
predstavlyayut soboj zametnyj shag na puti k sozdaniyu mashin, sposobnyh  takie
teksty chitat'. |to neslyhanno uprostit vse procedury, predvaryayushchie vvod  v
cifrovuyu mashinu informacii o postavlennoj zadache: ved' sejchas kazhduyu takuyu
zadachu  nuzhno  snachala  perevesti   na   yazyk   mashiny,   a   eta   -   ne
avtomatizirovannaya - procedura pogloshchaet mnogo  vremeni  u  obsluzhivayushchego
personala.  Poetomu  konstruirovanie  vse  bolee  slozhnyh  i   vse   bolee
"sposobnyh" perceptronov  predstavlyaetsya  ves'ma  mnogoobeshchayushchim.  |to  ne
oznachaet, chto perceptron kak model' mozga "tochnee"  cifrovoj  mashiny  (tem
bolee chto rabotu  perceptrona  mozhno  modelirovat'  na  cifrovoj  mashine);
nel'zya utverzhdat' takzhe, chto perceptron "bolee pohozh" na mozg,  chem  takaya
mashina.  Kazhdoe  iz  etih  ustrojstv  modeliruet  v  svoej  uzkoj  oblasti
opredelennye elementarnye aspekty deyatel'nosti mozga -  i  eto  vse.  Byt'
mozhet, budushchie perceptrony podvedut  nas  blizhe  k  ponimaniyu  "intuicii".
Nuzhno dobavit', chto v literature po etomu voprosu sushchestvuet  opredelennaya
putanica  v  terminah  ili  neyasnost'  v  ponyatiyah.   Nekotorye   nazyvayut
"evristicheskoe  povedenie"  "nealgoritmichnym".  No  podobnoe   opredelenie
zavisit  ot  togo,  schitaem  li  my,  chto   algoritm   -   eto   polnost'yu
determinirovannyj  rasporyadok   dejstvij,   ne   menyayushchijsya   v   processe
realizacii, ili chto eto takoj rasporyadok, kotoryj blagodarya  preobrazuyushchim
ego obratnym svyazyam v processe raboty sam perehodit v formu,  otlichnuyu  ot
ishodnoj.  V  opredelennyh  sluchayah  mozhno  bylo  by  govorit'   zdes'   o
"samoprogrammirovanii", chto takzhe vnosit nekotoruyu putanicu, poskol'ku eto
ponyatie primenyayut k samym raznym tipam povedeniya. V klassicheskih  cifrovyh
mashinah programma chetko otdelena ot realizuyushchih ee rabochih ustrojstv, a  v
mozgu takoe otchetlivoe razdelenie imeetsya ne vsegda. S toj  minuty,  kogda
povedenie slozhnoj sistemy stanovitsya "plastichnym", inache govorya, kogda ego
determinizm okazyvaetsya lish' uslovnym, veroyatnostnym, kogda ono  perestaet
byt'  pryamolinejnoj  realizaciej  zhestkih,  raz   navsegda   ustanovlennyh
"predpisanij", ponyatie algoritma uzhe nel'zya primenyat' v tom vide, v  kakom
ono zaimstvovano pryamo iz deduktivnyh nauk. Ved' i  v  etom  sluchae  mozhno
diktovat' determinirovannoe povedenie, no lish'  do  opredelennoj  granicy.
Naprimer, posle nekotorogo chisla shagov soobshchit' sisteme,  chto  ej  sleduet
nachat' "svobodnyj poisk"  ocherednogo  shaga  v  diapazone  vsego  mnozhestva
al'ternativ; posle chego ona nachnet dejstvovat' metodom  "prob  i  oshibok",
poka ne nashchupaet "optimal'noe" znachenie,  naprimer  minimum  ili  maksimum
kakoj-libo funkcii, i togda vnov' na kakoe-to  vremya  vklyuchitsya  "zhestkij"
rasporyadok dejstvij. No vozmozhen  takzhe  i  sluchaj,  kogda  ves'  algoritm
yavlyaetsya v opredelennom smysle slova "ravnomerno" veroyatnostnym,  to  est'
nikakoj iz ocherednyh shagov ne predpisyvaetsya sisteme  "apodikticheski",  ej
dayutsya lish' nekotorye predely,  granicy  dopustimyh  oblastej,  gde  mogut
vklyuchat'sya libo algoritmy inogo haraktera ("lokal'no  determinirovannye"),
libo  operacii  tipa  "sopostavleniya"  v  celyah  poiska  shodstva   (vrode
"raspoznavaniya  obrazov"  ili  "form").  Mozhno  pri   etom   kombinirovat'
izvestnye  operacii  tipa  "apriorno  zadannogo"   upravleniya,   "poiska",
"sravneniya" i, nakonec, "indukcii". Zdes' pri reshenii voprosa, s chem zhe my
imeem delo - s "algoritmom" ili s "evristikoj", osnovannoj na  "intuicii",
- zametnuyu rol' igraet uzhe prosto soglashenie (pohozhee na  soglashenie,  chto
virus  v  kristallicheskoj  forme  "nezhivoj",  a  virus,   vnedrivshijsya   v
bakterial'nuyu kletku, "zhivoj").
     
     2. Kak zhe mogut teper' vyglyadet' popytki otveta na  vopros,  sposobny
li rezul'taty  "mashinnogo  myshleniya"  prevzojti  uroven'  intellektual'nyh
vozmozhnostej cheloveka? Po-vidimomu, sleduet perechislit' vozmozhnye  otvety.
Pri etom my ne znaem, ischerpany li v_s_e vozmozhnye varianty, tak zhe kak ne
znaem, kakoj iz nih istinen.
     A. Mashinnoe myshlenie po nekotorym principial'nym  prichinam  ne  mozhet
prevysit'  "potolok  chelovecheskogo  intellekta".  Naprimer,  potomu,   chto
nikakaya sistema ne mozhet byt' "razumnee" cheloveka; my  sami  uzhe  dostigli
potolka, no prosto ne znaem ob etom. Libo potomu, chto k myslyashchim  sistemam
tipa "chelovek" vedet  edinstvennyj  put'  -  put'  estestvennoj  evolyucii,
kotoryj  mozhno   v   luchshem   sluchae   "projti   vnov'",   ispol'zuya   kak
eksperimental'nyj  poligon  vsyu  planetu;  libo,  nakonec,   potomu,   chto
nebelkovye   sistemy   v   intellektual'nom   otnoshenii   (to   est'   kak
preobrazovateli informacii) vsegda huzhe belkovyh i t.p.
     Vse  eto  zvuchit  ves'ma  nepravdopodobno,   hotya   isklyuchit'   takuyu
vozmozhnost' poka nel'zya. YA govoryu  eto,  opirayas'  na  evristiku,  kotoraya
podskazyvaet, chto chelovek kak  razumnoe  sushchestvo  vpolne  zauryaden,  kol'
skoro ego sformiroval otbor po sravnitel'no  malomu  chislu  parametrov  na
protyazhenii vsego  lish'  milliona  let;  chto  mogut  sushchestvovat'  i  bolee
"razumnye" sushchestva; chto processy  Prirody  vosproizvodimy  i  chto  k  tem
sostoyaniyam, k kotorym Priroda prishla odnoj cepochkoj shagov, mozhno prijti  i
drugimi putyami.
     B. Mashinnoe myshlenie sposobno prevzojti chelovecheskij intellektual'nyj
potolok, podobno tomu kak uchitel' matematiki "umnee", chem ego ucheniki.  No
tak  kak  chelovek  sposoben  ponimat'  to,  k   chemu   ne   mozhet   prijti
samostoyatel'no (naprimer, deti ponimayut evklidovu  geometriyu,  hotya  i  ne
pridumyvayut  ee  sami),  to  chelovecheskomu  intellektu  ne  grozit  poterya
kontrolya nad "poznavatel'noj strategiej mashin"; on vsegda budet  ponimat',
chto oni delayut, kak oni eto delayut i  pochemu  delayut.  |ta  poziciya  takzhe
predstavlyaetsya mne nepriemlemoj.
     Sobstvenno govorya, chto oznachaet fraza:  "Mashinnoe  myshlenie  sposobno
prevzojti intellektual'nyj potolok  cheloveka"?  Nepravil'no  ponimat'  eto
prevoshodstvo  kak  prevoshodstvo  uchitelya  nad  uchenikami;   eto   lozhnoe
ponimanie - ved' uchitel' tozhe ne sozdal geometrii. Rech' idet ob  otnoshenii
tvorcov nauki  ko  vsem  ostal'nym  lyudyam  -  vot  chto  yavlyaetsya  analogom
otnosheniya "mashina - chelovek". A eto znachit,  chto  mashiny  mogut  sozdavat'
teorii, to est' vydelyat' invarianty teh ili inyh klassov yavlenij  v  bolee
shirokom diapazone,  chem  chelovek.  "Usilitel'  intellekta"  |shbi ⁵,  v  ego
pervonachal'nom zamysle, ne  zamenil  by  uchenogo,  ibo  etot  usilitel'  -
prostoj selektor informacii, togda kak trud  uchenogo  k  otboru  nesvodim.
Razumeetsya, mashina |shbi mogla by  ohvatit'  v  kachestve  elementov  vybora
znachitel'no bol'shee chislo al'ternativ, chem na eto  sposoben  chelovek.  |to
ustrojstvo vpolne real'no i polezno, esli my ostanovilis'  na  rasput'e  i
dolzhny izbrat' dal'nejshuyu dorogu. Ono okazyvaetsya  bespoleznym,  esli  nam
lish' predstoit dogadat'sya, chto kakoj-to put' voobshche  sushchestvuet,  naprimer
put' "kvantovaniya processov". Poetomu takoj  usilitel'  nel'zya  schitat'  i
pervym priblizheniem k mashine, avtomatiziruyushchej  tvorcheskij  trud  uchenogo.
Poka chto my ne v sostoyanii nachertit' hotya by priblizhennyj eskiz togo,  chto
nam nuzhno. Odnako my znaem, po krajnej mere v grubyh  chertah,  chto  dolzhna
umet' takaya "gnosticheskaya" mashina: dlya sozdaniya teorii slozhnyh sistem  ona
dolzhna uchityvat' ogromnoe kolichestvo  parametrov  -  takoe  kolichestvo,  s
kotorym algoritmy sovremennoj nauki spravit'sya ne mogut.
     V fizike otdel'nye urovni yavlenij  mozhno  rassmatrivat'  izolirovanno
(atomnaya fizika,  yadernaya  fizika,  fizika  tverdogo  tela,  mehanika).  V
sociologii  eto  nevozmozhno:   razlichnye   urovni   (singulyarno-edinichnyj,
plyural'no-massovyj) poperemenno okazyvayutsya vedushchimi, to  est'  opredelyayut
dinamicheskuyu traektoriyu sistemy. Osnovnoe prepyatstvie kak raz v kolichestve
peremennyh, podlezhashchih uchetu.  "Gnosticheskaya"  mashina,  sposobnaya  sozdat'
"teoriyu obshchestvennoj sistemy" ⁶, dolzhna byla by prinyat' vo  vnimanie  ochen'
bol'shoe chislo peremennyh i etim otlichalas' by ot izvestnyh nam  fizicheskih
formalizmov. Itak, na vyhode "gnosticheskogo tvorca"  my  poluchaem  teoriyu,
zakodirovannuyu, skazhem, v vide celoj sistemy  uravnenij.  Smogut  li  lyudi
kak-libo podstupit'sya k etim uravneniyam?
     Sozdavshuyusya  situaciyu,  mozhet  byt',   legche   ponyat'   na   primere,
pocherpnutom iz biologii. Esli informacionnaya emkost' yajcekletki  sovpadaet
s kolichestvom informacii, soderzhashchejsya v enciklopedii,  i  esli  zapolnit'
rasshifrovkoj genotipa toma enciklopedii, to i togda podobnuyu  enciklopediyu
mozhno budet prochest', odnako lish' potomu, chto  chitatelyu  izvestny  fizika,
himiya, biohimiya, teoriya embriogeneza, teoriya samoorganizuyushchihsya  sistem  i
t.d. Odnim  slovom,  emu  izvestny  sootvetstvuyushchij  yazyk  i  pravila  ego
ispol'zovaniya. V sluchae zhe teorii, kotoruyu "porodit" mashina, on  ne  budet
znat' predvaritel'no ni ee yazyka, ni zakonov ego primeneniya,  vsemu  etomu
on dolzhen budet eshche uchit'sya. Vopros v  ego  okonchatel'nom  vide  stavitsya,
sledovatel'no, tak: mozhet li chitatel' etomu nauchit'sya?
     V etom meste v nashi rassuzhdeniya vhodit faktor vremeni. Ved', pozhaluj,
vpolne ochevidno, chto bakterial'noj kletke pri delenii nuzhno gorazdo men'she
vremeni, chem nam, dlya togo, chtoby prochitat' soderzhashchuyusya v nej informaciyu,
zakodirovannuyu na yazyke aminokislot i  nukleotidov.  Poka  my  "glazami  i
mozgom"  odin  raz  prochtem  tekst  "formalizovannoj  i   perekodirovannoj
bakterii", ona uspeet preterpet' sotni  delenij,  potomu  chto  ona-to  pri
kazhdom svoem delenii "chitaet sama sebya" nesravnenno bystree.  A  v  sluchae
"teorii obshchestva" - ili voobshche kakoj-libo chrezvychajno  slozhnoj  sistemy  -
vremya chteniya mozhet okazat'sya takim, chto chitatelyu ne pod silu budet  nichego
ponyat'. Hotya by potomu, chto on  ne  smozhet  myslenno  operirovat'  chlenami
uravnenij: iz-za svoej ogromnoj dliny oni uskol'zayut iz ego  polya  zreniya,
prevyshayut vozmozhnosti ego pamyati; takoe chtenie stanet  poistine  sizifovym
trudom. No togda vopros prozvuchit tak: mozhno li  svesti  teoriyu,  vydannuyu
mashinoj, k takoj dostatochno prostoj forme, chtoby chelovek  mog  etu  teoriyu
ohvatit'? Boyus', chto eto budet nevozmozhno. Razumeetsya, uproshchenie  samo  po
sebe vozmozhno, no tol'ko vsyakaya sleduyushchaya forma  teorii  posle  ocherednogo
uproshcheniya okazhetsya, s odnoj storony, bednee  originala  za  schet  kakih-to
utrachennyh elementov, a s drugoj storony, - vse eshche  slishkom  slozhnoj  dlya
cheloveka.
     Takim obrazom, proizvodya uproshchenie, mashina budet zanimat'sya  tem  zhe,
chto delaet fizik, kogda na publichnoj lekcii izlagaet teoriyu gravitacionnyh
voln, obhodyas' skudnym arsenalom shkol'noj matematiki. Ili tem,  chto  delal
mudrec iz vostochnoj skazki, kotoryj prines vlastelinu, zhazhdavshemu  znanij,
snachala biblioteku, zanyavshuyu celyj karavan verblyudov, potom  sotnyu  tomov,
nav'yuchennuyu na mula, i, nakonec, tolstye folianty, kotorye nes odin rab, -
ibo dlya vlastelina eti posledovatel'nye "uproshcheniya" vse eshche byli  "slishkom
prostranny".
     Iz skazannogo vidno,  chto  uzhe  net  nadobnosti  rassmatrivat'  takuyu
(tret'yu) vozmozhnost': mashina sposobna prevzojti  intellektual'nyj  potolok
cheloveka kak v tom, chto chelovek eshche mozhet, tak i v tom,  chego  on  uzhe  ne
mozhet ponyat'. |ta vozmozhnost' poyavilas' kak sledstvie v hode  oproverzheniya
vtoroj.
     Tam,  kuda  chelovek  smozhet  dojti  svoim  umom,  mashina,   veroyatno,
ponadobitsya tol'ko v kachestve "raba", kotoryj budet  vypolnyat'  trudoemkie
vspomogatel'nye operacii (raschety, dostavka nuzhnoj  informacii),  to  est'
budet  igrat'  rol'   "assistenta"   pri   "poetapnyh   operaciyah",   rol'
"vspomogatel'noj  pamyati"  i  t.p.  Tam,  gde  razum  cheloveka  budet  uzhe
nedostatochen, mashina predstavit gotovye modeli  yavlenij,  gotovye  teorii.
Togda voznikaet  vopros-antinomiya:  "Kak  mozhno  kontrolirovat'  to,  chego
kontrolirovat' nel'zya?" Mozhet byt', sleduet sozdat'  mashiny-"antagonisty",
kotorye vzaimno  kontrolirovali  by  rezul'taty  svoih  dejstvij?  No  chto
predprinyat',  esli  oni  dadut  na  vyhode  protivorechivye  rezul'taty?  V
konce-to koncov sud'ba teorij, porozhdennyh mashinami,  zavisit  ot  nas;  v
osobo konfliktnoj situacii  my  mozhem  dazhe  predat'  teoriyu  ognyu.  Inache
obstoit delo s upravlyayushchimi mashinami - takimi mashinami,  kotorye  yavlyayutsya
naibolee veroyatnym voploshcheniem  usilitelya  umstvennyh  sposobnostej  |shbi.
Robotov s kvazichelovecheskoj  individual'nost'yu  vryad  li  kto-libo  stanet
sozdavat'.   Zato,   nesomnenno,   vozniknut    i    budut    razrastat'sya
kiberneticheskie   centry,   upravlyayushchie   proizvodstvom,   tovarooborotom,
raspredeleniem,  a  takzhe  nauchnymi  issledovaniyami  (koordinaciya   usilij
uchenyh,  kotorym  na  nachal'noj  stadii  rabot  "simbioticheski"   pomogayut
vspomogatel'nye mashiny).
     No  ochevidno,  chto  podobnye  lokal'nye  koordinatory   nuzhdayutsya   v
sverhkoordinatorah  v  masshtabe,  naprimer,  gosudarstva  ili  kontinenta.
Vozmozhny li mezhdu nimi konflikty? Kak  nel'zya  bolee  vozmozhny.  Konflikty
budut   voznikat'   v   svyazi   s   kapitalovlozheniyami,    issledovaniyami,
energozatratami. Ved' vsyakij raz budet neobhodimo ustanovit' prioritet teh
ili inyh dejstvij i shagov s uchetom  celogo  "muravejnika"  vzaimosvyazannyh
faktorov. Takie konflikty  neobhodimo  budet  razreshat'.  My,  razumeetsya,
speshim skazat': eto budut delat' lyudi. Otlichno.  Vspomnim,  chto  konflikty
budut  kasat'sya  problem  ogromnoj  slozhnosti  i   lyudyam   -   kontroleram
Koordinatora,  chtoby  obresti  orientirovku  v  otkryvshemsya   pered   nimi
matematicheskom more, pridetsya pribegnut' k pomoshchi drugih  mashin  -  mashin,
optimiziruyushchih reshenie. Nad vsem etim vysitsya global'nyj aspekt  ekonomiki
- ee tozhe nuzhno koordinirovat'. Vseplanetnyj Koordinator - tozhe mashina, so
svoim "konsul'tativnym sovetom", sostoyashchim  iz  lyudej,  kotorye  proveryayut
lokal'nye resheniya sistemy "mashin-kontrolerov" na otdel'nyh kontinentah. No
kak budut provodit' takuyu proverku chleny  "konsul'tativnogo  soveta"?  Dlya
etogo u  nih  budut  sobstvennye  mashiny,  optimiziruyushchie  resheniya.  Togda
voznikaet vopros: vozmozhno li, chto ih mashiny pri kontrol'nom  dublirovanii
raboty kontinental'nyh mashin dadut inye rezul'taty? |to  vpolne  vozmozhno:
ved' kazhdaya mashina pri vypolnenii opredelennoj cepochki shagov,  iz  kotoryh
slagaetsya reshenie zadachi (naprimer, po metodu posledovatel'nyh priblizhenij
iz-za  ogromnogo  chisla  peremennyh),   stanovitsya   v   kakom-to   smysle
"pristrastnoj" - tem, chto na  anglijskom  filosofskom  zhargone  vyrazhaetsya
slovom "biased". Izvestno,  chto  chelovek  v  principe  ne  mozhet  ne  byt'
pristrastnym; no pochemu dolzhna byt' pristrastnoj mashina? Delo v  tom,  chto
pristrastnost'  otnyud'  ne  obyazana  vytekat'  tol'ko  iz   emocional'nogo
predubezhdeniya, ona voznikaet  v  mashine  uzhe  togda,  kogda  konfliktuyushchim
chlenam al'ternativy mashina pridaet razlichnyj "ves". Vozmozhno li,  chto  pri
rasstanovke ocenok neskol'ko nezavisimo rabotayushchih mashin dadut rezul'taty,
otlichnye drug ot druga? Konechno zhe, ved' eti mashiny budut  po  ob®ektivnym
prichinam veroyatnostnymi  ustrojstvami  i  poetomu  ne  smogut  dejstvovat'
odinakovo. S algoritmicheskoj tochki zreniya process upravleniya  predstavlyaet
soboj  "derevo  reshenij"  ili  celyj   klass   takih   "derev'ev";   nuzhno
soglasovyvat' protivorechivye potrebnosti, razlichnye stremleniya,  interesy,
nuzhdy i  nevozmozhno  vvesti  zaranee  takoj  "cennik"  dlya  vseh  myslimyh
konfliktnyh situacij, chtoby eti "ocenki v ballah" sami po  sebe,  nesmotrya
na primenenie statisticheskih metodov, privodili k  odinakovym  rezul'tatam
pri povtornyh resheniyah odnoj i toj zhe problemy.  Pri  etom  ochevidno,  chto
stepen' razlichiya rezul'tatov est' funkciya slozhnosti reshaemyh zadach.
     Situaciya, vozmozhno, stanet bolee vyrazitel'noj, esli my zametim,  chto
ee udaetsya chastichno opisat' na yazyke teorii  igr.  Mashina  -  eto  kak  by
igrok, vedushchij igru protiv nekoj "koalicii", kotoraya sostoit iz  ogromnogo
chisla  razlichnyh  gruppirovok,  proizvodstvennyh  i  rynochnyh,   a   takzhe
transportnyh, otnosyashchihsya k  sfere  obsluzhivaniya  i  t.p.  Zadacha  mashiny,
obrazno govorya, sostoit v  tom,  chtoby  sohranit'  optimal'noe  ravnovesie
vnutri koalicii, chtoby ni odin iz ee "chlenov" ne byl obizhen v sravnenii  s
ostal'nymi i ni odin ne poluchil by vyigrysha  za  schet  drugih.  Pri  takom
podhode koaliciya - eto prosto ekonomika  vsej  planety  v  celom,  kotoraya
dolzhna  razvivat'sya  gomeostatichno  i  v  to  zhe  vremya   "spravedlivo   i
ravnomerno", a igra mashiny protiv  koalicii  sostoit  v  tom,  chto  mashina
sistematicheski  podderzhivaet  vnutri  etogo   dinamicheski   razvivayushchegosya
hozyajstva takoe sostoyanie ravnovesiya, kotoroe prinosit vsem vyigrysh, libo,
esli uzh eto neizbezhno, - ubytki,  no  minimal'no  vozmozhnye.  Esli  teper'
takuyu  "partiyu"  protiv  nashej  "koalicii"  budut  razygryvat'  poocheredno
razlichnye mashinnye partnery (sledovatel'no, esli kazhdyj iz nih budet imet'
delo s odnoj i toj zhe ishodnoj situaciej  vnutri  koalicii),  to  bylo  by
sovershenno neveroyatnym, esli by vse partii protekali odinakovo i imeli  by
odinakovyj rezul'tat. |to vse ravno chto  utverzhdat',  budto  raznye  lyudi,
igrayushchie poocheredno protiv odnogo i togo zhe  shahmatista,  budut  igrat'  v
tochnosti odinakovo tol'ko potomu, chto pered vsemi odin i tot zhe protivnik.
     Itak, chto zhe vse-taki delat' s razlichnymi "ocenkami"  mashin,  kotorye
dolzhny  byli  pomoch'  cheloveku,  sobirayushchemusya  razreshit'  spor  lokal'nyh
koordinatorov? Prodolzhat' opisannuyu proceduru bez konca nevozmozhno  -  eto
budet regressus ad infinitum ⁷, nuzhno  chto-to  predprinyat'.  No  chto?  Delo
vyglyadit tak: libo elektronnye koordinatory ne  mogut  uchityvat'  bol'shego
chisla peremennyh, chem chelovek, - i togda ih nezachem stroit'; libo mogut  -
no togda chelovek uzhe sam ne mozhet razobrat'sya v rezul'tatah,  to  est'  ne
mozhet  prinyat'  kakoe-libo  reshenie  nezavisimo  ot  mashiny,   ishodya   iz
"sobstvennoj ocenki situacii". Koordinator upravlyaetsya so svoim  zadaniem,
a vot chelovek-"kontroler" v dejstvitel'nosti nichego ne  kontroliruet,  eto
emu lish' kazhetsya. Razve eto ne yasno? Mashina, k uslugam kotoroj  obrashchaetsya
chelovek-kontroler, yavlyaetsya v opredelennom smysle dublerom Koordinatora, a
cheloveku v etoj situacii dostaetsya rol' mal'chika  na  pobegushkah,  kotoryj
perenosit lentu s zapis'yu informacii s mesta na mesto. Esli zhe dve  mashiny
dayut neodinakovye rezul'taty, to cheloveku nichego inogo  ne  ostaetsya,  kak
tol'ko  "brosat'  monetu",  chtoby  osushchestvit'  vybor,  -  iz  "verhovnogo
kontrolera" on prevrashchaetsya v mehanizm sluchajnogo  vybora!  I  vot  snova,
teper' uzhe pri dopushchenii tol'ko upravlyayushchih mashin, my poluchaem situaciyu, v
kotoroj mashiny okazyvayutsya "sposobnee" cheloveka. Prima fade ⁸ sledovalo  by
im eto zapretit', ustanoviv, naprimer, takoj zakon: "Zapreshchaetsya stroit' i
ispol'zovat'  mashiny-koordinatory,  sposobnosti  kotoryh   k   pererabotke
informacii ne pozvolyayut  cheloveku-kontroleru  razobrat'sya  po  sushchestvu  v
rezul'tatah ih deyatel'nosti". No ved' eto chistaya fikciya: kak  tol'ko  sama
dinamika  ekonomicheskih  processov,  podlezhashchih  regulirovaniyu,  potrebuet
dal'nejshego  razvitiya  koordinatorov,  gran'   chelovecheskih   vozmozhnostej
nadlezhit perejti - i vot my opyat' pered antinomiej.
     Mozhet pokazat'sya, chto ya  zanimayus'  mistifikaciej.  Obhodimsya  zhe  my
segodnya voobshche bez vsyakih mashin! Verno, no ved' mir, v kotorom  my  zhivem,
segodnya eshche  ochen'  prost.  Raznica  mezhdu  nashej,  dovol'no  primitivnoj,
civilizaciej i neobychajno slozhnoj civilizaciej budushchego primerno takaya zhe,
kak  mezhdu  mashinoj  v  obychnom  smysle  slova  i  zhivym   organizmom.   V
klassicheskih mashinah  i  "prostyh"  civilizaciyah  voznikayut  raznogo  roda
samovozbuzhdayushchiesya kolebaniya, nekontroliruemyj uhod parametrov  ot  normy,
chto vyzyvaet to ekonomicheskij krizis, to golod, to otravlenie talidomidom.
CHtoby uyasnit' sebe, kak rabotaet slozhnaya  mashina,  nuzhno  ponyat',  chto  my
dvigaemsya, hodim, govorim, odnim slovom, zhivem  lish'  potomu,  chto  kazhduyu
dolyu sekundy srazu v  milliardah  uchastkov  nashego  tela  mchatsya  verenicy
krovyanyh telec s  molekulami  kisloroda;  chto  v  milliardah  kletok  idut
milliardy  drugih  processov,  kotorye  "derzhat   v   uzde"   neprestannoe
brounovskoe dvizhenie chastic, stremyashchihsya k anarhii  teplovogo  haosa;  chto
takih processov, kotorye nuzhno  uderzhivat'  v  predel'no  uzkom  diapazone
parametrov, - milliardy i s vyhodom  ih  iz  etogo  diapazona  nachalsya  by
raspad dinamiki vsej sistemy. CHem slozhnee sistema,  tem  total'nee  dolzhna
byt' ee regulirovka, tem menee dopustimy lokal'nye otkloneniya  parametrov.
Gospodstvuet li nash  mozg  kak  regulyator  nad  nashim  telom?  Bezuslovno.
Gospodstvuem li my sami, kazhdyj iz nas, nad svoim telom?  Tol'ko  v  ochen'
uzkom diapazone  parametrov:  ostal'nye  nam  "zadany"  predusmotritel'noj
Prirodoj. No nikto ne  mozhet  "zadat'"  nam,  to  est'  naladit'  za  nas,
regulirovanie ochen' slozhnoj obshchestvennoj  sistemy.  Opasnost',  o  kotoroj
govoril Viner, sostoit v tom, chto k  polozheniyu,  kogda  my  uzhe  vynuzhdeny
budem trebovat' "intellektronnoj podmogi", progress podvodit nas nezametno
i postepenno, a v tot moment, kogda my nachnem  utrachivat'  orientirovku  v
celom i, sledovatel'no, sposobnost' k kontrolyu, civilizaciyu v  otlichie  ot
chasovogo mehanizma nel'zya budet  ostanovit'  -  ona  dolzhna  budet  "idti"
dal'she.
     No razve ona ne budet idti "sama", kak prezhde? Ne  obyazatel'no.  |to,
tak  skazat',  otricatel'naya  storona  progressa  v  ego  gomeostaticheskom
smysle. Ameba kuda menee chuvstvitel'na k vremennoj nehvatke kisloroda, chem
mozg. Srednevekovyj gorod nuzhdalsya tol'ko v vode i pishche; sovremennyj - bez
elektroenergii prevrashchaetsya v  ad,  kakim  stal  Manhetten  neskol'ko  let
nazad, kogda zamerli lifty v neboskrebah i poezda  pod  zemlej.  Gomeostaz
dvulik:  eto  rost  nechuvstvitel'nosti  k  vozmushcheniyam  izvne,   vyzvannym
"estestvennymi" prichinami: no vmeste s tem eto i rost  chuvstvitel'nosti  k
vozmushcheniyam  vnutrennim,  vyzvannym   razladkoj   vnutri   samoj   sistemy
(organizma). CHem  iskusstvennee  okruzhayushchaya  nas  sreda,  tem  sil'nee  my
zavisim ot tehnologii, ot ee  nadezhnosti  i  ot  ee  sboev,  esli  ona  ih
dopuskaet.  A  ona  mozhet  dopuskat'  sboj.  Soprotivlyaemost'  individuuma
vozmushcheniyam  takzhe  mozhno  rassmatrivat'  dvoyako:   kak   soprotivlyaemost'
izolirovannogo  elementa  i  kak  soprotivlyaemost'  elementa  obshchestvennoj
struktury.   V   "soprotivlyaemosti"   Robinzona   Kruzo   proyavilos'   ego
informacionnoe "predprogrammirovanie" vnutri civilizacii (do togo  kak  on
stal  "izolirovannym  elementom"  na  neobitaemom   ostrove).   Analogichno
in®ekciya, kotoraya daet novorozhdennomu opredelennyj immunitet na vsyu zhizn',
vyzyvaet   chisto   individual'noe   uvelichenie   ego   "soprotivlyaemosti",
"soprotivlyaemosti" kak izolirovannogo elementa. Zato v teh sluchayah,  kogda
takie  vmeshatel'stva  dolzhny  povtoryat'sya,  obshchestvennye   svyazi   obyazany
funkcionirovat'  bezuprechno;  esli,   naprimer,   bol'nogo   s   serdechnoj
nedostatochnost'yu  spasaet  ot  smerti   vzhivlennyj   pod   kozhu   apparat,
imitiruyushchij  nervnye  impul'sy,  to  bol'noj  dolzhen  regulyarno   poluchat'
energeticheskoe pitanie (batarejki) dlya etogo apparata.
     Takim obrazom, s  odnoj  storony,  civilizaciya  spasaet  cheloveka  ot
smerti,  a  s  drugoj  -  stavit  ego  v  bol'shuyu  zavisimost'  ot  svoego
bezotkaznogo  funkcionirovaniya.  Na  Zemle   chelovecheskij   organizm   sam
reguliruet sootnoshenie kal'ciya v kostyah i kal'ciya v krovi, no v Kosmose, v
usloviyah nevesomosti, kogda kal'cij vydelyaetsya iz kostej v krov',  uzhe  ne
Priroda, a   m_y  s_a_m_i   dolzhny vmeshivat'sya v regulyaciyu. V izvestnyh iz
istorii  obshchestvennyh  formaciyah  ne  raz   voznikali   rezkie   narusheniya
gomeostaza, vyzvannye kak vneshnimi (epidemii, stihijnye bedstviya),  tak  i
vnutrennimi prichinami; chisto opisatel'nym katalogom ih sluzhat istoricheskie
hroniki.  Obshchestvennye  struktury  obladali  razlichnoj   soprotivlyaemost'yu
podobnym narusheniyam; inogda narusheniya  vyvodili  vsyu  sistemu  za  predely
ustojchivosti v  zonu  neobratimyh  perehodov,  privodili  k  revolyucionnym
izmeneniyam vsej struktury. Odnako  vsegda  lyudi  vstupali  v  obshchestvennye
otnosheniya  s  drugimi  lyud'mi,  upravlyali  sami   ili   byli   upravlyaemy,
ekspluatiruemy, i vse, chto ni proishodilo,  vytekalo,  takim  obrazom,  iz
chelovecheskih dejstvij. Zametim, pravda, chto eti dejstviya ob®ektivirovalis'
v opredelennye sily, stoyavshie nad lichnostyami i nad gruppirovkami,  shodnye
material'no-informacionnye svyazi oblekalis' v razlichnuyu formu; dejstvovali
takzhe i pobochnye rychagi obshchestvennoj stabilizacii,  nachinaya  s  odnogo  iz
drevnejshih - sem'i. S razvitiem tehnologii slozhnost' processov, podlezhashchih
regulyacii, rastet i v konce koncov  voznikaet  neobhodimost'  ispol'zovat'
regulyatory s bol'shej raznorodnost'yu, chem chelovecheskij  mozg.  Po  sushchestvu
eto metaformacionnaya problema, potomu  chto  potrebnost'  v  etom  nachinayut
oshchushchat' strany  s  razlichnymi  obshchestvennymi  ukladami,  lish'  tol'ko  oni
dostigayut dostatochno vysokogo urovnya tehnoevolyucii. No kak  raz  "nezhivye"
regulyatory budut spravlyat'sya s etoj zadachej, po vsej  veroyatnosti,  luchshe,
chem lyudi, a znachit, i zdes' razvitie tehnologii vnosit  bol'shoj  vklad  "v
uluchshenie struktury". Krome  togo,  sovershenno  izmenitsya  psihologicheskaya
situaciya: odno delo znat', chto iz otnoshenij, v  kotorye  po  neobhodimosti
vstupayut lyudi, rozhdayutsya  dinamiko-statisticheskie  zakonomernosti,  b'yushchie
inoj raz po interesam otdel'nyh lic, grupp ili  celyh  klassov,  i  sovsem
drugoe - videt', kak nasha sud'ba uskol'zaet iz nashih ruk, zrimo otdavaemaya
"elektronnym  opekunam".  Ved'  pri  etom  voznikaet   osoboe   sostoyanie,
biologicheskim analogom kotorogo byla  by  situaciya,  v  kotoruyu  postavlen
chelovek, soznayushchij, chto vsemi zhiznennymi processami v ego tele  vedaet  ne
on, ne ego mozg, ne vnutrennie zakonomernosti sistemy, a kakoj-to  vneshnij
centr, kotoryj predpisyvaet vsem  kletkam,  fermentam,  nervnym  voloknam,
vsem molekulam tela naibolee optimal'noe povedenie. I bud'  dazhe  podobnaya
regulyaciya  sovershennej,   chem   ta,   kotoruyu   estestvenno   osushchestvlyaet
"somaticheskaya  mudrost'  organizma",  obeshchaj  ona  v   perspektive   sily,
zdorov'e, dolgoletie, vse zhe kazhdyj, navernoe, soglasitsya, chto  oshchushchal  by
ee kak nechto "protivnoe estestvu" v smysle nashego chelovecheskogo  estestva;
i, navernoe, to zhe samoe mozhno  skazat',  vernuvshis'  ot  etogo  obraza  k
otnosheniyu "obshchestvo - ego intellektronnye koordinatory". CHem bol'she  budet
rasti slozhnost' vnutrennej struktury civilizacii, tem v bol'shej stepeni  i
vo vse bolee mnogochislennyh oblastyah pridetsya  dopuskat'  dlya  podderzhaniya
gomeostaza  zorkij  kontrol'  i  vmeshatel'stvo   takih   regulyatorov.   No
sub®ektivno takoj process mozhet vyglyadet' kak proyavlenie  "alchnosti"  etih
mashin, podchinyayushchih sebe vse  novye  i  novye,  prezhde  chisto  chelovecheskie
oblasti bytiya. A ved' pered nami ne "elektronnye  bogi"  ili  kakie-nibud'
vladyki,  a  vsego  lish'  ustrojstva,  kotorye  po  nachalu  prizvany  byli
nablyudat' za otdel'nymi processami osobogo znacheniya ili osoboj  slozhnosti,
no postepenno, v processe svoeobraznoj  evolyucii,  prostirayut  svoyu  opeku
chut' li ne na vsyu dinamiku obshchestva. I eti sistemy vovse ne budut pytat'sya
"pokorit' chelovechestvo" v kakom-libo antropomorfnom  smysle  etogo  slova,
potomu chto, ne buduchi lyud'mi, oni lisheny  kakogo-libo  egoizma  ili  zhazhdy
vlasti - svojstv, kotorye po smyslu etih ponyatij  mozhno  pripisat'  tol'ko
"individuumam". Razumeetsya, lyudi mogli  by  nachat'  personificirovat'  eti
mashiny, pripisyvaya im nesvojstvennye  mashinam  "namereniya"  i  "oshchushcheniya",
odnako eto byla by mifologiya, no tol'ko uzhe novogo, intellektronnogo veka.
YA vovse ne stremlyus' pridat' demonizm etim bezlichnym reguliruyushchim mashinam;
ya poprostu opisyvayu porazitel'nuyu situaciyu, kogda k nam, kak k Polifemu  v
ego peshchere, podbiraetsya  N_i_k_t_o ⁹,  odnako na etot  raz  dlya  nashego  zhe
blaga. Pravo  okonchatel'nogo  resheniya  mozhet  navsegda  ostat'sya  v  rukah
cheloveka; chto zh iz togo, ved' popytki ispol'zovat' podobnuyu svobodu tut zhe
pokazhut, chto resheniya mashin, otlichnye - esli tol'ko oni dejstvitel'no budut
otlichnymi - ot reshenij cheloveka, vygodnej, ibo mashinnye resheniya  uchityvayut
bol'shee chislo faktorov. Posle neskol'kih boleznennyh  urokov  chelovechestvo
moglo by prevratit'sya v poslushnogo rebenka, kotoryj vsegda sleduet  dobrym
sovetam  N_i_k_t_o.  Regulyator v etom smysle gorazdo slabee, chem v  sluchae
Vlastelina; ved' teper' on  nikogda  i  nichego  ne  prikazyvaet,  on  lish'
sovetuet. No obretem li my silu v etoj ego slabosti?
     
     3. Nastalo vremya, kogda my, sleduya nazvaniyu etogo razdela, sobiraemsya
pogruzit'sya v problemu, po sravneniyu s kotoroj sushchej bezdelicej,  poprostu
detskoj igrushkoj vyglyadyat vse opisannye v etoj knige ustrojstva, vklyuchaya i
te, kotorye mogut sozdavat' miry. My obhodili etu problemu,  priderzhivayas'
razumnoj ostorozhnosti. |tu ostorozhnost' ne nado putat' so strahom,  odnako
chestnost' trebuet ot nas priznat',  chto  i  sie  oshchushchenie  ne  bylo  chuzhdo
motivam nashego  umolchaniya.  Vprochem,  k  probleme,  v  kotoruyu  teper',  k
sozhaleniyu, nuzhno vojti, my podhodili  uzhe  mnogo  raz,  no  vsyakij  raz  v
poslednij moment uvertyvalis'.
     My prikidyvalis', budto voobshche ne zamechaem toj  bezdny,  kuda  teper'
reshilis' zaglyanut'. My govorim  vse  eto,  chtoby  podgotovit'  chitatelya  k
protivoborstvu s zagadkoj, bolee tainstvennoj,  chem  Sfinks,  a  imenno  -
proiznesem uzh nakonec eto slovo - k bor'be s problemoj  z_n_a_ch_e_n_i_ya, s
samoj bezdonnoj sredi vseh bezdn.
     My voobshche oboshli by etot vopros, poluchiv vsestoronnyuyu vygodu, esli by
on ne stoyal na nashem puti - na puti modelirovaniya  mozgovyh  processov,  -
delaya obhod sovershenno nevozmozhnym.
     V dokiberneticheskuyu eru, byt' mozhet, i udalos' by,  prochno  utverdyas'
na pozicii konstruktora, do samogo konca tak i ne skazat' ni edinogo slova
o  z_n_a_ch_e_n_i_i  - segodnya eto uzhe nevozmozhno. V  dobroe  staroe  vremya
lic, zanimavshihsya logicheskoj rekonstrukciej  yazyka,  to  est'  procedurami
formalizacii, pochitali za bezvrednyh chudakov, trudy kotoryh  nikomu  i  ni
dlya chego ne nuzhny, a na vse ih pretenzii  i  deklaracii,  budto  lish'  oni
sozdayut   po-nastoyashchemu   dejstvennoe   orudie   poznaniya,   otvechali   so
snishoditel'nost'yu ili  ironiej  voprosom, chto zhe   r_e_a_l_'_n_o_e   oni,
sobstvenno, sdelali. Podobnoe otnoshenie podytozheno aforizmom:  "Pochemu  by
vam ne vzletet', esli u vas est' kryl'ya?"
     V dejstvitel'nosti nikto, ne isklyuchaya  i  fizikov,  vovse  ne  speshil
ispol'zovat' tu rekonstrukciyu yazyka, kotoruyu  podvergali  shirokoj  oglaske
lyudi, zvavshiesya togda logistikami (ili skoree logicheskimi empirikami). Let
cherez tridcat' obnaruzhilos', chto rabota ih yavlyaetsya ves'ma dazhe  poleznoj.
Na yazyk ischisleniya vyskazyvanij, logicheskoj  semantiki  i  voobshche  na  vsyu
metamatematiku nabrosilis' inzhenery -  konstruktory  cifrovyh  mashin;  eto
proizoshlo priblizitel'no togda zhe, kogda prinyalis' otryahivat' pyl' s rabot
Bulya, sovershenno neobhodimyh dlya narozhdayushchejsya teorii peredachi  soobshchenij.
Eshche raz podtverdilas' istina, chto teoreticheskih  rabot  s  illyuzornym  (po
vseobshchemu ubezhdeniyu sovremennikov) fizicheskim adresom, kotorye  ne  obreli
by s hodom vremeni ostruyu aktual'nost' dlya kakoj-nibud' novoj  tehnologii,
poprostu net.
     No tut inzhenery, kotorye prinyalis'  izo  dnya  v  den'  zhadno  vnimat'
professoram, privykshim k  pustote  auditorij,  unasledovali,  ne  ochen'-to
soznavaya vse eto, v nevinnyh  po  nachalu  formah,  ot  filosofskoj  shkoly,
predayushchejsya utochneniyam,  nekij  prizrak,  zamurovannyj  v  podzemel'yah  ee
tverdyni, tverdyni, postroennoj iz chistoj logiki. Oni  i  ne  podozrevali,
chto prinimayut vo  vladenie  informacionnye  struktury  razom  so  vsem  ih
inventarem, v tom chisle i s  ne  ochen'  zhelatel'nym.  Oni  prozreli  ochen'
skoro, potomu chto i im nachal yavlyat'sya prizrak znacheniya, s kotorym  do  teh
por edinoborstvovali filosofy - istyazali ego i  pytalis'  nadet'  na  nego
okovy, a on lish' glumilsya nad nimi.
     O znachenii  z_n_a_ch_e_n_i_ya  napisany celye biblioteki. No  nikto  ne
znaet,  chem  zhe  ono  yavlyaetsya  v   tom   odnom-edinstvennom   neobhodimom
Konstruktoru  smysle,  kotoryj  pozvolyaet  ne  tol'ko   dat'   opredelenie
(opredelenij takih - t'ma), no i  skonstruirovat'  sistemu,  vedushchuyu  sebya
tak, kak sushchestvo,  p_o_n_i_m_a_yu_shch_e_e  znachenie.
     Z_n_a_ch_e_n_i_e  -  eto  sushchee  bedstvie  strukturnoj  lingvistiki  i
kibernetiki, ne govorya uzh o filosofah, kotorye hotya i preterpeli  ot  nego
mnozhestvo stradanij, no uzhe uhitrilis'  koe-kak  k  nemu  privyknut'.  Nad
kazhdym, kto v toj ili inoj mere zanimaetsya yazykom v kachestve  specialista,
visit, kak damoklov mech, problematika, otnosyashchayasya k  z_n_a_ch_e_n_i_yu.
     Gde  by  ni  poyavilos'  z_n_a_ch_e_n_i_e,  tochnaya  i  strogaya   rabota
stanovitsya nevozmozhnoj - za nim vypolzayut koshmary beskonechnosti, zybkosti,
neopredelennosti, a vse kvantovannye, poetapnye, tochnye dejstviya  tonut  v
naplyve proklyatogo smyslovogo mraka. Poetomu bylo  pridumano  neischislimoe
kolichestvo sposobov pomeshat' etomu duhu proniknut' tuda, gde prezhde  vsego
nuzhna strogost'. Dejstvovali po-raznomu. Pozhaluj, luchshe vsego eto  udalos'
matematikam, kotorye izgnali besa iz svoih vladenij i zakryli za nim vrata
na vse zasovy, dekretirovav, chto vse, chem oni zanimayutsya, voobshche nichego ne
"znachit" i yavlyaetsya poprostu nekoj zabavoj, igroj v rasstanovku znachkov na
bumage, znachki zhe eti ni k chemu, krome drug  druga,  otnosheniya  ne  imeyut.
Nuzhno, odnako zhe, zametit', chto  Gedel',  odin  iz  samyh  blestyashchih  umov
nashego stoletiya, svoej teoremoj ¹⁰ pokazal, kakim prizrachnym mozhet byt'  eto
izgnanie z_n_a_ch_e_n_i_ya iz matematiki - matematika v c_e_l_o_m  navernyaka
nikogda ne mozhet byt' formalizovana. Stalo byt', etot prizrak brodit i  po
matematike; pravda, on razgulivaet na samyh ee granicah  i  gonit  son  ot
ochej filosofov matematiki - metamatematikov.  Tem  vremenem  predstaviteli
odnogo iz strogo matematicheskih  napravlenij,  intuicionisty,  predprinyali
popytki dazhe priruchit' d'yavola, i  hotya  eti  popytki  delayutsya  ne  ochen'
otkryto, a zaklinateli vedut sebya  ves'ma  ostorozhno,  no  konstruktivisty
vmeste s formalistami tem ne menee stavyat intuicionistam v vinu eti  shashni
s nechistoj siloj i tychut im v lico  vsyakij  raz,  kak  tol'ko  podvernetsya
udobnyj sluchaj ¹¹.
     Predstaviteli    logicheskogo    empirizma,    fizikalisty,    nakonec
bihevioristy,  takzhe  vsyacheski  izgonyali  besa-znachenie,  podvergali   ego
pytkam, vzdergivali na dybu, otsekali u nego vsyakie obshcheprinyatye atributy,
polagaya, chto vsledstvie takogo obrashcheniya  bes  padet  duhom  i  perestanet
podtachivat' strojnost' ih koncepcij; zatem oni provozglashali, chem,  s  i_h
t_o_ch_k_i z_r_e_n_i_ya, yavlyaetsya "znachenie", i besposhchadno "gil'otinirovali"
vse,  chto  vypiralo  za  ramki  ih  uslovnyh  i  vo   spasen'e   sozdannyh
opredelenij. I dejstvitel'no, im udalos' soorudit'  mnozhestvo  strel'chatyh
zdanij, v kotoryh  problema  z_n_a_ch_e_n_i_ya  polnost'yu  otsutstvuet.  Oni
obhodyat  ee  takim  zhe  blagopristojnym  molchaniem,  kakim  "v   obshchestve"
prikryvayut  nekotorye  pikantnye  temy.  Razumeetsya,  eto  nuzhno  ponimat'
pravil'no.  Kak  izvestno,  v  uchebnikah  logiki  i  logicheskoj  semantiki
figuriruyut Ivan i Petr, kotorye vremya ot vremeni  proiznosyat  frazy  vrode
"London - stolica Anglii" ili "Idet sneg". Ob istinnosti ili lozhnosti etih
fraz mozhno chto-libo  skazat'  lish'  potomu,  chto  v  logicheskoj  semantike
znachenie priobretaet sovsem ne tot smysl, kotoryj ono imeet v  obihode,  a
neskol'kim osobo odarennym uchenym vo glave s Tarskim udalos' sozdat' takie
metayazyki, a takzhe i drugie velikolepnye postroeniya, koi pozvolyayut  teper'
uzhe sovershenno bezboyaznenno utverzhdat', chto fraza "Idet sneg" verna  togda
i tol'ko togda, kogda idet sneg.
     Primerno tak zhe "v obshchestve" govoryat, chto mister Smit zhenitsya na miss
Braun, i vse gotovy shiroko  obsuzhdat'  etu  temu.  Pri  etom,  odnako  zhe,
polnost'yu obhodyat odnu iz kak-nikak glavnyh material'no-fizicheskih  storon
podobnogo  proisshestviya  -  ved'  nikto  "v  obshchestve"   ne   otvazhivaetsya
rassprashivat' o podrobnostyah pervoj brachnoj nochi.
     Rol' cinikov, zadayushchih takie v vysshej stepeni  nepristojnye  voprosy,
berut na sebya kritiki formal'nyh sistem,  vrode  Taube,  kotorye  trebuyut,
chtoby  Ivan  ili  Petr  vmesto   predlozheniya   "Idet   sneg"   vyskazyvali
kakie-nibud' drugie predlozheniya, vrode  "Bog  est'",  kakovoe  predlozhenie
verno togda i tol'ko togda, kogda Bog sushchestvuet; odnako pri etom  net  ni
odnogo  takogo  fakta  ili  situacii,  kotorye  pozvolili  by   ustanovit'
otnoshenie formal'noj ekvivalentnosti mezhdu nimi i dannoj frazoj. I  dal'she
Taube  govorit:  "Esli  by  Tarskij  otvetil  na   eto,   chto   formal'naya
ekvivalentnost' vyderzhivaetsya ne mezhdu  predlozheniem  i  faktom,  a  mezhdu
predlozheniem v odnom yazyke i predlozheniem v drugom, s etim mozhno  bylo  by
soglasit'sya. No togda stanovitsya  trudno  ponyat',  pochemu  ekvivalentnost'
mezhdu predlozheniyami v odnom i tom zhe yazyke - eto chisto formal'nyj fakt, ne
imeyushchij semanticheskogo znacheniya , togda kak  ekvivalentnost'
predlozheniya v odnom yazyke predlozheniyu v drugom yazyke  dolzhna  imet'  takoe
soderzhanie . Libo vyvod Tarskogo chisto formalen, to est'  istinen
po opredeleniyu, - v  etom  sluchae  on  ne  imeet  nikakogo  semanticheskogo
soderzhaniya; libo on dolzhen otnosit'sya  k  eksperimental'no  podtverzhdaemoj
svyazi mezhdu lyubym yazykom i sovokupnost'yu faktov - v etom sluchae sushchestvuet
poistine semanticheskoe soderzhanie, no takoe, kotoroe nahoditsya vne  vsyakoj
formal'noj  sistemy,  dazhe  esli   obratit'sya   k   beskonechnoj   ierarhii
metayazykov" ¹².
     Nashe sravnenie svetskogo razgovora s  dannoj  situaciej  ne  yavlyaetsya
prosto shutkoj, potomu chto i tam i tut na samom  dele  zamalchivaetsya  nekij
shchekotlivyj  vopros,  tol'ko  v  odnom  sluchae  eto   vopros   seksual'nogo
haraktera, a v drugom  -  teoretiko-poznavatel'nogo,  epistemologicheskogo.
Odin iz samyh razumnyh neopozitivistov, |jno Kajla, ochen'  udachno  sravnil
nyneshnee polozhenie v  teorii  yazyka  s  ajsbergom,  lish'  nebol'shaya  chast'
kotorogo vozvyshaetsya nad poverhnost'yu okeana; pod vidimoj chast'yu  ajsberga
v vodu, vo mrak okeana  uhodit  nevidimaya  massa  l'da,  i  podobno  etomu
osnovnye yazykovye formy uhodyat v glub', "vo mrak" psihiki, togda  kak  nad
ee poverhnost'yu vozvyshayutsya kristal'no yasnye formalizovannye  konstrukcii.
Kak by ni otvechal Tarskij ili inoj specialist po logicheskoj  semantike  na
upreki M.Taube, ne podlezhit  somneniyu,  chto  vsyakaya  formal'naya  procedura
predstavlyaet soboj lish' nekotoruyu vstavku  mezhdu  neformal'nym  nachalom  i
neformal'nym  koncom.  Snachala  takoj  uchenyj  o   chem-to   razmyshlyaet   v
soderzhatel'nyh  ponyatiyah,  zatem  sleduet  formalizaciya,   a   kogda   ona
zakanchivaetsya, rezul'taty snova okazyvayutsya p_o_n_ya_t_n_y_m_i (hotya by dlya
specialistov). Vydelenie etoj vstavki pri vsej ego dozvolitel'nosti vsegda
yavlyaetsya tol'ko vydeleniem, i tut ne  pomogut  nikakie  zavereniya,  budto,
vypisyvaya znaki, sostavlyayushchie formalizovannoe rassuzhdenie,  "semantik"  ne
imel v vidu nichego "znachashchego" i chto takoj zhe vyvod mozhet proizvesti  dazhe
mashina, kotoraya nichego ne dumaet i ne ponimaet. Ne pomogut potomu,  chto  v
mashine takzhe dejstvuet "vstavka",  a  "nachalo"  i  "konec",  nahodyas'  vne
mashiny, korenyatsya v mozgu cheloveka. Utverzhdat', budto "vse delo" tol'ko  v
formal'nom etape, - vse ravno chto  zaveryat',  budto  vse  otnosheniya  mezhdu
pomolvlennymi do svad'by i mezhdu suprugami posle takovoj ne igrayut nikakoj
roli, budto vse delo v svad'be, kotoraya ne tol'ko sostavlyaet  edinstvennuyu
blagopristojnuyu  temu,  no  k  koej   voobshche   svoditsya   vse   "znachenie"
supruzhestva.
     Neformal'nye nachalo i konec formal'nogo postroeniya pokazyvayut,  skol'
illyuzorny byli popytki strogolyubov izgnat'    iz  ih  zhiznennogo
prostranstva i skol' podobnaya chistka v obshchem-to pohozha na  povedenie  togo
, kotoryj vygnav metloj myshej iz  pomeshcheniya,  s  siyayushchim  licom
provozglashaet, chto zdes' myshi bol'she ne vodyatsya. CHto zh iz togo, chto ih tam
net, esli oni kishat pod dver'mi? V formal'noj sisteme tozhe net ,
no oni tak i lezut v nee so vseh storon, hotya  i  ne  mogut  proniknut'  v
; tak zhe i d'yavol ne  v  silah  popast'  vnutr'  melovogo  kruga,
ocherchennogo s molitvoj, no ved' yasno zhe, chto my ne  mozhem  celuyu  vechnost'
prosidet' v etom kruge  i  nam  pridetsya  kogda-nibud'  iz  nego  vyjti  -
navstrechu oblizyvayushchemusya chertu. Nu a inzhenery i vovse ne mogut torchat'  v
okopah, vdol' zaklyatoj cherty formal'nyh sistem, ved' oni hotyat dejstvovat'
prakticheski. A to, chto professor logiki  soglasen  hot'  do  samoj  smerti
ostavat'sya v etoj osade, ih nichut' ne  uteshaet.  Ubedyas',  chto  formal'nye
sistemy matematiki  mozhno    do  voplotimosti  v  vide  konechnyh
avtomatov,  inzhenery  sozdayut  vychislitel'nye  mashiny.  No   sozdanie   po
analogichnym receptam mashin-perevodchikov natalkivaetsya  na  trudnosti.  |ti
trudnosti vozrastayut, po mere togo kak algoritm  perevoda  stanovitsya  vse
bolee razvitym i slozhnym, po mere togo kak on pozvolyaet mashine  perevodit'
frazy, real'no vstrechayushchiesya v yazyke, a ne tol'ko skrupulezno  otobrannye,
vrode prostejshej: . Mest' izgnannyh demonov zhestoka.  Semantiki
ohotno svodyat   k  sinonimii,  osobenno  v  prakticheskih  celyah.
Znacheniem slova  yavlyaetsya slovo , a v rezul'tate  mashina
perevodit frazu  kak . Bessporno, otdelenie yazykovoj struktury ot znachenij byvaet
chrezvychajno poleznym, bez etogo ne  voznikla  by  voobshche  teoriya  peredachi
soobshchenij. No esli vy podvergaete  yazyk  stol'  radikal'noj  hirurgicheskoj
operacii,  to  ob®yavite  vo  vseuslyshanie,  chem  vy,  sobstvenno   govorya,
zanimaetes', priznajtes' v amputacii obihodnoj semantiki, potomu chto  inoe
povedenie - eto politika strausa, za posledstviya kotoroj vletaet potom  ni
v chem ne povinnym konstruktoram. Mezhdu tem specialisty v svoem bol'shinstve
prikidyvayutsya, budto s etim oshkurennym yazykom, s etim ih skeletnym mulyazhem
; buduchi  lyud'mi  uchenymi,  oni,  konechno,
znayut, chto im ne udastsya do konca formalizovat' ni  deduktivnyj  yazyk,  ni
obihodnyj, no vse zhe prodolzhayut svoe delo, polagaya, chto mezhdu   i    prostiraetsya  oblast',  dostatochno
obshirnaya dlya togo, chtob oni mogli v nej ochen' dolgo i prilezhno trudit'sya.
     Vprochem, oni pretenduyut i na bol'shee. Esli uzh oni ne mogut perejti ot
formalizovannogo   yazyka   neposredstvenno   k   real'nomu    miru,    to,
voznamerivshis'  ulovit'  siyu  real'nost'  v  svoi  kapkany,   oni   i   ee
formalizuyut,  tol'ko  skrytym  obrazom,  povtoryaya  na  vse  lady  slovechko
 i operiruya tak  nazyvaemymi  ,  kotorye
podgonyayut pod svoi yazykovye sistemy. Vse eto tozhe mozhet  byt'  polezno  do
teh por poka otdaesh' sebe otchet  v  tom,  chto  tvorish';  no  po  nekotorym
(psihologicheski  kak-nikak  ponyatnym)  prichinam  podobnye  deyateli  inogda
, i esli chitaesh' ih raboty, to sozdaetsya vpechatlenie, chto  oni
schitayut svoi modeli empiricheskimi  v  tom  zhe  smysle,  v  kakom  yavlyayutsya
empiricheskimi,  naprimer,  issledovaniya  fizika,  rabotayushchego  s   kameroj
Vil'sona.
     Sleduet ponimat', chto vse eti nashi vyvody ne imeyut  nichego  obshchego  s
kakoj-nibud'   doktrinoj;  takaya  doktrina  byla  by
chem-to hudshim,  chem  prestuplenie,  -  ona  byla  by  oshibkoj.  No  vsegda
neobhodimo  soznavat',  kakov  tot  dopustimyj  diapazon,  v  kotorom   my
rabotaem. |ti granicy ochen' legko perestupit'. Mozhno dolgie mesyacy sidet',
pogruzivshis' v izuchenie tolstennyh (oni uzhe  stali  takimi)  foliantov  po
teorii igr, i,  naprimer,  v  pyatidesyatom  po  schetu  na  odnoj  iz  samyh
poslednih stranic najti nabrannoe petitom primechanie, chto  teoriya  igr  so
vsemi ee prostrannymi postroeniyami, uvy, absolyutno neprigodna  v  real'nyh
situaciyah, ibo, k  sozhaleniyu,  onye  situacii  kuda  zaputannej,  chem  vse
konstrukcii teorii igr na  segodnyashnij  den'.  V  to  zhe  samoe  vremya  iz
populyarnyh razrabotok mozhno uzhe vychitat' o    dlya
vedeniya vojn i t.p. i t.d.
     Vozvratimsya  k  znacheniyu  z_n_a_ch_e_n_i_ya.  Odin  anglijskij  filosof
napisal knigu kak raz pod takim nazvaniem ("Znachenie znacheniya"), v kotoroj
naschital chut' li ne 36 razlichnyh znachenij etogo  slova.  Kritiki  "pozicii
umolchaniya", vrode Taube, nemnogim mogut nam pomoch'. Edva oni perehodyat  ot
kritiki k konstruktivnoj programme, kak tut  zhe,  ssylayas',  naprimer,  na
filosofov vrode Uajtheda, tyanut nas v takie debri, gde uzh voistinu  nichego
poddayushchegosya empiricheskoj proverke skazat' nel'zya. V etih debryah  bluzhdayut
platonistskie  idei  i  prochie  duhi,  i  hotya  |shbi  i  utverzhdal,  budto
kibernetika spravitsya s lyubymi duhami, lish' by oni  bluzhdali  zakonomerno,
no tut i kibernetika bessil'na.
     Kak mozhno uzhe dogadat'sya, polozhenie konstruktorov nezavidnoe. Pomoshch',
kotoruyu im okazyvayut anatomy  deduktivnyh  sistem,  srazu  zhe  obryvaetsya;
konstruktory dobivayutsya polucheniya proizvodstvennyh receptov  ili  hotya  by
finitnyh procedur, ved' oni ne mogut pichkat' svoi mashiny  beskonechnostyami,
kotoryh, bezuslovno, ne soderzhit i chelovecheskij mozg,  ch'im  "povtoreniem"
dolzhny byt' eti mashiny. Opredeleniya  z_n_a_ch_e_n_i_ya  v  ramkah  sinonimii
okazyvayutsya sovershenno nedostatochnymi: ignotum ob®yasnyaetsya cherez ignotum ¹³.
Rabochie opredeleniya, v kotoryh utverzhdaetsya, chto znachenie - eto otnoshenie,
sootnesenie, produkt simvolicheskogo funkcionirovaniya,  znakovaya  situaciya,
sootvetstvie, otrazhenie, nichego ne dayut konstruktoram, kotorym vo  chto  by
to ni stalo nado ponyat', ne   ch_t_O  t_a_k_o_e  z_n_a_ch_e_n_i_e,  a  k_a_k
e_g_o   s_d_e_l_a_t_'  (vosproizvesti). Oni gotovy pozhertvovat' "absolyutno
tochnym", "okonchatel'nym" znaniem  radi  rabochej  gipotezy,  kotoruyu  mozhno
bylo by proverit' na praktike.
     Nikakoj  obshchej   teorii   "raspoznavaniya   zritel'nyh   obrazov"   ne
sushchestvuet, a mashiny (s trudom, pravda), raspoznayushchie  takie  obrazy,  uzhe
est', i hotelos' by postroit' takzhe mashiny, kotorye  "ponyatlivo"  veli  by
sebya. No poka  chto  mezhdu  formal'nym  beregom  yazyka  i  smyslovym  ziyaet
propast'. "Znachenie" vsegda v konce koncov  ceplyaetsya  za  "ponimanie",  a
ponimaniya net tam, gde nekomu ponimat'. Takim obrazom, "bezlyudnost'" yazyka
sohranit' nevozmozhno, a tot, kto  ee  chto  est'  sily  otstaivaet,  konchit
vmeste s bihevioristami, kotorye  nalozhili  surovejshij  zapret  na  vsyakie
rassuzhdeniya  o  psihike  v  neempiriko-fizicheskih  terminah,  konchit   kak
chelovek, kotoryj pozhelal detal'no i do konca razobrat'sya v hod'be, no  pri
etom, upasi bozhe, ni edinym slovom ne hotel obmolvit'sya o nogah i  dazhe  o
vozmozhnosti ih sushchestvovaniya. Professor Rajl napisal neobychajno interesnuyu
knigu ¹⁴, v kotoroj vsem na udivlenie dokazal, chto nikakogo soznaniya  voobshche
ne sushchestvuet. On  unichtozhil  soznanie,  razdavil  ego,  vysmeyal,  zakidal
prozvishchami,  vrode  the  ghost  in  the  machine.  Sobstvenno,   sleduyushchim
logicheskim shagom, kotorogo bog vest'  pochemu  nikto  ne  sdelal,  bylo  by
provozglashenie doktriny, simmetrichno protivostoyashchej solipsizmu.  Solipsizm
utverzhdaet, chto sushchestvuyu tol'ko "ya" -  sleduet  zayavit',  chto  sushchestvuyut
tol'ko "drugie". |tu doktrinu mozhno otlichno  obosnovat'.  Esli  by  drugie
lyudi ne obrashchalis' ko  mne,  ne  otvechali  na  moi  voprosy,  zahoteli  by
prohodit' skvoz' menya, slovom, esli by ya ni dlya kogo ne sushchestvoval, razve
ne sledovalo by mne priznat', chto menya v dejstvitel'nosti  ne  sushchestvuet?
Sledovatel'no, kazhdyj sushchestvuet tol'ko  potomu,  chto  on  sushchestvuet  dlya
drugih, a to, chto emu samomu kazhetsya, budto on i "dlya sebya"  sushchestvuet  -
eto vse bred,  gallyucinaciya,  son,  illyuziya,  sumerechnoe  sostoyanie  dushi,
nakonec. Byvaet zhe, chto mne kazhetsya, budto ya letayushchee, ili bespozvonochnoe,
ili eshche kakoe-nibud' sovsem uzh neopisuemoe  sushchestvo,  voploshchenie  nekoego
"ya"; takie sostoyaniya nastupayut noch'yu, i tol'ko  tot  fakt,  chto  nikto  iz
okruzhayushchih ne podtverzhdaet moego bytiya v takih formah,  vynuzhdaet  menya  v
konce koncov priznat', chto vse eto mne tol'ko kazalos', chto vse  eto  mne,
naprimer, snilos' i t.p. Da esli b i vpryam' sushchestvovali tol'ko  "drugie",
to sredi bihevioristov, fizikalistov, formalistov vocarilas' by  atmosfera
vseobshchego oblegcheniya, uspokoeniya, blazhenstva, ischezli by  milliony  zabot,
koroche, voznik by sushchij epistemologicheskij raj. Ne pridavaya lichno  osobogo
znacheniya vysheizlozhennoj absolyutno original'noj koncepcii, ya gotov ustupit'
ee zainteresovannym licam.
     Poskol'ku k znacheniyu  z_n_a_ch_e_n_i_ya  nevozmozhno  podstupit'  pryamym
putem,  sejchas  rasprostranen  sleduyushchij  sposob  dejstvij:  yazyk  izuchayut
fizikalistskimi i formalistskimi sredstvami, molchalivo, vtajne predpolagaya
pri etom, chto  esli  ego  (etot  yazyk)  snachala  atomirovat',  razdrobit',
vypotroshit', anatomirovat', a potom snova, uzhe s uchetom poluchennyh znanij,
slozhit' i svintit'  vnutri  kakoj-nibud'  material'noj  sistemy,  naprimer
cifrovoj mashiny, to  z_n_a_ch_e_n_i_ya  poyavyatsya vnutri etoj sistemy kak  by
sami soboj,  no  vmeste  s  tem  v  silu  zhestokoj  neobhodimosti,  slovno
privnesennye vnutr' mashiny, privinchennye k ee detalyam, i  blagodarya  etomu
zadacha budet reshena. |tot sposob dejstvij  mozhno  obrazno  predstavit'  na
primere transportirovki kakoj-nibud' ogromnoj mozaiki, kotoraya  izobrazhaet
chto-to poistine prekrasnoe: dostatochno tshchatel'no  perenumerovat'  obratnuyu
storonu vseh kameshkov, iz kotoryh  slozhena  mozaika,  i  mozhno  sovershenno
spokojno  vsyu  ee  razobrat',  zapakovat'  kameshki  v  yashchiki  i  otpravit'
adresatu; pri sborke na novom meste neobhodimo  tol'ko  soblyudat'  poryadok
nomerov, kotorymi pomecheny kameshki; prekrasnaya  znachimaya  storona  v  vide
kartiny sama soboj postepenno voznikaet v rezul'tate etogo  shag  za  shagom
osushchestvlyaemogo processa.
     No  po  otnosheniyu  k  yazyku  takoj  sposob  dejstvij,  dopustimyj   v
opredelennyh ramkah, v celom nevozmozhen.
     YA riskuyu byt' izgnannym iz horoshego obshchestva za frazu, kotoruyu sejchas
proiznesu, ved'  ona  prozvuchit  nepristojno.  No  ya  vse-taki  dolzhen  ee
proiznesti. Vprochem, eta nepristojnost' ne yavlyaetsya novinkoj.  PREDLOZHENIE
- |TO MYSLX, VYRAZHENNAYA SLOVAMI. |tomu menya uchili eshche v shkole,  i  hot'  ya
pochitayu kibernetiku, amicus Plato, sed magis amica veritas ¹⁵.  Uveryayu  vas,
eto dejstvitel'no tak.
     YAzyk - eto ne myshlenie, a myshlenie - eto ne  yazyk  (to  est'  ono  ne
obyazano  byt'  t_o_l_'_k_o  yazykovym).   "Znachenie",   konechno,   yavlyaetsya
otnosheniem, sootvetstviem, imeet harakter kontinuuma, vse eto tak, no  eto
prezhde  vsego  perezhivanie.  Fraza,  vyskazyvanie,  predlozhenie   oznachaet
chto-libo, esli ona porozhdaet mysl',  vyrazheniem  kotoroj  yavlyaetsya.  Mogut
sushchestvovat' bessmyslennye frazy, no net bessmyslennyh myslej. Znachenie ne
"spryatano" vo fraze: ono voznikaet v ume,  kogda  etu  frazu  slushayut  ili
chitayut. Nel'zya govorit' o fraze, budto ona i  e_s_t_' znachenie. Govoryat, i
pravil'no, chto fraza  imeet  (opredelennoe)  znachenie.  Ona  obladaet  im;
poetomu v yazyke, otorvannom ot  sushchestv,  ego  ponimayushchih,  otsutstvuyut  i
znacheniya. Poetomu frazu  sravnivayut  s  formoj,  kotoruyu  mysl'  napolnyaet
znacheniem, vlivayas' v  nee;  smyslovym  soderzhaniem  fraza  napolnyaetsya  v
psihicheskom processe.  Esli  formu  podvergnut'  issledovaniyu,  to  vskore
okazhetsya, chto ona ne yavlyaetsya "tochnoj". Gipsovuyu formu mozhno  ottisnut'  v
inom materiale, ne utrativ pri etom chisto  mehanicheskom  perenose  nikakih
sushchestvennyh detalej. No  nevozmozhno  "ottisnut'"  dostatochno  razvernutuyu
frazu v materiale drugogo yazyka, pol'zuyas' mehanicheskimi sredstvami  chisto
algoritmicheskogo  perevoda.  Fraza  ne  prosto  forma   mysli,   a   forma
obednennaya,  sokrashchennaya  i  v  to  zhe  vremya  neodnoznachnaya  -  ee  mozhno
po-raznomu ponimat', tolkovat' mnozhestvom sposobov, po-raznomu "vorochat' v
ume".  Psihicheskie  processy,  kotorye  formiruyut  znachenie,  ne  yavlyayutsya
passivnym vospriyatiem opredelennoj cepochki signalov i sopostavleniem ih so
"slovarem" i sintaksisom. Mozhno uslyshat' sovershenno neponyatnuyu frazu, dazhe
esli znaesh' dannyj yazyk, ego  slovar'  i  sintaksis.  YA,  naprimer  (iz-za
umstvennoj nepolnocennosti, konechno), ne ponimayu  mnogih  fraz  v  tekstah
Hajdegera ili Gusserlya, oni dlya menya nichego ne znachat.
     YA govoryu vpolne ser'ezno. Frazy yavlyayutsya programmoj  dejstvij,  no  s
bol'shimi probelami i ochen' rasplyvchatoj; oni "ponyatny"  lish'  potomu,  chto
mozg raspolagaet predprogrammirovaniem, poluchennym  za  vse  vremya  svoego
sushchestvovaniya. Perevod s odnogo yazyka na drugoj podoben popytke ustanovit'
vzaimoodnoznachnoe sootvetstvie mezhdu skeletami dvuh razlichnyh pozvonochnyh.
Nikakoe chisto "formal'noe" sravnenie ne dast takogo sootvetstviya, esli emu
ne budet soputstvovat' znanie anatomii i fiziologii, a takzhe ekologii etih
zhivotnyh. Kak dogadat'sya o funkcional'nom razlichii mezhdu  hvostom  kita  i
hvostom slona, esli ne znaesh', chto pervyj  zhivet  v  okeane,  a  vtoroj  -
suhoputnoe  zhivotnoe?  Semantika  yavlyaetsya  dlya  yazyka  tem  zhe,  chem  dlya
osteologii - gravitaciya, ibo i tot i drugoj  "skelet"  formiruyut  faktory,
lezhashchie vne ih samih. YAzyk zhivet  v  "ekologicheskoj"  srede  chelovecheskogo
mozga, nachalo kotoroj lezhit v prirode i kotoraya  prostiraetsya  v  predelah
obshchestvennyh sistem. Znacheniya nahodyatsya v psihicheskih processah, vne fraz,
kak myshcy - vne skeleta ili ruka skul'ptora - vne gliny. Oni - orkestr,  a
frazy - tol'ko partitura. Partitura simfonii - eto eshche ne simfoniya,  hotya,
konechno,  i  orkestr  ne  sygraet  simfonii  bez  partitury.  Po  yazykovoj
trudnosti teksty raspolagayutsya v nepreryvnyj spektr, k tomu zhe etot spektr
neodnomeren; prakticheski dlya kazhdogo cheloveka mozhno ukazat' tekst, kotoryj
on  pojmet  na  stol'  nizkom  urovne,  chto  pri  prieme  budet   utrachena
znachitel'naya chast' soderzhashchejsya v  tekste  informacii.  Bol'shinstvo  lyudej
voobshche ne ponimaet slishkom trudnogo  ili  specializirovannogo  teksta,  iz
chego  mozhno  zaklyuchit',  chto  horoshaya  mashina-perevodchik  dolzhna  byla  by
demonstrirovat' nezauryadnyj koefficient intellektual'nosti; no neizvestno,
kak sozdat' mashinnuyu programmu, kotoraya povyshala by etot  koefficient  tem
bol'she, chem bolee trudnyj tekst predstoit perevodit'.
     Ne sluchajno odnim iz samyh  svirepyh  kritikov  idei  "algoritmicheski
perevodyashchih mashin" okazalsya Taube - specialist v oblasti programmirovaniya;
on-to prekrasno znaet, kakaya propast' lezhit mezhdu real'nymi  vozmozhnostyami
programm perevoda i tem, chto mozhno prochest' v  neschetnyh  rabotah  na  etu
temu, rabotah tem bolee smelyh po formulirovkam, chem bolee oni abstraktny.
     V etih rabotah mozgovye yavleniya, priroda kotoryh do sih por  ostaetsya
zagadkoj, vtiskivayut v korset "fizikalistskoj" terminologii, kotoraya yakoby
dolzhna ustranit' vsyakuyu zagadochnost';  tam  mozhno  prochest'  ob  "entropii
soznaniya i  podsoznaniya",  o  "ponyatijnyh"  i  "emocional'nyh  kodah",  ob
"esteticheskoj  informacii",  tam  natyagivayut  kiberneticheskie   maski   na
psihoanaliz, otozhdestvlyayut tvorcheskie processy s metodom  prob  i  oshibok,
stavya znak ravenstva mezhdu  sozdaniyami  uchenyh-teoretikov  i  shizofrenikov
(prichem,  po-vidimomu,  neimoverno  nauchnym,  to  bish'  "kiberneticheskim",
schitaetsya chisto formal'nyj  podhod  k  "informacionnoj  original'nosti"  -
smysl uravnivaetsya v pravah s bessmyslicej, ibo ved' ni tot, ni drugaya "ne
imeyut nikakogo otnosheniya k algoritmam").  Polozhenie  pryamo  protivopolozhno
tomu, kotoroe sushchestvovalo vo  vremena  brat'ev  Rajt.  Oni  nachinali  uzhe
polety na apparate tyazhelee vozduha, a pochti nikto iz specialistov, ili tak
nazyvaemyh  specialistov,  ne  veril  v  vozmozhnost'  osushchestvleniya  takih
poletov. Naprotiv, professional-programmist znaet, chego mozhno  ozhidat'  ot
cifrovyh mashin, i znaet algoritmicheskuyu ogranichennost' programm; zato  ego
okruzhaet  roj  "specialistov",  kotorye  niskol'ko  ne  pomogayut   emu   v
preodolenii trudnostej, a  poprostu  otricayut  ih  svoimi  mnogochislennymi
sovershenno goloslovnymi deklaraciyami. YAsno, chto  podobnoe  kiberneticheskoe
"shamanstvo" ne mozhet privesti ni k  chemu,  krome  nekoego  smyateniya  umov.
Lichnosti, kotorye na dosuge izmyshlyayut "novye vidy" informacii, ili mashiny,
kotorye "vse mogut" i dazhe izdayut knizhki s obiliem shem, ukazuyushchih, kak  s
inzhenernyh pozicij imitirovat' chelovecheskij mozg,  so  spokojnoj  sovest'yu
predayutsya svoim radostnym zanyatiyam,  potomu  chto  vsem  ih  "otkrytiyam"  i
"izobreteniyam" ne ugrozhaet nikakaya eksperimental'naya proverka.
     Mezhdu  tem  problema  sushchestvuet,  i  nikakimi   "terminologicheskimi"
zaklinaniyami  ee  preodolet'  nel'zya.  Neimoverno  trudoemkie  strukturnye
issledovaniya ukazyvayut na to, chto  kazhdyj  mikroskopicheskij  shag  na  puti
uluchsheniya kachestva primitivnyh mashinnyh perevodov dolzhen byt' kuplen cenoj
neproporcional'no   ogromnogo   uslozhneniya   primenyaemyh   algoritmicheskih
struktur. Odno delo - zaprogrammirovat' bol'shuyu cifrovuyu mashinu tak, chtoby
ona perevodila frazy tipa "Tam stoit stul", "Padaet sneg",  "Deti  idut  v
shkolu", i sovsem inoe - sozdat' programmu, s pomoshch'yu kotoroj mashina  mozhet
perevesti frazu vrode sleduyushchej: "Pervichnyj sposob  prepodneseniya  ob®ekta
vklyuchaet "izolyaciyu" ob®ekta ne tol'ko v smysle ogranichennosti, no takzhe  i
v tom smysle, chto ob®ekt lish' "izvne" dostupen  dlya  poznayushchego  sub®ekta,
kakovoj pri etom v edinom akte postigaet ego  kak  celoe  libo  zhe  tol'ko
predvoshishchaet". Perevod etoj frazy "bez ponimaniya  voobshche"  predstavlyaetsya
nevozmozhnym. CHeloveku, kotoryj zahochet ee perevesti, nadlezhit  izuchat'  ne
sintaksis, a skoree fenomenologistskie zhurnaly. I on navernyaka  ne  smozhet
"shvatit'" ih stil' ni  v  kakom  algoritme,  dayushchem  perevod  hotya  by  s
nekotorym priblizheniem k originalu. Mozhno zadat' vopros,  pochemu  problemu
nel'zya reshit'  veroyatnostnymi  metodami.  Tekst  knigi  mozhno  sravnit'  s
informaciej, soderzhashchejsya v hromosomah. Tekst zadaet "smysl", kak  genotip
- zreluyu osob'. V oboih sluchayah imeet mesto veroyatnostnoe predopredelenie.
Izvestno, chto fenotip organizma  otklonyaetsya  ot  genotipa,  i  analogichno
"fenotip"  literaturnogo  proizvedeniya  ili  filosofskoj  raboty  sposoben
kolebat'sya v opredelennom (zavisyashchem ot individuumov) diapazone predel'nyh
znachenij. No etot  veroyatnostnyj  razbros  ni  v  koej  mere  ne  yavlyaetsya
haotichnym.    Statisticheskij    podhod    podrazumevaet     approksimaciyu,
asimptoticheskoe priblizhenie k predel'nomu znacheniyu "ideal'noj tochnosti", o
chem nel'zya govorit'  v  sluchae  perevoda,  ibo  klass  "tochnyh  perevodov"
dannogo teksta soderzhit  razlichnye  "tipy  tochnosti",  kotorye  ne  vpolne
sravnimy drug s drugom. Horoshij perevod otrazhaet original i v to zhe  vremya
neset v sebe cherty sobstvennogo stilya perevodchika.  Mashina,  sposobnaya  na
takoj perevod, takzhe proyavila by sobstvennyj stil', a eto oznachalo by, chto
ona imeet opredelennuyu individual'nost', a ne yavlyaetsya vsego lish' odnoj  v
tochnosti vosproizvodimoj  ipostas'yu  "edinogo  algoritma".  My  intuitivno
prihodim k vyvodu - vprochem,  horosho  izvestnomu,  -  chto  esli  procedure
nel'zya pridat' odnoznachnost', to ee nel'zya takzhe  i  formalizovat'.  Pust'
tak, skazhet kto-nibud', pust' horoshie perevody obrazuyut  mnozhestvo,  mozhet
byt', dazhe  potencial'no  beskonechnoe,  no  mozhno  spravit'sya  i  s  etim,
ispol'zovav ponyatie  kontinuuma.  |to  ponyatie  podsovyvaet  kibernetikam,
mezhdu  prochim,  i  Taube.  Ono  blagorodnogo  roda,  ibo   proishodit   ot
matematiki, no konstruktory, pomnya predosterezhenie timeo  Danaos  et  dona
ferentes ¹⁶, ne  hotyat  -  osmotritel'no!  -  prinimat'  stol'  velikodushnyj
podarok. Odno delo - pochtennyj, hot' i bessil'nyj sinonimicheskij  slovar',
i sovsem  drugoe  -  preslovutyj  kontinuum,  ch'ya  beskonechnost'  sposobna
razvorotit' lyubye slovari. Razumeetsya, my, kogda  beseduem,  ne  strashimsya
etogo kontinuuma - ved' my-to  p_o_n_i_m_a_e_m,  ch_t_o  g_o_v_o_r_i_m.
     Process ponimaniya - ni v koem  sluchae  ne  epifenomen ¹⁷,  ne  sredstvo
komforta ("Kak eto milo - chto-to ponyat'!"), ne  predmet  roskoshi;  process
ponimaniya nel'zya  takzhe  schitat'  intellektual'nym  analogom  chuvstvennogo
naslazhdeniya,  kotoryj   mozhno   stol'   zhe   prosto   otdelit'   ot   akta
informacionnogo snosheniya, kak udaetsya otdelit' priyatstvennost' fizicheskogo
snosheniya ot ego estestvennyh fiziologicheskih posledstvij. Ponimanie -  eto
trud, kotoryj dolzhen byt'  proizveden,  on  predstavlyaet  soboj  nichem  ne
zamenimyj, uzhe  m_i_n_i_m_a_l_'_n_y_j  kriterij yazykovogo otbora,  kotoryj
nel'zya svesti k bolee prostomu, a imenno k  chisto  formal'nomu  vidu.  Nash
mozg  ne  potomu  tak  slozhen,  chto  my   predstavlyaem   soboj   nejral'no
vyrozhdayushchijsya vid, i ne potomu, chto kakoe-to nakoplenie mutacij v processe
geneticheskogo drejfa sovershenno zazrya nagromozdilo etu  izbytochnost'.  Nash
mozg takov, kakov on est', potomu chto, bud' on  m_e_n_e_e  s_l_o_zh_n_y_m -
kak u obez'yan, naprimer, - on ne byl by sposoben  k  processam  porozhdeniya
mysli i yazyka. Esli by  z_n_a_ch_e_n_i_ya  ne byli evolyucionno, biologicheski
polezny, esli b ih prisutstvie v nashem yazykovom bytii ne bylo  neobhodimo,
oni voobshche ne voznikli by.
     Bihevioristskij podhod  predstavlyaetsya  mne  beznadezhnym  i  v  samyh
smelyh ego logicheskih prodolzheniyah, soglasno kotorym  problemu  "znacheniya"
mozhno budet polnost'yu otbrosit', kogda my nauchimsya s velichajshej  tochnost'yu
issledovat' material'nye processy, lezhashchie v osnove processov psihicheskih.
|to byl by put' sozdaniya "final'nogo algoritma", kogda  sostoyaniyam  mozga,
nablyudaemym  izvne,  tochno  sopostavlyayutsya   ego   vnutrennie   sostoyaniya,
poznavaemye v introspekcii. Imeya "slovar'" takih sootvetstvij, mozhno  bylo
by zaprogrammirovat' "nemyslyashchuyu" mashinu, kotoraya perevodila by na  urovne
samyh luchshih perevodchikov. No predstavlyaetsya ves'ma veroyatnym, chto odnim i
tem zhe material'nym sostoyaniyam mozga ne obyazatel'no odnoznachno sopostavimo
opredelennoe  vnutrennee  ego   sostoyanie:   nejral'nye   kody   lish'   na
elementarnyh urovnyah integracii blizki drug drugu. CHem vyshe my  podnimemsya
po stupenyam mozgovoj ierarhii (po urovnyam informacionnoj integracii),  tem
bolee individual'nym stanovitsya kod, i kod, v kotorom odin mozg  realizuet
svoi sostoyaniya, mozhet sovsem ne pohodit' na kod drugogo mozga: ved' kazhdyj
mozg yavlyaetsya statisticheskoj sistemoj, kotoraya startuet ot  polusluchajnogo
nachal'nogo  raspredeleniya  i  dvizhetsya  po   individual'noj   dinamicheskoj
traektorii.  |to  rasseyanie  kodov  privodit  k  tomu,  chto   material'nye
dinamicheskie  konfiguracii  mozga,  sopostavlennye,   skazhem,   vospriyatiyu
krasnogo cveta, po-vidimomu, odinakovy v mozgu u raznyh lyudej, mozhet byt',
dazhe lyudej i obez'yan,  togda  kak  konfiguracii,  otvechayushchie  "vnutrennemu
vospriyatiyu" toski,  stol'  razlichny  ot  individuuma  k  individuumu,  chto
bessmyslenno govorit' o  kakom-libo  "klasse  material'nyh  konfiguracij",
kotoromu mozhno bylo by sopostavit' kak invariant simvol "toska".
     Kibernetika, podobno Prometeyu, pohitivshemu  s  Olimpa  ogon',  hotela
vtorgnut'sya srazu v oblast' slozhnejshih intellektual'nyh operacij, ovladet'
vsej  etoj  oblast'yu,  probivayas'  naprolom,  napryamik,  ne  sleduya   tomu
gigantskomu  puti,  na  kotorom  nejronnye  formacii  vse  bolee  pozdnego
evolyucionnogo  proishozhdeniya  naslaivalis'  na  drevnee   lozhe   pramozga,
unasledovannogo  lyud'mi  eshche  ot  pancirnyh  ryb;  i  kibernetike  udalos'
ponachalu  avtomatizirovat'  opredelennye  logiko-arifmeticheskie  operacii.
Okapyvayas'  na  zanyatom  uchastke,  ona   nachala   toroplivye   vylazki   s
zahvachennogo placdarma vo vsevozmozhnyh napravleniyah,  no  sleduyushchie  ataki
uzhe ne udalis', ne uvenchalis' podobnym zhe  poznavatel'nym  i  prakticheskim
uspehom.  Pervaya  pobeda  okazalas'  tol'ko  takticheskoj,  ravno   kak   i
lokal'noj, prichem byla sovershena tyazhkaya, hotya psihologicheski  i  ponyatnaya,
oshibka. V glubine dushi  mnogie  polagali,  chto  uzh  esli  udalos'  pridat'
"avtomatizm" takim "elitarnym", takim trudnym - s tochki  zreniya  shkol'nika
ili domohozyajki - operaciyam, kak operacii logicheskogo ischisleniya, to bolee
trudnym vse prochee poprostu okazat'sya ne mozhet. Ne zametili pri etom,  chto
odno delo - ispol'zovat' logiku na osnove  znaniya  sillogizmov,  i  sovsem
drugoe -  stolknut'sya  s  nej  v  semantiko-sintaksicheskoj  strukture  uzhe
imeyushchegosya yazyka.  Dazhe  mozg  puskayushchego  slyuni  imbecila,  kotoryj  edva
sposoben govorit' i pochti ne ponimaet, chto  emu  govoryat,  etot  mozg  kak
sistema,       v       kotoroj       funkcioniruyut       znacheniya,       s
informacionno-prisposobitel'noj    tochki    zreniya    nesravnenno    bolee
universalen, chem vychislitel'naya mashina, rabotayushchaya so  skorost'yu  milliona
operacij v sekundu.
     V etoj knige  my  govorili  o  nenuzhnosti  tehnicheskogo  "povtoreniya"
cheloveka. Stol' radikal'nyj tezis nuzhdaetsya v ogovorke. Trebovanie sozdat'
mashiny, kotorye vedut sebya "ponimayushche", konechno,  ne  oznachaet,  budto  my
nastaivaem na nadelenii  mashin-perevodchikov  "polnotoj  vnutrennej  zhizni"
cheloveka; odnako  my  prosto  ne  znaem,  v  kakoj  mere  mozhno  "nedodat'
lichnost'" mashine, kotoraya prizvana horosho perevodit'.
     My ne znaem, mozhno li "ponimat'", ne obladaya "lichnost'yu"  hotya  by  v
zachatke. My schitaem, chto dazhe "bez ponimaniya" mozhno uspeshno dejstvovat'  v
real'nom mire  -  etomu  uchit  nas  sushchestvovanie  operacional'nogo  yazyka
evolyucii, i potomu my rassmotrim dalee  razlichnye  varianty  "apsihicheskoj
tehniki  poznaniya".  Ne  predstavlyaetsya,  odnako,   vozmozhnym   effektivno
ispol'zovat' operacional'nyj yazyk do konca v kachestve  orudiya  perevoda  v
sfere yazykov diskursivnyh - myslitel'nyh. Libo  mashiny  budut  dejstvovat'
"ponimayushche", libo po-nastoyashchemu effektivnyh  mashin-perevodchikov  ne  budet
vovse. Ibo operacional'nost' polnost'yu  svodima  k  otnosheniyu,  togda  kak
myslitel'nyj process, takzhe imeyushchij etu chertu, yavlyaetsya k tomu  zhe  chem-to
eshche. Itak, my stoim pered dlitel'noj osadoj. Ne nado slushat' sovetov  teh,
kto ugovarivaet otstupit', -  eto  porazhency,  ih  i  v  nauke  nemalo,  -
osobenno kogda osada obeshchaet byt' dlitel'noj  i  tyazheloj.  Najdutsya  takzhe
mnogochislennye znahari, kotorye stanut osypat' nas zavereniyami, budto  oni
otkryli kak raz "lekarstvo ot  znacheniya".  Im  takzhe  ne  sleduet  slishkom
doveryat', - kak i v medicine, izbytok  lekarstv  protiv  kakoj-to  bolezni
oznachaet, chto ni odno iz nih ne yavlyaetsya po-nastoyashchemu celebnym. Dazhe esli
kratkogo puti i net, doroga na vershinu vse zhe est', hotya, mozhet byt',  nam
pridetsya preodolevat' ee "s samogo  niza",  s  urovnya  samyh  elementarnyh
processov - vzyat' ee ne shturmom, a terpelivym metodicheskim natiskom.


¹ 
     M. Taube, Vychislitel'nye mashiny  i  zdravyj  smysl.  Mif  o  dumayushchih
mashinah, izd-vo "Progress", 1964, str. 65-75.
² 
     Kriticheskaya ocenka vzglyadov M.Taube dana v  predislovii  A.I.Berga  k
russkomu izdaniyu knigi Taube. V prilozhenii k rabote Taube pomeshcheny  stat'i
A.L.Semyuelya, U. Ross |shbi i P.Armera, vyskazyvayushchih vzglyady,  otlichnye  ot
pessimisticheskih ocenok Taube. - Prim. red.
³ 
     O. K. Tihomirov, |vristika cheloveka i  mashiny,  "Voprosy  filosofii",
1966, No 4.
⁴ 
     Sm, F.  Rozenblatt.  Principy  nejrodinamiki,  Perceptrony  i  teoriya
mehanizmov mozga, izd-vo "Mir", 1965. - Prim. red.
⁵ 
     Sm. sb. "Avtomaty", IL, 1956. - Prim. red.
⁶ 
     V  originale  -  neperedavaemyj  namek.   Nazvanie   "teoria   ukladu
spolecznego" - "teoriya obshchestvennoj sistemy" namekaet na nazvanie  "teoria
ukladu slonecznego"- "teoriya solnechnoj sistemy". Vtoraya  chast'  frazy  tem
samym kak by govorit, chto "teoriya obshchestvennoj sistemy"  dolzhna  soderzhat'
gorazdo bol'she "parametrov", chem ee astronomicheskaya "tezka". - Prim. red.
⁷ 
     Uhod v beskonechnost' (lat.).
⁸ 
     Na pervyj vzglyad (lat.).
⁹ 
     Popavshij v peshcheru Polifema Odissej podnes ciklopu  chashu  vina,  a  na
vopros o svoem imeni otvetil, budto ego zovut Nikto.  Blagodarnyj  Polifem
poobeshchal s®est' Odisseya poslednim. Noch'yu Odissej i ego ucelevshie  sputniki
vyzhgli zahmelevshemu ciklopu edinstvennoe oko. Na  voprosy  sbezhavshihsya  na
rev  Polifema  ciklopov,  postradavshij  otvechal,  chto  ego  gubit   Nikto.
Rasserzhennye ciklopy  posovetovali  Polifemu  uspokoit'sya,  poskol'ku  ego
nikto ne obidel. Odisseyu udalos' spastis'. - Prim. red.
¹⁰ 
     My  otsylaem  chitatelya  k  dvum   knigam:   S.K.Klini,   Vvedenie   v
metamatematiku (IL, 1957) i A.Frenkel' i  I.Bar-Hillel.  Osnovaniya  teorii
mnozhestv (izd-vo "Mir", 1966). V pervoj iz nih on  najdet  formulirovku  i
dokazatel'stvo  teoremy  Gedelya,  o  kotoroj  idet  rech',  vo   vtoroj   -
sravnitel'no prostoe rassmotrenie svyazannyh s nej problem.
     Smysl teoremy Gedelya sostoit v tom, chto vsyakaya  dostatochno  "bogataya"
formal'naya logiko-matematicheskaya  sistema,  neprotivorechivaya  v  nekotorom
dostatochno sil'nom smysle, obyazatel'no soderzhit formulu, kotoruyu v  dannoj
sisteme nel'zya ni dokazat', ni oprovergnut', no kotoraya -  kak  eto  mozhno
pokazat' s pomoshch'yu sredstv, vyhodyashchih za ramki sistemy, - vse zhe  istinna.
Koroche, ne vsyakoe "soderzhatel'no" istinnoe utverzhdenie  v  dannoj  sisteme
"formal'no vyvodimo" v nej. S poyavleniem teoremy Gedelya  izmenilsya  vzglyad
na  sam  aksiomaticheskij  podhod  k  postroeniyu  teh  ili   inyh   teorij,
gospodstvovavshij so vremen Evklida. V etom - obshchenauchnoe znachenie  teoremy
Gedelya. - Prim. red.
¹¹ 
     O  razlichii  mezhdu  upomyanutymi  zdes'  napravleniyami  v   "filosofii
matematiki" - intuicionizmom, formalizmom i konstruktivizmom -  dostatochno
polnoe predstavlenie dayut upomyanutaya  v  predshestvuyushchem  primechanii  kniga
A.Frenkelya i I.Bar-Hillela i monografiya A.Rejtinga "Intuicionizm"  (izd-vo
Mir", 1965). - Prim. red.
¹² 
     M. Taube, Vychislitel'nye mashiny  i  zdravyj  smysl.  Mif  o  dumayushchih
mashinah, izd-vo "Progress", 1964, str. 111-112
¹³ 
     Neizvestnoe (lat.).
¹⁴ 
     G. Rule, The Concept of Mind, Barnes and Noble, New York, 1949.
¹⁵ 
     Drug  mne  Platon,  no  istina  drug  mne  bol'shij   (lat.).   Slova,
pripisyvaemye Aristotelyu. - Prim. red.
¹⁶ 
     Boyus' danajcev,  dazhe  prinosyashchih  dary  (grech.).  Stih  iz  "|neidy"
Vergiliya. - Prim. red.
¹⁷ 
     |pifenomen (grech.)  -  pobochnoe  yavlenie,  soputstvuyushchee  glavnomu  i
vyzvannoe im, no ne okazyvayushchee na nego nikakogo vliyaniya.  |pifenomenalizm
- doktrina, utverzhdayushchaya, chto myshlenie est' epifenomen mozgovyh processov.
|togo vzglyada, v  chastnosti,  priderzhivayutsya  nekotorye  psihoanalitiki  i
bihevioristy. - Prim. red.

[ Titul'nyj list ] [ Soderzhanie ] <= Glava chetvertaya (n) ] [ Glava pyataya (a) =>