Stanislav LEM

SUMMA TEHNOLOGII


[ Titul'nyj list ] [ Soderzhanie ] <= Glava chetvertaya (f) ] [ Glava chetvertaya (h) =>

GLAVA CHETVERTAYA

INTELLEKTRONIKA

             
(g)  O MORALI GOMEOSTATOV   

     Prishlo  vremya  vvesti  v  sferu  nashih  kiberneticheskih   rassuzhdenij
moral'nuyu problematiku. Situaciya na samom  dele  obratnaya:  ne  my  vnosim
voprosy etiki v kibernetiku, a ona, kibernetika,  razrastayas',  ohvatyvaet
svoimi posledstviyami v chisle prochego to, chto my nazyvaem moral'yu, to  est'
sistemu kriteriev, dayushchih ocenku dejstviyam, prichem ocenku - s  ob®ektivnoj
tochki zreniya - proizvol'nuyu. Moral' v  toj  zhe  mere  proizvol'na,  kak  i
matematika, poskol'ku obe vyvodyatsya s pomoshch'yu  logicheskih  rassuzhdenij  iz
prinyatyh aksiom. Mozhno, naprimer, prinyat' za odnu iz aksiom geometrii, chto
cherez tochku, lezhashchuyu vne pryamoj, prohodit tol'ko odna pryamaya, parallel'naya
dannoj. Mozhno otbrosit'  etu  aksiomu,  i  togda  my  poluchim  neevklidovu
geometriyu. Samoe glavnoe otdavat' sebe otchet, kogda  imenno  my  postupaem
soglasno prinyatym zaranee usloviyam (kak pri vybore geometricheskih aksiom),
poskol'ku eti usloviya, etot vybor zavisyat ot nas. Mozhno prinyat' za odnu iz
aksiom morali, chto neobhodimo unichtozhat' detej s  vrozhdennymi  fizicheskimi
urodstvami. Togda my poluchim izvestnuyu  iz  istorii  "tarpejskuyu  moral'",
kotoraya v rezul'tate skandala, razrazivshegosya v  svyazi  s  talidomidom,  v
poslednie gody  podverglas'  strastnomu  obsuzhdeniyu  i  byla  okonchatel'no
otbroshena 1.  CHasto  govoryat,  chto  sushchestvuyut  vneistoricheskie   moral'nye
imperativy. S etoj tochki  zreniya  "tarpejskaya  moral'",  dazhe  v  naibolee
smyagchennoj forme (naprimer, postulat evtanazii 2 lyudej,  ispytyvayushchih  muki
vsledstvie neizlechimyh boleznej), budet amoral'noj,  budet  prestupleniem,
zlom. V dejstvitel'nosti zhe tut proishodit ocenka odnoj sistemy  morali  s
pozicij drugoj. Razumeetsya, my vybiraem druguyu, "netarpejskuyu" sistemu; no
kol' skoro my  priznaem,  chto  i  ona  voznikla  v  processe  obshchestvennoj
evolyucii cheloveka, a ne dana nam svyshe, my dolzhny priznat' i tot fakt, chto
v istorii primenyalis'  i  drugie  sistemy.  Vopros  o  rashozhdenii  morali
provozglashaemoj i morali praktikuemoj vnosit oslozhneniya v etu problemu, no
oni nas ne  interesuyut,  ibo  my  ogranichimsya  tol'ko  opisaniem  real'nyh
dejstvij, isklyuchaya  ih  vpolne  vozmozhnyj  kamuflyazh,  ili,  proshche  govorya,
dezinformaciyu. Tot, kto dezinformiruet,  provozglashaet  na  slovah  ne  tu
moral', kotoruyu  primenyaet  na  dele.  Sama  potrebnost'  v  dezinformacii
ukazyvaet  na  to,  chto  opredelennye   moral'nye   aksiomy   bezrazdel'no
gospodstvuyut v obshchestvennom soznanii, v protivnom sluchae ne bylo by  nuzhdy
v iskazhenii faktov. No dazhe sami  fakty  mogut  v  razlichnyh  civilizaciyah
poluchit' diametral'no protivopolozhnuyu ocenku.  Sravnim  moral'nye  aspekty
sovremennoj  prostitucii  i  vavilonskoj.  Vavilonskie  hramovye  bludnicy
otdavalis' ne dlya lichnogo zarabotka, a po "vysshim motivam"  -  ih  religiya
odobryala takoe povedenie. Ono bylo v polnom soglasii s moral'yu, vytekavshej
iz etoj religii. Tem samym v ramkah svoego vremeni i svoego  obshchestva  oni
ne podlezhali osuzhdeniyu - v protivopolozhnost' sovremennym kurtizankam,  ibo
po segodnyashnim moral'nym kriteriyam prostituciya - eto zlo.  Takim  obrazom,
odna i ta zhe deyatel'nost' poluchaet  dve  pryamo  protivopolozhnye  ocenki  v
predelah dvuh razlichnyh kul'tur.
     Vvedenie  kiberneticheskoj  avtomatizacii  vlechet  za  soboj  dovol'no
neozhidannye moral'nye problemy. Stafford Bir 3, odin iz pionerov v  oblasti
kibernetizacii   bol'shih   kapitalisticheskih   predpriyatij,   postuliroval
vozmozhnost' sozdaniya "firmy-gomeostata" i v  kachestve  primera  rassmotrel
teoriyu regulirovaniya deyatel'nosti  bol'shogo  stalelitejnogo  proizvodstva.
"Mozg" takogo predpriyatiya  dolzhen  tak  optimizirovat'  vse  processy,  iz
kotoryh skladyvaetsya vyplavka  stali,  chtoby  proizvodstvo  bylo  naibolee
produktivnym, effektivnym  i  nezavisimym  kak  ot  kolebanij  predlozheniya
(rabochej sily, rudy, uglya i t. d.) i sprosa, tak i ot vnutrennih izmenenij
v  sisteme  (neravnomernost'  processa  proizvodstva,  nezhelatel'nyj  rost
sebestoimosti    izdelij).    Soglasno    predstavleniyam    Bira,    takaya
proizvodstvennaya edinica dolzhna byt' ul'trastabil'nym gomeostatom, kotoryj
nemedlenno  reagiruet  na  vsyakoe  otklonenie  ot  ravnovesiya   izmeneniem
vnutrennej  organizacii   i   tem   samym   vozvrashchaetsya   k   ravnovesiyu.
Opponenty-specialisty, kotorym eta teoreticheskaya model' byla predstavlena,
obratili vnimanie na to,  chto  ej  nedostaet  "religii".  Bir  soznatel'no
smodeliroval  eto  predpriyatie-gomeostat  po  principu   dejstviya   zhivogo
organizma. No v prirode edinstvennym, po  sushchestvu,  kriteriem  "cennosti"
organizma yavlyaetsya ego sposobnost' k vyzhivaniyu lyuboj cenoj. Inache  govorya,
pri sluchae takzhe i cenoj pozhiraniya drugih organizmov. Naturalist, ponimaya,
chto v  Prirode  ne  sushchestvuet  "sistemy  moral'nyh  ocenok",  ne  schitaet
povedenie golodnyh hishchnikov amoral'nym. Takim obrazom,  voznikaet  vopros:
"mozhet li", to est' "imeet  li  pravo",  "organizm-predpriyatie"  v  sluchae
nuzhdy "pozhirat'" svoih konkurentov? Imeetsya mnogo takih voprosov;  pravda,
vozmozhno, ne stol' ostryh. K chemu dolzhno stremit'sya takoe gomeostaticheskoe
predpriyatie  -  k  maksimal'noj  proizvoditel'nosti  ili  k   maksimal'noj
pribyli? A chto, esli s hodom  vremeni  neizbezhnye  tehnologicheskie  sdvigi
sdelayut proizvodstvo stali nenuzhnym? Dolzhna li  "tendenciya  k  vyzhivaniyu",
vmontirovannaya v "mozg" takoj  proizvodstvennoj  sistemy,  privesti  k  ee
polnoj perestrojke, tak chtoby, naprimer, ona  sama  preobrazovala  sebya  v
proizvoditelya plastmass? CHem dolzhna rukovodstvovat'sya  takaya  sistema  pri
podobnoj  polnoj  reorganizacii  -  stepen'yu   maksimal'noj   obshchestvennoj
poleznosti? Ili, opyat'-taki, velichinoj pribyli? Bir  izbegaet  otvetov  na
podobnye voprosy. On govorit,  chto  nad  "mozgom"  predpriyatiya  stoit  eshche
nablyudatel'nyj sovet vladel'cev, kotoryj i prinimaet samye obshchie i  vazhnye
resheniya. "Mozg" prizvan tol'ko optimal'no realizovyvat' eti  resheniya.  Tem
samym Vir otrekaetsya ot "avtonomno-organizmennogo" principa,  vhodyashchego  v
ego koncepciyu, i  vynosit  vse  moral'nye  problemy  za  predely  "chernogo
yashchika":  v  sferu  deyatel'nosti  nablyudatel'nogo  soveta.  No  eto  tol'ko
kazhushchijsya vyhod. "CHernyj yashchik",  dazhe  ogranichennyj  takim  sposobom,  vse
ravno  budet  prinimat'  resheniya  moral'nogo   haraktera,   naprimer   pri
uvol'nenii  rabochih  ili  snizhenii  zarabotnoj  platy,  kol'  skoro  etogo
potrebuet princip optimal'nogo funkcionirovaniya  predpriyatiya  kak  celogo.
Legko  predstavit'  sebe  takzhe,  chto  predpriyatie-gomeostat  Bira   mozhet
vstupit' v "bor'bu za  sushchestvovanie"  s  drugimi  predpriyatiyami,  kotorye
sproektirovany kibernetikami, sostoyashchimi na sluzhbe  u  drugih  korporacij.
Libo vse eti mashiny budut nastol'ko ogranicheny v svoej  deyatel'nosti,  chto
im pridetsya neprestanno  obrashchat'sya  za  resheniem  k  "menedzheru"-cheloveku
(naprimer, zaprashivat' ego, skazhem, o tom, mozhno li sokrushit'  konkurenta,
esli podvernulsya sluchaj), libo zhe ih deyatel'nost', obremenennaya moral'nymi
posledstviyami, budet rasshiryat'sya.  V  pervom  sluchae  narushaetsya  osnovnoj
princip   samoregulyacii   gomeostata-proizvoditelya.   Vo   vtorom   sluchae
gomeostaty  nachnut  okazyvat'  na  sud'bu  lyudej  vliyanie,   ochen'   chasto
nepredvidennoe ih tvorcami, i delo mozhet dojti do kraha ekonomiki strany v
celom  prosto  potomu,  chto  kakoj-to  iz   gomeostatov   slishkom   horosho
spravlyaetsya s poruchennym emu delom, smetaya vseh svoih konkurentov...
     Pochemu  v  pervom  sluchae  okazyvaetsya  narushennym  princip  dejstviya
"chernogo yashchika"? Potomu chto takoj "yashchik",  takoj  regulyator  niskol'ko  ne
pohozh na cheloveka - v tom smysle,  chto  emu  nel'zya  zadavat'  voprosy  ob
obshchestvennyh  posledstviyah  prinimaemyh  im  na  kazhdom  etape  reshenij  i
ozhidat', chto on smozhet  otvetit'  na  eti  voprosy.  Kstati  govorya,  dazhe
chelovek-"menedzher" zachastuyu ne znaet  etih  otdalennyh  rezul'tatov  svoej
deyatel'nosti. "CHernyj yashchik", kotoryj dolzhen "pomoch'  vyzhit'"  predpriyatiyu,
reagiruya na vsevozmozhnye fluktuacii "vhodov" (ceny na ugol', rudu, mashiny,
zarplatu) i "vyhodov" (rynochnyh cen  na  stal',  sprosa  na  razlichnye  ee
sorta), i "chernyj yashchik", kotoryj k tomu zhe uchityval by interesy rabochih, a
mozhet byt', dazhe i konkurentov, - eto dva sovsem raznyh ustrojstva. Pervoe
kak proizvoditel' budet  effektivnee  vtorogo.  Vred,  kotoryj  gomeostaty
nanosyat rabochim, mozhno, razumeetsya, ogranichit', vvedya v ishodnuyu programmu
(v "aksiomaticheskoe yadro" povedeniya)  stat'i  trudovogo  zakonodatel'stva,
obyazatel'nogo dlya vseh vystupayushchih na rynke proizvoditelej; no  tem  samym
mozhet byt' uvelichen vred dlya konkuriruyushchih firm ili proizvoditelej stali v
drugih stranah. Odnako samoe vazhnoe sostoit v tom, chto  "chernyj  yashchik"  ne
znaet, kogda imenno on  dejstvuet  vo  vred  komu-to,  i  ot  nego  nel'zya
trebovat', chtoby on informiroval lyudej o takih posledstviyah prinimaemyh im
reshenij;  ved'  ex  definitione 4  nikto  iz   lyudej,   v   tom   chisle   i
konstruktor-proektirovshchik, ne znaet ego  vnutrennih  sostoyanij.  Vnedrenie
gomeostaticheskih regulyatorov privodit k posledstviyam takogo roda. Ih-to  i
imel v vidu Norbert Viner 5, kogda v novom izdanii svoego osnovopolagayushchego
truda "Kibernetika" posvyatil otdel'nuyu  glavu  nepredvidennym  rezul'tatam
deyatel'nosti gomeostatov. Moglo by pokazat'sya, chto opasnost'  takogo  roda
mozhno ustranit' v zarodyshe, sozdav "chernyj yashchik" vysshego tipa  v  kachestve
"mashiny dlya upravleniya", no ne lyud'mi, a podchinennymi ej "chernymi yashchikami"
otdel'nyh proizvoditelej. Posledstviya takogo shaga okazyvayutsya  chrezvychajno
interesnymi.

1  Katastrofa, vyzvannaya talidomidom, opisana v knige G. Glezera, Novejshie pobedy mediciny ("Molodaya gvardiya", 1966). - Prim. red 2  |vtanaziya (grech.) - bezboleznennoe umershchvlenie, yakoby v gumannyh celyah. - Prim. red. 3  St. Bir, Na puti k kiberneticheskomu predpriyatiyu, v sb. "Principy samoorganizacii", izd-vo "Mir", 1966. 4  Po opredeleniyu (lat.). 5  N. Viner, Kibernetika, ili upravlenie i svyaz' v zhivotnom i mashine, izd. 2-e, izd-vo "Sovetskoe radio", 1968.

[ Titul'nyj list ] [ Soderzhanie ] <= Glava chetvertaya (f) ] [ Glava chetvertaya (h) =>