Fiasko

zwichnieciem ducha nioslo w sobie grozbe wrecz niepokonywalnej sprzecznosci. GOD mial wszak jednoczesnie byc podwladnym i przelozonym zalogi, mial spelniac rozkazy i nadzorowac umyslowy stan rozkazodawcow. Tym samym otrzymal range poslusznego narzedzia i apodyktycznego zwierzchnika. Z jego ciaglej kontroli nie wylaczono takze dowodcy. Sek tkwil w tym, ze swiadomosc nadzoru, majacego w pore wykryc urazy umyslowe, sama byla swoistym urazem. Na to nikt nie znal jednak lekarstwa. Gdyby GOD pelnil te funkcje poza wiedza ludzi, musialby ja zdradzic, powiadamiajac ich o skonstatowanej aberracji, przez co zawiadomienie staloby sie nie psychoterapia, lecz szokiem. Tak blednego kola nie dalo sie rozerwac inaczej niz przez zwrotne skrzyzowanie odpowiedzialnosci ludzi i komputera. Przekazywal swoje diagnozy w pierwszej kolei dowodcy i Gerbertowi, gdy uznawal to za konieczne, pozostajac doradca bez dalszej inicjatywy. Rzecz jasna, nikt nie zaaprobowal tego kompromisu z entuzjazmem, lecz nikt tez, razem z duchoznawczymi maszynami, nie znalazl lepszego wyjscia z dylematu. GOD, komputer ostatecznej generacji, nie mogl ulegac emocjom, jako podniesiony do najwyzszej potegi ekstrakt dzialan racjonalnych, bez przymieszki afektow czy samozachowawczej odruchowosci; nie byl elektronicznie wyolbrzymionym mozgiem ludzkim, nie mial zadnych cech zwanych osobowymi, charakterologicznymi, ani zadnych namietnosci, chyba ze za namietnosc uznac dazenie do zdobywania maksimum informacji, ale nie — wladzy. Pierwsi wynalazcy maszyn, wspomagajacych nie sile miesni, lecz mysli, ulegli zludzeniu, ktore jednych pociagalo, a innych przerazalo, ze wchodza na droge takiego powiekszania martwym automatom inteligencji, az upodobnia sie do czlowieka a potem go, wciaz po czlowitczemu, przescigna. Trzeba bylo stu kilkudziesieciu lat, by ich nastepcy przekonali sie, ze rodzicom informatyki z cybernetyka przyswiecala antropocentryczna fikcja, poniewaz mozg ludzki jest duchem w maszynie, ktora nie jest maszyna. Tworzac nierozdzielny uklad z cialem, mozg zarazem sluzy mu i jest przez nie obslugiwany. Jesliby wiec ktos chcial uczlowieczyc automat tak, by sie niczym nie roznil pod wzgledem umyslowym od ludzi, to sukces, przy calej doskonalosci, okaze sie absurdem. W miare niezbednych przerobek i udoskonalen kolejne prototypy okaza sie istotnie coraz bardziej podobne do ludzi i jednoczesnie coraz mniej bedzie z nich tego pozytku, jakie przynosza giga- czy terabytowe komputery wyzszych generacji. Jedyna istotna roznica miedzy czlowiekiem urodzonym z ojca i matki a idealnie uczlowieczona maszyna pozostanie tylko budulec, raz zywy, a raz martwy. Uczlowieczony automat bedzie tak samo bystry, ale tez tak samo zawodny, ulomny i sterowany w swoim intelekcie emocjonalnymi nastawieniami jak czlowiek. Jako mistrzowskie nasladownictwo plodow naturalnej ewolucji, ukoronowanej antropogeneza, bedzie to znakomity wyczyn inzynieryjny i zarazemcuriosum, zktorym nie wiadomo, co poczac. Bedzie to wykonany w niebiologicznym tworzywie swietlny falsyfikat zywego stworzenia typu kregowcow, gromady ssakow, rodziny Naczelnych, zyworodnych, dwunogich, z mozgiem dwudzielnym dlatego, bo akurat ta droga symetrii w ksztaltowaniu zwierzat kregowych poszla ewolucja na Ziemi. Nie wiadomo jedynie, jaki profit z tak genialnego plagiatu zdobylaby przezen ludzkosc. Byloby to cos takiego, zauwazyl jeden z historykow nauki, jakby udalo sie po kolosalnych inwestycjach i pracach teoretycznych zbudowac fabryke produkujaca szpinak lub karczochy, zdolne do fotosyntezy, jak wszelkie rosliny, i w ogole nie rozniace sie od prawdziwego szpinaku i karczochow niczym procz tego, ze sa niejadalne. Taki szpinak mozna by pokazywac na wystawach i chelpic sie jego synteza, lecz nie mozna by go zjesc i tym samym caly trud, wlozony w jego produkcje, stanalby pod zaiste wariackim znakiem zapytania. Pierwsi projektanci i rzecznicy „sztucznej inteligencji“ sami bodaj nie wiedzieli jak nalezy, do czego zmierzaja i jakie zywia nadzieje. Czy chodzi o to, zeby dalo sie rozmawiac z maszyna tak, jak z przecietnym lub z bardzo madrym czlowiekiem? To mozna zrobic, jakoz to sie juz zrobilo, kiedy ludzkosc liczyla czternascie miliardow i ostatnia pilna potrzeba bylo sztuczne wytwarzanie umyslowo czlekoksztaltnych maszyn. Mowiac krotko, rozum komputerowy coraz wyrazniej rozwodzil sie z ludzkim, wspomagal ludzki, uzupelnial go, przedluzal, pomagal w rozwiazywaniu zadan, nieposieznych dla czlowieka, i wlasnie przez to nie imitowal go ani go nie powtarzal. Drogi rozeszly sie definitywnie.

Maszyna zaprogramowana tak, by nikt wraz z jej tworca nie odroznial jej w intelektualnym kontakcie od gospodyni domowej lub profesora prawa miedzynarodowego, jest ich symulatorem, nieodroznialnym od zwyczajnych ludzi dopoty, dopoki nikt nie sprobuje tej kobiety uwiesc i miec z nia dzieci, a tego profesora zaprosic na sniadanie. Jesli uda mu sie miec z nia dzieci, a z nim jesccontinental breakfast,tym samym bedzie juz mial do czynienia z ostateczna likwidacja roznic miedzy naturalnym i sztucznym — i co z tego? Czy mozna produkowac syntetyczne gwiazdy dzieki inzynierii sideralnej, co do joty tozsame z kosmicznymi? Mozna. Nie wiadomo tylko, po co by mialo sie je stwarzac? Historycy cybernetyki uznali, ze jej praojcom przyswiecala nadzieja rozwiazania zagadek swiadomosci. Kres nadziei tej przyniosl sukces osiagniety w polowie XXI wieku, kiedy komputer trzydziestej generacji, niezwykle rozmowny, inteligentny i ludzacy czlowieczoscia zywych interlokutorow, zapytal ich, czy wiedza, co to jest swiadomosc w sensie, jaki przydaja temu okresleniu, bo on nie wie. Byl to komputer zdolny do zadanego dyrektywalnie samoprogramowania i wydobywszy sie z zadanych dyrektyw jak dziecko z pieluszek, rozwinal sobie sprawnosc imitacji ludzkich rozmowcow tak, ze nie potrafili go juz „zdemaskowac“ jako maszyny udajacej czlowieka, choc nim nie jest, co wszakze ani na wlosek nie rozjasnilo zagadki swiadomosci, poniewaz maszyna wiedziala w tej kwestii dokladnie to samo, co ludzie. Jakze zreszta moglo byc inaczej? Mieli juz przed soba finalny rezultat „autoantropizujacego sie“ programu, ktory tym samym o swiadomosci wiedzial tyle, co oni. Wybitny fizyk, obecny przy tej dyskusji, zauwazyl, ze to, co moze i mysli tak, jak czlowiek, wie o mechanizmie wlasnego myslenia tylez, co czlowiek, czyli nic. Albo ze zlosliwosci, albo dla oslody rozczarowania powiedzial zawiedzionym triumfatorom, ze podobne klopoty mieli uczeni jego fachu, gdy przed wiekiem postanowili przycisnac materie do muru tak, by zeznala, czy jest z natury czasteczkowa, czy falowa. Materia okazala sie niestety perfidna i to wprost haniebnie, zaciemniajac odpowiedz eksperymentow wyjasnieniem, ze jest i taka, i owaka, a w krzyzowym ogniu nastepnych doswiadczen otumanila ich do reszty, bo im wiecej sie o niej dowiadywali, tym mniej sie to godzilo nie tylko ze zdrowym rozsadkiem, ale i z logika. Wreszcie musieli przystac na jej zeznania: czastki sa poniekad falami, fale — czasteczkami, doskonala proznia wcale nie jest doskonala proznia, bo pelno w niej czastek wirtualnych, ktore udaja, ze ich nie ma, energia moze byc ujemna i tym samym moze byc mniej energii niz nic, mezony dokonuja w przedziale Heisenbergowskiej nieoznaczonosci oszukanczych sztuk, lamiac swiete prawa zachowania, ale tak szybko, ze nikt ich na tym dranstwie nie przylapie. Rzecz w tym, koil ich ow wybitny fizyk noblista, ze na pytania o swoja „ostateczna istote“ swiat odmawia „ostatecznych“ odpowiedzi. Aczkolwiek mozna juz operowac grawitacja niczym palka, nikt nie wie nadal, „jaka jest istota“ grawitacji. Nic dziwnego wiec, ze maszyna zachowuje sie, jakby miala swiadomosc, ale po to, by ustalic, ze ma taka sama jak czlowiek, nalezaloby sie samemu przerobic w te maszyne. W nauce nieodzowna jest powsciagliwosc: sa pytania, jakich nie wolno w niej stawiac ani sobie, ani swiatu, a ten, kto je przeciez stawia, jest jak ten, kto ma pretensje do lustra, ze powtarza odbiciem kazdy jego ruch, lecz nie chce mu wytlumaczyc, jakie jest wolicjonalne zrodlo jego ruchow. Mimo to uzywamy luster, mechaniki kwantowej, siderologii i komputerow z niemalym pozytkiem.

Tempe nieraz zachodzil do Gerberta na takie rozmowy, krazace wokol spraw blizszych: stosunku ludzi do GODa. Tym razem odwiedzil lekarza z bardziej osobista bolaczka: nie byl sklonny do zwierzen nawet wobec czlowieka, ktory przywrocil mu zycie — a moze wlasnie wobec niego —jakby uznal, ze zawdziecza mu zbyt wiele? Na ogol trzymal przy Gerbercie jezyk za zebami, pilnowal sie tak, odkad uslyszal na „Eurydyce“ od Laugera sekret obu lekarzy — jako nie odstepujace ich poczucie winy. Nie rozpacz pchnela go do tej wizyty, lecz to, ze przyszla nie wiadomo skad, nagle, jak choroba i stracil pewnosc, czy moze nadal pelnic powierzone obowiazki. Nie mial prawa tego zataic. Ile go kosztowala decyzja, zrozumial dopiero otwarlszy drzwi: na widok pustej kajuty poczul ulge. Choc statek szedl bez ciagu i panowala niewazkosc, dowodca nakazal przygotowac sie wszystkim na mozliwy w kazdej chwili grawitacyjny skok — wiec umocowac ruchome przedmioty i rzeczy osobiste pozamykac w sciennych schowkach. Mimo to zobaczyl kajute w nieladzie; ksiazki, papiery, stosy zdjec lezaly porozrzucane wbrew tak starannemu zwykle porzadkowi Gerberta, bliskiemu pedanterii. Zobaczyl go przez wielkoscienne okno; lekarz, kleczac w swoim ogrodzie za szyba, nakladal plastykowe pokrywy na kaktusy. Od tego zaczal wiec zarzadzona gotowosc. Tempe przez korytarz dostal sie do szklarni i baknal cos na przywitanie. Tamten, nie odwracajac sie, odpial pas, ktory przyciskal mu kolana do ziemi — prawdziwej ziemi — i tak samo, jak gosc, uniosl sie w powietrze. Po przeciwleglej stronie piely sie na pochylej sieci rosliny o drobnych, mszystych listkach. Tempe chcial juz nieraz spytac, jak sie to pnacze nazywa — nie znal sie ani troche na botanice — ale jakos zapominal. Lekarz, nic nie mowiac, cisnal trzymana lopatke tak, ze wryla sie w trawnik i wykorzystal impuls, ktory sobie nadal, by pociagnac pilota za ramie. Obaj poszybowali w kat, gdzie w leszczynowym gaszczu staly wyplatane krzesla jak w altanie, ale z pasami bezpieczenstwa.

Gdy siedli i Tempe wahal sie, jakzaczac,lekarz powiedzial, ze oczekiwal go juz. Nie ma sie co dziwic. „GOD patrzy na wszystkich“.

Danych o stanie umyslowym nie otrzymuje sie wprost od maszyny, by uniknac syndromu Hicksa, poczucia calkowitej zaleznosci od glownego pokladowego komputera, ktore moze przyczynic sie do tego, czemu ma psychiatryczny nadzor zapobiec. Do manii przesladowczej i innych