просто не разбират колко опасни могат да бъдат плодовете на просвещението.
— А какво стана с работата на Малет?
— С библейските фанатици ли?
Тя отново сви рамене.
— Забраната за трансплантация на зародишни клетки не е зле, но няма да попречи на разработките на паралелни методи. Дори Франкенщайн няма да ги уплаши и да ги накара да зарежат изследванията на рекомбинантна ДНК, и ако допуснем това, само след няколко години някоя ветеринарна лаборатория ще обяви, че е разшифровала основните звена ДНК, а оттам не е далеч и до създаване на специална еднокристална лаборатория за синтез на ДНК. Всичко, което им трябва, е примитивен апарат за плетене на хромозоми, управляван от оперон. Още един маршрут към изкуствения интелект. Каквото и да става, тези гадове няма да отстъпят.
— Упорити са като леминги…
Вече излизахме от северните предградия на Лондон, покрай спящи оранжерии и огрени от оранжева светлина пустинни улици. Опитвах се да впечатам в паметта си всеки детайл, знаех, че виждам всичко това за последен път.
— Прекалено много маршрути водят до катастрофален пробив, веднага щом почнат да мислят в термините на алгоритмичната интеграция и загреят как да я понижат. А щом ченгетата им се доберат до криптоанализа или повсеместното автоматично наблюдение, изкушението става твърде силно. Може и да ни трябва свят, пълен с психясали умници, притежаващи свръхголеми интегрални схеми и нанотехнология, но неподозиращи за истинското им предназначение, но аз се съмнявам…
— Ако навремето бяхме очистили Тюринг или му бяхме запалили хартията в плотерите…
Аз махнах на келнера.
— Една бира, моля. И за приятелката ми също.
Той се отдалечи.
— Твърде късно. Тезисът на Чърч-Тюринг се подразбира във формулировката на една от задачите на Хилберт, където се пита възможно ли е по принцип математическо устройство за автоматично доказателство на теореми. Което води със себе си идеята за универсална машина. А пък задачата на Хилберт се подразбира в Principia Mathematica на Уайтхед и Ръсел. Самоубийство чрез числа.
До дясната ми ръка се появи чаша.
— Доколкото разбирам, ние водим война, предварително обречена на поражение. Може би ако не бяхме слагали пръти в колелата на Бабидж, щяхме да разработим изчислителна технология именно за тази цел и в резултат математиците щяха да игнорират всички низши по тяхно мнение хорица — практици, инженери и други подобни. Само че и тук не съм оптимист. Да настроиш цяла цивилизация срещу създаването на изкуствен интелект е една от най-сложните задачи, и за нейното решаване не са измислили алгоритъм. Мисля, че щом цивилизацията стигне до теорията на универсалния компютър и някой си постави за цел да създаде изкуствен интелект, никаква преграда не може да спре събитията. Със същия успех можеш да излетиш и да ги замерваш от орбита с железа: все едно, по-лошо няма да стане.
— Ти ми приличаш на героя от разказа за храброто холандско момче — забеляза Ив, надигайки чашата си. — За малките холандчета, където и да се намират. За героите, запушващи с пръсти дупките в дигите.
— Наздраве. Впрочем кога идва спасителният кораб? Страшно ми се ще да се прибера у дома: тази вселена си проигра шансовете.
В тази времева линия Единбург не напомняше нито активен вулкан, нито облак зли наноботове, нито столица на викингската империя, затова пък имаше две гари. По-голямата се намираше под земята. Като се прозявах и се мъчех да не чеша възпалените си бузи и шия, аз вървях по дългия перон, търсейки с поглед будка за вестници. По предварителна договорка Ив се правеше, че не ме познава: трябваше да се срещнем по-късно, след като отново се преоблечем и сменим прическите си. Представете си: качват се в Лондон, той е с брада, а тя — с дълга коса и делови костюм, и слизат на различни гари — той е избръснат, а тя — с къса прическа и спортно облекло. Естествено този маскарад няма да заблуди нито опитните детективи, нито възрастните богове, но някой бог-ученик, още не достигнал пълно могъщество и не разбрал докрай какво е да си човек, спокойно може да се обърка.
И така, будката е отворена. Трябваше да убия два часа, затова купих няколко вестника и се отправих към ресторанта, разположен в причудливо украсената викторианска грамада под мръсния стъклен покрив на гарата.
Четенето на вестници ми подейства потискащо: идиотите все си знаеха своето. Имах опит от много световни линии, бях свидетел на различни исторически периоди и смятах, че някои от тях бяха много по-зле от този сега: тук поне бяха преживели двадесети век, без да си забъркат ядрена война в планетарен мащаб или да създадат глобална теокрация. Но и тук имаше достатъчно идиотизъм, при това с времето той нарастваше.
Да оставим Балканите: на четвърта страница в бизнес-новините препоръчваха да се купуват акциите на някаква малка компания, произвеждаща CCD-камери с едночипови невронни мрежи за разпознаване на лица. Да зарежем израелската криза: на втора страница на международните новини имаше материал за някаква индийска софтуерна фирма, сблъскала се с конкуренция от страна на кодогенераторите. Статията явно бе писана с цел да пришпори западните програмисти да работят повече и по-евтино. Някаква лаборатория от Токио се опитва да монтира вентилна матрица с експлоатационно програмиране в невронна мрежа — дяволски хитър ход. И като капак — саркастично писмо до редактора с намек, че така нареченият информационен поток в наши дни най-много от всичко прилича на улично задръстване.
Кретени! Не разбират към какви опасни дълбини се стремят и колко гладни акули могат да срещнат по пътя си… Сляпо упорство. Своеволна тъпота.
Дилемата е проста, но убийствена. Автоматизацията е нещо като наркотик. Води до привикване и желание за още по-голяма доза. Ако във вашата страна не цари така наречената планова икономика, призвана преди всичко да поддържа работни места за хората, а не да произвежда качествени стоки, производството трябва да се автоматизира — естествено, след като се появят достъпни методи за това. В същото време, правейки тази крачка, вие съзнавате, че път назад няма. Не може да се върнете към ръчния труд: или работата е прекалено голяма, или предишните навици вече за загубени, навеки потънали в бездната на вътрешната структура на софтуера, заменил работниците.
Добавете към това изкуственият интелект. Независимо от всички пропагандни опити да бъдат убедени хората в обратното, ИИ може да бъде създаден с отчайваща лекота. Човешкият мозък съвсем не е толкова уникален, съвсем не е толкова добре настроен и съвсем не се нуждае от осемдесет милиарда неврона, обединени в асинхронна мрежа, за да се породи съзнанието. Макар че за наивните невежи идеята изглежда прекрасна, всъщност това е пълна катастрофа. Да се мечтае за общество, основано на автоматизацията, е все едно да се построи във всеки град завод, работещ с ядрена енергия, и при това да се надяваме, че никое инженерче няма да създаде проект за атомна бомба.
Но нещата с автоматизацията и компютъризацията са още по-зле. Представете си, че съществува бърза и примитивна технология за получаване на плутоний в банята; как може да сте сигурен, че съседът няма да направи нещо подобно в свойта и няма да вдигне града във въздуха? Ако Ив, Малет, аз, Уолтър, Валери и още куп агенти не пречат на това…
Веднага щом ИИ се появи на промишлено ниво, той ще се стреми да се внедри в главната система, съвсем като вируса на хеморагичната треска. Слабо функциониращият ИИ ще се оптимизира, за да си вдигне бързодействието, после ще потърси вратичка в законите на алгоритмиката от първи ред, като онази, която откри покойният доктор Дюрант. Следващият етап може да бъде опит за самоиздигане на по-високо ниво на интелект и разпространение по мрежите с цел заграбване на повече мощност, памет и резерви. В резултат получаваме неконтролирано отстъпление на съзнанието, иначе казано, разрушаване на интелекта. Да се спре този процес е почти невъзможно. Значи всичко ще се реши ако не за дни, то за седмици. За това време изпуснатият извън контрол ИИ ще нахлуе във всички изкуствени компютри на земята, а скоро след това ще почне да заразява и естествените. Играта е свършила, вие сте загубили. По земята още ще крачат човешки
