пристосовані види витісняють менш пристосовані, і, можливо, люди стануть жертвою в цих перетасуваннях і зрештою опиняться в зоопарках, куди наші творіння-роботи приходитимуть подивитись на нас. Можливо, така наша доля: створити суперроботів, які трактуватимуть нас як дуже примітивну ланку в своїй еволюції. Можливо, в цьому полягає наша історична роль - витворити наших наступників в еволюції. В такому разі ми мусимо поступитися їм дорогою.
Дуґлас Гофштадтер сказав мені по секрету, що це могло б бути природним порядком речей, але ми повинні ставитись до цих над- розумних роботів як до власних дітей, бо в деякому сенсі вони і є нашими дітьми. Якщо ми можемо дбати про своїх дітей, сказав він мені, то чому ми не можемо так само дбати про розумних роботів, які теж є нашими дітьми?
Ганс Моравек роздумує, як ми могли б почуватися, якби наші роботи нас перевершили: “.. .життя може втратити сенс, якщо ми будемо приречені проводити його, тупо витріщаючись на наші творіння, коли ті намагатимуться описати нам спрощеною мовою, яку ми будемо здатні зрозуміти, свої дедалі більш приголомшливі відкриття”.20
Щойно нарешті настане той доленосний день, коли роботи стануть розумнішими за нас, ми не тільки перестанемо бути найрозумнішими створіннями на Землі, а й наші творіння, ймовірно, зможуть продукувати копії самих себе, що будуть навіть розумнішими за них. Ця армія самовідтворних роботів породить безліч майбутніх поколінь роботів - кожне розумніше за попереднє. Оскільки роботи, теоретично, можуть створювати дедалі розумніші покоління роботів за дуже короткий проміжок часу, врешті-решт цей процес різко пришвидшиться, і роботи почнуть пожирати ресурси планети, гнані ненаситною потребою ставати щораз розумнішими.
Згідно з одним сценарієм, ця безмежна жадоба дедалі більшого інтелекту зрештою виснажить ресурси цілої планети, і ціла Земля стане комп’ютером. Дехто передбачає, що потім ці надрозумні роботи вирушать у космос у пошуках нового інтелекту й досягнуть інших планет, зірок і галактик, аби перетворити їх на комп’ютери. Але оскільки планети, зірки й галактики розташовані так неймовірно далеко, то, можливо, цей комп’ютер зуміє змінити закони фізики і його ненажерливий апетит зможе рухатися швидше від світла, щоб проковтнути цілі сонячні системи й галактики. Дехто навіть уважає, що він може проковтнути цілий Усесвіт і Всесвіт стане розумним.
Це “сингулярність”. Цей термін первинно походить із релятивістської фізики, моєї власної спеціальності, де сингулярність означає точку з безмежним тяжінням, з якої ніщо не може втекти, - на кшталт чорної діри. Оскільки з такої точки не може втекти навіть світло, то це горизонт, поза яким бачити неможливо.
Ідея про сингулярність штучного інтелекту вперше прозвучала 1958 року в розмові між двома математиками - Станіславом Уля- мом (який здійснив основний прорив у створенні водневої бомби) і Джоном фон Нойманном. Улям написав: “В одній розмові йшлося про дедалі швидший поступ технологій і зміни в укладі життя людей, що схоже на наближення до якоїсь важливої сингулярності в історії людства, після якої попередній стиль життя вже не зможе продовжуватись”.21 Упродовж кількох десятиріч різні версії цієї ідеї з’являлися і зникали. А пізніше цю ідею популяризував у своїх романах і оповіданнях письменник-фантаст і математик Вернор Віндж.
Однак це залишає без відповіді головне питання: Коли настане ця сингулярність? За нашого життя? Можливо, в наступному сторіччі? Чи ніколи? Пригадуємо, що учасники Асиломарської конференції 2009 року називали різні дати в проміжку від наступних 20 до 1000 років.
Один із прибічників ідеї сингулярності - винахідник і автор бестселерів Рей Курцвейл, котрий любить робити передбачення на основі експоненціального зростання технологій. Курцвейл якось сказав мені, що дивлячись уночі на зірки, він думає, що десь на небі мають бути якісь космічні ознаки сингулярності, що відбувається в якійсь далекій галактиці. Якщо внаслідок швидкого розширення сингулярності зникають або змінюються цілі сонячні системи, то після цього мусять залишатись якісь сліди. (Критики кажуть, що він нагнітає довкола ідеї сингулярності мало не релігійний запал. Утім, його
