відділити одне від іншого, тому що все це розумні люди, вони не дурні”.24
Ніхто не знає, що з цього всього вийде. Але я думаю, що найімовірніший сценарій такий.
НАЙІМОВІРНІШИЙ СЦЕНАРІЙ: ДРУЖНІЙ ШТУЧНИЙ ІНТЕЛЕКТ
Спочатку науковці, мабуть, уживуть якихось простих заходів, щоб роботи не стали небезпечними. Щонайменше, розробники можуть умістити в мозок роботів чіп, який автоматично їх вимкне, якщо у них з’являться думки про насильство. При такому підході всі розумні роботи будуть оснащені механізмом, що гарантує абсолютну надійність, і будь-яка людина зможе активувати цей механізм у будь-який момент, особливо якщо робот почне поводитись невідповідно. При найменших ознаках того, що робот вийшов із ладу, його можна буде миттєво вимкнути будь-якою голосовою командою.
Або ж науковці можуть створити спеціальних роботів-мисливців, чиїм обов’язком буде нейтралізувати роботів, що вийшли з ладу. Ці роботи-мисливці будуть спеціально спроектовані так, що матимуть більшу швидкість, силу й координацію рухів, аби спіймати роботів, що вийшли з ладу. Вони розумітимуть слабкі місця будь-якої ро- бототехнічної системи і знатимуть, як роботи поводяться в тих чи інших умовах. Людей теж можна цього навчити. У фільмі
Потрібно буде багато десятиріч наполегливої праці, щоб роботи повільно піднімались еволюційною шкалою, - отже, не буде такого раптового моменту, коли людей заскочать зненацька й заженуть у зоопарки, як худобу. Свідомість, як ми її розуміємо, - це процес, який можна вимірювати за певною шкалою, радше ніж раптова подія в ході еволюції; роботам буде потрібно багато десятків років, щоб піднятися по цій шкалі свідомості. Зрештою, Матінка Природа створювала людську свідомість мільйони років. Відтак для людей не настане такого дня, коли інтернет раптово “пробудиться” чи роботи почнуть самостійно розробляти плани.
Такий варіант подобається письменнику-фантасту Айзеку Азімо- ву, який передбачив, що всіх роботів проектуватимуть з урахуванням трьох законів, щоб вони не вийшли з-під контролю. Він вигадав знамениті три закони робототехніки, які мають не давати роботам завдати шкоди собі чи людям. (По суті, ці три закони зводяться до того, що роботи не можуть шкодити людям, мусять коритися людям і захищати себе - саме в такій послідовності.)
(Навіть з трьома законами Азімова виникають проблеми, коли ці закони суперечать один одному. Наприклад, якщо хтось створить доброго робота, то що станеться, якщо людство надумає зробити щось згубне для себе, що загрожуватиме його існуванню? Тоді доброзичливий робот може вирішити, що треба захопити уряд, щоб не дати людству зашкодити собі. Саме з такою проблемою зіткнувся Вілл Сміт у фільмі Д
Однак багато науковців схиляються до так званої концепції “дружнього штучного інтелекту”, в якій ми від самого початку проектуватимемо роботів так, щоб вони були добрі. Оскільки ми самі творці цих роботів, то ми й проектуватимемо їх так, щоб вони виконували тільки корисні для нас функції.
Термін “дружній штучний інтелект” вигадав Елізер Юдковський, один із засновників Інституту сингулярності. Дружній штучний інтелект трохи відрізняється від законів Азімова, які нав’язуються роботам, можливо, проти їхньої волі. (Закони Азімова, нав’язані ззовні, насправді можуть спонукати роботів вигадати якісь хитромудрі способи, як їх обійти.) В концепції дружнього штучного інтелекту роботи теоретично можуть убивати й чинити безлад. Немає жодних правил, що насаджують якусь штучну мораль. Натомість ці роботи від самого початку спроектовані так, що хочуть допомагати людям, а не нищити їх.
