Фізика майбутнього

що одна риса вирізняється з-поміж усіх інших: здатність відкласти винагороду. Як свідчать тривалі дослідження Волтера Мішела з Колумбійського університету і багатьох інших, ті діти, що вміли утриматись від миттєвої винагороди (тобто від одного маршмеллова) і воліли почекати довше на більшу винагороду (два маршмеллова замість одного), завжди в майбутньому демонстрували кращі результати майже в кожній сфері - у вступних тестах, у житті, в коханні і в кар’єрі.

Однак здатність відкладати винагороду на пізніше також пов’язана з вищим рівнем свідомості. Ці діти зуміли уявити майбутнє й усвідомити, що в майбутньому винагорода буде вища. Отже, вміння побачити майбутні наслідки наших дій вимагає вищого рівня свідомості.

Розробники штучного інтелекту повинні намагатися створити робота з усіма цими вміннями. Першого вміння - відчувати й розпізнавати середовище - досягнути важко, оскільки роботи можуть відчувати середовище, але не розуміють того, що відчувають. Самоусвідомлення досягнути простіше. Проте планування майбутнього вимагає здорового глузду - інтуїтивного розуміння того, що можливо, а що неможливо, і чітких стратегій для досягнення конкретних цілей.

Отже, бачимо, що здоровий глузд - це обов’язкова передумова для вищого рівня свідомості. Аби моделювати дійсність і передбачати майбутнє, робот мусить спершу опанувати мільйони правил здорового глузду про світ навколо нього. Проте самого здорового глузду недостатньо. Здоровий глузд - це тільки “правила гри”, радше ніж правила побудови стратегій і планування.

У цьому ракурсі можна оцінити всіх тих роботів, яких уже створили.

Бачимо, що Deep Blue, робот для гри в шахи, на цій шкалі перебуває дуже низько. Він може виграти у чемпіона світу з шахів, але більше не вміє нічого. Він може змоделювати дійсність, але тільки стосовно гри в шахи. Він не здатний змоделювати жодної іншої дійсності. Це стосується багатьох найпотужніших у світі комп’ютерів. Вони досконалі в моделюванні поведінки якогось одного об’єкта чи явища - наприклад, ядерного вибуху, потоків вітру навколо реактивного літака чи погоди. Ці комп’ютери можуть прокручувати сценарії дійсності значно краще за людей. Однак вони водночас дуже одновимірні, а отже, не придатні для виживання в реальному світі.

Сьогодні розробники штучного інтелекту не мають жодного уявлення, як продублювати всі ці процеси в роботі. Більшість здіймають у відчаї руки й кажуть, що величезні мережі комп’ютерів якось продемонструють “емерджентні явища” так само, як іноді з хаосу спонтанно виникає порядок. Коли їх запитують, як саме ці емерджентні явища створять свідомість, більшість просто розводять руками.

Хоча ми не знаємо, як створити робота зі свідомістю, ми можемо уявити, використовуючи цю схему для вимірювання свідомості, як виглядав би робот, якби він був досконалішим за нас.

Такі роботи досконало володіли б третьою здатністю: вони б уміли набагато краще за нас прокручувати складні сценарії майбутнього, з більшої кількості ракурсів і з більшою кількістю деталей та більшою глибиною. їхні моделі майбутнього були б точніші за наші, тому що вони краще володіли б здоровим глуздом і правилами природи, а отже, краще виявляли б закономірності. Вони б передбачали проблеми, які ми б могли зігнорувати чи взагалі не зауважити. Щобільше, вони могли б ставити власні цілі. Якщо їхні цілі передбачатимуть допомогу людству, то все добре. Однак якщо одного чудового дня вони визначать цілі так, що люди виявляться для них зайвими, то це може мати сумні наслідки.

Отже, постає наступне питання: Що при такому сценарії станеться з людьми?

КОЛИ РОБОТИ ПЕРЕВЕРШАТЬ ЛЮДЕЙ

В одному сценарії ми, слабкі люди, просто опиняємось на узбіччі як пережиток еволюції. Згідно з законом еволюції, більш