Рациональность: от ИИ до зомби (другой перевод) - Элиезер Шломо Юдковски
*
1. Макс Тегмарк, «Параллельные вселенные», в Science and Ultimate Reality: Quantum Theory, Cosmology, and Complexity, под ред. Джона Д. Барроу, Пола К. У. Дэвиса и Чарльза Л. Харпера-младшего (New York: Cambridge University Press, 2004), 459–491.
Часть Б. Псевдоубеждения.
11. Заставляя убеждения платить за аренду (ожидаемым опытом). Так начинается древняя притча:
Если дерево падает в лесу и никто этого не слышит, издает ли оно звук? Один говорит: «Да, издает, ведь оно создает колебания воздуха». Другой говорит: «Нет, не издает, ведь ни в одном мозгу не происходит обработки слуховой информации».
Предположим, что после падения дерева оба они вместе идут в лес. Будет ли один из них ожидать, что дерево упало вправо, а другой — что оно упало влево? Предположим, что перед падением дерева они оставили рядом с ним звукозаписывающее устройство. Будет ли один из них при воспроизведении записи ожидать услышать что-то иное, чем другой? Предположим, они подключают электроэнцефалограф к какому-нибудь мозгу; ожидает ли один увидеть на ленте иную кривую, чем другой? Хотя они спорят — один говорит «нет», а другой «да», — они не ожидают никаких различий в своем опыте. Оба думают, что у них разные модели мира, но между ними нет никакой разницы в том, что, по их ожиданиям, произойдет с ними.
Возникает соблазн устранить этот класс ошибок, настаивая на том, что единственный допустимый вид убеждений — это ожидание чувственного опыта. Но мир на самом деле содержит много такого, что не воспринимается напрямую. Мы не видим атомов, из которых состоит кирпич, но атомы действительно там есть. Под вашими ногами есть пол, но вы не воспринимаете его напрямую; вы видите свет, отраженный от пола, или, скорее, вы видите то, во что ваша сетчатка и зрительная кора переработали этот свет. Сделать вывод о существовании пола на основании того, что вы его видите, — значит сделать шаг назад, к невидимым причинам опыта. Это может казаться очень коротким и прямым шагом, но это все же шаг.
Вы стоите на крыше высокого здания рядом с напольными часами с часовой, минутной и тикающей секундной стрелками. В руке у вас шар для боулинга, и вы бросаете его с крыши. На каком тиканье часов вы услышите грохот удара шара о землю?
Чтобы ответить точно, вам понадобятся такие убеждения, как земное притяжение составляет 9,8 метра в секунду за секунду, и высота этого здания — около 120 метров. Эти убеждения не являются бессловесным ожиданием чувственного опыта; они выражены словами, они пропозициональны. Пожалуй, не будет большим преувеличением описать эти два убеждения как предложения, состоящие из слов. Но у этих двух убеждений есть логическое следствие, которое представляет собой прямое ожидание чувственного опыта: если в момент броска секундная стрелка часов находится на цифре 12, вы ожидаете увидеть ее на цифре 1, когда услышите грохот пятью секундами позже. Чтобы предвидеть чувственный опыт как можно точнее, мы должны оперировать убеждениями, которые сами по себе не являются ожиданиями чувственного опыта.
Великая сила Homo sapiens заключается в том, что мы способны — лучше любого другого вида в мире — учиться моделировать невидимое. Но это также и одна из наших главных слабостей. Люди часто верят в вещи, которые не просто невидимы, но и нереальны.
Тот же мозг, который выстраивает сеть выводимых причин за пределами чувственного опыта, может выстроить и сеть причин, не связанных или плохо связанных с чувственным опытом. Алхимики верили, что флогистон вызывает огонь — мы могли бы упрощенно представить структуру их разума, нарисовав небольшой узел с надписью «Флогистон» и стрелку от него к их чувственному восприятию потрескивающего костра, — но это убеждение не давало никаких опережающих предсказаний; связь флогистона с опытом всегда устанавливалась уже после получения опыта, а не ограничивала его заранее. Или предположим, что ваш постмодернистский профессор литературы учит вас, что знаменитый писатель Вулки Уилкинсен на самом деле «постутопист». Что из этого следует ожидать от его книг? Ничего. Это убеждение, если его вообще можно так назвать, никак не связано с чувственным опытом. Но вам лучше запомнить это пропозициональное утверждение о том, что у «Вулки Уилкинсена» есть атрибут «постутопизма», чтобы выплюнуть его на предстоящем тесте. Точно так же, если «постутопистам» свойственно «колониальное отчуждение»; если в тесте спросят, свойственно ли Вулки Уилкинсену колониальное отчуждение, вам лучше ответить «да». Эти убеждения связаны друг с другом, но все еще никак не связаны с каким-либо ожидаемым опытом.
Мы можем выстраивать целые сети убеждений, связанных исключительно друг с другом — назовем их «плавающими» убеждениями. Это уникальный для человеческого рода изъян среди всех видов животных, извращение способности Homo sapiens строить более общие и гибкие сети убеждений.
Рационалистическая добродетель эмпиризма заключается в том, чтобы постоянно спрашивать, какие именно переживания предсказывают наши убеждения — или, что еще лучше, какие они запрещают. Вы верите, что флогистон — причина огня? Тогда что именно, по вашим ожиданиям, должно произойти из-за этого? Вы верите, что Вулки Уилкинсен — постутопист? Тогда что вы ожидаете увидеть в связи с этим? Нет, не «колониальное отчуждение»; что именно вы ощутите? Вы верите, что если дерево падает в лесу и никто его не слышит, оно все равно издает звук? Какой же опыт должен тогда выпасть на вашу долю?
Еще лучше спросить: какой опыт не должен с вами произойти? Вы верите, что élan vital объясняет таинственную оживленность живых существ? Тогда чему это убеждение не позволяет случиться — что могло бы однозначно его опровергнуть? Нулевой ответ означает, что ваше убеждение никак не ограничивает опыт; оно позволяет произойти с вами чему угодно. Оно плавает.
Когда вы спорите по вопросу, который кажется фактологическим, всегда помните, о каком именно различии в ожиданиях идет спор. Если вы не можете найти разницу в ожиданиях, вы, скорее
