Рациональность: от ИИ до зомби (другой перевод) - Элиезер Шломо Юдковски

Говорят, это связано с определением себя через собственный «интеллект», а не через «усилия»: ведь в таком случае легкая победа служит признаком вашего «интеллекта», тогда как неудачу в сложной задаче можно было бы трактовать как достойную попытку.

Впрочем, я не вполне уверен, что именно так опытный рационалист должен думать об этих вещах: рациональность — это систематизированная победа, а «попытки пытаться» кажутся путем к неудаче. Я бы сформулировал это так: гипотеза предполагает проверку! Если вы не знаете, победите ли в сложной задаче, то бросьте вызов своей рациональности, чтобы узнать свой текущий уровень. Обычно я не одобряю поздравления самого себя за попытку — мне это кажется вредной ментальной привычкой, — но уж точно не пытаться — еще хуже. Если вы выработали общую привычку принимать вызовы и победили хотя бы в некоторых из них, то, возможно, вы можете подумать: «Я сохранил привычку принимать вызовы и сделаю это снова в следующий раз». Вы также можете подумать: «Я получил ценную информацию о своем текущем уровне и о том, что мне нужно улучшить», — при условии, что вы правильно закончите мысль: «Я постараюсь не получать эту же ценную информацию снова в следующий раз».

Если вы побеждаете каждый раз, значит, вы недостаточно напрягаетесь. Но вы должны изо всех сил стараться победить каждый раз. А если вы будете слишком сильно утешать себя в случае неудачи, вы потеряете волю к победе и превратитесь в скраба.

Когда я пытаюсь представить, что сказал бы по этому поводу вымышленный магистр Заговора Соперничества, получается что-то вроде: «Проигрывать — не нормально. Но боль поражения — это не то, чего стоит настолько бояться, чтобы избегать вызовов из страха перед ней. Она не настолько страшна, чтобы тщательно избегать её переживания или отказываться признать, что вы проиграли, и проиграли с треском. Проигрывать и должно быть больно. Если бы это не ранило, ты не был бы Соперником. И нет ни одного Соперника, который никогда бы не познал боль поражения. А теперь иди и побеждай».

Вырабатывайте привычку принимать вызовы — возможно, не те, что могут вас сразу убить, но, скажем, те, что потенциально могут вас унизить. Недавно я читал об одном теисте, который победил Кристофера Хитченса в дебатах (причем разгромно; так говорили сами атеисты). И я тут же написал ребятам из Bloggingheads и спросил, не могут ли они организовать дебаты. Он показался мне тем, с кем захотелось помериться силами. Кроме того, они говорили, что Кристоферу Хитченсу следовало посмотреть прошлые дебаты этого теиста и подготовиться, поэтому я решил этого не делать: я считаю, что должен уметь справляться практически с чем угодно на лету, и хочу узнать, верна ли эта мысль; ради этого я готов рискнуть публичным унижением. Обратите внимание, что это не самосаботаж в классическом смысле: если дебаты действительно состоятся (мне пока не ответили), а я не подготовлюсь и проиграю, то я действительно проиграю ту ставку, которую сделал на самого себя; я получу информацию о своих пределах; я не дам себе ничего, что счел бы оправданием для поражения.

Разумеется, так стоит думать лишь тогда, когда вы действительно принимаете вызов ради проверки себя, а не потому, что вам нужно победить любой ценой. В этом случае вы облегчаете себе задачу настолько, насколько это возможно. Поступить иначе было бы проявлением феноменальной самоуверенности, даже если вы играете в крестики-нолики с трехлетним ребенком.

Более тонкая форма недостаточной уверенности — это утрата набранного темпа на фоне осознания всего того, что люди делают неправильно, что вы сами раньше делали неправильно и в чём вы, вероятно, до сих пор продолжаете ошибаться. Вы становитесь робкими; вы сомневаетесь в себе, но не отвечаете на собственные вопросы, чтобы двигаться дальше; когда вы предполагаете собственную неспособность к чему-то, вы не подвергаете эту гипотезу проверке.

Быть может, без какого-либо переломного момента, когда вы намеренно и осознанно решаете не пытаться пройти конкретное испытание... вы просто... замедляетесь...

Кажется, что больше не стоит и пытаться исправить что-то одно, когда еще дюжина других вещей по-прежнему будут неправильными...

Надежды на триумф слишком мало, чтобы вдохновить вас стараться изо всех сил...

Когда вы думаете о том, чтобы сделать что-то новое, в голове сразу возникает дюжина вопросов о ваших способностях, и вам даже не приходит в голову, что вы могли бы ответить на эти вопросы, испытав себя...

И, начитавшись о мудрости человеческих слабостей, начинает казаться, что путь мудрости — в вечном сомнении (без разрешения этих сомнений), в вечном смирении отказа (но не в смирении подготовки) и вообще в том, что мудро отзываться о человеческих способностях всё хуже и хуже, скатываясь в сладостно-унылый цинизм.

И потому мой последний совет — это еще один угол зрения, под которым можно посмотреть на проблему и оценить любую потенциальную мыслительную привычку, которую вы собираетесь перенять: спросите себя...

Делает ли этот способ мышления меня сильнее или слабее? По-настоящему?

Ранее я уже говорил об опасности благоразумия — благоразумно звучащем аргументе о том, что в задаче Ньюкома нужно выбирать две коробки; благоразумно звучащем аргументе о том, что мы ничего не можем знать из-за проблемы индукции; благоразумно звучащем аргументе о том, что в среднем нам будет лучше, если мы всегда будем разделять убеждения большинства, и о прочих подобных препятствиях на Пути. «Ведет ли это к победе?» — вот один из вопросов, который можно задать, чтобы взглянуть на вещи иначе. Другой, немного иной ракурс — спросить: «Делает ли этот способ мышления меня сильнее или слабее?» Делает ли постоянное напоминание себе о необходимости во всем сомневаться вас сильнее или слабее? Делает ли вас сильнее или слабее то, что вы никогда не разрешаете и не уменьшаете эти сомнения? Делает ли вас сильнее или слабее преднамеренное переживание кризиса веры перед лицом неопределенности? Делает ли вас сильнее или слабее привычка отвечать на любое возражение смиренным признанием собственной склонности к ошибкам?

Делают ли ваши нынешние попытки компенсировать возможную излишнюю уверенность вас сильнее или слабее? Подсказка: если вы принимаете больше мер предосторожности, более тщательно пытаетесь себя проверить, просите совета у друзей, постепенно продвигаетесь к большим делам или все еще иногда терпите неудачи, но реже, чем раньше, — вы, скорее всего, становитесь сильнее. Если же вы никогда не терпите неудач, избегаете вызовов и чувствуете себя в целом безнадежно и уныло, вы, вероятно, становитесь слабее.

Первую форму этого правила я