Рациональность: от ИИ до зомби (другой перевод) - Элиезер Шломо Юдковски

и при этом восстанавливать силу воли, а не испытывать чувство вины за свой эгоизм? Судя по всему, да. Я удивлён, что это работает именно так, но это работает. Пока я стучусь, чтобы предупредить об открытом багажнике, и пока мне говорят «Спасибо!», мой мозг чувствует, что совершил своё прекрасное доброе дело на сегодня.

Конечно, у вас всё может быть иначе. Проблема с попытками выработать искусство восстановления силы воли заключается в том, что разным людям подходят разные вещи. (То есть мы на ощупь исследуем уровень поверхностных явлений, не понимая более глубоких закономерностей, которые могли бы предсказать эти индивидуальные различия.)

Но если вы обнаружите, что в этом отношении похожи на меня — что эгоистичные добрые дела всё ещё работают, — тогда я рекомендую вам покупать тёплые чувства и утилоны по отдельности. Не одновременно. Попытка делать и то, и другое одновременно приводит лишь к тому, что ни то, ни другое не получается сделать хорошо. Если для вас важен статус, покупайте статус тоже отдельно!

Если бы мне пришлось давать совет какому-нибудь новоиспечённому миллиардеру, вступающему на поприще благотворительности, мой совет звучал бы примерно так:

Чтобы купить тёплые чувства, найдите какую-нибудь трудолюбивую, но крайне бедную женщину, которая вот-вот бросит государственный колледж из-за того, что её мужу сократили рабочие часы, и лично, но анонимно вручите ей банковский чек на 10 000 долларов. Повторяйте по желанию.

Чтобы купить статус среди друзей, пожертвуйте 100 000 долларов на самый привлекательный и модный на данный момент фонд X-Prize или на любую другую благотворительную организацию, которая кажется наиболее стильной за минимальную цену. Раструбите об этом повсюду, появляйтесь на их пресс-мероприятиях и хвастайтесь этим следующие пять лет.

Затем — с абсолютно хладнокровным расчётом — без нечувствительности к масштабу или неприятия неопределённости — не заботясь о статусе или тёплых чувствах — разработав некую общую схему перевода результатов в утилоны и пытаясь выразить неопределённость в процентных вероятностях — найдите благотворительную организацию, которая предлагает наибольшее количество ожидаемых утилонов на доллар. Жертвуйте туда столько денег, сколько планировали выделить на благотворительность, пока её предельная эффективность не упадёт ниже эффективности следующей организации в списке.

Кроме того, я бы посоветовал миллиардеру, чтобы его расходы на утилоны превышали расходы на тёплые чувства хотя бы, скажем, в 20 раз. Пятипроцентные накладные расходы на поддержание собственного альтруизма кажутся вполне разумными, и я, ваш беспристрастный судья, без проблем оправдал бы тёплые чувства при таком большом множителе. При условии, конечно, что изначальный «тёплый» поступок действительно приносит пользу, а не активный вред.

(Покупка статуса, как мне кажется, по сути не имеет отношения к альтруизму. Если пожертвование фонду X-Prize вызывает у ваших друзей больше восхищения, чем моторная лодка той же стоимости, то покупать лодку действительно нет причин. Просто запишите эту сумму в графу «произвести впечатление на друзей» и помните, что это не графа «альтруизм».)

Но главный урок в том, что все эти три вещи — тёплые чувства, статус и ожидаемые утилоны — можно купить гораздо эффективнее, если покупать их по отдельности, оптимизируя за раз только что-то одно. Выписать чек на 10 000 000 долларов благотворительному фонду по борьбе с раком груди — хотя это и гораздо более похвально, чем потратить те же 10 000 000 долларов на, не знаю, вечеринки или ещё что-то, — не принесёт вам той концентрированной эйфории, какую вы почувствовали бы, лично присутствуя при том, как вы в корне меняете жизнь одного-единственного человека, — скорее всего, даже близко не принесёт. Это не даст вам такого повода для разговоров на вечеринках, как пожертвование на что-то привлекательное вроде X-Prize — разве что другие богачи едва заметно кивнут. А если отбросить всякую заботу о тёплых чувствах и статусе, то наверняка найдётся по меньшей мере тысяча обделённых вниманием существующих благотворительных организаций, которые смогли бы принести на десять миллионов долларов на порядки больше утилонов. Попытка оптимизировать все три критерия разом гарантирует лишь то, что ни один из них не будет оптимизирован как следует — получатся лишь слабые толчки во всех трёх направлениях.

Конечно, если вы не миллионер и тем более не миллиардер, то вы не можете быть столь же эффективны в этих делах и не можете так легко совершать «оптовые закупки». Но я всё равно скажу: для получения тёплых чувств найдите относительно дешёвую благотворительную организацию с яркими, живыми получателями помощи, которым вы, в идеале, можете помочь лично и напрямую. Поработайте волонтёром в бесплатной столовой. Или просто получайте свои тёплые чувства, придерживая двери перед старушками. Пусть это оправдывается вашими другими усилиями по покупке утилонов, но не путайте это с покупкой утилонов. Статус же, пожалуй, дешевле купить, приобретая хорошую одежду.

А когда дело доходит до покупки ожидаемых утилонов — тогда, конечно, заткнись и считай.

*

326. Апатия свидетеля.

Эффект свидетеля, также известный как апатия свидетеля, заключается в том, что в чрезвычайных ситуациях большие группы людей с меньшей вероятностью примут меры — не только по отдельности, но и коллективно. Поместите испытуемого одного в комнату и пустите из-под двери дым. Семьдесят пять процентов участников выйдут, чтобы сообщить об этом. Теперь поместите в комнату трех испытуемых — настоящих испытуемых, ни один из которых не знает, в чем дело. Лишь в 38% случаев кто-нибудь сообщит о дыме. Поместите испытуемого с двумя подставными лицами, которые игнорируют дым, и о дыме сообщат лишь в 10% случаев — люди будут оставаться в комнате, даже когда она наполнится дымом.1

Согласно стандартной модели, двумя основными причинами апатии свидетеля являются:

Диффузия ответственности — каждый надеется, что кто-то другой сделает первый шаг и возьмет на себя издержки действия. Когда никто не действует, пребывание в толпе служит оправданием и снижает вероятность того, что человека привлекут к личной ответственности за последствия.

Плюралистическое невежество — люди пытаются выглядеть спокойными, высматривая подсказки, и видят... что остальные тоже выглядят спокойными.

Чалдини:2

Очень часто чрезвычайная ситуация не очевидна. Лежит ли человек в переулке из-за сердечного приступа или это просто пьяный спит? . . . В такие моменты неопределенности естественная склонность — оглядываться на действия других в поисках подсказок. По реакции других свидетелей мы можем понять, является ли происходящее чрезвычайной ситуацией или нет. Однако легко забыть о том, что все остальные наблюдатели, скорее всего, тоже ищут социальные доказательства. Поскольку все мы предпочитаем