Рациональность: от ИИ до зомби (другой перевод) - Элиезер Шломо Юдковски
Предоставлять помогающим видеоблагодарность от основателя проекта, которую они могли бы разместить на своей странице «Кому я помог». При достаточной стандартизации такую страницу можно было бы частично или полностью генерировать автоматически и легко встраивать в личный сайт или аккаунт на Facebook.
Найти ненавязчивый формат для призыва «Расскажи другу о проекте X»; использовать реферальные ссылки, а затем показывать пользователям, скольких людей они привели (сколько из тех, кто изначально перешел по реферальному коду X, действительно внесли вклад или совершили какое-то другое действие).
(Всё вышеперечисленное относится не только к пожертвованиям, но и к проектам с открытым исходным кодом, куда люди присылают свой код. Или к петициям, если от участников действительно не требуется ничего, кроме подписей. Существуют и другие способы помочь, помимо денег, хотя деньги обычно эффективнее всего. Главное, чтобы форму помощи можно было проверить онлайн.)
Упростить назначение денежных наград за выполнение подзадач, результат которых поддается верификации.
Но в основном я просто оставляю вам эту открытую, нерешенную задачу: сделать так, чтобы группам незнакомцев в Интернете было возможно — или гораздо проще — объединяться в эффективные рабочие группы вопреки привычным сценариям провала и тем естественным причинам, по которым эта проблема чужда нашей первобытной природе. Вспомните старую статистику: время, затраченное на создание Википедии, составляет всего 1/2000 от времени, которое уходит на просмотр телевизора в одних только США. Топлива предостаточно, был бы только эффективный двигатель...
*
328. Постепенный прогресс и долина. Рациональность — это систематизированный выигрыш. «Но, — возражаете вы, — разумный человек выигрывает не всегда!».
Что вы под этим подразумеваете? Вы хотите сказать, что раз в неделю или две кто-то, кто купил лотерейный билет с отрицательным математическим ожиданием, выигрывает в лотерею и становится гораздо богаче вас? Это не систематический проигрыш; это результат избирательного освещения в СМИ. С точки зрения статистики, победителей лотерей не существует — вы бы никогда в жизни ни одного не встретили, если бы не это избирательное освещение.
Даже идеально рациональные агенты могут проигрывать. Они просто не могут знать заранее, что проиграют. Они не могут ожидать худших результатов, чем у любой другой осуществимой стратегии, иначе они просто использовали бы её.
— Нет, — говорите вы, — я о том, как основатели стартапов сказочно богатеют благодаря тому, что верят в себя и свои идеи сильнее, чем поверил бы любой разумный человек. Я о том, что верующие люди счастливее...
А. Что ж, вот в чём штука: постепенный шаг в сторону рациональности, если результат всё ещё в чём-то ином иррационален, вовсе не обязан приносить постепенный прирост выигрыша.
Теоремы оптимальности, которыми мы располагаем в теории вероятностей и теории принятия решений, сформулированы для идеальной теории вероятностей и теории принятия решений. Не существует сопутствующей теоремы, утверждающей, что исходя из некоторой несовершенной исходной формы любое постепенное изменение алгоритма, приближающее его структуру к идеалу, обязательно приведёт к постепенному улучшению результатов. Это до сих пор не доказано, поскольку на самом деле это неверно.
— И какой тогда смысл, — говорите вы, — стремиться стать более рациональным? Мы не достигнем совершенного идеала. А значит, у нас нет никаких гарантий, что наши шаги вперёд приносят пользу.
У вас также нет никаких гарантий, что шаг назад поможет вам победить. В мире из плоти и крови гарантий не существует; но, вопреки расхожим заблуждениям, принятие решений в условиях неопределённости — это и есть сама суть рациональности.
— Но у нас есть целый ряд случаев, когда — судя по смутно правдоподобным рассуждениям или данным опросов — кажется, что постепенный шаг вперёд по пути рациональности лишь ухудшит наше положение. Если всё действительно сводится к выигрышу — если у вас есть что-то, что нужно защитить, что-то более важное, чем любой ритуал познания, — то зачем делать этот шаг?
О, и теперь мы подходим к самой сути.
Не могу ручаться за всех, но...
Моя первая причина в том, что в своей работе я сталкиваюсь с крайне запутанными проблемами, требующими колоссальной точности мышления. Одна маленькая ошибка может увести вас по ложному пути на годы, а своей очереди ждут последствия и похуже. Неизменного уровня эффективности уже недостаточно; мой выбор — либо пытаться совершенствоваться, либо сдаться и пойти домой.
— Но это же только вы. Не все мы ведём такой образ жизни. Что, если вы просто пытаетесь решить обычную человеческую задачу — например, запустить интернет-стартап?
Моя вторая причина в том, что я пытаюсь продвинуть некоторые аспекты своего искусства дальше, чем мне доводилось видеть ранее. Я не знаю, к чему приведут эти улучшения. Потеря от отказа сделать шаг вперёд заключается не в одном этом шаге. Она заключается во всех остальных шагах вперёд, которые вы могли бы сделать после него. У Робина Хансона есть поговорка: проблема оступившегося на лестнице не в том, что он падает с высоты первой ступеньки, а в том, что падение с одной ступеньки ведёт к падению со следующей. Точно так же отказ подняться на одну ступеньку лишает вас не высоты этой ступеньки, а высоты всей лестницы.
— Но опять же — это только вы. Не все из нас пытаются продвинуть это искусство на неизведанную территорию.
Моя третья причина: как только я понимаю, что заблуждался, я уже не могу просто закрыть глаза и притвориться, будто ничего не заметил. Я уже сделал этот шаг вперёд; какой смысл отрицать это перед самим собой? Я бы не смог поверить в Бога, даже если бы попытался, точно так же как не смог бы поверить, что небо надо мной зелёное, глядя прямо на него. Если вы знаете всё необходимое для того, чтобы понимать, что вам выгоднее обманывать себя, то обманывать себя уже слишком поздно.
— Но такое осознание — редкость; другим людям двоемыслие даётся легче, потому что они не понимают, что оно невозможно. Вы же пытаетесь активно способствовать краху двоемыслия. Вы, со своей более высокой позиции, можете знать достаточно, чтобы ожидать, что это сделает их несчастнее. Так это из-за садистского желания причинить боль своим читателям, или как?
И тогда я наконец отвечаю, что мой личный опыт — даже в этой области сугубо человеческих возможностей — действительно указывает на то,
