Рациональность: от ИИ до зомби (другой перевод) - Элиезер Шломо Юдковски

Как писали Бюлер и его коллеги: «Результаты для уровня 99%-ной вероятности особенно поразительны: даже когда студентов просили сделать крайне консервативный прогноз — предсказание, в исполнении которого они были практически уверены, — их уверенность в собственных оценках времени намного превосходила их реальные достижения».3

В более широком смысле это явление известно как «ошибка планирования». Суть ошибки планирования в том, что люди думают, будто умеют планировать, ха-ха.

Ключ к разгадке глубинной проблемы алгоритма планирования обнаружили Ньюби-Кларк и его коллеги. Они выяснили, что

просьба дать прогнозы, основанные на реалистичных сценариях «наиболее вероятного исхода», и

просьба описать желаемый «лучший вариант развития событий»...

...приводили к неразличимым результатам.4

Когда людей просят описать «реалистичный» сценарий, они представляют, что всё пойдет точно по плану, без неожиданных задержек или непредвиденных катастроф, — то есть рисуют ту же картину, что и для «лучшего варианта».

Реальность же, как выясняется, обычно преподносит результаты, которые оказываются несколько хуже даже «худшего варианта».

В отличие от большинства когнитивных искажений, для ошибки планирования нам известна хорошая эвристика для её преодоления. Она не сработает в случае бардака масштабов Денверского аэропорта, но отлично подойдет для личного планирования и даже для некоторых небольших организационных задач. Достаточно использовать «взгляд извне» вместо «взгляда изнутри».

Люди склонны строить свои прогнозы, размышляя об особенных, уникальных чертах стоящей перед ними задачи и выстраивая сценарий того, как они намерены её выполнить, — а это как раз то, что мы обычно и называем планированием. Когда вы хотите что-то сделать, вам нужно спланировать где, когда и как; прикинуть, сколько времени и ресурсов потребуется; мысленно представить все шаги от начала до успешного завершения. Всё это — «взгляд изнутри», и он не учитывает неожиданных задержек и непредвиденных катастроф. Как мы уже видели, просьбы представить «худший вариант» всё равно недостаточно, чтобы перевесить оптимизм: люди не закладывают в свои сценарии достаточный уровень мерфигенности.

Взгляд извне — это когда вы намеренно избегаете размышлений об особых, уникальных чертах проекта и просто спрашиваете себя, сколько времени уходило на завершение в целом похожих проектов в прошлом. Это противоречит интуиции, ведь взгляд изнутри содержит гораздо больше деталей — велик соблазн поверить, будто тщательно проработанный прогноз, учитывающий все имеющиеся данные, даст лучший результат.

Однако эксперимент показал, что чем детальнее представления испытуемых, тем оптимистичнее (и менее точными) они становятся. Бюлер и его коллеги попросили экспериментальную группу подробно расписать планы рождественских покупок: где, когда и как они собираются их делать.5 В среднем эта группа рассчитывала закончить покупки более чем за неделю до Рождества. Другую группу просто спросили, когда они планируют закончить покупки, и средний ответ составил четыре дня. Обе группы закончили покупки в среднем за три дня до Рождества.

Аналогично, Бюлер и его коллеги в кросс-культурном исследовании обнаружили, что японские студенты рассчитывали закончить эссе за десять дней до дедлайна. На самом же деле они заканчивали за день до дедлайна. Когда их спросили, за сколько они завершали подобные задачи в прошлом, они ответили: «за один день до дедлайна».6 В этом и заключается сила взгляда извне по сравнению со взглядом изнутри.

Похожий вывод заключается в том, что опытные сторонние наблюдатели, которые знают меньше деталей, но могут опереться на релевантный опыт, зачастую оказываются куда менее оптимистичными и гораздо более точными, чем сами авторы планов и исполнители.

Таким образом, существует вполне надежный способ справиться с ошибкой планирования, если вы делаете что-то в целом похожее на некоторый базовый класс прошлых проектов. Просто спросите себя, сколько времени уходило на аналогичные проекты в прошлом, не принимая во внимание никакие особенности вашего нынешнего проекта. А еще лучше — спросите опытного стороннего наблюдателя, сколько времени занимали такие проекты у других.

Вы получите ответ, который покажется вам чудовищно долгим и явно не учитывающим те особые причины, по которым конкретно эта задача должна занять меньше времени. Этот ответ верен. Смиритесь с этим.

*

1. Роджер Бюлер, Дейл Гриффин и Майкл Росс, «Inside the Planning Fallacy: The Causes and Consequences of Optimistic Time Predictions», в Gilovich, Griffin, and Kahneman, Heuristics and Biases, 250–270.

2. Роджер Бюлер, Дейл Гриффин и Майкл Росс, «Exploring the ‘Planning Fallacy’: Why People Underestimate Their Task Completion Times», Journal of Personality and Social Psychology 67, no. 3 (1994): 366–381, doi:10.1037/0022-3514.67.3.366; Роджер Бюлер, Дейл Гриффин и Майкл Росс, «It’s About Time: Optimistic Predictions in Work and Love», European Review of Social Psychology 6, no. 1 (1995): 1–32, doi:10.1080/14792779343000112.

3. Бюлер, Гриффин и Росс, «Inside the Planning Fallacy».

4. Иэн Р. Ньюби-Кларк и др., «People Focus on Optimistic Scenarios and Disregard Pessimistic Scenarios While Predicting Task Completion Times», Journal of Experimental Psychology: Applied 6, no. 3 (2000): 171–182, doi:10.1037/1076-898X.6.3.171.

5. Бюлер, Гриффин и Росс, «Inside the Planning Fallacy».

6. Там же.

8. Иллюзия прозрачности: почему вас никто не понимает.

Под влиянием ошибки послезнания люди, знающие исход ситуации, верят, что его было легко предсказать заранее. Зная результат, мы переосмысливаем ситуацию в его свете. Даже получив предупреждение, мы не можем отменить эту интерпретацию, чтобы поставить себя на место того, кто не знает того, что знаем мы.

С этим тесно связана иллюзия прозрачности: мы всегда знаем, что мы имеем в виду под своими словами, а потому ожидаем, что и другие это поймут. Когда мы читаем собственный текст, предполагаемый смысл легко встает на свои места, ведь мы знаем, что на самом деле хотели сказать. Трудно поставить себя на место того, кому приходится интерпретировать вслепую, руководствуясь одними лишь словами.

Джун рекомендует Марку ресторан; Марк обедает там и обнаруживает либо (а) невзрачную еду и посредственное обслуживание, либо (б) восхитительную еду и безупречный сервис. Затем Марк оставляет на автоответчике Джун следующее сообщение: «Джун, я только что поужинал в ресторане, который ты рекомендовала, и должен сказать, это было чудесно, просто чудесно». Кисар представил группе испытуемых сценарий (а), и 59% сочли, что сообщение Марка было саркастическим и что Джун уловит этот сарказм.1 Среди других испытуемых, которым рассказали сценарий (б), лишь 3% подумали, что Джун воспримет сообщение Марка как саркастическое. Кисар и Барр, судя по всему, указывают на то, что испытуемым проигрывали реальное голосовое сообщение.2 Кисар показал: если испытуемым говорили, что ресторан был ужасен, но Марк хотел скрыть