Думай «почему?». Причина и следствие как ключ к мышлению - Джудиа Перл

а проявить внимание к удивительному единообразию в архитектуре человеческого разума.

Как лицензированный философ-виг, я способен довольно хорошо объяснить эту особенность: она проистекает из того, что мы переживаем один и тот же мир и разделяем одну и ту же ментальную модель его причинной структуры. Мы говорили об этом еще в главе 1. Общие ментальные модели связывают нас в сообщества. Следовательно, мы судим о близости не по метафизическому понятию сходства, а по тому, насколько мы должны разобрать и изменить общую модель, прежде чем она удовлетворит заданному гипотетическому условию, противоречащему действительности (Джо не принял аспирин).

В структурных моделях мы делаем очень похожие вещи, хотя больше украшаем их математическими деталями. Мы оцениваем выражения вроде «если бы X был X» так же, как обрабатываем интервенции do (X = x), удаляя стрелки в диаграмме причинности или уравнение в структурной модели. Это описывается как минимальное изменение причинно-следственной диаграммы, необходимое, чтобы гарантировать равенство X и x. В этом отношении структурные контрфактивные модели совместимы с идеей Льюиса о максимально похожем возможном мире.

Структурные модели также предлагают решение загадки, о которой Льюис умалчивал: каким образом люди представляют возможные миры и вычисляют ближайший, когда число этих возможностей слишком велико для человеческого мозга? Специалисты по компьютерным наукам называют это проблемой представления. Предполагается, что у нас есть некий крайне экономичный код, чтобы иметь дело с таким количеством миров. Могут ли структурные модели в той или иной форме быть этим коротким путем? Думаю, это весьма вероятно по двум причинам. Во-первых, структурные причинно-следственные модели работают, и у них просто нет конкурентов с такими же чудесными свойствами. Во-вторых, они были созданы на основе байесовских сетей, которые, в свою очередь, были смоделированы на базе сделанного Дэвидом Румельхартом описания, как сообщения передаются в мозгу. Нетрудно предположить, что 40 тысяч лет назад люди адаптировали механизмы, которые уже существовали в мозге для распознавания образов, чтобы использовать их для причинно-следственных рассуждений.

Философы, как правило, оставляют психологам право делать утверждения о том, как работает человеческий разум. Это объясняет, почему вышеперечисленные вопросы не рассматривались до недавнего времени. Однако исследователи искусственного интеллекта не могли ждать. Они хотели создать роботов, которые были бы способны общаться с людьми об альтернативных сценариях, доверии и вине, ответственности и сожалении. Это все контрфактивные представления, для которых исследователи ИИ должны были найти механизмы, чтобы у них появился минимальный шанс создать так называемый сильный ИИ — интеллект, подобный человеческому.

Такова была моя мотивация, когда я начал изучать контрфактивный анализ в 1994 году (вместе с моим студентом Алексом Балке). Неудивительно, что алгоритмизация контрфактивных суждений произвела больший фурор в мире ИИ и когнитивной науке, чем в философии. Философы склонны рассматривать структурные модели как один из вариантов применения логики возможных миров, представленной Льюисом. Осмелюсь предположить, что их роль гораздо более велика. Логическая пустота представления — это метафизика. Диаграммы причинно-следственных связей с простыми правилами следования стрелкам или удаления стрелок должны быть близки к тому, как наш мозг представляет контрфактивные суждения.

Этому утверждению пока суждено оставаться недоказанным, но в результате долгого процесса контрфактивные суждения утратили мистический флер. Мы понимаем, как люди справляются с ними и готовы вооружить роботов возможностями, аналогичными тем, которые наши предки приобрели 40 тысяч лет назад.

Потенциальные результаты, структурные уравнения и алгоритмизация контрфактивных утверждений

Всего через год после выхода книги Льюиса и независимо от него Дональд Рубин начал работать над серией статей, в которой представлены потенциальные результаты как язык для постановки вопросов о причинности. Рубин, в то время статистик службы тестирования в образовании, в одиночку нарушил молчание о причинно-следственных связях, которое сохранялось в статистике на протяжении 75 лет, и легитимировал концепцию контрфактивности в глазах многих ученых-медиков. Важность этого достижения нельзя переоценить. Исследователи получили гибкий язык для выражения почти любых каузальных вопросов, которые они могли бы задать и о группе людей, и об отдельных индивидах.

В каузальной модели Рубина потенциальный результат для переменной Y — это просто «значение, которое Y принял бы для отдельного u, если бы X было присвоено значение x». Здесь очень много слов, поэтому часто удобнее записать эту величину более компактно: YX = X (u). Нередко мы сокращаем это до YX (u), если из контекста очевидно, какой переменной присваивается значение X.

Чтобы оценить смелость такого рода записи, стоит отвлечься от символов и подумать о том, что за ними стоит. Записывая символ YX, Рубин утверждал, что Y определенно приобрел бы какое-то значение, если бы X был равен x, и этот факт объективно реален в той же степени, что и значение, которое Y получил на самом деле. Если вы не согласны с этим допущением (а я уверен, что Гейзенберг с ним не согласился бы), то не сможете использовать потенциальные результаты. Также обратите внимание, что потенциальный, или контрфактивный, результат определяется на уровне отдельного человека, а не группы.

Впервые потенциальные результаты появились в магистерской диссертации Ежи Неймана, написанной в 1923 году. Нейман, потомок польских аристократов, вырос в изгнании в России, где получил очень сильное математическое образование, и оказался на родине только в 1921 году, когда ему было 27 лет. Он хотел продолжить исследования в области чистой математики, но ему было легче найти работу статистика. Как и Р. Э. Фишер в Англии, он провел первое статистическое исследование в сельскохозяйственном институте и оказался слишком высококвалифицированным для этой работы. Он был не только единственным статистиком в институте, но и единственным человеком в стране, который думал о статистике как о научной дисциплине.

Первое упоминание о потенциальных результатах Нейман сделал в контексте сельскохозяйственного эксперимента, где нижний индекс представляет «неизвестный потенциальный урожай i-й разновидности [данного семени] на соответствующем участке». Тезис оставался неизвестным и не переводился на английский до 1990 года. Однако сам Нейман неизвестным не остался. Он договорился провести год в статистической лаборатории Карла Пирсона в Университетском колледже Лондона, где подружился с сыном Пирсона Эгоном. Эти двое поддерживали связь в течение следующих семи лет, и их сотрудничество принесло большие плоды: подход Неймана — Пирсона к статистической проверке гипотез стал важной вехой, о которой узнает каждый начинающий студент-статистик.

В 1933 году длительное автократическое правление Карла Пирсона наконец подошло к концу с его уходом на пенсию, и Эгон стал его естественным преемником или оказался бы таковым, если бы не единственная проблема в виде Р. Э. Фишера, к тому времени самого известного статистика в Англии. Университет