Рациональность: от ИИ до зомби (другой перевод) - Элиезер Шломо Юдковски
295. Вундеркинд опровержения
296. Чистейшая глупость неоперившегося юнца
297. Эта крошечная фальшивая нота
298. Арьергардный бой против истины
299. Моё натуралистическое пробуждение
300. Уровень выше моего
301. Масштаб его собственной глупости
302. Вне досягаемости Бога
303. Моё байесовское просветление
Y. Бросая вызов трудному
304. Цуёку наритай! (Я хочу стать сильнее)
305. Цуёку против эгалитарного инстинкта
306. Пытаться пытаться
307. Используй «постарайся сильнее», Люк
308. О совершении невозможного
309. Приложите экстраординарные усилия
310. Заткнитесь и сделайте невозможное!
311. Последние слова
Z. Ремесло и сообщество
312. Поднятие ватерлинии здравомыслия
313. Ощущение того, что возможно большее
314. Эпистемическая порочность
315. Размножение школ в отсутствие доказательств
316. Три уровня проверки рациональности
317. Почему нам подобные не могут сотрудничать
318. Будьте терпимы к толерантности
319. Ваша цена за вступление
320. Может ли гуманизм сравниться по эффективности с религией?
321. Церковь против целевой группы
322. Рациональность: общий интерес многих движений
323. Беспомощные одиночки
324. Деньги: мера заботы
325. Покупайте тёплые чувства и утилоны раздельно
326. Апатия свидетеля
327. Коллективная апатия и интернет
328. Постепенный прогресс и долина
329. Байесианцы против варваров
330. Берегитесь оптимизации других
331. Практические советы, подкреплённые глубокой теорией
332. Грех недостаточной уверенности
333. Идите и творите искусство!
Библиография
Предисловие.
Вы держите в руках сборник ежедневных записей в блоге за два года. Оглядываясь назад, я вижу огромное количество вещей, которые сделал совершенно неправильно. Меня это вполне устраивает. Оглянуться назад и не увидеть огромного количества собственных ошибок означало бы, что ни мой слог, ни мое понимание не улучшились с 2009 года. «Упс» — это звук, который мы издаем, когда корректируем свои убеждения и стратегии; так что оглядываться в прошлое и не видеть никаких собственных ошибок — значит признать, что с тех пор вы ничему не научились и не изменили своего мнения.
Моей ошибкой было то, что, публикуя посты на протяжении этих двух лет, я не ставил себе целью помочь людям действовать эффективнее в повседневной жизни. Я писал их с намерением помочь в решении масштабных, сложных и важных проблем, выбирая в качестве примеров внушительно звучащие абстрактные задачи.
Оглядываясь назад, я вижу, что это было второй по величине ошибкой в моем подходе. Она тесно связана с первой, самой главной ошибкой в моих текстах: я не понимал, что главная сложность в освоении этого ценного стиля мышления — разобраться, как применять его на практике, а вовсе не усвоить теорию. Я не осознавал приоритетности практической части, и по этому поводу мне остается сказать лишь «Упс» и «Да уж».
Да, порой те масштабные проблемы действительно масштабны и действительно важны, но это не отменяет простой истины: чтобы освоить навыки, в них нужно практиковаться, а практиковаться на вещах, далеких от вашей реальности, гораздо труднее. (Сегодня Центр прикладной рациональности работает над тем, чтобы исправить эту мою колоссальную ошибку более систематическим образом.)
Третьей моей огромной ошибкой было то, что я слишком сосредоточился на рациональных убеждениях и уделил слишком мало внимания рациональным действиям.
Четвертой по величине ошибкой было то, что мне следовало лучше структурировать материал, представленный в цепочках. В частности, мне нужно было гораздо раньше создать собственную вики и облегчить чтение постов по порядку.
Эту ошибку, по крайней мере, можно исправить. В предлагаемом издании Роб Бенсингер поменял порядок постов и реорганизовал их структуру насколько это было возможно, не пытаясь переписывать сам материал (хотя кое-что он все же переписал).
Моей пятой огромной ошибкой было то, что я — как мне тогда казалось — старался прямо и без прикрас называть глупостью то, что считал глупыми идеями. Я честно пытался избегать уловки, известной как бульверизм, когда вы начинаете обсуждение с разговоров о том, насколько глупы люди, верящие во что-то; я всегда сначала разбирал суть вопроса и лишь в конце говорил: «А значит, это глупо». Но в 2009 году для меня оставался открытым вопрос: возможно, все же необходимо, чтобы кто-то открыто выражал презрение к гомеопатии? Я думал — и до сих пор думаю, — что существует печальная психологическая особенность, из-за которой вежливое отношение к идеям воспринимается многими на глубинном уровне так: «Если я скажу, что верю в это, ничего страшного не случится; я не потеряю в статусе, если заявлю, что верю в гомеопатию», и что насмешки комиков порой помогают людям очнуться от этого сна.
Думаю, сегодня я писал бы вежливее. Эта резкость действительно выполняла свою функцию, и, полагаю, некоторым читателям она пошла на пользу. Однако сейчас я гораздо серьезнее отношусь к риску построить сообщество, где нормой и ожидаемой реакцией на взгляды аутсайдеров с низким статусом становятся открытые насмешки и презрение.
Несмотря на мою ошибку, я рад отметить, что мои читатели до сих пор проявляли поразительную сдержанность и не использовали мою риторику как повод для травли или унижения окружающих. (Здесь мне хотелось бы особо выделить Скотта Александера — он гораздо более приятный человек, чем я, и пишет на эти темы все лучше и лучше. и, возможно, именно ему принадлежит часть заслуги в формировании здоровой культуры Less Wrong.)
Возможность оглянуться назад и заявить, что ты «потерпел неудачу», подразумевает, что у тебя были цели. Так чего же именно я пытался достичь?
В наши дни существует особый ценный способ мышления, которому пока еще не учат в школах. Ему вообще не учат систематически. Его просто впитывают люди, выросшие на книгах вроде «Вы, конечно, шутите, мистер Фейнман!», или те, кому посчастливилось встретить в школе выдающегося учителя.
Прежде всего, этот стиль мышления ассоциируется с наукой и экспериментальным методом. С той гранью науки, где вы выходите в мир и наблюдаете за вселенной вместо того, чтобы просто выдумывать теории. С той частью, где вы говорите «Упс» и отказываетесь от неудачной гипотезы, если эксперименты ее опровергают.
Но этот способ мышления простирается гораздо дальше. Он глубже и универсальнее, чем защитные очки, которые вы надеваете, когда входите в лабораторию, и снимаете, когда выходите из неё. Он применим к повседневной жизни, хотя здесь он гораздо тоньше и сложнее. Но если вы не способны
