Глубокая утопия. Жизнь и смысл в решенном мире - Ник Бостром

Его оскаленная сущность, как у разъяренной обезьяны,

Разыгрывает такие фантастические трюки перед высокими небесами

И ангелы плачут, и мы с нашими селезенками,

Все бы смеялись над смертными".

Воздействие

Простите, кажется, я сам себя запустил. Давайте продолжим. Есть еще несколько примеров предпочтений, удовлетворение которых было бы труднодостижимо в утопии.

Подумайте о желании сыграть важную причинную роль, которая спасет нашу цивилизацию от беды или "изогнет дугу" моральной вселенной в сторону справедливости и примирения. Для тех, кто горит подобными устремлениями, настоящее время может быть временем, подобного которому нет - историческим моментом, который, возможно, уникально богат возможностями для последовательных действий. Любая более поздняя и более "утопическая" эпоха, в которой все живут в мире и процветании, где все монстры-боссы побеждены, возможно, не предложит такой плодородной почвы для выращивания славы и влияния, какая есть сейчас, пока судьба человечества еще решается.

Назначение

Хотя цель тесно связана с влиянием, она, тем не менее, заслуживает отдельной категории. Существует различие между большим влиянием и сильной целью. Например, предположим, что в один прекрасный день несколько мужчин в костюмах поставили перед вами на стол портфель. Они открывают его, и внутри оказывается устройство с двумя кнопками. На одной кнопке написано "разрушить мир", на другой - "привести к утопии". Выбор за вами. В этом сценарии ваша жизнь, несомненно, имеет огромное влияние, но она может быть в значительной степени лишена цели - чего-то, что может потребовать более постоянного участия и напряжения. Я не буду говорить здесь больше о цели, поскольку мы обсудим ее более подробно позже в этих лекциях.

Новинка

Если у кого-то из вас есть желание стать первым, кто откроет какую-то фундаментальную истину о Вселенной, есть шанс, что вас уже обманули. Где-то там, в бесконечных просторах космического времени, какой-нибудь инопланетный Архимед или ИИ-Эйнштейн уже открыл то, что предстоит открыть вам.

Но даже если вы поставите перед собой более скромную цель - просто стать первым в нашей цивилизации, кто откроет какую-то важную новую истину, - это тоже будет становиться все труднее и в конце концов станет невозможным - как потому, что сверхразумные ИИ оставят наш собственный интеллект далеко позади, так и потому, что все более важные фундаментальные истины уже будут открыты. (Подробнее об этом мы расскажем позже).

Вам придется довольствоваться поиском более мелких (или просто локально значимых) эпистемических трюфелей. В качестве особого удовольствия, для редких случаев, мы могли бы специально откладывать участки незнания, чтобы дать более поздним временам возможность сделать оригинальное открытие - оригинальное, то есть в рамках цивилизации, зародившейся на Земле, или какого-то ее ответвления. Маленькие тайны, любовно хранимые в банках. Драгоценный и невозобновляемый ресурс.

Желание первым сделать открытие (или изобретение, или создание чего-либо) действительно следует классифицировать как предпочтение позиционного блага: слот "быть первопроходцем" - это своего рода позиция в соответствующем смысле. Однако возможно также предпочтение просто новизны в собственной жизни - чтобы испытывать что-то или делать что-то в первый раз: первые шаги, первый день в школе, первая любовь, первый выпускной. В стандартной терминологии это непозиционные товары.

Несмотря на то, что количество первых шагов может быть неограниченным, не может быть неограниченного количества очень значимых и привлекательных первых шагов. Мы не видим ничего приятного в том, что человеку впервые приходится снимать очки, чтобы прочитать мелкий шрифт на этикетке, или в том, что он впервые не может подняться по лестнице без посторонней помощи. Если мы предположим, что старение отменено, то не будет особых поводов для радости и в том случае, если человек впервые почистит зубы зубной нитью пандигитальное количество раз (это достижение уместнее всего отметить не налетом, а его отсутствием).

Насыщенность

Для людей с ограниченными амбициями существует еще один вид предела, ограничивающий возможности получения большего удовлетворения. А именно: если вы хотите всего несколько простых вещей, то, получив их, вы достигаете максимума - по крайней мере, в том, что касается удовлетворенности предпочтениями по отношению к вашим текущим предпочтениям.

Этот пункт можно несколько обобщить. Например, вместо того чтобы смотреть только на ваши предпочтения, мы можем также посмотреть на ваши потребности или потенциал развития. Если ваши потребности и потенциал развития ограничены, то и возможности для совершенствования по этим параметрам тоже.

Даже если у вас есть какое-то предпочтение, потребность или потенциал, который не имеет предела, так что прогресс по отношению к нему не имеет верхней границы, мы все равно можем задаться вопросом, насколько все может улучшиться для вас в целом, когда большинство ваших предпочтений, потребностей и потенциалов будут полностью удовлетворены.

Например, предположим, что кто-то хочет иметь простой домик в деревне, любящую супругу и скрипку, а также предпочитает безгранично расширять свою коллекцию пробок от бутылок. Тогда, когда он достигнет коттеджа, супруги и скрипки, возможности для дальнейшего совершенствования могут быть невелики. Технически говоря, он будет продолжать получать дополнительные выгоды каждый раз, когда соберет очередную бутылочную пробку; но эти выгоды будут невелики и не сделают его намного лучше.

Есть две причины, по которым этот человек может выровняться:

Хотя он продолжает добиваться успехов в коллекционировании бутылочных крышек, это представляет собой прогресс только в одном узком отделе его общей функции благосостояния. В других отделах (дом, брак, музыка) наблюдается застой.

Потенциал улучшения за счет увеличения коллекции бутылочных крышек должен быть распределен по всем возможным размерам этой коллекции. Переход от одной крышки к двум может быть для него довольно значительным событием. Но переход от крышки номер 164 595 к крышке номер 164 596? И наоборот, если прибавка в одну крышку имеет такое же значение, даже когда он уже собрал 164 595 крышек - если дополнительная крышка имеет такое же значение, когда его коллекция настолько велика, как и когда у него было всего десять крышек - тогда шаг от 1 до 2 крышек не был таким уж значительным: не более значительным, чем едва заметное изменение от 164 595 до 164 596.

Можно утверждать, что из этих двух причин вторая является более важной. Даже если его интерес к коллекционированию бутылочных крышек имеет лишь небольшой вес в его общей функции благосостояния - даже если он весит, скажем, всего 1 % или 0,1 %, как и другие его интересы, - он все равно обеспечит ему возможность бесконечно увеличивать свою полезность, если сам по себе сбор крышек не будет иметь убывающей отдачи. Возможно, ему нужно добавить в свою коллекцию 1000