Среди призраков. Рассуждение об эпохе метавселенной и генеративного искусственного интеллекта - Эрик Саден

эффектными заявлениями, в действительности оскорбляющими мысль. Сегодня нам нужна выверенность – предельная выверенность, – и только она развеет густой туман, опасный втройне: он постоянно поддерживает деградирующее общество спектакля, застит нам глаза и подавляет способность к действию. Андре Жид сказал: «Мир спасет горстка людей»; если так, то, вероятнее всего, сначала потребуется частное или коллективное усилие, чтобы достичь полной выверенности, одно лишь это позволит лицом к лицу встретиться с нынешними сложными реалиями, реагировать на которые требует чувство долга и ответственности – целиком и полностью со знанием дела.

Пресечь отклонения, или Нулевой уровень критики

В последние годы ситуация побуждает проявить бдительность в отношении цифровых технологий и искусственного интеллекта, но нельзя не обратить внимание, что один проблемный вопрос явно потеснил все остальные – вопрос отклонений. Подумать только, пока идет борьба с малейшими отклонениями от норм поведения, такие системы могут поддерживать предрассудки и поощрять дискриминацию! Поистине страшный грех. На самом деле здесь мы имеем дело с псевдокритическим конформизмом в худшем виде. Он предполагает, что если поработать над искоренением подобных пороков, главная проблема будет решена. Что тут говорить – идеальный пример дерева, за которым не видно леса. В том смысле, в каком носитель близорукой и куцей позиции воображает себя защитником фундаментальных ценностей, но поднимает вторичные вопросы, отчего in fine сам утверждает такие методы. Ведь задача вовсе не в том, чтобы исправить отклонения путем ориентирования таких систем, важнее изрядно повысить уровень нашей бдительности и – просто-напросто – сопротивляться тому, чтобы человек сам подвергался таким отклонениям. Так происходит, потому что считается, что он лакунарная сущность, сотканная из недостатков, и нужны артефакты, которые со временем переймут все его качества. Маркиз де Сад призывал: «Французы, еще одно усилие, если вы желаете стать республиканцами»[156]. Велик соблазн перефразировать его и заявить без обиняков: «Искоренители отклонений, еще одно усилие, если вы действительно желаете быть на высоте по всем животрепещущим вопросам, которые нас касаются».

Общие ориентиры – спасай кто может

На борту паника: скоро станет невозможно определить свойства и источники текстов, изображений, голосов, музыки. Требуется, в один голос кричат политические деятели и, более осторожно, некоторые представители отрасли, чтобы синтезированные материалы были четко обозначены. Например, с помощью невидимой криптографии – watermarks, «водяных знаков». Правда, превратить их применение в систему можно только гипотетически, ведь генеративные технологии будут развиваться и в open source[157]. Верить в маломальскую эффективность импровизированных средств – значит быть слепым и не признавать тот факт, что ящик Пандоры раз и навсегда открыт. Как ни старайся стандартизировать способы обозначения, принципиально новая форма словесного и визуального выражения, которая сейчас складывается, по сути своей такова, что приведет к уничтожению общей системы координат, к подходу «кто во что горазд» и всеобщему недоверию. И вновь странно не заметить, что если мы, придерживаясь доксы о неизбежности происходящего и принимая в расчет одни только экономические цели, бесконечно пытаемся приспособиться к таким изменениям, то выступаем сообщниками в деле превращения этих процессов в норму, а значит, в данном случае обеспечиваем себе будущее в состоянии «овощей», а обществу – обостряющуюся психиатризацию.

Регулирование: как ловчее наступить на грабли

Хюбрис, эта вечная неистовая страсть, присуща тем, кого называют визионерами, вдохновителям самого подвижного, креативного капитализма, а наилучший способ парирования им позволяет верить в достижимость баланса сил: имеется в виду регулирование. Его так сильно не хватало в 2010-х годах, сколько из-за этого было злоупотреблений, – учитывая, как вскружилась голова у подавляющего большинства политиков. Сегодня – другое дело, законодатели стараются выглядеть куда более требовательными. В этом смысле наиболее показательный пример – Тьерри Бретон, бывший генеральный директор компании Atos, специализировавшейся на суперкомпьютерах. В 2009–2019 годах, занимая этот пост и опираясь на гигантские финансовые средства, он поддержал разработку квантового компьютера, предназначенного поднять на новую высоту процесс автоматизации, которая вот-вот должна была охватить все занятия человека. Получив назначение на пост комиссара Евросоюза по вопросам внутреннего рынка, он не перестает заявлять во весь голос о том, что времена изменились и теперь наконец будут установлены правовые границы, соответствующие намеченным целям. Подобно шерифу в рядах высокопоставленной технократии, он ведет крестовый поход нашего времени, в котором всесилию цифровых гигантов противопоставлен выпуск строгих нормативных актов.

Таковым является Регламент об искусственном интеллекте, подготовка которого состояла в выявлении различных «уровней риска», – впрочем, и здесь в итоге запутались, что вторично, а что главное. В числе основных предполагаемых угроз оказались распознавание лиц, возможность манипулировать информацией, системные отклонения, перехват персональных данных – и при этом ни разу не упоминается суть дела, а именно всецелая коммерциализация жизни, алгоритмическая и гигиенистская организация общества, запрограммированный отказ от наших фундаментальных способностей. В действительности именно эти аспекты здесь и поддерживаются – в скрытом виде, – поскольку сам дух текста задает цель наладить доверие между индустрией искусственного интеллекта и потребителями. В результате второстепенными в общем-то мерами выстилается красная дорожка «миру технологий», – хотя обставлено все так, будто вот она, наконец, бескомпромиссность. Как известно, право и мораль – разные вещи; в нынешней ситуации необходимо, чтобы высшая мораль диктовала закон во имя истины, а не законодательные меры, – за которыми лишь экономические интересы, – облекались атрибутами морали. В вестернах шерифы иногда грозно призывают к порядку плохих парней, но делают это так, что преступники только покатываются со смеха: они давно уже несутся вдаль в своем дилижансе, зная, что путешествие будет опасным[158] и потому in fine никогда не прервется.

Комитеты – зло

Сам по себе мир, о котором мы говорим, – как будто воплощение эпохи. Как ничто иное, он умеет играть на постоянном изобретательстве, обновлении, он движим грандиозными устремлениями и открывает безграничные горизонты прибыли. Поэтому абсурдно было бы пытаться ему мешать, это все равно что идти против движения истории – дело заведомо проигрышное. Однако нелишне проявить бдительность. Для этого есть разные способы – нам пришел на ум тот, законность которого неоспорима, ведь он рядится в одежды представительной демократии: создание аналитических и «этических» комиссий. Их структура почти систематически копирует одну и ту же схему: большинство составляют промышленники и инженеры, есть кто-нибудь из гуманитарных наук, для вида, – философ или социолог, – и еще иногда один-два представителя гражданского общества. Так и разыгрывается ловкий трюк – ведь в конечном счете преимущество остается за большим экономическим Сверх-Я.

Во Франции – наряду со многими подобными органами по всему миру – это, скажем, Национальный совет по цифровым технологиям или Национальный консультативный комитет по цифровой этике. Там у всех озабоченный вид, работа кипит, проходят