Среди призраков. Рассуждение об эпохе метавселенной и генеративного искусственного интеллекта - Эрик Саден

более дальновидными и подсказывают, сохраняя с нами инструментализированную связь: действуй так, а не иначе. Надо отметить и еще кое-что: такие механизмы все время усложняются, дабы выглядеть естественнее, так что отмахнуться от их наставлений будет нелегко, словно учат нас какие-то всезнающие умы. Индустриализированный и стандартизированный язык, занимающий место нашего и непрерывно нас направляющий, сформирует габитус. Особенно в глазах юных поколений, которым его использование скоро будет казаться таким удобным и, в общем-то, само собой разумеющимся. За этим стоит еще и эпигенетический процесс, под влиянием которого наш разум, организованный так, чтобы ничто не мешало его деятельности, пойдет на поводу у этих систем, все реже пользуясь нашими способностями к выражению. Оценивать размах последствий от внедрения таких технологий нужно в средне- и долгосрочной перспективе. Кто говорит? – ницшеанский вопрос[134]. Не делают ли это сегодня программы, язык которых, лишенный живого развития, отражает видение мира, основанное на общем редукционизме и утилитаризме? Или же, напротив, помимо наших голосов, – каждый из которых неповторим и идет от нашего разума и чувств, – ничто не способно устанавливать активные связи с другими и с реальным? Учитывая нынешний перелом, время призывает нас сфокусироваться не на одном экологическом кризисе, который нынче только и заботит большинство, – и поднять вопрос о языке, самом что ни на есть живом, – на котором мы хотим говорить от собственного имени и действительно все вместе, – как о главной моральной, политической и цивилизационной проблеме нашего времени.

2. Быть человеком или стать овощем

Постепенно избавляемся от самих себя

К концу нулевых годов случилось знаковое, но малозаметное событие: «предписывающий поворот»[135] в технологии. Одно из направлений, быстро выдвинувшееся вперед, – искусственный интеллект – развивало возможности, позволявшие оценивать самые разные ситуации и, соответственно, подсказывать правильные действия. Мы получили рекомендательный искусственный интеллект, влияющий на линию поведения на разных уровнях – от побуждающего до принудительного. Упорядочение – с различными целями – действий индивидуумов не принимает больше выраженный вид – вроде выверенной до миллиметра модели Форда, – но зависит в первую очередь от сигналов, расплывчатых, неизвестного авторства, посылаемых в такой форме, что кажется – эти механизмы сродни естественному порядку вещей.

К этому этосу добавляется еще один момент: простого «промпта» теперь достаточно, чтобы генерировать тексты, изображения и звуки со скоростью, бесконечно превосходящей наши показатели, причем качество исполнения – все выше и выше. Это обеспечивается системами, которые приведут нас к прогрессирующему отказу от использования собственных базисных возможностей. Можно подумать, что, не преследуя какого-либо грандиозного заранее выношенного замысла, капиталистический дух преодолел долгий путь – со времен промышленной революции до наших дней, – занимаясь все более значительным усечением субстанции, составляющей индивидуумов и, следовательно, общество. Были рабочие на заводах, чьи физические силы на исходе, а жизнь разлинована, как нотная бумага; был менеджмент, требовавший гиперответственности, что приводило к нарушениям психики и эпидемиям выгорания; был шквал уведомлений потребителям; и вот сейчас мы оказались в точке отказа от того, что составляет само наше существо.

Различные формы корректировки образа действий, – влияние которых менялось на протяжении веков, притом что они никогда полностью не исключали друг друга, – малыми дозами выхолостили проявление наших способностей. Сказывается логика, с течением времени применявшаяся ко все более широким группам населения и сегодня ставшая универсальной. Любопытно, что совсем новые процессы не только приняли более скрытый вид, но в восприятии потребителей еще и облегчают им жизнь, а теперь побуждают с легким сердцем отказываться от самих себя. Индустриализации лени или гигантскому складывающемуся сейчас рынку «промптизма» отводится в конечном счете ведущая роль. Нам говорят – «это круто», а в ответ – восторг толпы, довольно узколобой, ведь тем самым она радостно соглашается на собственную запрограммированную узколобость. Вот почему мы имеем дело с ядом двойного действия: технико-экономические тренды кажутся в целом очень прибыльными, а мы им даже не сопротивляемся, пока они медленно, но верно вводят нас в ступор и делают лишними.

Красноречивый пример – Сэмюэл Олтмен[136], один из основателей компании OpenAI, в мае 2023 года сделал список из тридцати четырех профессий, которым не грозит исчезновением систематическое использование ChatGPT. На первый взгляд, это выглядело как шутка – уж больно результат походил на поэтические строки Франсиса Понжа из сборника «На стороне вещей»: «Забойщики, фасовщики мясопродуктов, помощники кровельщиков, спортсмены, парикмахеры, изготовители литейных форм и стержней, установщики и мастера по ремонту линий электропередач, установщики и мастера по ремонту автомобильных стекол, мойщики посуды, механики по ремонту мотоциклов». Занятия, конечно, почетные, но фактически не требующие долгого и зачастую дорогостоящего обучения в университете. Отсюда резонный вопрос: по какой причине Олтмен не сделал наоборот – не составил перечень профессий, обреченных на исчезновение (притом что в 2017 году признался студентам Стэнфордского университета, что порой спрашивает себя, «проснувшись утром», сколько рабочих мест «сократит за день»[137], – впрочем, с тех пор он придерживается «официальной» линии). С использованием такого перечня уже около двух десятилетий продвигается идея, что устаревание некоторых профессий – это нормально и на их место непременно придут другие, – так учит весьма уверенная в себе идеология непрерывного «созидательного разрушения» всех вещей. На самом деле речь идет о небывалой по размаху мистификации: вспомним, что в отличие от прогрессивного движения в пользу роботизации предприятий, начатого на рубеже 1980-х годов, когда стали упразднять особо тяжелые виды работ, руководствуясь благой в целом логикой, ныне в опасности оказались виды деятельности, требующей высокого когнитивного уровня.

Нелишне напомнить, что это они заставляют наши умы работать в полную силу, благоприятствуют проявлению талантов и тем самым помогают человеку раскрыться, создать конструктивные связи с другими, познать самоуважение. Генеративный искусственный интеллект в разных его вариантах подобен урагану для множества высококвалифицированных профессий, который успел – в силу сложившейся доксы или всеобщей апатии – влиться в естественное развитие мира. Раз уж осмотрительный Сэм Олтмен не стал рисковать, перечисляя профессии, исчезающие из-за прихода технологий по выхолащиванию умов, проделаем эту работу за него, но не ради прозы в духе Франсиса Понжа – выскажемся в более серьезном жанре «извещения о смерти». Преподаватели, адвокаты, бухгалтеры, дизайнеры, фотографы, журналисты[138], секретари, переводчики, корректоры, артисты дубляжа… А еще, с большой вероятностью, режиссеры, сценаристы, композиторы, художники (либо они будут пользоваться исключительно промптами). В общем, мы коллективно бросили попытки сделаться homo faber,[139] который описан Ханной Арендт в книге «Vita activa, или О деятельности жизни». То есть прийти в состояние, отличное от homo laborens[140], которого калечит проявление его способностей, чтобы деятельность