Среди призраков. Рассуждение об эпохе метавселенной и генеративного искусственного интеллекта - Эрик Саден

Часто эти задачи удается решить, однако сколько ни перестраховывайся, какая-нибудь неожиданность, сбой, катастрофа могут в конце концов случиться – и обнаружится вся тщета фантазий о том, будто все можно приручить. Подобные события происходят даже в полностью контролируемой среде и влекут за собой серьезные логистические нарушения и финансовые убытки. Взять, к примеру, случай с несовпадением метрических параметров кабеля, который изготавливали на заводах по производству аэробусов A380 в Тулузе и в Гамбурге, – частично это было связано с недостаточно тесным взаимодействием команд французских и немецких инженеров, а также с отсутствием общих цифровых инструментов обработки данных и привело к двухлетней задержке поставок летательного аппарата. Еще один действительно трагический пример – цунами, в марте 2011 года обрушившееся на ядерную электростанцию «Фукусима» в Японии, спроектированную без учета того, что прямо у побережья может произойти землетрясение мощностью до 9 баллов по шкале Рихтера. Наконец, вспомним забавный случай с испанской железнодорожной компанией (Renfe), заказавшей тридцать один поездной состав: в начале 2023 года выяснилось, что их габариты слишком велики и они не входят в некоторые тоннели. Сколько усилий затрачено на установление поистине драконовских методов организации и сколько фактов, которые in fine[74] обнажают наши грандиозные недоработки или говорят, что некоторые явления так или иначе оказываются сильнее нас. Как в фильмах с Бастером Китоном[75], в которых рано или поздно все идет наперекосяк и абсурд проявляется как напоминание о наших самых отвратительных и опасных скрытых желаниях.

Будь повод мелким или значительным, вмешательство случайности всегда вызывает много шума. Скажем больше: такое чувство, что с наступлением блистательного гипермодерна – под салюты и ликование, встречавшие новое тысячелетие, – мы почти осуществили изначальное стремление Декарта «стать <…> господами и владетелями природы». Но сентябрьским утром 2001 года эта уверенность рассыпалась в небесах Америки, тогда торжествующей, но внезапно представшей колоссом на глиняных ногах. Определенно, непредвиденное всегда поджидает нас, притаившись, будто дьявол, который все делает по-своему. Однако случилось чудо, воспринятое как исторический повод, чтобы окончательно отсечь этому дьяволу башку. Чудо настолько из ряда вон выходящее, что для его наименования понадобился оксюморон: искусственный интеллект.

Никогда не лишне, не пускаясь в ленивую болтовню и не вешая ярлыки, задуматься о природе искусственного интеллекта, который есть не что иное, как сила, способная автоматически изучать реальность и, не сбавляя обороты, выдавать рекомендации индивидам и сущностям. А еще это сила, автоматически управляющая самым разным положением вещей. Как приложение Waze – в качестве первого примера. Оно в реальном времени обрабатывает данные дорожной обстановки и предлагает пользователю выбрать один маршрут вместо другого, обычно – чтобы оптимально распределить время и силы и за счет этого лучше приспособиться к ситуации. Или же – второй пример – роботы в высокочастотной алгоритмической торговле, которые занимаются куплей-продажей ценных бумаг.

В этом плане искусственный интеллект похож на Сократа-«сводника»[76] – он всеведущ и занимается тем, что приводит все органические и неорганические элементы в наиболее полное соответствие друг другу в зависимости от наших сиюминутных желаний или потребностей. Всемогущая когнитивная и организующая сила воздвигает перед нами реальность, которую мы назвали бы «доработанной» в том смысле, что над ней совершается непрерывная работа, чтобы все сочеталось и создавало условия, которые всегда будут считаться наиболее подходящими и выгодными. Это технологическое чудо – ставший основным вектор капитализма гиперперсонализации, интегральной жизни, «алгоритмизованно-гигиенического» устройства общества, плод больших затрат и усилий, – непредопределяемо, сколько бы ни предпринималось жалких попыток регулирования и как бы ни беспокоило многих, что используются не все нынешние и будущие ресурсы. Наоборот, провиденциальное – в экономике, в общественной жизни, как и в политике, – в том и состоит, что в конечном счете дополняет практически все наши индивидуальные и коллективные действия.

Лучшее из обществ

Сегодня, полвека спустя, эта картина могла бы служить квинтэссенцией антиутопического мира. На фотографии просторное шестиугольное помещение, глухое – ни щели во внешний мир, обшитое деревянными панелями – для звукоизоляции, не иначе. На полу – оливкового цвета плиты, с подвесного потолка, полностью остекленного, льется яркий электрический свет. Семь внушительных кресел в ретрофутуристском стиле – вращающиеся, белого цвета, из углеволокна, с оранжевыми подушками, в подлокотники встроены кнопки управления. По стенам висят экраны и черное табло. Это Op-room, «операционный зал», место расположения – Сантьяго-де-Чили, перед нами сердце проекта «Киберсин» (Cybersyn). Здесь шел сбор информации – ее фиксировали вручную и передавали по телетайпным аппаратам, которыми изначально снабдили предприятия, а затем и другие звенья экономики; информация была связана с их деятельностью (например, какое оборудование поступило, какую продукцию выпустили, сколько человек отсутствует и тому подобное) и давала картину пусть и не в реальном времени, но, как предполагалось, максимально приближенную к существующему положению.

Каждый день собранные данные вводили в компьютер – IBM 360/50 с созданной для него программой, чтобы делать краткосрочные прогнозы и подсказывать адекватные коррективы. В зале управления обсуждались выводы. Система позволяла понять возможные результаты принятых решений и выстроить различные сценарии, касающиеся, к примеру, объемов добываемого или импортируемого сырья, установления цен, вопросов найма и увольнений. Главным архитектором происходящего был Энтони Стаффорд Бир[77]. Это была первая, предпринятая в 1970 году – в демократическом обществе, в Чили при Сальвадоре Альенде, – попытка внедрения устройства, специально предназначенного вести оптимизированное регулирование коллективной деятельности с помощью автоматических протоколов. Предполагалось также изготовить блок для подключения к телевизионной сети, предназначенный для граждан, которым предлагалось регулярно, прямо из дома, делиться тем, как они воспринимают те или иные принятые меры в диапазоне от крайнего недовольства до полной удовлетворенности. Работа заняла больше года, но так и не завершилась.

Использовалось здесь то, на чем изначально держится вычислительный процесс, а именно ввод данных, которые после обработки возвращаются в виде результатов – фидбэка. На примере чилийского проекта мы имеем дело с «машинным управлением», формальным воплощением мечты Норберта Винера[78] и его коллег-кибернетиков о создании систем, способных выявлять свойства различных ситуаций, чтобы в зависимости от этого принимать более качественные решения. Именно такую задачу задумало решить правительство Альенде: содействовать лучшей работе частных и национальных предприятий, органов управления, служб, отвечающих за движение в городах, и, наконец, общества в целом. Причем в духе социализма намереваясь действовать на благо общих интересов и стараясь вовлечь все общество.

Несколько десятилетий спустя изображения Op-room вновь появились во Всемирной паутине, но, поскольку технологии с тех пор продолжали развиваться и изменился геополитический контекст, теперь их восприняли иначе. В них усмотрели основу новой формы контроля над населением, настоящее всевидящее око