Deepfake. Где ты? Проснись! - Андрей Владимирович Курпатов

родство выводов, к которым приходят те и другие, трудно отрицать.

И я понимаю, что для кого-то это может звучать странно. Более того, я не призываю вас верить этим параллелям. Ведь кому-кому, а нейрофизиологам прекрасно известно, что подобные мистические переживания вполне можно воспроизвести в лабораторных условиях с использованием галлюциногенов.

Дэвид Натт

В 2016 году британский психиатр, профессор нейропсихофармакологии Имперского колледжа Лондона Дэвид Натт опубликовал примечательную научную статью, где как раз описываются соответствующие эффекты. У испытуемых под воздействием данных веществ действительно возникало ощущение «полного растворения чувства собственного я».

При этом на фМРТ-снимках было отчётливо видно, что главная из наших базовых нейронных сетей – дефолт-система мозга – работает так, словно подопытные переживают состояние тяжёлого психоза, то есть острого приступа шизофрении.

И сейчас мне всё это интересно с сугубо методологической точки зрения…

Физики пытаются понять наш мир как бы «снаружи», духовные учителя – в некотором смысле «изнутри», но и в том, и в другом случае они приходят к общим формулам, которые, вероятно, просто отражают нас – познающих себя и этот мир.

Но что в таком случае мы познаём?

Не познаём ли мы просто собственное познание, которое и создаёт мир, в котором мы себя обнаруживаем?

И что это тогда, если не deepfake?

Крысиные бега

Я нахожу темпы развития искусственного интеллекта удивительными и немного пугающими[1].

Билл Гейтс

Итак, наше введение подходит к концу… И что мы имеем?

С точки зрения современных нейронаук, наше восприятие реальности, мягко говоря, не объективно. Сам «объективный мир» тоже на поверку – иллюзорен, а сфера «духовного» – и вовсе весьма умозрительна.

Не находите, что у нас есть некоторые поводы для беспокойства? Как по мне, это ещё слабо сказано.

Наши прежние представления о мире буквально рассыпаются на глазах, и это происходит именно в тот момент, когда наш мир вошёл в фазу глобальных потрясений.

Понимаю, что никого всерьёз не напугали ни предсказанная эпоха информационной дебильности, ни мои увещевания по поводу нарастающего цифрового аутизма, ни Третья и Четвёртая мировые войны, о которых я писал ещё до всех известных событий.

Всё это уже случилось – мы видим это в исследованиях и новостных сводках. Но подавляющее большинство – так и продолжает прекраснодушно «чилить» (что бы это ни значило), глядя в «чёрное зеркало».

Мы столкнулись с кризисом, который за всю свою историю наш вид никогда не переживал. Цивилизационные кризисы, конечно, случались и раньше: империи рушились, культуры исчезали, целые народы растворялись в истории.

Но это всегда были внешние по отношению к конкретному человеку кризисы – войны, природные катастрофы, экономические потрясения. Даже великие научные и технологические революции меняли лишь способ жизни людей, не затрагивая их существо.

Сейчас всё иначе.

Впервые в истории под вопросом оказалась сама природа человеческого существования – не то, как мы живём, а то, кто мы есть.

И тут как нельзя кстати наука решила нас подбодрить – мол, ребята, мы стали сомневаться в реальности ваших «я» и того мира, на который они смотрят из ваших глаз.

И мы правда продолжим считать, что это не вопрос к нам, а философская абстракция и просто научная головоломка? Попробуем привычно отмахнуться? На дворе кризис «человека» как такового. Что, мягко говоря, невесело, учитывая ту самую – «Четвёртую мировую войну».

Сверхмощный искусственный интеллект уже появился на свет. Он, конечно, ещё молод, выглядит зелёным и бестолковым. Но, учитывая темпы его развития, нам не следует питать иллюзий – выпускные в его детском саду дадут фору нашим Академиям наук.

Как элегантно выразился по этому поводу Билл Гейтс, «просто это ощущается неравномерно»…

Если же прямым и далёким от изящества текстом, то один из владельцев того самого искусственного интеллекта сказал буквально следующее: в новом Ковчеге мест уже нет.

И дело не в том, что все остальные погибнут в адском пламени или умрут от голода. Нет, до этого дело, как мне представляется, не дойдёт. Проблема не в наивных страшилках из голливудских блокбастеров – не будет работы, роботы взбунтуются и т. п. Всё это чушь.

Проблема, поверьте, куда серьёзнее: нас ждёт жизнь, лишённая всякого смысла.

И именно это должно напугать нас до жути – до мурашек, до оторопи, до холодных пяток и застрявшего в груди крика.

Нет, речь вовсе не об «экзистенциальной тоске» из философии первой половины ХХ века. Тогда человек хотя бы осознавал бессмысленность своего существования – и в этом осознании, как писал Жан-Поль Сартр, Карл Ясперс или Эрих Фромм, – парадоксальным образом находил свободу.

Но теперь мы лишаемся даже этой возможности. Теперь нас ждёт нечто куда более жуткое – Цифровое Ничто, в котором нет места ни подлинному отчаянию, ни чувству внутренней свободы – только бесконечное скольжение по поверхности искусственных смыслов.

Представьте состояние, при котором каждая мысль, каждое желание, каждая цель – лишь продукт бесконечной циркуляции информационных потоков.

Мир, где больше нет ни внутреннего, ни внешнего – только нескончаемый фейерверк образов, лайков, репостов, трендов.

Не пугает? Нет, мы даже не смотрим в эту сторону. Глядя на треснувший изнутри мир, мы утешаем себя наивными баснями, что ничего особенного, ещё всё наладится, пронесёт.

Мол, мало ли случалось с человечеством странных историй? Ничего, переживём! Не нервируйте нас!

Мы продолжаем свой крысиный забег в надежде на новые социальные достижения – карьерный успех, общественное признание, финансовое благополучие. Мы даже не заметили, что забег давно окончен, реальность осталась позади, а мы лишь крутим барабан в колесе цифровой иллюзии.

Мы смотримся в чёрные зеркала своих смартфонов, как в порталы нового дивного мира. И в них – не мы, а тщательно сконструированные аватары – fake поверх deepfake. Но если это происходит со всеми, то кто там настоящий? Где искать хоть какой-то намёк на подлинность?

Мы оказались в дурной бесконечности: биологический обман нашего мозга расширился за счёт технологического обмана, а тот, в свою очередь, стал создавать новый социальный обман.

Человечество всё плотнее подключается к машине иллюзий, которая буквально оживает на наших глазах.

Молодые люди уже и не знают, что вообще-то из цифрового лабиринта есть выход. На последних американских выборах комиссии столкнулись с неожиданной проблемой – многие молодые избиратели не знали, как ставить подпись на бумаге. Ну и правильно… А зачем, если есть Face ID?

И дело, разумеется, не в утрате навыка ставить закорючку на бланке – право, этому трюку и циркового зайца можно обучить. Дело в том, что наше сознание уже неотделимо от технологической дыры, затягивающей нас в предельную пустоту, – социальные контакты с виртуальными людьми, пропитавший всё маркетинг, иллюзорные образы счастья…

На протяжении тысячелетий мы были частью системного галлюциноза – и это нормально, такова задумка природы.

Но теперь мы становимся частью гигантской галлюцинаторной машины, которая сама решает, кем нам быть, чем заниматься и как определять самих себя.

Мир уже окончательно разделился на три группы людей.

К первой, немногочисленной, принадлежат те, кто пытается удержать власть над технологиями.

Впрочем, у них лишь иллюзия контроля над хаосом. Они участвуют в самой конкурентной в истории человечества войне на правах штурманов сошедшей с ума боевой машины, что на бешеной скорости мчит в эпицентр надвигающегося цивилизационного торнадо.

Нет, им не позавидуешь! Но они, по крайней мере, сохранят понимание, в каком глубоком сне – цифровом наркозе – уже находится всё прочее человечество. На какое-то время у них ещё сохранится понятное дело жизни.

Дело пустое и глупое – держаться за власть, которой уже нет, но, поверьте, даже такая цель выглядит лучше, чем ничего. Ведь всем прочим в лучшем случае будет предложен плен Цифрового Ничто. И это вторая, самая многочисленная группа.

Подсевшие на цифровой наркотик «дешёвого дофамина», как сомнамбулы, погрузятся в пограничную зону, потеряв всякую способность