От «Энигмы» до ChatGPT - Рустам Агамалиев

в грудь» имеют более высокий смысловой вес в фильмах об искусственном интеллекте, чем в остальных произведениях. Почему? Это статистическая погрешность или закономерность? Естественно, подобный анализ упускает множество мелких и важных деталей: фразы и реплики, несущественные комментарии, слова и надписи из декораций и окружения, с которыми тесно переплетены сюжет и идея искусственного интеллекта. Нам ведь интересно посмотреть, насколько глубока кроличья нора и какие страхи ассоциируются с образом умной машины.

Реконструкция событий до и после изучаемого явления

Сейчас уместно повторить, что умная машина — это не только искусственный интеллект как некая виртуальная сущность и ее возможные воплощения в реальном мире. Умной машиной мы можем признать робота, андроида, киборга и многие другие варианты. На данном этапе нам это важно, потому что следующим нашим действием мы реконструируем некоторые части текста, которые предшествуют и следуют за словом, ассоциирующимся с интеллектуальной машиной. Восстанавливая части повествования подобным образом, можно с определенной достоверностью понять тональность происходящих событий.

Даже в этой выборке просматриваются определенные страхи, например боязнь нового и неизведанного, технологической сингулярности (как бы кто ни относился к этому термину); но пока не очень ясно, что находится за горизонтом событий того момента, когда интеллектуальная машина превратится в мыслящую. Машина, созданная по нашему образу и подобию, мыслить иначе, чем мы, не может, поэтому она «отражает тьму в наших душах». За яркими образами, рисуемыми Голливудом, в книгах и играх, стоит вполне бытовой страх. Он овладевает людьми в кресле самолета или на пассажирском сиденье автомобиля; техническое чудо, управляемое другим человеком, переносит их из точки А в точку Б, а контроль процесса находится в руках кого-то другого. Пока кого-то…

Страх потери контроля — ключевая тема в подавляющем большинстве произведений, связанных с ИИ. Все, что написано выше, — попытка представить этот вывод в более или менее объективной форме, используя некоторые методы лингвистического анализа и грубого пересчета. Однако повторим: любой желающий может воспроизвести этот трюк самостоятельно, практически с любым развлекательным произведением — книгой, фильмом, сериалом, компьютерной игрой. Достаточно посмотреть и сравнить, какие ключевые слова используются в описании на сайте. Далее нужно составить таблицу, где в середине находится изучаемое понятие, слева — слова, которые ему предшествовали, справа — следующие за ним, и проанализировать тональность высказываний. Этот прием можно использовать также для анализа целой книги. Достаточно выбрать до пятидесяти ключевых понятий, желательно простых слов, с которыми ассоциируется книга, и пересчитать их. Здесь нет никакой магии: грубый «пересчет в лоб», который использовался нами ранее, решает большинство задач. Однако он пока не полноценен. До этого момента в анализе принимали участие исключительно художественные произведения. Сначала был фольклор, и уже в нем прослеживается желание обзавестись техникой, выполняющей часть наших функций: печь Емели, ступа Бабы-яги в качестве самоуправляемых средств передвижения, избушка на курьих ножках, автоматизированный охранник, пускающий своих и не пускающий чужих, зеркальце, предсказывающее и описывающее события, и многое другое, что не вошло в повествование. Далее он уступил место авторским произведениям, которые вынесли на поверхность скрытые за технологической эйфорией страхи потери контроля, порабощения, а в самом крайнем случае — полного истребления человечества.

За несколько месяцев до написания этого материала нам на глаза попался рассказ Харлана Эллисона «У меня нет рта, но я должен кричать». Наверное, это самый мрачный взгляд на будущее человечества, окончательно потерявшего контроль над искусственным интеллектом. Далее мы предлагаем сформулировать образ ИИ через призму новостей, публикуемых в интернете. Интересно сравнить представление писателей-фантастов и журналистов: оценить, как освещаются новости об успехах создания интеллектуальной машины публике в средствах массовой информации.

Образ ИИ в СМИ

Перечитывать все публикации подряд на новостных сайтах с целью понять, как же воспринимается ИИ, слишком долго и трудоемко. Любой пользователь поисковых систем (Yandex или Google) сможет найти подборку новостей и выдержек за какой угодно период. Например, поисковые запросы «искусственный интеллект, польза или вред», «применение технологий искусственного интеллекта» представят читателю полярный взгляд на феномен искусственного интеллекта и, возможно, покажут изменение мнений: от «ИИ — это способ подстегнуть инновационный процесс и время новых возможностей» до «Общество взволновано тем, что достижения в области ИИ могут запустить череду сокращений и замещений человека машиной». В общем, извечный спор техноевангелиста и технолуддита. И тот и другой имеют основания под своей позицией, однако часто они противоречат друг другу.

Техноевангелист выступает в роли популяризатора технологии, проводника для непосвященных и первого активного пользователя нового, а технолуддит смотрит на ситуацию иначе. Для него почти любое изобретение сопряжено с рисками, часто связанными с потерей работы, изменением характера социальных взаимоотношений, с риском для окружающей среды. Однако самое главное, если рассуждать об ИИ с позиции противников развития технологий, это возможность использования ИИ во зло, что неминуемо без строгой регламентации действий самого ИИ и деятельности предприятий, занятых его разработкой.

Технологические евангелисты и луддиты — два противоборствующих лагеря. Первые концентрируются на положительных аспектах технологии и всевозможных сценариях взаимовыгодной синергии человека и машины, при которой работа каждого по отдельности значительно хуже, чем совместная. Вторые раскручивают в массах негативные сценарии и освещают риски, сопряженные с быстрым внедрением технологий ИИ повсеместно. Наиболее известные представители обоих лагерей — Илон Маск в роли технолуддита и Сергей Брин в качестве техноевангелиста.

Если в мире много сторонников и того и другого взгляда на развитие ИИ — как выглядит наиболее объективная позиция? Как оценить, чье мнение доминирует — луддитов или евангелистов? Здесь снова на помощь придут лингвистика и анализ корпуса текстов. Мы уже воспроизвели множество приемов различных исследований. Сможем ли мы повторить анализ ключевых слов, реплик и дискурсов в художественных произведениях для новостных публикаций, которые станут тараном общественного мнения? Согласны ли такие СМИ с тем, что ИИ — это неизведанный риск?

Как оказалось, подобное исследование уже проводилось в 2017 году Итаном Фастом и Эриком Хорвитцем. Им удалось изучить архив публикаций The New York Times за более чем 30-летний период. Анализ текста позволил увидеть восприятие людьми ИИ, показал тренды, убеждения, интерес и чувства публики по отношению к интеллектуальной машине. Хорвитцу и Фасту удалось измерить уровень пессимистических и оптимистических настроений. Согласно исследованию, начиная с 2009 года общественное мнение начало меняться с негативного на позитивное, однако при этом страх потери работы, контроля никуда не исчез, а то и усилился.

Мы попытаемся обобщить и пересказать часть исследования и некоторые выводы, к которым они пришли. Хорвитц и Фаст с целью изучить восприятие общественностью ИИ взяли для анализа подборку статей, опубликованных в The New York Times в период с января 1986-го по июнь