Нексус. Краткая история информационных сетей от каменного века до искусственного интеллекта - Юваль Ной Харари

Представьте себе ситуацию, когда через двадцать лет, скажем, кто-то в Пекине или Сан-Франциско будет обладать всей личной историей каждого политика, журналиста, полковника и генерального директора в вашей стране: каждое сообщение, которое они когда-либо отправляли, каждый поиск в Интернете, каждая болезнь, которой они страдали, каждый сексуальный контакт, которым они наслаждались, каждый анекдот, который они рассказывали, каждая взятка, которую они брали. Будете ли вы по-прежнему жить в независимой стране или теперь станете жить в колонии данных? Что произойдет, если ваша страна окажется полностью зависимой от цифровых инфраструктур и систем, управляемых искусственным интеллектом, над которыми у нее нет эффективного контроля?

Такая ситуация может привести к новому виду колониализма данных, при котором контроль над данными используется для господства над далекими колониями. Овладение ИИ и данными также может дать новым империям контроль над вниманием людей. Как мы уже говорили, в 2010-х годах американские гиганты социальных сетей, такие как Facebook и YouTube, в погоне за прибылью перевернули политику таких далеких стран, как Мьянма и Бразилия. Будущие цифровые империи могут сделать нечто подобное в политических интересах.

Опасения психологической войны, колониализма данных и потери контроля над своим киберпространством привели к тому, что многие страны уже блокируют опасные, по их мнению, приложения. Китай запретил Facebook, YouTube и многие другие западные социальные сети и сайты. Россия запретила почти все западные социальные сети, а также некоторые китайские. В 2020 году Индия запретила TikTok, WeChat и многие другие китайские приложения на том основании, что они "наносят ущерб суверенитету и целостности Индии, обороне страны, государственной безопасности и общественному порядку". В США обсуждается вопрос о запрете TikTok, поскольку они обеспокоены тем, что приложение может служить интересам Китая, и с 2023 года запрещено использовать его на устройствах почти всех федеральных служащих, сотрудников штатов и государственных подрядчиков. Законодатели Великобритании, Новой Зеландии и других стран также выразили обеспокоенность по поводу TikTok. Правительства многих других стран, от Ирана до Эфиопии, заблокировали различные приложения, такие как Facebook, Twitter, YouTube, Telegram и Instagram.

Колониализм данных может проявиться и в распространении систем социального кредитования. Что может произойти, например, если доминирующий игрок в глобальной цифровой экономике решит создать систему социальных кредитов, которая будет собирать данные везде, где только можно, и выставлять оценки не только своим гражданам, но и людям по всему миру? Иностранцы не смогут просто отмахнуться от своего балла, ведь он может повлиять на них во многих отношениях - от покупки авиабилетов до получения виз, стипендий и работы. Как туристы используют глобальные оценки, выставляемые иностранными корпорациями, такими как Tripadvisor и Airbnb, для оценки ресторанов и домов отдыха даже в своей стране, и как люди во всем мире используют доллар США для коммерческих сделок, так и люди во всем мире могут начать использовать китайский или американский социальный кредитный балл для местных социальных взаимодействий.

Становление колонией данных будет иметь как экономические, так и политические и социальные последствия. В XIX и XX веках, если вы были колонией промышленной державы, такой как Бельгия или Великобритания, это обычно означало, что вы поставляете сырье, а передовые отрасли, которые приносили наибольшую прибыль, оставались в имперском центре. Египет экспортировал хлопок в Британию и импортировал элитный текстиль. Малайя поставляла каучук для шин, а Ковентри производил автомобили.

Нечто подобное может произойти и с колониализмом данных. Сырьем для индустрии ИИ являются данные. Чтобы создать ИИ, распознающий изображения, нужны фотографии кошек. Чтобы создавать самую модную моду, нужны данные о модных тенденциях. Для создания автономных автомобилей нужны данные о схемах движения и автомобильных авариях. Чтобы создать искусственный интеллект для здравоохранения, нужны данные о генах и медицинских заболеваниях. В новой имперской информационной экономике исходные данные будут собираться по всему миру и стекаться в имперский центр. Там будут разрабатываться передовые технологии, создавая непревзойденные алгоритмы, умеющие распознавать кошек, предсказывать модные тенденции, управлять автономными автомобилями и диагностировать заболевания. Затем эти алгоритмы будут экспортированы обратно в колонии данных. Данные из Египта и Малайзии могут сделать корпорацию в Сан-Франциско или Пекине богатой, в то время как люди в Каире и Куала-Лумпуре останутся бедными, потому что ни прибыль, ни власть не будут распределяться обратно.

Природа новой информационной экономики может сделать дисбаланс между имперским центром и эксплуатируемой колонией как никогда сильным. В древние времена земля, а не информация, была самым важным экономическим активом. Это исключало чрезмерную концентрацию всех богатств и власти в одном центре. До тех пор пока земля имела первостепенное значение, значительные богатства и власть всегда оставались в руках провинциальных землевладельцев. Римский император, например, мог подавлять одно восстание в провинции за другим, но на следующий день после обезглавливания последнего вождя мятежников у него не оставалось выбора, кроме как назначить новых провинциальных землевладельцев, которые могли снова бросить вызов центральной власти. В Римской империи, хотя Италия была центром политической власти, самые богатые провинции находились в восточном Средиземноморье. Перевезти плодородные поля долины Нила на Итальянский полуостров было невозможно. В конце концов императоры оставили город Рим на произвол варваров и перенесли центр политической власти на богатый восток, в Константинополь.

Во время промышленной революции машины стали важнее земли. Фабрики, шахты, железные дороги и электростанции стали самыми ценными активами. Сконцентрировать такие активы в одном месте было гораздо проще. Британская империя могла централизовать промышленное производство на своих родных островах, добывать сырье в Индии, Египте и Ираке и продавать готовые товары, произведенные в Бирмингеме или Белфасте. В отличие от Римской империи, Британия была центром как политической, так и экономической власти. Но физика и геология все же накладывали естественные ограничения на эту концентрацию богатства и власти. Британцы не могли перенести все хлопчатобумажные фабрики из Калькутты в Манчестер, а нефтяные скважины - из Киркука в Йоркшир.

Информация - это совсем другое. В отличие от хлопка и нефти, цифровые данные могут быть отправлены из Малайзии или Египта в Пекин или Сан-Франциско почти со скоростью света. И в отличие от земли, нефтяных месторождений или текстильных фабрик, алгоритмы не занимают много места. Следовательно, в отличие от промышленных мощностей, вся мировая алгоритмическая мощь может быть сосредоточена в одном центре. Инженеры в одной стране могут писать код и управлять ключами для всех важнейших алгоритмов, которые управляют всем миром.

Действительно, ИИ позволяет сконцентрировать в одном месте даже решающие активы некоторых