Охота на электроовец. Большая книга искусственного интеллекта - Марков Сергей Николаевич

5. Формирование «токсического цикла». Представим себе систему социального рейтинга, использующую модель машинного обучения для присвоения гражданам определённого балла на основании их поступков. От социального рейтинга может зависеть доступ граждан к государственным сервисам и благам. Проблема заключается в том, что человек, по юности оступившись и получив в некоторый момент плохое значение социального рейтинга, утрачивает доступ к качественному образованию, тем самым уменьшая свои шансы на дальнейшую реабилитацию. Цель системы — корректировать поведение людей в положительную сторону, но вместо этого она может на деле способствовать дальнейшему погружению людей на социальное дно. Хотя такого рода явления существовали и ранее (например, работодатели избегают брать на работу людей с судимостью, тем самым уменьшая их шансы на возвращение к нормальной жизни), использование ИИ может приводить к тиражированию подобных практик. Потенциально это очень опасное свойство такого рода моделей. Хорошей иллюстрацией этого «токсического цикла» является первый эпизод третьего сезона телесериала «Чёрное зеркало», в котором мир будущего основан на системе оценок, которые люди могут ставить друг другу при помощи специального приложения.

7.5 Законодательное регулирование ИИ

Проблемы, описанные О’Нил, периодически привлекают внимание прессы и законодателей. При этом общественную дискуссию и законотворческие инициативы во многом подпитывают те или иные зрелищные демонстрации возможностей современного ИИ. За последние десять лет государственные и международные институты совершили несколько «подходов к снаряду» в области регулирования сферы ИИ, и в некоторых областях им удалось продвинуться от деклараций, напоминающих тосты «за всё хорошее», до конкретных законодательных актов (либо принципиального отказа от регулирования) и зачатков системы международных стандартов. Детальный обзор положения дел в области современной регуляторики в области ИИ потребовал бы увеличения объёма книги ещё на один том, поэтому здесь мы ограничимся упоминанием только некоторых документов и событий в этой области.

Хотя законы, так или иначе затрагивающие сферу ИИ, принимались и раньше[3191], первые попытки систематически подойти к регулированию разработки, внедрения и эксплуатации ИИ-систем относятся к началу 2010-х гг., когда внимание законодателей было привлечено к сфере беспилотного транспорта. Действующее на тот момент законодательство просто не разрешало использовать мобильные автопилоты, что ставило под вопрос дальнейшее развитие этой технологии. В соответствии с Венской конвенцией о дорожном движении 1968 г.[3192], участниками которой, по данным на 2023 г., являются 88 стран мира, одним из основополагающих принципов дорожного движения являлась концепция, согласно которой водитель всегда полностью контролирует и несёт ответственность за поведение транспортного средства. В 2016 г. реформа конвенции позволила использовать автоматизированные функции в транспортных средствах[3193], однако изменения, разрешающие использование беспилотного транспорта, вступили в силу лишь в июле 2022 г.[3194]

Крупнейшей западной страной, не являющейся участником Венской конвенции, являются США. И хотя на федеральном уровне в этой стране пока не существует закона о беспилотном транспорте, на уровне отдельных штатов такие законы действуют уже достаточно давно. Пионером в этой области стала Невада, которая ещё в 2011 г. приняла закон, разрешающий использование беспилотных автомобилей, а точнее — «автоматизированных транспортных средств» [automated vehicle]. Таким образом, Невада оказалась первой юрисдикцией в мире, где на дорогах общего пользования стало возможным на законных основаниях эксплуатировать такие авто (в определённых зонах, которые устанавливает Департамент транспортных средств Невады). Принятие нормативного акта было поддержано компанией Google, которая была заинтересована в том, чтобы легально тестировать свои беспилотники[3195]. Закон штата Невада определяет автоматизированное транспортное средство как «автомобиль, который использует искусственный интеллект, датчики и координаты глобальной системы позиционирования для управления собой без активного вмешательства человека-оператора», и признаёт, что оператору не нужно сохранять постоянное внимание во время работы автопилота. Однако Google не смогла добиться исключения из запрета на отвлечённое вождение (то есть такое вождение, при котором водитель может заниматься посторонними делами, которые отвлекают его от вождения, например отправлять текстовые сообщения). Кроме того, закон Невады требует, чтобы во время использования беспилотного транспорта в машине находился водитель, сидящий за рулём, и не более одного пассажира. Таким образом, закон, по сути, открыл дорогу лишь испытаниям, но не полноценной эксплуатации беспилотного транспорта[3196], [3197].

В последующие годы испытания беспилотного транспорта на своих дорогах разрешили и некоторые другие штаты — Флорида (2012)[3198], Калифорния (2012)[3199], Мичиган (2013)[3200] и так далее. В 2013 г. разрешение на тестирование беспилотного транспорта на своих общественных трассах выдало правительство Великобритании[3201] (на тот момент страна ещё не являлась участником Венской конвенции). В 2015 г. в рамках Всемирного конгресса по интеллектуальным транспортным системам прошла первая демонстрация беспилотников на общественных дорогах Франции[3202].

Пионером в области национального законодательства в отношении беспилотников стала Германия, в которой в 2017 г. был принят закон, призванный открыть дорогу автономному транспорту. Законодатели выделили категорию автомобилей «со значительно или полностью автоматизированными функциями вождения» и разрешили водителям отвлекаться от ситуации на дороге. Одновременно был удвоен лимит ответственности за причинённый вред и введено правило обязательной установки бортовых самописцев. В июле 2021 г. в действие вступил «Закон об автономном движении», который существенно расширил и конкретизировал предыдущие положения, разрешив эксплуатацию автономных транспортных средств без физического присутствия водителя (но только в пределах специально отведённых зон и под «техническим надзором», то есть при наличии удалённого наблюдения со стороны человека, способного вмешаться в критической ситуации). Наряду с этими изменениями был введён новый централизованный процесс сертификации автономных транспортных средств[3203].

В наши дни различные меры в области регулирования автономного транспорта предприняты также в других странах Евросоюза, Китае, Японии, Австралии, Израиле и иных странах. Не является исключением и Россия. Осенью 2018 г. правительство РФ своим постановлением разрешило тестировать беспилотные транспортные средства на автомобильных дорогах в Москве и Татарстане. В 2020 г. список регионов расширили до 13, распространив эксперимент на Санкт-Петербург, Московскую, Ленинградскую, Владимирскую, Самарскую, Нижегородскую и Новгородскую области, Краснодарский край, Чувашию, а также Ханты-Мансийский и Ямало-Ненецкий автономные округа. Постановление российского правительства, подобно большинству аналогичных зарубежных документов, требовало, чтобы при испытании беспилотного автомобиля за его рулём находился инженер-тестировщик. При этом российские разработчики беспилотников, недовольные темпами внесения изменений в Венскую конвенцию, в 2020 г. просили Министерство иностранных дел, Министерство транспорта и Министерство юстиции частично приостановить участие России в этом международном соглашении, чтобы устранить административные барьеры и обеспечить возможность тестирования и эксплуатации беспилотных автомобилей без инженеров-тестировщиков на дорогах общего пользования[3204]. Впрочем, до практических мер в этом направлении дело всё-таки не дошло, и проблема как будто решилась сама собой со вступлением в силу поправок к Венской конвенции.