Искусственный интеллект. Этика и право - Елена Сергеевна Ларина

выполняющим те или иные работы в рамках бизнеса (например, законодательство нормативно запрещает продавцу обсчитывать покупателя или продавать ему некачественный товар. Норма применяется к действиям человека-продавца. – Авторы). В случае же алгоритмического регулирования устанавливаются обязательные для разработчиков и программистов правила разработки алгоритмов[12].

Особая, совершенно неразработанная тема – это регулирование поведения потребителей. Поведенческая экономика появилась только в последние десятилетия. Соответственно ни в одной стране мира нет не только законов, но и саморегулирующих подходов к данной тематике. В конечном счете, в рамках использования ИИ и больших данных, поведение потребителя не только в интернете, но и в цифровой реальности может определяться не его волей, а выбором определенной архитектуры платформы и ее интерфейса. Фактически создатели платформ де факто определяют поведение потребителя вне зависимости от его желаний.

В странах ЕС в настоящее время ведутся острые дебаты о преимуществах и недостатках так называемого Наджа или Подталкивания. Его основоположник К.Санстейн утверждает, что Надж – это либертарианский патернализм. Т. е. при помощи алгоритма и интерфейса он подталкивает людей к осуществлению тех поступков, которые несут им пользу, а не вред. Осуществляется это, по его словам, на основе алгоритмов онлайн платформ, использующих опции по умолчанию, при помощи определенных цветов, за счет расположения элементов интерфейса и т. п., которые подталкивают потребителя к выбору, наиболее полезному для его здоровья, благополучия и т. п. Между тем, значительная часть социальных психологов и даже политологов полагают, что Надж может быть использован, возможно, даже с большей эффективностью, не для достижения положительных с точки зрения персоны или общества действий, а как манипулятивная технология, позволяющая воздействовать на население, по сути, принуждая граждан к покупкам конкретных товаров и услуг или выбору определенного кандидата в электоральном процессе и т. п.

Особой темой, обсуждение которой вновь усилилось в рамках регулирования ИИ, является правовое регулирование дизайна платформ. Еще в 1999 г. Лоуренс Лесинг показал, что тот или иной дизайн платформы может работать как на потребителя, так и позволять собственникам или производителям платформы осуществлять действия, уголовно наказуемые в физическом мире, но безнаказанные в интернет-пространстве. В 2015 г. исследователи Гамбургского университета выявили, что из 100 обследованных европейских платных сервисов в 84 легкость платной подписки сочетается с трудностями, а иногда почти невозможностью отписаться от платной услуги. Поскольку применение ИИ, например, на торговых платформах для потребителей интернет-услуг означает, прежде всего, еще возможность еще меньше, чем сегодня напрягаться и думать, то следует ожидать увеличения рисков и опасностей изъятия средств за счет дизайн-решений. Если не применить к этой уловке жесткие регулятивные нормы, то уже в ближайшие годы дизайн-вымогательство, будучи уголовно ненаказуемой формой, будет все более и более распространяться, а ущерб, наносимый им кошелькам потребителей, исчисляться уже миллиардами евро.

Дизайн-вымогательство – это лишь один пример более мощного технологического течения. Суть его в следующем. Все новые и новые информационные технологии делают человека-потребителя или занятого в бизнесе клиента все более уязвимым перед теми или иными ухищрениями, ловушками и методами манипулирования. Чем дольше эти недружественные для потребителей решения будут оставаться в серой зоне, тем больше опасность, что киберпреступность будет уходить от уголовно наказуемых форм деятельности в ненаказуемые зоны, где, по сути, будут использоваться с умыслом манипулятивные методы и технологии, многократно умножаемые возможностями ИИ.

Решения RegTech и SupTech в настоящее время используются исключительно в сфере финансовых услуг. Однако их потенциал существенно шире. Эти технологические пакеты могут быть использованы в любом регулируемом секторе для проведения оценки рисков и угроз и создания систем непрерывного мониторинга. Помимо обязательной оцифровки отраслевой отчетности, они позволяют осуществлять автоматизацию проверки технических регламентов, стандартов, нормативных требований на их реализуемость в практике работы компаний и на их соответствие согласованным на государственном уровне нормам. По сути, указанные технологии представляют собой эффективные инструменты использования ИИ для анализа нормативно-правовой документации и практики ее использования в работе любой компании, в первую очередь, осуществляющей свою деятельность в интернете.

Заслуживают широкого распространения и опробации адаптивные варианты регулирования (экспериментальное формирование нормативной политики). Скорость, с которой развиваются технологии, и разрушительный характер новых бизнес-моделей во многих секторах побудили регулирующие органы во всем мире искать экспериментальные подходы к регулированию. Эти подходы позволяют найти компромисс между естественным консерватизмом правовых норм и быстротечным техническим прогрессом.

Существует несколько возможных способов обеспечить высокую адаптивность регулирования. Они включают:

• использование «нормативных песочниц» и других экспериментальных подходов, применяемых лишь для ограниченного, а в отдельных случаях конкретно прописанного круга юридических и физических лиц, для обеспечения наработки решений, которые затем будут положены в основу саморегуляции и гражданского контроля, а главное, совершенствования законодательства на долгосрочный период;

• создание технологических дорожных карт и мнений хозяев и разработчиков платформ в процессе выработки законодательной политики в сфере интернет-бизнеса, ИИ и т. п.;

• широкое использование инструментария открытого правительства, позволяющего привлечь к выдвижению, разработке и анализу нормативных актов бизнес и гражданское общество, а также использовать их возможности для мониторинга эффективности реализации и выявления недостатков уже принятых юридических решений.

По-прежнему ядром регулирования информационных технологий вообще, и ИИ в частности, являются законодательные нормы, а также отраслевые стандарты и технические требования. Вопрос технических требований и стандартов является одним из важнейших в части регулирования ИИ. Здесь полезно напомнить, что еще несколько лет назад в период работы регулирующих органов США и ЕС по разработке Трансатлантического торгово-инвестиционного партнерства, одним из главных камней преткновения стала несовместимость технических стандартов и нормативных требований к информационным технологиям вообще, и ИИ в частности между США и ЕС.

В Соединенных Штатах используются гораздо более гибкие стандарты, которые созданы в основном в рамках саморегулирования. В ЕС же технические требования – это прерогатива органов ЕС и страновых регулирующих органов. Как уже отмечалось, европейский подход позволяет избежать многих опасностей для конечных пользователей. Однако американский подход обеспечил заокеанскому бизнесу и университетам несомненное лидерство в сфере интернет-технологий вообще, и ИИ в особенности. В конечном счете, в Соединенных Штатах хорошо понимают, что IT отрасль была, есть и будет находиться в серой зоне, и соответственно ее правовое регулирование всегда будет носить догоняющий характер. Данное обстоятельство является технологической реальность. В этой связи ЕС необходимо полностью учесть эту реальность, и не повторять ранее совершенных просчетов, сделанных применительно к ИИ, в отношении протоколов P2P и блокчейна.

Во всех случаях анализ рисков новых технологий должен стать не просто неотъемлемой частью нормативной практики ЕС, но и приоритетным направлением ее деятельности. Необходимо особо выделять наиболее динамичные факторы в развитии технологий, которые по причинам межблоковой и международной технологической конкуренции целесообразно оставлять в серых зонах. Европейская, как и китайская традиция, предусматривает, что