Инсинуации - Варвара Оськина

–Судя по многозначительному молчанию, ответ – нет. Но с момента моего вопроса прошли десятки секунд, и вот уже появились единицы, кто может сказать о социальной и этической важности. Но что же остальные? А остальные кинулись упиваться инвестиционной значимостью каждого своего чиха. Верно?

Риверс прислонил руку к глазам, стараясь за безумным светом софитов разглядеть реакцию людей.

–Вы киваете, значит, я прав. Судите сами, мы создаём интеллект, который способен решать задачи без человеческого участия. Обучаем его, тренируем, иногда воспитываем. Вам это ничего не напоминает?

Профессор, который до этого медленно расхаживал перед аудиторией, остановился и сделал паузу, снова оглядев слушателей. Те хранили мёртвое молчание.

–Ожидаемо. – Он скептически усмехнулся, а потом устало выдохнул: – Это ребёнок. Ваше чадо, которое постепенно растёт, меняется и… становится мудрее. Однако вместе с этими переменами приходят и проблемы. Во-первых, машины становятся нашими конкурентами, сокращая изо дня в день необходимость в человеческих ресурсах. Во-вторых, наш опыт показывает – искусственный интеллект ещё более необъективен, чем человеческий. Он полностью зависит от того, чему мы его научим, и даже малейший сдвиг в балансе приведёт к тому, что на конкурсах красоты компьютер выберет исключительно белых участниц. Каков расист, верно? Но даже это ещё не всё. Есть последний, но важный момент – кто будет виноват в компьютерном сбое, когда он произойдёт? Кто понесёт ответственность, когда ваш искусственный разум решит запустить ядерные боеголовки только лишь потому, что в его алгоритмы заложена система защиты себя самого? Да, мы сделали это – наш код прекрасно определяет, как реагировать на события и реагировать ли вообще. Но можем ли мы предсказать его поступки? Нет. Однажды настанет момент, когда мы поймём, что хоть и создаём нейронную сеть, но не управляем ею. Границы ответственности стираются. Уже сейчас даже при самом невинном сбое нельзя сказать, кто виноват: пользователь, разработчик или тот, кто обучал…

Риверс на мгновение прервался, глотнул воды и заговорил снова, однако мозг Элис неожиданно погрузился в оцепенение и заевшей пластинкой проигрывал одну и ту же фразу: «Мы создаём нейронную сеть, но не управляем ею». О господи! От осознания этой очевидной мысли на мгновение стало очень страшно, но тут на экране особо ярко мигнул новый слайд, и Эл очнулась. Она смотрела на фото подростка с геймбоем в руках, пока в уши впивался ядовитый голос Риверса:

–Сейчас мы не думаем об этих проблемах. Мы вообще ни о чём не задумываемся, а потому я спрошу вас – не кажется ли вам, что, живя так, мы играем в Господа Бога? Посмотрите, у нас даже машины созданы по образу и подобию человеческому. – Риверс зло хохотнул и спрятал за полуприкрытыми веками страшный мучительный взгляд.

В этот же момент картинка сменилась неожиданным кадром из фильма, профессор оглянулся, уставившись на зарывшуюся носом в песок ракету «Stark Industries», а аудитория беззвучно задохнулась от грубого и неприкрытого намёка. Закусив костяшки пальцев, Элис ждала последней, решающей крупицы, что в мутное крошево разобьёт её стройный красивый мир. И это произошло, когда экран показал погрязшую в войнах планету, а издалека донёсся негромкий голос:

–Сколько осталось честности и ответственности в нас самих до того момента, как мы направим человечество к деструктивному поведению, используя лишь несколько десятков строчек кода? В наших руках огромная власть, которую многие из вас даже не осознают, считая всё это… – Он обвёл рукой зал, где летали три маленьких дрона, мерцая вспышками фотокамер. – Невинными играми разума.

Реакция тела оказалась быстрее застопорившегося разума, который впервые и сразу так грубо вытряхнули из академического вакуума. Палец судорожно дёрнулся на тачпаде, непроизвольно остановив видео, где замерло взятое крупным планом лицо Риверса: открытое, честное и потому совершенно обесчеловеченное. Элис смотрела в бликующий глянец ноутбука, пока медленно осознавала, что наконец-то сбросила весь сонм навешанных иллюзий и идеалистических заблуждений.

Господи! Кто этот человек? Как ему вообще позволили говорить о таком? Но… если подумать, кто бы ещё смог? Риверс – Тони Старк их совсем не комиксовой реальности. Риверс – звезда Пентагона, крупнейшей организации, что несла мир через войну. Риверс – создатель программ для управления машинами и причина невинных смертей, когда снаряды летели в мирные дома. И именно Риверс без малейшей попытки смягчить неудобную правду прямо сейчас признал в этом свою вину. Он без капли самообмана взял на себя положенную долю ответственности и гордо вложил её в головы будущих программистов. Да, не он выбирал цели, но это его руки написали код, его гений дал военным оружие. Мог ли Джеральд Риверс не делать этого? Разумеется. Но обязательно нашёлся бы кто-нибудь другой. Кто-то, согласившийся на сделку с собственной совестью или вообще невидящий ничего за тысячами равнодушных строчек алгоритмов.

«Невинные игры разума». Что же, так назвать тотальную власть над сознанием мог только профессор. Элис сардонически хмыкнула. Пройдёт совсем немного времени, прежде чем искусственному интеллекту подчинятся все сферы жизни. Да что там! Сама жизнь! И тогда будет невероятно сложно не забыться, не заиграться. Чёрт возьми, скоро даже стиральная машинка сможет сообщить, какая Элис Чейн неряха, да ещё пост в Твиттере накатает об этом. Эл фыркнула, подумав, что все эти сюжеты в новостях про свихнувшихся от мании преследования людей, на самом деле, не так уж и беспочвенны. Большой Брат следит за ними. Мало того, они сами, своими руками создают его каждый день, и она в том числе. Кошмар какой! Профессор прав. Роль Господа Бога манит слишком многих. И всё же… Несмотря на весь ужас, яд и желчь. Невзирая на отрезвляющую честность, речь Риверса воодушевляла. Глядя на него, хотелось стать лучше, умнее, сознательнее. Никогда до этого Элис не испытывала настолько сильный душевный подъём и вдохновение разом свернуть все выросшие на её пути горы.

Повинуясь внезапному желанию, Элис открыла поиск в научной библиотеке и вбила имя преподавателя. Спустя полчаса она с невероятным усилием отлепила себя от десятков невероятнейших статей и медленно перевела дыхание, испытывая чуть ли не физический оргазм. В общем, если раньше у неё из вредности и проскальзывали кощунственные сомнения в одарённости профессора, то теперь она оказалась в одном шаге от создания новой религии с Великолепным Риверсом в роли главного божества. В голове крутился лишь один вопрос: что этот человек забыл в университете? Почему он тратил своё время, силы и умственные ресурсы на кучку неблагодарных ленивых студентов? Да вся его преподавательская деятельность – чистой воды благотворительность. Джеральд Риверс мог нагнуть и поиметь весь мир, если бы захотел.

Элис стало неловко и стыдно за своё поведение на первой лекции,