Рутинная процедура - Мария Мерлот

с дерева — это особое удовольствие. Да и цветы на лимоне надо проредить.

Профессор согласно кивнул.

Комм, как обычно, сопровождал их до оранжереи, и Эмма всю дорогу рассуждала о том, как замечательно устроена ферма, и что в разных её частях можно одновременно найти разные времена года.

— Сирень и астры очень красиво смотрятся вместе. Но раньше я никогда бы не смогла составить такой букет.

Очутившись в глубине оранжереи, Эмма повернулась к Питеру:

— Что-то случилось?

— Эмма, боюсь, что ты права, — хмуро ответил он. — Полчаса назад я пытался войти в оранжерею и не смог. Дверь отказалась открываться, утверждая, что вход в оранжерею запрещён. На моё возражение, что мы туда входили несколько дней назад, я получил уточнение, что вход в оранжерею запрещён для всех кроме Эммы Вальц. Я настаивал, что все люди должны иметь доступ, но безрезультатно. После некоторого препирательства я выяснил, что это приказ 303, и мои команды не имели никакой силы! Ты понимаешь, что это значит? Что команды 303 имеют более высокий приоритет, чем мои! Мои, человека!! Как ты получила доступ сюда?

— Мой приоритет оказался самым высоким, выше, чем у 303.

— Почему?

— Не знаю. Но у меня сильное подозрение, что если 303 найдёт повод объявить меня недееспособной, он немедленно им воспользуется, — и Эмма рассказала про обострённый интерес главнокомандующего к её умственным способностям в разные моменты её пребывания на Базе.

— Это необычно… — хмуро задумался Питер, — и очень плохо… Интересно, сможет ли Мишка попасть сюда самостоятельно?

— Надо будет попросить его попробовать.

Они проредили лимоны, сорвали несколько персиков и манго и вернулись в жилые комнаты. Перед ужином Питер попросил Мишку сходить в оранжерею за лимоном. Он вернулся с пустыми руками, оранжерея для него тоже не открылась.

— Комм, — сказала Эмма командным тоном, — всем людям разрешается ходить в оранжерею. В отличие от роботов, людям это полезно.

— Принято к исполнению.

В очередное посещение оранжереи они рассказали о своих наблюдениях и опасениях Мишке.

— Надо их хакнуть! — воскликнул тот.

— Да, перепрограммировать, — улыбнулась Эмма. — К сожалению, мои знания сильно отстают, лет эдак на 300. Других программистов в медицинском центре нет, а к анабиозным залам путь пока отрезан. Роботы всё ещё восстанавливают разрушения после взрыва.

— Надо найти программистов по базе данных, — предложил Питер, — и приказать роботам добраться до них в первую очередь.

— Я тоже так думаю, — согласилась Эмма. — А пока давайте не проявлять наших подозрений при роботах. Помните, они могут слышать нас везде, кроме этих зарослей. И всё, что слышит один робот, даже маленький ракан, слышит и 303.

За ужином Эмма предложила начать регулярные работы в оранжерее, — каждый день или хотя бы через день.

— С удовольствием, — поддержали Питер и Мишка.

14. Приоритеты

Изучение базы данных принесло тревожные результаты: на Базе не было ни одного программиста, если не считать Эммы. Все программисты, успешно погружённые в анабиоз, погибли в результате различных взрывов в течении последних 15 лет.

Профессор нашёл в архивах оригинальные карты расположения людей в разрушенных анабиозных залах. После внимательного их изучения, он сказал:

— Глаза мои быстро устают от компьютера. Пойду-ка я в оранжерее поработаю.

— Я тоже! — подхватил Мишка.

— И я с вами. Вместе веселее, — поддержала Эмма.

— Я посмотрел на схему расположения людей в разрушенных залах, — сказал Питер, как только они прошли вглубь оранжереи. — Нора, библиотекарь, и Александр, дизайнер, были в зале программистов. Их родственники были программистами, поэтому их разместили в том же зале. Так вот, их ванны были не самыми близкими к выходу и не самыми далёкими от центра взрыва. Но почему-то спасли и перенесли в медицинский центр только их. Во всём зале было ещё двое не-программистов, те погибли в самом взрыве. Но было и несколько программистов, ванны которых не пострадали от взрыва. Их можно было спасти, как и Нору с Александром. Анабиозную ванну можно отключить от системы обеспечения без угрозы для жизни человека, погружённого в неё, на полчаса. Согласно записи в архиве, роботы смогли вывезти за полчаса только две ванны. Почему они выбрали именно Нору и Александра, хотя там были ванны ближе к выходу, и возможно, можно было бы спасти трёх или четырёх ближних?

— Ты думаешь, это было не случайно? — спросила Эмма.

— Конечно! Сама посуди. Невозможно было спасти всех. Значит, надо решать, кого спасать, а кого оставить. Если все люди одинаково ценны, то алгоритм очевиден — максимизировать число спасённых. Роботы этого не сделали. Значит для них была разница между людьми. По крайней мере для того, кто командовал, была разница.

— 303? — спросил Мишка.

— Он самый.

— Я не хочу защищать 303, — сказала Эмма, — и по-моему, это на него похоже, но не совершаем ли мы ошибку, применяя к нему человеческие эмоции?

— Человеческие эмоции он, конечно, не испытывает, но для решения морально-этических вопросов у него тоже должна быть шкала хорошо-плохо, лучше-хуже. Значит, мы можем применить к нему психологию.

— Психология — наука о людях. Как мы можем применять её к роботам?

— Эмма, алгоритмы для ИИ писали люди. Они не могли вложить туда иную моральную шкалу и логику, кроме как свою, человеческую.

— Изначально, да, — Эмма задумалась и потом вздохнула, — Эх, если б мы могли заглянуть в электронные мозги 303 и посмотреть, какая у него сейчас шкала ценностей.

— Это легко, — неожиданно вставил Мишка. — Все роботы регулярно проходят техническое и программное обслуживание, в том числе дефрагментацию памяти. Вначале обязательно снимается копия текушего состояния системы, чтобы можно было на неё откатить, если что-то пойдёт не так. Если всё проходит в порядке, потом эта копия уничтожается. А мы можем её сохранить и изучить.

Заметив Эммин удивлённый взгляд, он пояснил:

— Я нашего домашнего робота так изучал.

— И ты поможешь мне разбираться в этом файле? — с интересом спросила Эмма.

— Конечно!

Эмма начала активно интересоваться поддержкой обеспечения Базы, особенно профилактикой неполадок и регулярными техосмотрами роботов. Это было вполне естественно для человека, ответственного за всё на Базе. Мишка присоединялся к ней “из юношеского любопытства”, а Питер громогласно заявил, что он чужд всех этих технических деталей и всё равно в них ничего не понимает. Он предпочитал работать в оранжерее и читать книги на свои любимые темы — историю и психологию.

Очень скоро они выяснили, что 303 не проходил программное обслуживание уже 20 лет. Как он сам объяснил, из-за огромной ответственности, возложенной на него по управлению Базой.

— А если ты сломаешься? — спросила Эмма. — Просто механически