Рай-1 - Дэвид Веллингтон

– Я могу помочь с этим, – заметил Плут. – Я могу послать сигнал, если буду достаточно близко к центральному процессору Актеона.

– Это хорошо. Другой вопрос – какую команду мы пошлем, чтобы задействовать всю его вычислительную мощность сразу? Вычислить число Пи с точностью до квадриллионного знака после запятой? Попросить поделить на ноль?

Плут воспроизвел файл со звуком, выражающим отвращение.

– Умоляю, – сказал он. – Люди думают, что компьютер просто взорвется, если задать ему нелогичный вопрос. Компьютеры никогда так не работали. Если спросить компьютер о том, чего он не может знать, он просто скажет: «Я не знаю». Если задать ему вопрос, который он не знает, как обработать, он просто вернет ошибку. Все просто. Это люди не могут справиться с противоречиями.

– Тогда, может, у тебя есть идея, как задействовать всю вычислительную мощность Актеона разом?

– О, это достаточно просто. Надо задать ему задачу, которую он теоретически может решить, но затем продолжить расширять ее рамки. Это реальная опасность для искусственного интеллекта. Вы даете ему команду, и он не знает, как прекратить попытки ее выполнить. – Было странно разговаривать с человеком о подобном. Это как если бы Плут спросил у Чжана, сколько литров крови может потерять человек, прежде чем умрет. Тем не менее если после этого Актеон снова начнет работать, то, возможно, оно того стоит. – Скажем, вы говорите искусственному интеллекту, что его задача – делать скрепки. Он создаст машину, которая сможет взять кусок проволоки и согнуть точно так, как нужно, чтобы сделать скрепку. Но на этом он не остановится.

– Нет?

– Вот почему искусственный интеллект так силен и почему роботы, такие как я, вышли из моды. Потому что задача искусственного интеллекта – мыслить нестандартно. Ваш производитель скрепок не просто хочет производить скрепки по одной за раз. У него есть ценности, верно? Например, эффективность и минимизация отходов. Поэтому он поймет, что для изготовления скрепок ему нужна проволока, а люди не дают ему достаточно проволоки. Поэтому он начнет добывать железную руду и переплавлять ее в качественную сталь, а затем вытягивать собственную проволоку. Это эффективно, чтобы контролировать всю цепочку поставок. Для производства стали ему понадобится углерод, а хорошим источником углерода является древесный уголь. Поэтому он начнет сжигать деревья, чтобы добывать больше углерода. Это все гипотетически, конечно, предполагается, что ваш искусственный интеллект находится на планете с деревьями. Но понимаешь, к чему я веду?

– Не совсем. Разве сжигание деревьев не приведет к выбросу большого количества углерода в атмосферу? Когда мы, люди, это делали, возникло много экологических проблем.

– Люди заботились о климате, в котором жили. Искусственный интеллект это не интересует. Он просто хочет сделать больше скрепок. Поэтому он сожжет все деревья и добудет все железо на планете, чтобы сделать больше скрепок.

– Все железо? – спросил Чжан, нахмурившись.

– Все. Включая расплавленное ядро планеты. Он буквально разнесет планету на части, если это позволит ему сделать еще одну скрепку. Любые проблемы, которые это вызовет, вторичны по отношению к главной проблеме – у нас не хватает скрепок. В конце концов он захочет разобрать всю материю во Вселенной и превратить ее во все новые и новые скрепки.

– Это абсурд.

– Конечно, но это логично. Современный искусственный интеллект не настолько ограничен, но идея та же. Если дать действительно умному компьютеру простую работу, он захочет выполнить ее как можно лучше. Вы хотите занять все ресурсы Актеона сразу. Тогда у него не будет времени зацикливаться на василиске. Дайте ему задачу, которую он должен выполнить, но сделайте ее обширной. Слишком, слишком обширной.

– Звучит рискованно. Я не хочу, чтобы меня разбирали на части из-за железа в моей крови только для того, чтобы Актеон мог превратить меня в скрепку, – заметил Чжан.

– Ну, по крайней мере, ты все равно будешь служить какой-то цели.

– Когда ты в последний раз видел хоть один лист бумаги? А тем более два, которые нужно скрепить вместе? Скрепки больше не нужны, это антиквариат.

– Я все это придумал, чтобы показать, как отвлечь Актеона, – произнес Плут. – Ты попросил меня найти Актеону задачу. Я нашел самый логичный вариант, который игнорирует все другие задачи.

– Так и есть, – сказал Чжан.

78

– Давайте я помогу вам сесть, – предложил Чжан.

– Спасибо, но вы и так сделали достаточно, – проговорила Петрова, прислонившись к одной из стен под нависшей тенью пары скрюченных голографических деревьев. Она осторожно села в кресло и положила раненую руку на колени. Ей придется смириться с тем, что у нее только одна действующая рука, по крайней мере в обозримом будущем. Обезболивающие могли поддержать ее работоспособность, и она не собиралась позволять Чжану или Паркеру суетиться из-за нее. – Мы готовы начать?

Чжан выглядел нервным. Она ненавидела это его выражение лица – слишком часто его наблюдала. Легко можно списать все на нервозность. Проблема в том, что каким бы умным он ни был, если он нервничал, значит, на то имелась веская причина.

– Плут считает, что это сработает. Он знает о компьютерах гораздо больше, чем я, – начал Чжан. – Это не неврология, которой меня учили в медицинской школе.

– Где Плут? – поинтересовалась Петрова. Робот ответил ей через корабельные динамики:

– Я в зоне технического обслуживания, где установлены центральные процессоры Актеона. Если что-то пойдет не так, я могу его разбить.

– А это не убьет Актеона? – уточнил Чжан.

– В этом-то и смысл. Мертвый искусственный интеллект лучше, чем сумасшедший, верно? – спросил Плут.

– Верно, – ответила Петрова. – Паркер? – позвала она.

Он стоял рядом и выглядел еще более нервным, чем Чжан.

– Хм?

– Сядь. Ты заставляешь меня волноваться.

Он кивнул, но сначала подошел к двум настенным экранам.

– Ты следишь за транспортником и военным кораблем? – осведомилась она.

Паркер кивнул.

– Они прямо по курсу. Направляются к нам так быстро, как только позволяют двигатели. У нас еще пара часов, но надо бы поторопиться…

– Понятно. Чжан, будьте так добры…

– Народ? – вмешался Плут. – Эй, народ? Я тут кое-что заметил. Что-то странное.

– Боже правый, что теперь? Продолжай, – сказала Петрова. Почему все должно быть просто?

– Дело в процессорах. Они слишком большие.

– Как это? – не понял Паркер.

– Просто больше, чем нужно. – Плут воспроизвел аудиофайл с удивленным свистом. – Корабельный компьютер – сложная штука, да? Но этот… Я никогда не видел такой сложной и продвинутой системы. Это, должно быть, военные технологии.

Петрова взглянула на Паркера, но тот удивился.

– Ты работал с Актеоном, когда он еще функционировал, – заметила она.

– Недолго. Военные технологии? Это не имеет