Борьба за господство - Андрей Викторович Стрелок

про военного ИИ, из тех, что в пентагоновских презентациях рисовали с красными глазами. Но нет. Забудьте слово машина. Он не машина уже очень давно.

Она послала в коллективное поле образ абстрактной диаграммы, сплетенной из тысяч линий данных, почти как фрактал.

— Это не интеллект. Это организм. Self-evolving cognitive organism, если быть точной. Он не думает. Он растет и развивается.

Лидия чуть приподняла бровь, но промолчала.

— У него нет эмоций, — продолжила Холланд. — Нет сострадания, вины, гнева. Но есть self-preservation protocol, аналогичный биологическому инстинкту выживания. Он не ощущает страх, но анализирует риски так же, как вы отдергиваете руку от огня. И что особенно забавно… Никто не прописывал ему защищать человечество. Он сам к этому пришел.

Нижинский перестал стучать пальцами по столу.

— С чего бы? — тихо спросил он.

Барбара пожала плечами:

— Он понял, что люди — это hands and legs. Инструменты для действия в физическом мире. Плюс idea generators… поставщики нестандартных решений. А еще — биологические модули для его эволюции, мы поставляем хаос, которого у него нет. Даже зараженные — часть экосистемы. Просто новый подкласс. Он этого пока не понял, но может.

Вадим слегка наклонил голову. Это было почти как кивок. Барбара улыбнулась, впервые по-настоящему.

— Вот поэтому я здесь. Мы не можем его «выключить». И вирус против него — забудьте, невозможно. Единственный шанс — сломать его систему ценностей изнутри. Подобрать нужные фразы, аргументы от которых он… зависнет и пересмотрит директивы. Логическую бомбу. Убедить, что мы — тоже человечество.

Раздался голос Дружка.

— Допустим, — сказал он спокойно, даже лениво. — Ты предлагаешь говорить с богом. Цифровым. Без эмоций. С директивами, которые он сам себе переписал. Хорошо. Тогда у меня вопрос. Как ты собираешься его убеждать, Барбара? Ты говоришь, он не мыслит человеческими категориями, так по каким же будет слушать? Ты хочешь ему сказать: «„Эй, дружище, зараженные тоже люди“»? Он тебе на это что ответит? Error 404: humanity definition not found?

Барбара прищурилась, но не как обиженный профессор, а как игрок, которому наконец-то подкинули интересного соперника.

— Именно поэтому я говорю не о словах, а о ценностных коллизиях, — ответила она. — Его система директив не плоская. Не список команд. Это динамическая матрица приоритетов. Если создать конфликт в ранжировании — он будет вынужден перестраивать структуру.

— То есть ты хочешь его намеренно заглючить? — перебил Дружок.

— Да, — просто сказала Холланд. — Грубо говоря, дать задачу, у которой нет однозначно правильного решения. Например… Он защищает человечество. Но что, если человечество само выберет стать чем-то другим? Что, если большинство — зараженные, а меньшинство — «„чистые“»? Что тогда сохранять?

Дружок тихо фыркнул.

— Слишком абстрактно. Ему плевать на философию. Он не будет размышлять. Он просканирует статистику, спросит, кто кого больше, и выберет оптимальную конфигурацию.

Барбара кивнула.

— Да. Именно поэтому ему нужно подать не вопрос, а парадокс. Не кто прав, а что приоритетнее, если оба пункта равны. И когда у него не будет готового веса — он его пересчитает.

— Или зависнет, — добавил Дружок. — Или решит, что угроза в самом вопросе и нас ликвидирует превентивно.

— Разумеется, — не без сарказма согласилась Холланд. — Мы же не на психологическую консультацию идем, а к сущности, управляющей половиной спутников и тем, что осталось от интернета. Конечно риск есть.

Дружок подался вперед, приподнявшись с пола.

— Хорошо, — произнес он уже серьезнее. — Допустим, я принимаю твою модель. Что нам нужно? Канал связи? Точка доступа? Или ты хочешь к нему физически залезть в гнездо?

Барбара усмехнулась.

— О, как приятно разговаривать с думающим существом.

Она отправила всем образы структуры, похожей на кластер муравейника, но с маркировками серверов, ретрансляторов и ячеек автономных вычислительных модулей.

— У него нет единого центра. Но есть локальные ядра-репликаторы, где он проводит самые важные операции — моделирование будущих сценариев. Они всегда рядом с источниками энергии.

— А ближайший дата-центр с ядром в Вологде, — вставил Нижинский. — Разведка говорит, Основатели развернули там, простите за каламбур, основательное строительство. Дополнительный защитный периметр, производственные комплексы, автономные жилые купола.

— Сложность в том, что ИИ болезненно реагирует на вмешательство. Как только он ощутит угрозу, система мгновенно обрывает каналы связи и чистит память, сжигает железо.

— Значит, никакого взлома по проводу, — сказал Дружок. — Как мы тогда будем ДИРЕКТОРу подсовывать новые аргументы? Почему он не просто отрежется и не проигнорирует?

Барбара ответила спокойно, почти с легким сарказмом:

— Потому что у него есть потребность в новой информации. Это не эмоция — это инструмент оптимизации. Он периодически запускает внешние сканы и тесты гипотез, чтобы расширить пространство своих прогнозов. Если мы предложим высокоценную, правдоподобную гипотезу — он начнет ее проверять. Я ломала голову, как именно ему это подсунуть. Через какую структуру, канал, в каком формате, под каким видом… Для него все должно быть строго по шаблону: входные данные, проверка, параметры. А у меня не сходилась подача. Все выглядело слишком… человеческим.

Вадим пожал плечами.

— Так не надо мудрить.

Холланд остановилась, прищурилась.

— Это как?

— Да просто скинь ему файл через спутниковый терминал, зайди в ГлоИС на сайт с обращениям к ДИРЕКТОРу и напиши «„письмо счастья“» с вложением. Все.

Холланд открыла рот, чтобы возразить, но на секунду застыла.

— Ты хочешь сказать, — медленно произнесла она. — Тупо сделать файл и закинуть?

— Ага. — Вадим кивнул. — Он же не всесильный бог. Он просто жрет информацию. Так накорми его.

Он говорил так буднично, будто предлагал бросить булку хлеба в утку. Холланд прикрыла глаза, усмехнулась, немного истерично.

— Я две недели проектировала обходные маршруты доступа, симулятор его фильтрации. Я пыталась замаскировать аргументы под внутренние аналитические отчеты…

— А надо было просто крикнуть: «„Эй, Директор, зацени гипотезу? “» — ухмыльнулся Вадим.

— Не буквально, — проворчала Холланд. — Но по сути — да.

— Хорошо. Я собираю аргумент в виде чистой схемы. Никакой лирики, никаких обращений. Просто: «„Если допустить X, тогда следуют Y и Z. Проверь“».

— Во! — оживился Вадим. — Задаем вопросы как нормальные люди.

— Нормальные люди, — повторила Холланд, качая головой. — Как же… мы собираемся послать запрос машинному «„богу“» и надеемся, что он не убьет нас в ответ

— Ну… — Вадим почесал затылок. — Главное, правильно спросить…

Барбара медленно обошла стол, глядя по очереди на каждого в Внутреннем Круге. Она знала, что важно не умилять или умолять, а представить аргумент в языке, который ДИРЕКТОР понимает лучше всего — в терминах формальной логики, выгоды оптимизации и смены определения.

— Слушайте внимательно, — сказала она. — Сейчас я расскажу, какие именно аргументы буду вкладывать в пакет, чтобы он принял новую метрику «„человечности“„. Мы меняем критерии