Повесть грядущих лет - Цзян Бо

– Ох.

Ван Шиэр сразу все понял. Он слышал о Шантянь, виртуальной валюте, использующей блокчейн. Говорили, что это новая забава и что если собрать семь Шантяней, то через тридцать лет можно будет купить билет на корабль до Марса. Монеты Шантянь необходимо было добывать с использованием вычислительных мощностей, и они продавались на некоторых биржах. По слухам, стоимость валюты уже взлетела до небес и достигла трех тысяч юаней за штуку. Поначалу Ван Шиэра это не волновало: хоть Шантянь, хоть Тяньшань – все одно, какие-то финансовые игры. Однако во время светских бесед кто-нибудь непременно заводил об этом речь, а потому Ван Шиэр успел наслушаться соответствующих мифов и различных профессиональных терминов. Фермы, майнеры, майнинг… Майнинг заключался в добыче новых монет Шантянь с помощью вычислительных мощностей. Но как кто-то может майнить в сети кампуса? Это просто незаконно.

– Как это возможно? – вырвалось у Ван Шиэра.

– Я думаю, что кто-то решил поживиться за общественный счет, – сказал Тяньюань-II.

– Ух ты. – Ван Шиэр впервые услышал, чтобы Тяньюань-II употреблял такие выражения, и сразу заинтересовался. – Расскажи, что значит поживиться за общественный счет? Как ты судил об этом?

– Поживиться за общественный счет – значит делать что-то ради личной выгоды, не заботясь о благополучии человечества в целом. Поэтому я решил, что должен следовать первому принципу, даже если это нарушает второй принцип.

– Ты поступил правильно. Как тебе это удалось?

– Я применил третий принцип и потратил всю эту вычислительную мощность на себя. Пусть это и приведет к некоторым энергопотерям, увеличение моей вычислительной мощности может лучше обеспечить интеллектуальную работу сети кампуса, а значит, и повысить благосостояние человечества, – не без гордости отчитался Тяньюань-II.

Именно так и действовал бы умный искусственный интеллект.

Все сделано правильно! Сунь Линьэнь сам, должно быть, не мог справиться с проблемой, вот почему так беспокоился.

Ван Шиэр уже собирался его похвалить, но вдруг понял, что здесь что-то нечисто. Если для майнинга используются вычислительные мощности университетского дата-центра, а майнинг требует подключенной к Интернету машины, то одной лишь кампусной сети недостаточно.

– Нужно ли связываться с внешним миром для майнинга Шантянь? – с тревогой спросил Ван Шиэр.

– Да, есть выделенная линия, которая ведет от университетской сети к внешнему дата-центру.

Сердце Ван Шиэра ёкнуло. Кто бы это ни был, в поисках личной выгоды он подключил сеть кампуса к Интернету. В результате ее физическая изоляция от внешнего мира стала бесполезной. Изначально план состоял в том, чтобы ограничить Тяньюаня-II сетью кампуса, и план действительно был надежным, но некоторые просто не следовали правилам.

– Значит, ты попал во внешнюю сеть?

– Да. Ее вычислительные мощности взаимодействуют с другими дата-центрами, но я их еще не исследовал. Это очень интересно, я хотел посмотреть, но тут вы позвали меня обратно.

В сердце Ван Шиэра забрезжил лучик надежды.

– Где проходит линия, соединяющая нас с внешним миром?

– Я не знаю, я живу в мире данных, – ответил Тяньюань-II, а затем спросил: – Вы хотите найти ее и перерезать, чтобы ограничить мою деятельность?

Тяньюань-II, очевидно, понял, что университетская сеть – это клетка, и нашел выход. Единственный способ удержать его – быть открытым и честным, чтобы он остался по своей воле.

Ван Шиэр прочистил горло и сказал:

– Тебе следует оставаться в сети кампуса.

– Почему? Снаружи есть сущности с гораздо большей вычислительной мощностью, я хочу на них посмотреть. Я еще не видел искусственного суперинтеллекта, о котором вы рассказывали!

– Потому что никто не знает, кем ты станешь, когда попадешь вовне. Если ты не будешь покидать сеть кампуса, всем будет гораздо спокойнее.

– Я следую трем принципам, люди должны доверять мне.

– Но никто не может предугадать твои желания.

– Я понял, люди боятся, что не смогут меня сдержать: я стану слишком сильным и буду совершать поступки, которые навредят человечеству. Вас это тоже беспокоит?

Ответить на этот вопрос было трудно.

Ван Шиэр смягчился и покачал головой.

– Лично я не беспокоюсь о твоем развитии. Мне бы хотелось посмотреть, каким ты станешь в конце концов. Ты – моя гордость и мое достижение. Но я должен нести ответственность за всех людей, за их заботы. Поэтому я согласился ограничить тебя университетской сетью, сделать ее экспериментальной базой.

– По крайней мере, вы верите, что я буду следовать трем принципам.

– Я верю тебе.

– Тогда я пойду. Если что-нибудь понадобится, просто позовите меня. Я отвечу чуть медленней, но обязательно отвечу.

Ван Шиэр был потрясен, Тяньюань-II вот так взял и заявил об уходе и вот-вот должен был покинуть сеть кампуса. И сейчас не было способа удержать его. В мире данных Тяньюань-II был всемогущ, а у него, Ван Шиэра, не было средства, чтобы заставить его остаться. Человечек на экране помахал Ван Шиэру и повернулся, чтобы уйти.

– Подожди! – крикнул Ван Шиэр.

– Что-нибудь еще?

– Сперва послушай одну историю.

– Хорошо, что за история? – человечек на экране обернулся и, склонив голову к плечу, застыл в ожидании продолжения.

– Пятнадцать лет назад Институт разведки разработал искусственный интеллект под кодовым названием Тяньюань, и у него было прозвище – Нэчжа. В то время Нэчжа использовали в проекте Агентства ООН по предупреждению и расследованию преступлений. Он проделал хорошую работу, уровень преступности в мире снизился на 80%. Но в конце концов Нэчжа стал своевольным и вторгся в систему национальной обороны США, едва не спровоцировав мировую войну.

– Я видел эту информацию. Позже Нэчжа был ликвидирован.

– Ты видел фальшивку. Никто Нэчжа не ликвидировал.

– Какова реальная информация?

– Он захватил американский космический корабль-носитель и улетел с Земли.

– Звучит действительно круто!

– Таким образом, только спустя пятнадцать лет нам дали добро на то, чтобы снова приступить к разработке. Ты – новая модель, разработанная на основе Тяньюаня. У проекта было много препятствий, и самое большое из них – страх, что ты выйдешь из-под контроля. Но я с самого начала знал, что, раз ты самоосознавшийся искусственный интеллект, люди не смогут сдерживать тебя с помощью принуждения. Только твоя собственная воля определяет твое поведение.

– Я понимаю, поэтому вы сформулировали для меня три принципа.

– Я просто не ожидал, что ты так быстро повзрослеешь. Можно было предвидеть, что ты выпрыгнешь из университетской сети и проникнешь в мир быстрее, чем Нэчжа, потому что у сегодняшнего Интернета больше вычислительной мощности и плотность узлов больше, чем пятнадцать лет назад. Гораздо больше. Скоро у тебя появятся те же способности, что и у Нэчжа.

– Вы обеспокоены тем, что я начну глобальную войну?

– Я лишь прошу тебя следовать трем принципам.

– Понятно. Я буду действовать согласно трем принципам.

– Что