Айзек Азимов - Новые Миры Айзека Азимова. Том 6

А затем Эндрю обратился к наиболее трудному, мучительному для него разделу: к последовавшему за этим периоду враждебного отношения людей к роботам, истерии и откровенного террора, вызванного появлением роботов, всеобщее требование принять законы о запрещении использования роботов на Земле. Первые говорящие и передвигающиеся агрегаты были гигантского роста — громыхающие страшные монстры, высотой метра в четыре, — потому что до миниатюризации позитронного мозга было далеко и нельзя еще было обойтись без охлаждающей системы, и, естественно, сплав всех человеческих страхов перед искусственно созданными тварями, перед Франкенштейном, Големом и остальными порождениями человеческих кошмаров встал на пути новых роботов.

Целые три главы уделил Эндрю в своей книге этому времени безумного ужаса перед роботами. Чрезвычайно тяжело было писать эти главы, потому что они рассказывали об иррациональном поведении человека — явлении, которое Эндрю с трудом мог понять.

Он мучился с ними, пытался поставить себя на место людей, которые, хотя и знали, что Три Закона являются полной гарантией того, что роботы не могут причинить им вреда, продолжали смотреть на роботов со страхом и отвращением. Но со временем Эндрю постиг в доступной ему степени причину той незащищенности, которую люди ощущали, несмотря на столь явную поруку безопасности.

Копаясь в архивах роботехники, он сделал открытие, что Три Закона не были столь обнадеживающими в смысле полной безопасности людей. Они содержали в себе двусмысленности и другие скрытые источники возможных конфликтов. Прямолинейных, воспринимающих все буквально роботов они могли поставить перед необходимостью принимать решения, которые, с точки зрения человека, были далеки от идеальных.

Так, например, на чужой и враждебной планете робот, отправленный с опасным заданием найти и принести субстанцию, жизненно необходимую для спасения и благополучия человека-исследователя, может вдруг почувствовать противоречие между Вторым Законом, требующим повиновения, и Третьим, о самосохранении; в результате потенциалы безнадежно уравновесятся и робот потеряет способность к каким-либо действиям — ни вперед не продвинется, ни назад не отступит. Попав таким образом в патовую ситуацию, робот поставит под угрозу жизнь человека, пославшего его, несмотря на непреложность Первого Закона и его преимущество перед двумя другими, потому что роботу невдомек, что замешательство из-за противоречий между Вторым и Третьим Законами, постигшее его, может поставить его хозяина в опасное положение. Если характер его задания не был точно разъяснен заранее, он мог остаться в неведении относительно последствий его бездействия и никогда не понять, что его проволочка приводит к нарушению Первого Закона.

Или робот, в конструкции которого оказались недочеты или ошибки в программе, может решить, что человек перед ним — и не человек совсем, и поэтому Первый и Второй Законы, защищающие человека, не имеют к нему отношения…

Или по причине небрежно сформулированного распоряжения робот, поняв его буквально, невзначай поставит в опасное положение находящихся рядом людей…

В архивах сохранились сведения о десятках подобных случаев. Первые специалисты по роботам, особенно великолепный робопсихолог Сьюзен Кэлвин, эта строгая и сухая женщина, долго и не жалея собственных сил трудились над преодолением все возрастающего количества трудностей.

Крайне усложнились эти проблемы к середине двадцать первого века, когда из цехов «Ю. С. Роботс энд Мекэникл Мен» стали выходить роботы с более развитыми позитронными сетями, роботы с более широким диапазоном мышления, способные разбираться в сложных ситуациях почти с таким же проникновением, как люди. Роботы вроде него, Эндрю Мартина, хотя сам он избегал говорить об этом. Новые, с более широкими общими понятиями роботы, снабженные способностью гораздо самостоятельнее, чем их предшественники, оценивать информацию, часто действовали по-своему, не так, как ожидали от них люди. Но, естественно, никогда при этом не выходя за рамки Трех Законов. И все-таки с иных позиций, нежели те, что были предусмотрены авторами Трех Законов.

Все сильнее углубляясь в анналы истории роботов, Эндрю наконец пришел к пониманию причин отрицательного отношения людей к роботам. В этом не были виноваты Три Закона при всем их несовершенстве — отнюдь. Они действительно являли собой образец логического построения. Беда состояла в том, что сами люди чаще всего не следовали законам логики, порой поступая вопреки ей, и роботы не всегда успевали за внезапными поворотами мысли человека.

Выходило так, что сами люди толкали иногда роботов на нарушения того или другого Закона, а потом без всякой логики, как это вообще свойственно людям, обвиняли тех же роботов в нежелательных действиях, хотя сами же и отдавали им соответствующие распоряжения.

Эндрю с особым вниманием и осторожностью работал над этими главами, без конца возвращался к ним, переделывал, чтобы ни в коем случае не проскочило какой-нибудь предубежденности. Никакого желания разоблачать пороки людей он не испытывал. Его основная цель, как всегда, состояла в служении на благо людей.

Когда он начинал писать свою книгу, он намеревался с ее помощью достичь более глубокого понимания своих отношений с людьми, с теми, благодаря кому он появился на свет; но в процессе работы над рукописью он понял, что, если должным образом, основательно поработать над ней, она может стать неоценимым мостом между человеком и роботами, источником знаний не только для роботов, но и для особей из плоти и крови, для их создателей. Все, что будет помогать лучшему взаимопониманию между роботами и людьми, позволит роботам больше дать человечеству, что, в конечном счете, и является целью их существования.

Написав половину задуманного, Эндрю попросил Джорджа прочитать рукопись и высказать ему свои замечания и предложения.

Прошло уже несколько лет после смерти Маленькой Мисс, и теперь уже Джордж не казался здоровяком, его когда-то атлетическая фигура согнулась, он почти совсем облысел.

С плохо скрытым неудовольствием он посмотрел на толстую рукопись и сказал:

— Я ведь не писатель, ты же знаешь, Эндрю.

— Я не прошу вашего мнения о моих литературных способностях, Джордж. Я хочу, чтобы вы дали оценку идеям. Мне необходимо убедиться в том, что я не допустил никаких оскорбительных высказываний в адрес человека.

— Да я уверен, что их там нет. Ты же всегда был образцом учтивости.

— Я никогда никого не обижу сознательно, это верно. Но, возможно, случайно…