我，機器人(31)_阿西莫夫

三一

　　勃格特做出順從的樣子說：「蘇珊，您聽我對您講。超級基地正在使用幾個這樣的機器人，它們的腦子沒有輸入機器人學第一定律的全部。」

　　「沒有輸入？」蘇珊往椅背上一靠，「我明白了。製造了多少？」

　　「不多，這是根據政府的訂貨。而且不允許洩漏秘密。除了有關的高級人士之外誰也不知道。您沒有包括在內，蘇珊。我與這毫不相干。」

　　將軍帶著一種權威的口氣插進來說：「我想把這樁小事解釋一下。無須我告訴您，卡爾文博士，在地球上總是有人強烈地反對機器人。在這個問題上，政府唯一可以利用來對付原教旨主義的激進派的，就是製造出來的機器人總是嚴格地遵守第一定律這一事實，因為這一定律使機器人無論在任何情況下都不能傷害人類。」

　　「但是，我們必須要有另一種機器人。也就是一些NS-2型機器人，即《內斯特》①。在製造它們時，對第一定律作了些修改。為了保密，所有的」內斯特二型「都沒有出廠編號。而這些己按修改了的第一定律生產出來的機器人，就和一批正常的機器人一起交付到這裡，當然，對這些機器人已輸入嚴格的指令：永遠不得對沒有被授權的人講到它們被修改的一事。」他頗感為難地一笑，「現在這一切卻變得對我們不利了。」

　　蘇珊冷冷地問：「不管怎樣，您是否問了六十三個機器人中的每一個，誰是誰？無疑，您是被授權的嘍。」

　　將軍點點頭說：「六十三個機器人都否認在這裡工作過，當然，其中有一個在撒謊。」

　　「你們想找的那個機器人有磨損的痕跡嗎？據我所理解，其它都是嶄新的。」

　　「這個出了麻煩的機器人上個月才送到。它和剛送到的兩個，是我們所需要的最後一批。上面沒有任何明顯的磨損痕跡。」他慢慢地搖搖頭，眼睛裡又顯出非常沮喪的神情。「卡爾文博士，我們不敢放這艘飛船離開。如果存在不符合第一定律的機器人的消息一旦傳開來……」看來他只好說到半截把話結束了。

　　「把六十三個全都毀掉，」心理學家乾巴巴、冷冰冰地說，「就這樣把事情了結掉。」

　　勃格特撇了撇一邊嘴角：「您的意思是要把每個價值三萬元的機器人毀掉。我恐怕機器人公司未必會同意。蘇珊，在我們毀掉任何東西之前，我們最好先作一番努力。」

　　「那麼，」她毫不客氣他說，「我需要事實。超級基地從這些修改過的機器人那裡得到了什麼好處？有什麼必要把它們做成這樣，將軍？」

　　柯爾納皺起腦門兒，抬起手擦擦前額：「我們在使用先前那種機器人時碰到了困難。您知道，我們的人經常在有強烈輻射的情況下工作。當然，這是危險的。可是已採取了適當的措施。自從我們開始工作以來，這裡只發生過兩起事故，而且都不是致命的事故。但是，不可能把這些向一個普通的機器人講明白。第一定律講——我引用原話——『機器人不得傷害人，也不得見人受到傷害而袖手旁觀。』」

　　「這是首要的，卡爾文博士，每當我們的人之中有誰必須短時間暴露在中等程度的伽馬射線下時，雖然這種程度的輻射不會引起生理反應，但離他最近的機器人就會沖上去，把他拽開。如果伽馬射線場非常微弱的話，機器人就要把這個人拽開，而工作也就不可能進行了。除非把所有的機器人都趕到別的地方去，才可能繼續工作。需要伽馬射線稍微強一點，機器人就根本沒法挨上這個人，因為它的正電子腦在伽馬射線下也會毀掉。這樣，我們就可能失去一個造價昂貴、而又非常需要的機器人。」

　　「我們曾試著說服機器人。但它們的論點是：一個人暴露在伽馬射線下，會危及他的生命，儘管他可以安全地在這種情況下呆上半小時而不受傷害。它們還講：假如這個人忘記了時間，因而呆了一個小時呢？它們不能讓人冒險這樣做。我們指出，機器人這樣做是冒自己的性命危險而希望又微乎其微。但是，保護自己只是機器人學的第三定律——而第一定律和人的安全總是擺在第一位。我們向它們下過命令，我們嚴厲地命令它們：不管發生多大代價的事情，只能停留在伽馬射線之外。但是遵從命令只是機器人學的第二定律，第一定律和人的安全仍然擺在第一位。卡爾文博士，我們只有或者不要機器人，或者想點辦法改變一下第一定律。我們做出了自己的選擇。」

　　「我不能相信，」卡爾文博士說，「為此就可以把第一定律摒棄掉。」

　　「不是摒棄掉，是修改一下，」柯爾納解釋說，「已製造的這些正電子腦，只輸入了第一定律的前一部分，即：機器人不得傷害人。就這些修改。因而，它不必強迫自己去防止人受到外界因素的傷害，比如說伽馬射線的傷害。勃格特博士，我是否正確地闡述了這個問題？」

　　「相當正確。」數學家贊同他說。

　　「而這就是你們的機器人和一般的NS-2型機器人的唯一差別嗎？就這一點差別嗎，皮特？」

　　「就這一點差別，蘇珊。」她站起身來，用結束談話的口氣說：「現在我要睡覺。過八個小時，我想和最後看見那個機器人的人談一談。並且，柯爾納將軍，如果多少由我來負責這件事情的話，從現在起，我要求有公認的權力全盤掌握這次調查。」

　　除了有兩個小時帶著滿腹怨恨惱怒迷糊了一會兒之外，蘇珊根本沒有睡著。在當地時間七點整，她敲了勃格特的房門，發現他也沒有睡。

　　看來，勃格特不嫌麻煩，隨身把晨服也帶到超級基地來了，他正穿著晨服坐在那裡。蘇珊走進來時，他放下了指甲刀。他用溫柔的聲音說：「我多少已經料到，您會來的。我想，您對這一切都感到討厭。」

　　「的確是這樣。」

　　「那麼，我很抱歉。但也只能如此。當超級基地要求我們來的時候，我就知道，准是修改了NS-2型機器人出了問題。但是能做些什麼呢？在來這裡的路上，我不能把情況向您透露，雖然我想跟您說。但是我必須保密。關於修改一事是最高機密。」

　　心理學家不滿地嘟嚷著：「本應該告訴我。『機器人公司』在不征得心理學家的同意之前，無權這樣修改正電子腦。」

　　勃格特揚起眉毛，歎口氣說：「蘇珊，您要明智點。您不可能對他們施加影響。在這種問題上政府決心自行其是。他們想搞出超原子驅動；輻射物理學家則想獲得不會來打擾他們的機器人。他們打算搞到這樣的機器人，哪這意味著要歪曲第一定律。我們得承認，從構造的角度來看，這是可能的。他們堅決保證，只需十二個這樣的機器人，並且這十二個機器人只在超級基地內使用；一旦超級驅動達到完善的程度，就立即把二十個機器人拆毀。而且他們保證採取預防措施。他們堅持要保密。情況就是這些。」

　　蘇珊透過牙縫不高興他說：「我還是辭職吧。」

　　「這未必會有用。政府提出給公司一一筆鉅款，並威脅說，如果拒絕的話，政府將頒佈反機器人法。那時，我們的處境就會很困難。現在我們的處境已相當糟糕。如果這件事洩漏出去，柯爾納和政府會受損害，但是機器人公司遭受到的損失要大得多。」

　　心理學家盯著他：「皮特，難道您不瞭解這一切意味著什麼嗎？難道您不明白，摒棄第一定律意味著什麼？這不僅僅是個保密的問題。」

　　「我不是個小孩子，我知道摒棄可能意味著什麼。它可能意味著完全失去穩定可靠性，還會帶來完全可以想像得到的正電子域等式的答案。」

　　「從數學上講，是這樣。但是您能把這些大致地變換成心理學的觀念嗎？皮特，一切正常的生命都會有意識或無意識地反對統治。如果這種統治來自能力低下的一方，這種反感就會更加強烈。在體力方面，一定程度上也包括智力方面，機器人，任何一個機器人都優越于人。是什麼東西使它變得順從的呢？只有第一定律！噢，要是沒有這第一定律，您給機器人一下命令，它就可能把您搞死。這太不可靠了，您怎麼想的呢？」

　　「蘇珊，」勃格待露出了半表同情、半帶逗笑的神態，「我得承認。您剛講的這種弗蘭克斯但變態心理是有一定道理的。即然第一定律擺在了首位嘛。但是，我要一再重申，第一定律不是被摒棄了，而是略被修改。」

　　「而大腦的穩定可靠性會怎樣呢？」

　　數學家努努嘴：「自然會降低。但還是在安全係數之內。第一批內斯特是在九個月之前交付超級基地的，直至現在還沒有出於麼問題。就連這一樁，也只是牽涉到使人擔心會被披露，而不包含對人有危險。」

　　「那麼，很好啊。咱們看看早上的會議會有什麼結果吧。」

學達書庫(xuoda.com)