裸陽(52)_艾西莫夫

五二

　　「讓我來引述一下第二法則：『除非違背第一法則，否則機器人必須服從人類的命令。』所以，你看，他們應該不聽從我的命令才對。」

　　「這實在很可笑。機器人並不知道──」

　　「哈，對了！」貝萊傾身向前，「現在讓我們再重複一遍第一法則應該有的規定：機器人不得在明知故犯的情況下傷害人類，也不得在明知故犯的情況下，因為不採取行動而使人類受到傷害。」

　　「這個大家都瞭解。」

　　「我想一般人並不瞭解，否則大家就會發現機器人可以殺人。」

　　李比臉色發白：「你瘋了！神經病！」

　　貝萊望著自己的指尖，說：「我想，機器人可以勝任單純的工作，一件對人類無害的工作，沒錯吧？」

　　「只要你命令它去做。」李比回道。

　　「對，當然，這個機器人會聽命行事。你也可以命令另外一個機器人，它同樣聽命行事。也就是說，它們都能聽命執行某件對人類無害的工作？」

　　「對。」

　　「但如果兩件完全無害的工作，湊在一起卻等於殺人呢？」

　　「什麼？」李比的臉皺成一團。

　　「我要你以專家的身分發表意見，」貝萊說，「讓我們來假設一個情況，假設有人對一個機器人說：『你將這種液體倒一點在某地的某一杯牛奶裡。這種液體是無害的，我只想知道它對牛奶會有什麼作用，等我知道了，這杯牛奶就會被倒掉。你做完這件事以後，立刻忘了它。』」

　　李比仍然憤怒地皺著臉，沒有出聲。

　　貝萊繼續說：「如果我命令機器人把一種不明液體倒進牛奶，然後把這杯牛奶拿給一個人喝，第一法則會迫使機器人問：『這是什麼液體？會不會傷害人類？』就算我向它保證這種液體是無害的，機器人也可能因為第一法則而猶豫，拒絕把這杯牛奶拿給人喝。可是，如果我跟它說這杯牛奶要倒掉，這就和第一法則無關了，如此一來，機器人豈不是肯定會聽我的命令去做嗎？」

　　李比怒視著他。

　　貝萊說：「現在，你再想想，原本已經有個機器人先把不明液體倒進牛奶裡；另一個機器人並不知道牛奶被動了手腳，於是他完全無辜地將牛奶拿給人喝，然後，這個人就死了。」

　　「不！」李比大叫。

　　「為什麼不？這兩種工作本身都是無害的，只有湊在一起時才會殺人。你認為不可能發生這種事嗎？」

　　「兇手應該是這個下命令的人！」李比吼道。

　　「如果你要詭辯的話，你說的沒錯。可是這兩個機器人卻是直接的兇手，是凶案的行兇工具。」

　　「沒有人會下這種命令的。」

　　「有一個人會，而且他已經下了。謀殺古魯厄的方式一定就是這樣，我想你已經聽說這件事了。」

　　「在索拉利世界，」李比喃喃說道：「發生任何事大家都會知道。」

　　「那你一定知道，古魯厄是在餐桌上當著我和我奧羅拉世界的同事奧利瓦先生的面被毒害的。你能說出別的方法把毒藥弄進古魯厄的嘴裡嗎？當時在古魯厄的業地上沒有其他人類。你身為索拉利人，應該會同意這一點。」

　　「我又不是偵探，有什麼好同意的？」

　　「我已經提供你一個看法了，我想知道這個看法可不可行，我想知道兩個機器人可不可能分別執行一種原本各自獨立且無害的工作，但湊在一起的結果卻造成謀殺行為。你是專家，李比博士，這到底可不可能？」

　　李比被逼得有點沒辦法了：「可能。」他的聲音低得幾乎聽不見。

　　貝萊說：「那就好。第一法則原來也不過如此。」

　　李比望著貝萊。他那下垂的眼瞼緩緩抽動了兩下，一直交互緊握的雙手鬆開了，但手指仍維持著原來的模樣，好像依舊和一隻不存在的手交握著似的。接著，他把手心向下，放到膝蓋上。直到此時，他的手指才真正放鬆。

　　貝萊心不在焉地望著他這些動作。

　　李比說：「你的看法在理論上是可能的，但只有在理論上才可能！你不要如此輕易就摒棄第一法則，地球人。你必須很巧妙地下達命令，才能避開第一法則的限制。」

　　「說的有理，」貝萊說，「我只是一個地球人，對機器人可以說是一無所知。我剛剛提的那些只是舉例說明而已。如果換作你們索拉利人，下達命令的方法一定更微妙，效果也更好，我很確定這一點。」

　　李比可能根本沒聽貝萊在說什麼。他自顧自地大聲說：「如果機器人會受到人類操縱而傷害人類，這只表示我們必須再擴張機器人的正電子腦。也許有人會說，我們應該讓人類變得更善良，不會做這種事，但這是不可能的。所以我們才要讓機器人更進步。

　　「我們不停的在進步，我們的機器人變化越來越多，更專業、能力更強，而且比上一個世紀更不具傷害性。今後的一個世紀裡，我們還會更進步，也許有一天，我們可以把正電子腦直接置入宇宙飛船的儀錶板內，那我們就不需要機器人了。這是一種專業化，但我們也可以使單一機器人兼具多用途的功能，我們甚至可以製造一種能更換肢體的機器人，讓它們做各式各樣的工作。為什麼不？如果我們──」

　　貝萊打斷他：「你是索拉利世界唯一的機器人學專家？」

　　「別傻了。」

　　「我只是想知道罷了。像達爾曼博士就是唯一的……呃……胚胎工程師，另外只有一個助手而已。」

　　「索拉利世界的機器人學專家有二十個以上。」

　　「而你是其中最優秀的？」

　　「沒錯。」李比面不改色地說。

　　「達爾曼曾和你一起工作？」

　　「嗯。」

　　「據我瞭解，」貝萊說：「達爾曼去世前，計劃跟你拆夥。」

　　「沒那回事，你怎麼會這樣想？」

　　「我知道他並不認同你那種不結婚的想法。」

　　「他也許不贊成，畢竟他是個標準的索拉利人，但這並不影響我們之間的工作關係。」

　　「那換個話題吧。你除了發展新型的機器人之外，也製造或修理現有的機器人嗎？」

　　李比回道：「製造和修理大都是機器人的工作，我的業地上就有一個很大的製造工廠及維修廠。」

　　「機器人常常需要修理嗎？」

　　「很少。」

學達書庫(xuoda.com)