作者李永紅，浙江工業(yè)大學律師學院執(zhí)行院長、刑辯分院院長。法律讀庫投稿郵箱：1751490@qq.com。

在去年的倫敦“谷歌時代精神”大會上，霍金平靜地描述了人類的命運：“在未來100年內(nèi)，結(jié)合人工智能的計算機將會變得比人類更聰明?！边@位大科學家認為，屆時，人類將被機器控制。

科幻小說家阿西莫夫在70多年前的作品中首次提出了機器人三大法則：一、機器人不得傷害人類或因不作為使人類受到傷害。二、除非違背第一法則，機器人必須服從人類的命令。三、除非違背第一及第二法則，機器人可以自衛(wèi)。后來，阿西莫夫加了一條新法則（第零法則）。零、機器人不得傷害人類整體或因不作為使人類整體受到傷害（據(jù)此，第一法則中的人類應(yīng)該是指個體意義上的人類）。

三大法則或四大法則的邏輯看上去很圓滿么？其實除了超驗的信仰，不存在永恒不變、普適八荒的終極真理。在法學領(lǐng)域，分析法學講究邏輯自洽，正如《機械公敵》里說“我的邏輯完美無瑕”的薇琪，可結(jié)果又會如何？在人類生活的具體情景中，第一法則本身就存在無法解決的內(nèi)在矛盾。

比如（電影《機械公敵》中的情節(jié)），機器人認為人類只有待在家里才能避免傷害，而人類寧愿冒險上街也不愿待在家里，按照第一法則后半句，機器人有義務(wù)作為即阻止人類外出。如此，機器人便成了以保護人類免遭傷害為由限制人類自由的監(jiān)禁者，這不正如那些以“我都是為你好”為由對子女行為橫加干涉的父母？尤其是，當傷害不可避免，那么按照第一法則，是否意味著人類便不可避免地成為機器人的奴隸？

又如（同樣是電影《機械公敵》里的情節(jié)），當一成年男士和一未成年女生同時在交通意外中落水，而機器人只能救起一人時，它經(jīng)過邏輯運算認為男士生還概率高達45%而女生生還概率卻只有11%，它就會去救成年男士而不會冒著徒勞無益、浪費機會的風險去救那個可憐的未成年女生。這樣，機器人的理性便又顛覆了人類“婦幼優(yōu)先”的基本倫理。

除了上述矛盾，機器人也不可能像純粹法學那樣做到價值無涉，更不可能做到萬事邏輯圓滿。因為他們要么被人利用，要么人工智能進化到有了愛恨情仇的地步。于此，若是前者，則機器人與人類的沖突，實質(zhì)上就是人類自身的沖突。這種沖突不僅發(fā)生在人與人之間，而且也常常發(fā)生在同一個人身上（比如我們經(jīng)常會說一些言不由衷的話，也可能做一些令自己后悔的事）。因而第二法則便不堪一擊，“必須服從人類的命令”，瘋子，暴君，無知無恥之徒，即使你無可奈何地稱其禽獸不如，他們也都是貨真價實的人類。作為不具情感、態(tài)度、價值觀的機器人，它又如何區(qū)分？

若是后者即機器人進化到有了愛恨情仇的情感能力和自我反思與價值判斷的評價能力，那么，機器人就成了另外一個人類。同一個人類都不可能天下無事、世界大同，兩個人類又如何相互包容、和諧相處？除非有一種超脫這兩個人類以外的第三方，否則這第三個法則（機器人可以自衛(wèi)）又如何確保在不傷害人類、不抵觸人類命令的前提下實行？

有人說了，既然人類能造出如此高能的機器人，那就一定能夠讓機器人只行善不作惡。這一期望，就如大學低年級本科生對正義的鐘愛那樣，終究只是一種美好的期望、一種單相思式的鐘愛。自有文字記載以來，文學作品和政治法律作品中便不乏自然法思想和正義的學說。事實上，追求正義的自然法學也并不必然能給人類帶來正義，甚至有諸多不正義常常假借正義之名而行。因此，有人說自然法學就像一個媒婆，可能給你帶來一個美女，也可能給你牽來一頭恐龍。又如，納粹的罪惡并非源于它的法律價值無涉，恰恰相反，它那作惡的法律充斥著貌似美好的價值，即恰是假借了正義之名（如法律人所知道的，它廢除罪刑法定原則的借口是，有一些它認為必須懲罰的罪惡行為雖法無明文但違背了國民健康的道德情感，國民道德情感這個虛幻的說辭于是成了納粹僭越法律出入人罪濫施刑罰的最佳借口）。如有個法理學家所說，盡管我們無法定義什么是正義，但我們至少知道什么是不正義。看來，正義作為一種觀念，它本身就映射了生活中不正義的存在，我們恰恰經(jīng)由不正義才定義了正義。唉（Ai），這是多么無奈的現(xiàn)實。

AI（人工智能）會否進化成人類的敵人，尚未可知，但人類為自己訂立的法則卻時常與人類自己為敵，則是不爭的事實。好在，雖然無法如自然科學那樣對正義做出精確的界定，但是人類的法律總的趨勢確實在朝著正義的方向進步。這種趨勢，與其說是我們發(fā)明的，還不如說是我們發(fā)現(xiàn)的。