【延伸閱讀】英媒：殺人機(jī)器人與現(xiàn)代戰(zhàn)爭密切相關(guān) 要求取締或?yàn)闀r(shí)已晚
參考消息網(wǎng)9月8日?qǐng)?bào)道 英國《衛(wèi)報(bào)》網(wǎng)站8月22日發(fā)表了題為《我們不能取締殺人機(jī)器人——現(xiàn)在為時(shí)已晚》的報(bào)道。
對(duì)于機(jī)器人技術(shù)和人工智能領(lǐng)域?qū)＜野l(fā)出的取締“殺人機(jī)器人”的呼聲，有一種回應(yīng)是：你們?yōu)槭裁礇]有早些想到這一點(diǎn)？
在呼吁制定這方面禁令的116名專家當(dāng)中，包括像特斯拉公司首席執(zhí)行官埃隆·馬斯克這樣的重量級(jí)人物。他們說：“讓我們采取行動(dòng)的時(shí)間不多了。一旦潘多拉盒子被打開，就很難再關(guān)上。”但是或許這樣的系統(tǒng)早就存在，比如由英國BAE系統(tǒng)公司研發(fā)的“雷神”隱身無人戰(zhàn)機(jī)，或者由三星公司制造并被部署到韓國邊境的SGR-A1無人哨戒機(jī)槍。自動(dòng)坦克也在籌劃之中，而人類對(duì)于會(huì)造成傷亡的無人機(jī)的控制正在變成只是程度大小的問題。
不過從本質(zhì)上講，自從機(jī)器人問世，殺人機(jī)器人就伴隨我們左右。1920年捷克作家卡雷爾·恰佩克創(chuàng)作的科幻劇本《羅素姆的萬能機(jī)器人》讓我們第一次擁有了機(jī)器人這個(gè)詞。他筆下的人形機(jī)器人反抗并屠殺人類。從那以后，機(jī)器人一直在做這樣的事情，從賽博人到終結(jié)者。關(guān)于機(jī)器人的故事很少有好的結(jié)局。
甚至很難不在機(jī)器人世界末日即將到來的背景下去思考馬斯克和與他一道發(fā)聲的人所提出的這個(gè)問題。即便人類最終的命運(yùn)沒有面臨威脅，我們也知道其中的某一臺(tái)機(jī)器會(huì)出現(xiàn)故障，產(chǎn)生像《機(jī)械戰(zhàn)警》中Omni公司的機(jī)器人警察所制造的那種混亂。
這似乎讓一個(gè)極為嚴(yán)肅的話題變得過于輕松。這些故事盡管引發(fā)了人們深層的恐懼，說到底不過是娛樂。不過，讓這一討論的焦點(diǎn)最終集中在機(jī)器人技術(shù)有好有壞上，進(jìn)而暗示只要我們避免壞的技術(shù)，就會(huì)天下太平，這樣的方式未免過于簡單。
這個(gè)問題要更為復(fù)雜。一方面，這涉及更廣泛、也越來越緊迫的機(jī)器人道德規(guī)范的問題；另一方面，這也關(guān)乎現(xiàn)代戰(zhàn)爭的本質(zhì)。
我們?nèi)绾巫屪詣?dòng)技術(shù)系統(tǒng)既安全又遵守道德規(guī)范？避免機(jī)器人給人類造成傷害是阿西莫夫在小說《我，機(jī)器人》中所探討的主題，這本科幻小說短篇集對(duì)后世影響巨大，以至于阿西莫夫的“機(jī)器人三定律”如今有時(shí)幾乎與牛頓的三大定律一樣重要。具有諷刺意味的是，阿西莫夫的小說主要是關(guān)于這些出發(fā)點(diǎn)良好的定律如何在一些情況下遭到破壞的。
無論如何，道德問題不能簡單地被當(dāng)做一個(gè)放之四海而皆準(zhǔn)的原則。歷史學(xué)家尤瓦爾·諾亞·哈拉里指出，無人駕駛汽車需要一些行為準(zhǔn)則來確定在面對(duì)不可避免并有可能致命的碰撞時(shí)應(yīng)該怎樣做：機(jī)器人應(yīng)該去救誰？哈拉里說，或許我們會(huì)得到兩種模式：利己主義（把駕駛員的生命放在第一位）和利他主義（把別人的生命放在第一位）。
“人權(quán)觀察”組織2012年的一份關(guān)于殺人機(jī)器人的報(bào)告帶有些許科幻色彩。報(bào)告說：“將害怕的平民與具有威脅性的敵方戰(zhàn)斗人員區(qū)分開來，需要士兵了解一個(gè)人行為背后的動(dòng)機(jī)，這是機(jī)器人辦不到的事情。”此外，“機(jī)器人不能受到人類情感和共情能力的約束，而這種情感和共情能力會(huì)對(duì)殺戮平民的行為起到重要的阻止作用。”但是前面的說法是在表達(dá)一種信仰——使用生物特征識(shí)別技術(shù)的機(jī)器人在作出評(píng)估方面難道不比用直覺去判斷的驚恐的士兵更勝一籌嗎？至于后面的說法，給人的感覺是：有時(shí)的確如此。但是另外一些時(shí)候，身處戰(zhàn)區(qū)的人也會(huì)肆意強(qiáng)奸和屠殺。
這樣說不是要反駁報(bào)告對(duì)于自動(dòng)機(jī)器人士兵的恐懼，我本人也同樣對(duì)這樣的前景感到害怕。不過，這讓我們又回到了一個(gè)關(guān)鍵的問題上，這個(gè)問題無關(guān)技術(shù)，而是關(guān)乎戰(zhàn)爭。
目前我們對(duì)于戰(zhàn)爭倫理的看法已經(jīng)帶有強(qiáng)烈的隨心所欲的色彩。“人權(quán)觀察”組織的報(bào)告說：“使用完全自動(dòng)的武器帶來了問責(zé)方面的嚴(yán)重問題，這會(huì)破壞在平民保護(hù)方面的已有手段。”這樣的觀點(diǎn)不假，但是只要核武器在國際范圍內(nèi)是合法的，這種說法在道德倫理上就站不住腳。
自動(dòng)化軍事技術(shù)的問題與不斷變化的戰(zhàn)爭性質(zhì)本身存在密切的關(guān)聯(lián)，在恐怖主義和叛亂活動(dòng)頻繁的年代，戰(zhàn)爭不再有開始或結(jié)束，也不再有戰(zhàn)場或軍隊(duì)：正如美國戰(zhàn)略分析家安東尼·科德斯曼所言：“現(xiàn)代戰(zhàn)爭所帶來的教訓(xùn)之一是，戰(zhàn)爭不再能稱之為戰(zhàn)爭。”不管我們?nèi)绾螒?yīng)對(duì)這一問題，戰(zhàn)爭都不會(huì)再像諾曼底登陸。
古往今來的戰(zhàn)爭無不在使用當(dāng)時(shí)可以獲得的最先進(jìn)的技術(shù)；“殺人機(jī)器人”也不例外。潘多拉的盒子隨著煉鋼技術(shù)的出現(xiàn)而被打開，或者打開得更早（而開啟它的幾乎從來都不是女性）?？梢钥隙?，有人從中得到了好處。
我們務(wù)必克制自己要鑄犁為劍的沖動(dòng)，不過讓國際武器貿(mào)易行業(yè)不要制造殺人機(jī)器人就如同讓飲料制造商不要制造橙汁。（編譯/李鳳芹）
資料圖片：圖為英國“雷神”隱身無人戰(zhàn)機(jī)。（圖片來源于網(wǎng)絡(luò)）
（2017-09-08 00:14:02）
