【延伸閱讀】日媒：美AI軍事化帶來“終結(jié)者”難題
參考消息網(wǎng)3月26日?qǐng)?bào)道 日本《東洋經(jīng)濟(jì)》周刊3月2日發(fā)布的題為《美國開始在AI軍事利用上動(dòng)真格》的文章，現(xiàn)將原文編譯如下：
美國總統(tǒng)特朗普2月11日簽署總統(tǒng)令，命令聯(lián)邦政府加強(qiáng)人工智能技術(shù)（AI）開發(fā)。次日，五角大樓發(fā)布首份《人工智能戰(zhàn)略概要》報(bào)告，提出了加速在軍事領(lǐng)域引入AI的方針。
特朗普發(fā)布的總統(tǒng)令主要是以民間產(chǎn)業(yè)領(lǐng)域?yàn)閷?duì)象，但他署名時(shí)發(fā)表聲明稱：“美國在AI領(lǐng)域保持領(lǐng)先地位，對(duì)于經(jīng)濟(jì)和國家安全非常重要。”也就是說，特朗普也尋求AI在軍事層面的優(yōu)勢(shì)地位。
《人工智能戰(zhàn)略概要》則更加直接，點(diǎn)名批評(píng)俄羅斯等國在AI軍事利用方面投入巨額資金，搶奪了美國的技術(shù)優(yōu)勢(shì)，動(dòng)搖了國際秩序。報(bào)告提出，要擴(kuò)充2018年在國防部?jī)?nèi)部新設(shè)的“AI中心”，加強(qiáng)與民間企業(yè)、學(xué)術(shù)機(jī)構(gòu)以及盟國的合作。
進(jìn)入21世紀(jì)后，全世界的軍事專家和研究人員一直在爭(zhēng)論一個(gè)被稱為“終結(jié)者”的嚴(yán)重問題。原因是，由于深度學(xué)習(xí)所反映出的AI的飛躍式進(jìn)步，可識(shí)別敵我并能判斷是否發(fā)動(dòng)攻擊的殺手機(jī)器人武器登場(chǎng)亮相，使“終結(jié)者”問題具有現(xiàn)實(shí)性。
圖為美軍使用的無人機(jī)
根據(jù)人類多大程度參與從識(shí)別到攻擊的決定，殺手機(jī)器人可以分為3類。一類是完全由人類決定、由人遠(yuǎn)程操作的無人機(jī)。具體來說，美國MQ-1“捕食者”偵察機(jī)就是典型代表。第二類是機(jī)器人可以自己判斷，但中途人類可以中斷或取消的半自主型。以色列的“哈比”自殺式無人機(jī)就是這種類型。這兩類都已經(jīng)實(shí)戰(zhàn)部署。被視為“終結(jié)者”問題的是第三類，它是人類完全不參與決策過程的自主型殺手機(jī)器人。
關(guān)于自主型殺手機(jī)器人，其風(fēng)險(xiǎn)包括：程序錯(cuò)誤等原因?qū)е抡`傷、擴(kuò)散至恐怖分子手中、自主判斷做出人類意想不到的敵對(duì)行為、決定攻擊作戰(zhàn)時(shí)抑制力下降等。
推進(jìn)派的專家們則主張，自主型殺手機(jī)器人“可以減少被憤怒和恐怖驅(qū)使的不必要的殺傷”“可以降低己方軍隊(duì)士兵的被殺傷率”“可以維持本國的軍事優(yōu)勢(shì)”“成功量產(chǎn)能削減軍費(fèi)”等。
然而，我們真的能夠允許將殺傷人類的判斷交給不能承擔(dān)責(zé)任的AI嗎？
關(guān)于自主型殺手機(jī)器人，日本外相河野太郎在去年11月眾議院外務(wù)委員會(huì)上明確表示，“日本采取應(yīng)該禁止的立場(chǎng)”“沒有開發(fā)的意向”。然而，在聯(lián)合國專家會(huì)議等場(chǎng)合上，日本的主張極其微弱。
美國國防部的立場(chǎng)是“讓人類參與判斷”。美國為了維持本國在這個(gè)領(lǐng)域的優(yōu)勢(shì)，不同意采取限制措施。有專家甚至預(yù)測(cè)，在不久的將來，全世界都會(huì)擁有自主型殺手機(jī)器人。
對(duì)于所有國家的領(lǐng)導(dǎo)人來說，不論大國、小國，自主型殺手機(jī)器人的“優(yōu)點(diǎn)”是極具誘惑力的。對(duì)奉行“本國優(yōu)先”、重視計(jì)算得失的特朗普來說，尤其如此。
如果再加上對(duì)其他國家先行擁有的恐懼，關(guān)于倫理是否正確的問題很可能不再是考慮對(duì)象。這些情況都在支持“不久全世界都擁有”的預(yù)測(cè)。
有觀點(diǎn)認(rèn)為，AI不會(huì)出現(xiàn)在前線，而是越來越多地被用在司令部啟動(dòng)、策劃和執(zhí)行作戰(zhàn)的過程中。因此，不同于人類與機(jī)器人關(guān)系的3種分類方式，AI軍事化的新類型可能率先成為現(xiàn)實(shí)——不進(jìn)行個(gè)別的殺傷判斷，以己方士兵損害最小化和敵方損害最大化為目的、針對(duì)整個(gè)戰(zhàn)斗做出判斷的“AI參謀”。
要想阻止和推翻噩夢(mèng)般的預(yù)測(cè)，需要國際性的輿論合力，但各國軍方仍在暗處激烈地進(jìn)行開發(fā)競(jìng)爭(zhēng)。
與瞬間造成大規(guī)模破壞和大量軍民死亡的核武器那種大規(guī)模殺戮武器不同，不身處戰(zhàn)場(chǎng)的普通人可能無法實(shí)際感受到殺手機(jī)器人的反人道性。
然而，在這個(gè)問題上，美國領(lǐng)導(dǎo)人很難自己踩剎車，幾乎已經(jīng)不可能回頭。從特朗普簽署的總統(tǒng)令可以讀出這樣的信息：為對(duì)抗中俄，世界上最大的軍事強(qiáng)國必須正面參與開發(fā)競(jìng)爭(zhēng)。
（2019-03-26 10:39:32）
