還記得電影《戰(zhàn)狼2》中掛著機(jī)槍在空中到處“突突”的殺人無(wú)人機(jī)嗎？還記得科幻片《黑鏡》中被黑客入侵的機(jī)器“殺人蜂”的恐怖場(chǎng)景嗎？人與武器的關(guān)系，是軍事領(lǐng)域亙古不變的話題。試想，如果賦予智能無(wú)人作戰(zhàn)系統(tǒng)“生殺大權(quán)”，甚至實(shí)現(xiàn)“機(jī)器代理人戰(zhàn)爭(zhēng)”，那么《黑鏡》等電影中的場(chǎng)景或?qū)⒆優(yōu)楝F(xiàn)實(shí)。避免無(wú)人作戰(zhàn)系統(tǒng)擁有“自主開(kāi)火權(quán)”，確保戰(zhàn)爭(zhēng)人類(lèi)可控，或?qū)⒊蔀橹悄軕?zhàn)爭(zhēng)時(shí)代人類(lèi)的“自我救贖”。請(qǐng)關(guān)注今日出版的《解放軍報(bào)》的文章——
制圖：劉 程
高度智能化的無(wú)人作戰(zhàn)系統(tǒng)走上戰(zhàn)場(chǎng)，真的會(huì)擺脫人類(lèi)的控制嗎——
無(wú)人戰(zhàn)爭(zhēng)≠“無(wú)人的戰(zhàn)爭(zhēng)”
■許玥凡 張璦敏
智能戰(zhàn)爭(zhēng)面臨失控風(fēng)險(xiǎn)
人工智能技術(shù)與無(wú)人化作戰(zhàn)系統(tǒng)，正加速叩開(kāi)未來(lái)智能化戰(zhàn)爭(zhēng)的大門(mén)。
也別高興得太早，智能機(jī)器人“大兵”若真的在戰(zhàn)場(chǎng)上沖鋒陷陣，未來(lái)戰(zhàn)爭(zhēng)或?qū)⒚媾R巨大的失控風(fēng)險(xiǎn)。2015年7月，美國(guó)一臺(tái)“發(fā)瘋”的機(jī)器人曾“失手”將一名裝配工人殺死。據(jù)說(shuō)，伊拉克戰(zhàn)場(chǎng)上，美軍的“劍”式戰(zhàn)斗機(jī)器人曾無(wú)故將槍口指向己方指揮官。
在復(fù)雜戰(zhàn)場(chǎng)環(huán)境下，擁有高度智能的無(wú)人作戰(zhàn)系統(tǒng)極有可能出現(xiàn)識(shí)別錯(cuò)誤、通信降級(jí)甚至被敵電磁、網(wǎng)絡(luò)攻擊后“倒戈反擊”等情況，而諸如濫殺無(wú)辜、系統(tǒng)失控等更是給智能武器的軍事應(yīng)用帶來(lái)了巨大隱患。
其實(shí)，人們對(duì)于智能武器系統(tǒng)的擔(dān)憂，從命名伊始就初見(jiàn)端倪。機(jī)器人的英文名為“Robot”，其原意就是“農(nóng)奴式被強(qiáng)迫的勞動(dòng)者”。未來(lái)的智能化戰(zhàn)爭(zhēng)，戰(zhàn)場(chǎng)上的絕大多數(shù)作戰(zhàn)任務(wù)都將交由“被強(qiáng)迫勞動(dòng)”的戰(zhàn)斗機(jī)器人來(lái)完成。一旦人類(lèi)授予了智能武器系統(tǒng)“自主開(kāi)火權(quán)”，這群毫無(wú)感情、不知疲倦的鋼鐵機(jī)器會(huì)不會(huì)濫殺無(wú)辜，甚至調(diào)轉(zhuǎn)槍口成為“人類(lèi)終結(jié)者”？這是我們必須直面的問(wèn)題。
