全文共2469字，預(yù)計(jì)學(xué)習(xí)時(shí)長5分鐘

AI在戰(zhàn)爭中的角色

很多人都聽說谷歌由于與美國軍方的關(guān)系而面臨身份危機(jī)。簡而言之，在員工抗議愈演愈烈后，谷歌決定不再續(xù)簽“Maven項(xiàng)目”，不向美國國防部提供AI能力支持。

這是谷歌的問題，這家“善良”的公司目前正與亞馬遜和微軟競爭利潤豐厚的云服務(wù)和人工智能政府合同，價(jià)值約100億美元。拒絕這類工作將抑制其巨大的商業(yè)潛力。近期，亞馬遜已在宣傳其圖像識(shí)別軟件“國防識(shí)別”，微軟也標(biāo)榜其云端技術(shù)已用于處理美國軍方各部門的機(jī)密信息。然而，谷歌的公司文化意味著，簽訂大型國防活動(dòng)會(huì)使得AI專家從谷歌離職。

盡管Manve項(xiàng)目宣稱“無害”、非進(jìn)攻、非武器、非致命，只用于識(shí)別交通工具以提高無人機(jī)瞄準(zhǔn)的精確度，但它的出現(xiàn)引發(fā)了一些嚴(yán)重的問題，如將戰(zhàn)場轉(zhuǎn)移到數(shù)據(jù)中心，以及難以將民用技術(shù)從實(shí)際戰(zhàn)用中分離出來。盡管谷歌工作人員試圖將這些問題拋之腦后，但他們知道將AI分析圖像用于世界各地的反叛亂和反恐打擊，多少會(huì)有一些受害者。

世界前100所世界頂級(jí)AI公司都很擔(dān)憂這些問題（包括潛在的James Bond villain Elon Musk）。去年夏天，它們給聯(lián)合國寫了一封公開信。信中警告道，盡管研發(fā)自動(dòng)武器系統(tǒng)的初衷是好的，但在無人工操作的情況下，識(shí)別目標(biāo)并進(jìn)行攻擊，存在被濫用的可能。盡管終結(jié)者和完全致命的自主權(quán)離現(xiàn)實(shí)很遙遠(yuǎn)，但該領(lǐng)域仍有許多令人擔(dān)憂的問題。

這并不奇怪，自定向武器的研發(fā)引起了繼火藥和原子彈后的第三次武器革命。因此，美國正在進(jìn)行AI軍備競賽。軍事專家稱，中、歐已在國防AI方面投入巨資，俄羅斯也在朝著進(jìn)攻性思維武器化AI發(fā)展。去年，普京曾表示“AI是俄羅斯的未來，也是全人類的未來…這一領(lǐng)域的領(lǐng)導(dǎo)者將成為世界的統(tǒng)治者?！边@種說法很有煽動(dòng)性，但其（部分）是正確的。在AI領(lǐng)域先發(fā)制人的國家在軍事、經(jīng)濟(jì)和科技上占據(jù)的優(yōu)勢幾乎無可限量。

這是他們下的最大賭注。為了弄明白這一點(diǎn)，就需要回到軍事戰(zhàn)略的基礎(chǔ)上來。

1. MAD的終結(jié)

冷戰(zhàn)結(jié)束后，軍事聯(lián)合體的基礎(chǔ)已成為相互保證毀滅的原則。這一概念意味著，任何攻擊者如果未能在首次攻擊中完全摧毀其目標(biāo)，則將受到報(bào)復(fù)。因此，各國都試圖先發(fā)制人以獲得優(yōu)勢，并且如果看到互相保證毀滅任一方的平衡開始削弱，就可能會(huì)在技術(shù)層面上利用這一優(yōu)勢。

這就是人工智能的用武之地:通過大規(guī)模監(jiān)控和對模式以及潛在目標(biāo)的智能識(shí)別，先發(fā)制人者可在不承擔(dān)任何后果的情況下邁出第一步。正是這種勝者為王的信念促使了軍備競賽，在很大程度上破壞了世界秩序，因?yàn)闆]有退路的弱勢國家面對非MAD時(shí)，很難保持理智，更可能參與所謂的先發(fā)制人的戰(zhàn)爭，以阻止對手獲得諸如強(qiáng)大軍事AI的優(yōu)勢。

自動(dòng)武器并不需要通過殺戮或制造災(zāi)難性戰(zhàn)爭來破壞穩(wěn)定：輕輕扣動(dòng)扳機(jī)就可以了。

2. 患得患失

面對全新軍事科技容易患得患失。一旦取得了優(yōu)勢，這個(gè)國家如何表明MAD將在其清單上呢？不用回顧歷史就能知曉，一旦制造出武器化AI，其它國家會(huì)有何舉動(dòng)。美國發(fā)明了核彈，就迫不及待要：A）測試。B）使這十億美元的投資物有所值（沒必要浪費(fèi)錢）。C）告訴俄羅斯，他們擁有一款人人畏懼的新型武器，會(huì)改變接下來十年的國家平衡。不管是出于政治還是戰(zhàn)略原因，研發(fā)了致命AI的國家都會(huì)想要耀武揚(yáng)威，這是人的本性。

3. 戰(zhàn)爭的非人性化

傾向自動(dòng)化武器的人有一論點(diǎn)：部署機(jī)器人系統(tǒng)比“傳統(tǒng)戰(zhàn)爭”更有吸引力。因?yàn)楹腿祟愊啾?，機(jī)器人更少犯錯(cuò)、疲勞或情緒激動(dòng)，所以犧牲也就更少了。不論是在戰(zhàn)爭時(shí)期還是和平時(shí)期，正是悲傷和憤怒等情緒的存在使我們稱之為人。仁慈是人內(nèi)心深處至關(guān)重要的一部分，然而自主化武器系統(tǒng)的出現(xiàn)則抹殺掉了對戰(zhàn)爭受害者的仁慈之心。亞歷山大·索爾仁尼琴說過：“善惡的分界并不由國家、階級(jí)、政黨劃分，而是刻在每個(gè)人心中?！?/p>

此外，發(fā)達(dá)國家所受的傷亡會(huì)少一些，但那些受超級(jí)大國鼓動(dòng)而發(fā)生代理人戰(zhàn)爭的國家呢？大多數(shù)國家都沒有擁有機(jī)器人公司的奢侈條件，就只能像上一個(gè)世紀(jì)那樣，承受戰(zhàn)爭的人力成本。那些無法在戰(zhàn)場上進(jìn)行反擊的國家，很有可能衍生出國際恐怖主義，因?yàn)檫@是傷害對手的唯一途徑。

4. 失控

假設(shè)所說的新技術(shù)是指AI、機(jī)器學(xué)習(xí)、機(jī)器人和大數(shù)據(jù)分析的混合體，能制造具有多種自主化程度的系統(tǒng)和武器，低到在人類的監(jiān)督下工作，高到能自主“思考”。未來戰(zhàn)場上，最具決定性的因素就是雙方算法的質(zhì)量和快到人類無法跟上的戰(zhàn)斗速度（這是筆者最愛的阿西莫夫短篇小說的前提）。

相關(guān)風(fēng)險(xiǎn)是過于熱切、經(jīng)驗(yàn)不足的玩家可能會(huì)失去對其軍事能力的控制(參考俄羅斯)。人工智能的燃料是數(shù)據(jù)。如果給軍用機(jī)器人輸入錯(cuò)誤的數(shù)據(jù)，它可能將射程內(nèi)的所有人都識(shí)別為潛在目標(biāo)。

5?. 愚蠢的機(jī)器人

專家不害怕聰明的機(jī)器人，但對愚蠢的機(jī)器人充滿恐懼，因?yàn)樗鼈兒苋菀资Э?。對?fù)雜系統(tǒng)的研究表明，行為的產(chǎn)生比單個(gè)行為的總和更加不可預(yù)測。因此，我們不太可能完全理解或控制某些類型的機(jī)器人，對于有槍的機(jī)器人就更應(yīng)該加強(qiáng)監(jiān)督。

當(dāng)前面臨的主要問題不是上述問題，而是無知的大眾將該問題理解為“終結(jié)者大戰(zhàn)人類”，導(dǎo)致了科幻小說式的敘事，而忽略了在法律、政策和商業(yè)領(lǐng)域亟待解決的非?，F(xiàn)實(shí)和艱巨的挑戰(zhàn)。正如谷歌發(fā)布的一套枯燥的AI道德實(shí)施原則一樣，無法完全相信公司能夠做出正確的選擇。因此，需要相關(guān)機(jī)構(gòu)和政府構(gòu)建一個(gè)務(wù)實(shí)、道德和負(fù)責(zé)任的國際化框架，以建立一套公認(rèn)的準(zhǔn)則。

自動(dòng)化防御系統(tǒng)能夠基于對威脅的分析做出決策，如來襲導(dǎo)彈的形狀、大小、速度和軌跡，并比人類更快地做出反應(yīng)。然而，歸根結(jié)底，減輕殺手機(jī)器人潛在傷害的“開關(guān)”就在每分每秒每個(gè)人所做的或大或小的決定中。

歷來如此。