近年來,以無人機為代表的智能武器系統(tǒng)獲得了長足的發(fā)展,日漸成為戰(zhàn)場上一支不可忽視的重要力量。但隨著無人化兵器數(shù)量的增多和人工智能技術(shù)應(yīng)用的不斷深入,相關(guān)的倫理和法律問題也隨之而來。我們究竟應(yīng)該如何面對這種變化,自主武器系統(tǒng)會否造成災(zāi)難,機器的失誤又應(yīng)該由誰來埋單?今年年初,一架如同普通民航客機大小的無人飛機從美國加利福尼亞州沙漠中悄然躍起,迅速消失在天際。這款名為“全球觀察者”的無人偵察機是全球最大無人機生產(chǎn)商美國航空環(huán)境公司研發(fā)的最新產(chǎn)品。其最大飛行高度可達19800米,超過目前大部分防空導(dǎo)彈的觀測范圍和射程;偵察范圍高達72.5萬平方公里,能輕松獲得整個阿富汗全境圖像;一次飛行留空時間可長達一周,能直接充當部隊間的通訊中轉(zhuǎn)站,功能足以媲美衛(wèi)星。
雖然有消息稱,4月該機在美國加利福尼亞州的愛德華茲空軍基地發(fā)生墜毀,但卻絲毫沒有動搖美國推進無人化兵器和機器人武器的步伐。據(jù)報道,目前被美軍列入研制計劃的智能化軍用機器人已超過100種,到2015年前后,無人化兵器在其作戰(zhàn)平臺中的比例將達到三分之一。英國、法國、俄羅斯等主要發(fā)達國家也有類似的計劃,項目總數(shù)也有數(shù)十種之多。隨著信息化技術(shù)和人工智能技術(shù)的發(fā)展,武器系統(tǒng)的無人化和智能化已形成一種趨勢。
“機器戰(zhàn)士”的崛起
“長眼睛”的殺戮武器
——“密集陣”系統(tǒng)與自動機槍
由美國研發(fā)的“密集陣”系統(tǒng)(Phalanx system)和以色列研發(fā)的機槍塔(IDF)便是初級智能武器系統(tǒng)的代表。
目前“密集陣”近防系統(tǒng)已成為包括美國在內(nèi)的多國海軍艦載防御系統(tǒng)的重要組成部分之一,它能夠?qū)崿F(xiàn)自動搜索、探測、評估、跟蹤、鎖定和攻擊威脅目標(如反艦導(dǎo)彈、水面水雷、小型飛行器等)。而以色列的機槍塔則曾部署在與巴勒斯坦交界的加沙地帶,這種自動機槍可以在無人值守的情況下自動識別目標并開火。據(jù)稱韓國2009年也公布了類似的自動武器,能夠在3公里開外偵測人形物體,并完成自動瞄準和射擊。
但這樣的自動射擊武器還算不上足夠智能。一名以色列指揮官在接受美國《防務(wù)新聞》雜志采訪時表示,這種機槍的部署仍處于最初階段,是否開火仍需操作人員下達命令。
六輪式無人戰(zhàn)車——“粉碎者”
相對于上面的幾種自動火器,下面要介紹的戰(zhàn)車則要先進的多。由美國陸軍與國防部高級研究計劃局出資,卡耐基梅隆大學(xué)機器人研究所負責(zé)研制的這種六輪式無人戰(zhàn)車用時5年,耗資3500萬美元。你也可以將其看作是一種輪式機器人,它能夠自己選擇穿過戰(zhàn)場的道路。這種名為“粉碎者”的戰(zhàn)車重約6噸,每個輪子中都安裝有電動機,采用混合動力系統(tǒng)。在靠電池動力執(zhí)行任務(wù)時,車輛悄無聲息,不易暴露。其最新的原型,被稱為自行行動平臺(APD),載重高達9噸,最高時速可達80公里每小時。
APD能夠自行運動的關(guān)鍵在于一種自我導(dǎo)航的裝置。首先,它會從服務(wù)器中下載一個諸如谷歌地圖那樣的衛(wèi)星地圖作為基本參照。啟動之后,它所具備的3D攝像機會立即建立周圍環(huán)境的三維圖像,從而可以計劃出一條更為詳細的線路,以繞開障礙物。而對于附近的地形,車廂會通過激光精確測試,從而對路線進行微量調(diào)整。其有效荷載主要包括偵查系統(tǒng)和武器系統(tǒng)。可深入到不便人類前去的危險地帶。
美國APD技術(shù)主要研發(fā)人員,迪米·阿波斯托洛斯說:“這聽起來可能會比較奇怪,但是我們相信機器人技術(shù)將改變整個戰(zhàn)爭形態(tài),這點毫無疑問,將有無數(shù)的人因此遠離艱苦的戰(zhàn)場環(huán)境。并且我認為這對戰(zhàn)爭雙方都是好事情。”
四足全地形機器人——“大狗”
“大狗”——顧名思義,是一個從外形上看起來與一只大型犬類似的機器人。這項研究同樣是由美國國防部高級研究計劃局資助的,而負責(zé)研制的則是波士頓動力學(xué)工程公司。
與“粉碎者”不同,“大狗”主要靠四肢移動和行走。其四條腿完全模仿動物的四肢設(shè)計,內(nèi)部安裝有傳感器和特制的減震裝置,能夠讓其自動保持平衡。機器人的長度為1米,高70厘米,重量為75千克,動力來自一部帶有液壓系統(tǒng)的汽油發(fā)動機。“大狗”的內(nèi)部還安裝有一臺計算機,可根據(jù)環(huán)境的變化不斷調(diào)整行進姿態(tài),操作人員也能夠?qū)崟r地跟蹤“大狗”的位置并監(jiān)測其系統(tǒng)狀況。
該機器人的行進速度可達到7千米/小時,能夠攀越35度的斜坡,可攜帶重量超過150公斤的武器或其他物資。它即可以自行沿著預(yù)先設(shè)定的簡單路線行進,也可以進行遠程控制。
“大狗”特殊的體形和行進方式,能使其在戰(zhàn)場上發(fā)揮重要的作用:在交通不便的地區(qū)為士兵運送彈藥、食物和其他物品;它不但能夠行走和奔跑,而且還可跨越一定高度的障礙物。研究人員形容它能夠“像只無頭山羊一樣在崎嶇的山路上一路小跑”。
速度超過人類的奔跑機器——“非洲獵豹”
這款名為“非洲獵豹”的機器人普遍被認為是“大狗”的升級版。據(jù)英國《每日郵報》報道,由波士頓動力學(xué)工程公司為美國軍方研制的這款專門以奔跑為目的的機器人,奔跑時候的時速可達113公里。這種四足機器人擁有靈活的頸椎和頭部,能夠完成疾速奔跑、急轉(zhuǎn)彎、折返跑等動作,能適應(yīng)各種復(fù)雜地形的作業(yè)。和“大狗”一樣它同樣能夠在戰(zhàn)場上承擔(dān)為士兵運送彈藥、食物和其他物品的任務(wù)。研究人員稱,其最初的模型將在20個月內(nèi)問世,奔跑速度將超過人類。
能“自作主張”的智能武器
對于空戰(zhàn)中的飛行員來說,如正面遭遇敵機,無需任何思考最明智的舉措就是發(fā)起攻擊。但是2002年12月,一架美國“掠食者”無人機在成功瞄準一架伊拉克的米格戰(zhàn)斗機時卻沒有任何反應(yīng),最終被對方擊中,墜落在了伊拉克南部的沙漠里。這一事件已被認為是無人機(UVA)與傳統(tǒng)載人戰(zhàn)斗機空戰(zhàn)的一個典型案例。那么“掠食者”無人機為什么會“愣神”呢?原來,美英的無人機大都由數(shù)千公里之外,遠在本土的地面控制人員遙控。信號由地球這一端傳到另一端時往往都存在信號延遲的問題。這個時間一般有四分之一秒甚至更長。這意味著在那個瞬間,避開導(dǎo)彈幾乎是完全不可能的,除非無人機自己做出判斷。無人機外,其他遙控類無人武器其實也存在著類似的情況。
這就為研究人員提出了一個問題——為什么不讓機器人自己照顧自己?
上面提到的幾種武器系統(tǒng)和機器人雖然都是智能化、自動化系統(tǒng),但仍然不能滿足這個要求,算不上自治系統(tǒng)。它們就如同自動售賣機一樣:只有在你投幣并按下選擇按鈕后,機器才會送出相應(yīng)的飲料。“密集陣”系統(tǒng)和自動機槍也是類似的,當雷達或是其他探測器上出現(xiàn)制定的目標時就會激活系統(tǒng),之后實現(xiàn)自動瞄準射擊。
自治系統(tǒng)則是另一個概念,這種系統(tǒng)能夠執(zhí)行更為復(fù)雜的任務(wù),能夠從數(shù)以千計的環(huán)境信息中識別出自己需要的信息。它的輸入狀態(tài)是近似于無限的,而最終結(jié)果由特定的計算機程序做出。有科學(xué)家認為這幾乎與人類做決定程序沒有什么區(qū)別。
而在目前的智能機器人和武器系統(tǒng)中,真正能擔(dān)此重任的似乎只有英國研制的下一代無人機Taranis。由于嚴格的保密措施,其具體實現(xiàn)方式目前還不得而知。但從早先公布的消息中,我們能夠知道的是它安裝有最新的隱形設(shè)備和高度自主的人工智能系統(tǒng)。
該無人機由BAE系統(tǒng)公司與勞斯萊斯公司和GE Aviation等公司聯(lián)合研制,前后共花了4年的時間。成本高達1.43億英鎊(2.33億美元)。該無人機無需地面指示也能自行運作,可深入敵方領(lǐng)土收集情報或投放各種彈藥,此外還能防衛(wèi)自身受其他有人和無人敵機的攻擊。專家表示這款飛機的設(shè)計代表了世界科技的最前沿,以Taranis為原型的相關(guān)研究,將助推智能無人機系統(tǒng)更快的發(fā)展。曾在2005—2007年間擔(dān)任英國國防采購大臣的羅德·雷森稱,Taranis“幾乎不需要操作人員輸入指令”。
Taranis只是一個大型自我防衛(wèi)系統(tǒng)的一個例子:這些武器可以不依賴任何來自人類的輸入而自行做出決定,這或許會完全改變目前的戰(zhàn)爭形勢。由于其高效率、低傷亡(甚至無人員傷亡)的特性,以英美為主要代表的發(fā)達國家正在大力對其進行發(fā)展。
但是在這些自制武器系統(tǒng)炫目的技術(shù)之后卻隱藏了巨大的倫理和法律問題。大部分的國家都受到戰(zhàn)爭法的約束,這些法規(guī)約束了戰(zhàn)爭中國家戰(zhàn)斗員的行動。在戰(zhàn)爭法的規(guī)章下,無人戰(zhàn)斗航空載具的研發(fā)引起了廣泛的問題,因無人戰(zhàn)斗航空載具一旦投入戰(zhàn)爭,沒有任何現(xiàn)有法律可向其所進行的攻擊追討責(zé)任,它們只按照程式行動,不是由人類直接操縱,在此問題上各國一直沒有共識。美國五角大樓還曾發(fā)表一份未來戰(zhàn)爭的報告認為,未來戰(zhàn)爭的“主角”將是具有人類思維水平的機器人部隊。
目前的消息是,英國皇家空軍裝備了5架“死神”無人機,并另外訂購了5架。而美軍則更為超前,五角大樓計劃進一步增加由“死神”和“捕食者”以及其他多用途無人機的數(shù)量,到2020年,這一機群的數(shù)量將從目前的300架增加到800架。此外,美軍還把阿富汗作為無人機的試驗場,用新式無人機來收集阿富汗鄰國的導(dǎo)彈試射數(shù)據(jù),并同時測試新式無人機的作戰(zhàn)效能。
誰為機器的失誤埋單
美國聯(lián)軍司令部的戈登·詹森對軍事機器人有句名言:“它們不會饑餓,不會害怕,但會牢牢記住自己的使命。”
這句話很容易讓人聯(lián)想起1986年上映的電影《霹靂5號》中那位制造霹靂5號的科學(xué)家的話——“它不會感到恐懼,沒有歡樂,也不會傷心,它只按程序運行。”但在那部電影中,霹靂五號卻選擇了擅離職守。
如果在現(xiàn)實中,軍事機器人發(fā)生故障或出錯會怎樣?雖然現(xiàn)在的機器人距離科幻小說中所描述的復(fù)雜機器人還有很長一段的路要走,但軍方已經(jīng)在考慮如何面對潛在的風(fēng)險。
2010年6月,美國空軍首席科學(xué)家沃納·達姆發(fā)布了《“技術(shù)地平線”報告》,在該報告中,他表示擁有自治系統(tǒng)的無人飛行器在未來的空戰(zhàn)中作用已經(jīng)顯現(xiàn),但其必須經(jīng)過驗證與確認(V&V認證)以確保其可靠性。自阿波羅計劃后,軍事系統(tǒng)的認證方法從未改變。這也就是達姆所說的“極限測試”。即需要對系統(tǒng)中每一個可能出現(xiàn)的極限狀態(tài)進行測試,直至獲得百分之百的確認。目前,美國一半以上現(xiàn)代戰(zhàn)斗機仍然需要通過軟件進行這樣的模擬測試。
不過當面對具有無限輸入可能的高度自治機器人時,V&V認證幾乎是不可能的。雖然借助先進的計算機模擬技術(shù)可以讓V&V認證更加容易,但最終無論如何也無法實現(xiàn)100%的認證。但為了將其投入使用,你又不得不讓其以99.99%或者更低的認證成績通過。這就為今后的事故問責(zé)埋下了伏筆。
系統(tǒng)工程師以及律師克里斯·埃利奧特說,如果一臺機器在執(zhí)行任務(wù)的時候自行攻擊了一輛救護車而非坦克,這算誰的過錯,應(yīng)該向誰興師問罪?
謝菲爾德大學(xué)人工智能教授諾埃爾·夏基說,目前的自主機器人還無法準確區(qū)分平民和戰(zhàn)斗人員,但這是國際法和國際人道主義的基石。他還強調(diào),即便是具有人工智能的機器人,也會缺乏人類所擁有的一種微妙的判斷和拿捏能力——如何在獲得軍事優(yōu)勢的前提下最大限度的避免平民傷亡。因為,即便是在戰(zhàn)爭中,不必要的殺戮也是可恥的。
據(jù)此,英國國防部的一位發(fā)言人稱,在可以預(yù)見的未來里,英國還是會保留經(jīng)過適當訓(xùn)練的操作人員直接參與無人機的操作任務(wù)。達姆相信,美國空軍也有著類似的看法,雖然在最新的無人機計劃中并沒有提及這一點。他說,其實并非人類一定要直接操控機器人,而是需要有人參與進來對整個任務(wù)過程進行監(jiān)控,并在關(guān)鍵時刻保留決定權(quán)。因為,隨著AI(人工智能)技術(shù)的發(fā)展,甚至可以將一定的戰(zhàn)斗決定權(quán)交給機器人而無需人類的輸入。至于是否授權(quán)采用致命打擊則取決于政治或軍事領(lǐng)導(dǎo)人對法律和倫理問題的理解。
美國海軍研究辦公室2008年的一份文件也承認,在自治機器人上有倫理和法律障礙。這份文件中稱,“明智的做法”是為自主機器人編入至少與人類士兵一樣的倫理程序,雖然即使這樣“意外也有可能發(fā)生”。但這至少將其納入了法律范疇。這份報告還指出,或許某一天這些自主機器人也會和未成年兒童一樣被指派一位“法定監(jiān)護人”。
紐約大學(xué)計算機學(xué)科學(xué)家羅布·亞歷山大則表達了不同的看法,他說:“這一步或許有些太遠。一臺機器無論如何也無法承擔(dān)法律或道德責(zé)任,在可以預(yù)見的未來里都是如此,我們不是在談?wù)撾娪啊缎请H迷航》里面的機器人。這些責(zé)任必須由操作者或設(shè)計者來承擔(dān)。”
真正的風(fēng)險仍在于人
除了智能機器人可能犯下的錯誤外,另外還需要注意到的一點是:這些高科技武器的出現(xiàn)和發(fā)展不但改變了現(xiàn)代戰(zhàn)爭的局面也提供了一種新的“低成本、低消耗”的戰(zhàn)爭方式。
英國謝菲爾德大學(xué)的人工智能與機器人技術(shù)教授諾伊爾·薩基說,這可能會降低戰(zhàn)爭的門檻。此前對戰(zhàn)爭發(fā)起者而言壓力最大,也是在抑制戰(zhàn)爭上非常重要的一個因素就是死亡人數(shù),但在無需人員直接前往前線的機器人戰(zhàn)爭中,這一切將變的不再重要。
進入二十一世紀以來,當無人機的機腹被掛上導(dǎo)彈和其他武器后,無人機的主要任務(wù)也由偵查轉(zhuǎn)向了攻擊。這讓發(fā)動戰(zhàn)爭變的更加容易,因為相對于昂貴的載人戰(zhàn)斗機,無人機有效而且相對便宜。有機構(gòu)統(tǒng)計顯示,有關(guān)無人機的國防支出已經(jīng)成為世界航空工業(yè)最有活力的部分。根據(jù)2011的市場研究估計,未來十年內(nèi)全球有關(guān)無人機的支出或?qū)崿F(xiàn)翻番,達到940億美元。南加州大學(xué)法學(xué)院教授瑪麗·杜齊亞克稱,無人機計劃在技術(shù)層面上,使美國人不愿尋求和平解決方法,而更易沉迷于戰(zhàn)爭,并最終陷入無盡的戰(zhàn)爭漩渦之中。對于其他無人化武器系統(tǒng)而言,上述兩點同樣適用。
英國杜倫大學(xué)人類地理學(xué)專家史蒂芬·格雷厄姆在《被圍攻的城市:新軍事城市》一書中說,而真正的危險在于,自助式機器人將減少發(fā)動戰(zhàn)爭的政治成本,從而使其不再成為最后的手段。此外,說這些自主機器人將讓現(xiàn)代戰(zhàn)爭的戰(zhàn)場進一步由曠野轉(zhuǎn)移到城鎮(zhèn),因為那里有更多的建筑可供藏身。
近年來,無人機計劃在美國的應(yīng)用也證明了這一點。2008年美國時任總統(tǒng)布什秘密授權(quán)美國中央情局在巴基斯坦境內(nèi)使用無人機捕殺恐怖嫌疑人。從而違反了1976年由福特總統(tǒng)簽署的美國情報部門不得從事暗殺活動的行政命令。此后,華盛頓有越來越多的政客傾向于支持無人機作戰(zhàn),并宣稱與其派遣大量的軍隊前往阿富汗等熱點地區(qū),還不如利用高科技手段、采用外科手術(shù)式定點清除基地首領(lǐng)及其盟友。奧巴馬上臺后,無人機在巴基斯坦的攻擊頻率變的越來越高,相對于2008年的25次,在奧巴馬上臺后的2009年襲擊次數(shù)增加了3倍,而死亡人數(shù)也從不足200人上升到700人。今年年初以來,美軍無人機就在巴基斯坦境內(nèi)發(fā)動襲擊43次,打死400多人。而死亡者中只有不到2%的人能夠被有效證實為基地組織或相關(guān)團體的頭目,其余更多的只是小嘍啰和平民。
達姆說,即便如此自主系統(tǒng)在軍事領(lǐng)域還是具有很多迫在眉睫用途,在這些領(lǐng)域中它們比人類更仔細、更勤勞、也更精確。衛(wèi)星就是一個很好的例子,具有自治程序的衛(wèi)星能夠在無需人們監(jiān)管的情況下自動尋找和識別目標,并將其圖像及時傳回地面。事實上,目前在軍事指揮系統(tǒng)中已經(jīng)采用了很多具有自治因素的軟件系統(tǒng),例如在組織和部署軍需品問題上。這樣的程序能夠完成不少繁重、又要求精度高的任務(wù)。隨著時間的推移和的技術(shù)的逐步完善,今后戰(zhàn)爭最初階段的戰(zhàn)術(shù)決策也有可能交由電腦程序控制。
不少人的自然反應(yīng)或許是,這為科幻片中所描述的具有自主意識的機器人統(tǒng)治世界鋪平了道路。但這些人或許并沒有看到這一點:在這個世界里,最應(yīng)該讓人擔(dān)心的應(yīng)該是那些血肉之軀,而非這些金屬和回路。夏基說,總之我不認為我們會走上終結(jié)者式的世界,那些機器人被描寫的太過聰明了。