單純從科幻小說的角度來看，軍事機(jī)器人似乎是個(gè)糟糕的主意。從《終結(jié)者》(The Terminator)到《黑客帝國》(The Matrix)，流行文化充滿了強(qiáng)大機(jī)器肆虐橫行的故事，它們總是努力擺脫制造者的控制，擊敗任何試圖阻止它們的力量。早在20世紀(jì)20年代，捷克作家卡雷爾·查佩克(Karel Capek)就在舞臺劇《羅森的萬能機(jī)器人》(Rossum's Universal Robots)中首次提出了機(jī)器人(robot)這個(gè)詞，并預(yù)言人類命運(yùn)將終結(jié)在人工生命之手。
盡管有這些電影發(fā)出警告，但是陸地、空中以及海上機(jī)器人依然不斷從科幻小說中涌現(xiàn)，成為現(xiàn)代武器庫的標(biāo)準(zhǔn)部分，現(xiàn)在甚至有人正認(rèn)真討論開發(fā)殺手機(jī)器人和無人機(jī)，它們不僅可獨(dú)立思考，甚至還能相互交流。
自從2011年9/11恐怖襲擊發(fā)生以來，美國軍方已經(jīng)部署了數(shù)以萬計(jì)的遙控機(jī)器人。在中東，無人機(jī)已成為一種常見的作戰(zhàn)武器。無人駕駛陸地戰(zhàn)車已經(jīng)幫助美國軍隊(duì)在伊拉克和阿富汗安全地摧毀了大量路邊炸彈。水下無人機(jī)被用來收集科學(xué)和偵察數(shù)據(jù)，并幫助排除水雷。
其他國家軍隊(duì)和各種武裝組織也正在開發(fā)自己的戰(zhàn)斗機(jī)器人，通過開發(fā)進(jìn)攻性和防御性的機(jī)器人技術(shù)，很可能引發(fā)類似冷戰(zhàn)式的軍備競賽。支持者認(rèn)為，軍事機(jī)器人會拯救更多生命，而不是危及生命，比如那些已經(jīng)應(yīng)用到實(shí)踐中的炸彈排爆機(jī)器人。
各國軍隊(duì)正開始著手進(jìn)行整合，包括考慮何時(shí)以及如何將越來越多的自主機(jī)器人應(yīng)用到各種軍事行動(dòng)中。然而與民用自動(dòng)化卡車、拖拉機(jī)或鏟車相似，他們也面臨安全性和有效性等相同的問題。世界各國領(lǐng)導(dǎo)人也在積極考慮，如果沒有人類發(fā)出的明確命令，機(jī)器人是否應(yīng)被允許開火或啟用其他武器。所以，以完成任務(wù)為使命、類似終結(jié)者的殺人機(jī)器可能不再那樣遙遠(yuǎn)。
美國軍方的機(jī)器人計(jì)劃同樣令人擔(dān)憂。2001年10月7日，也就是9/11恐怖襲擊發(fā)生1個(gè)月后，機(jī)器人首次證明了它是一種致命武器的價(jià)值。到阿富汗戰(zhàn)爭爆發(fā)時(shí)，名為MQ-1的捕食者無人機(jī)首次發(fā)動(dòng)了致命空襲。這架無人駕駛飛機(jī)現(xiàn)在已成為華盛頓國家航空航天博物館的重要象征。
在小布什總統(tǒng)(George W. Bush)使用無人機(jī)取得初步成功后，捕食者和更大的收割者無人機(jī)的使用迅速增加。小布什的繼任者巴拉克·奧巴馬(Barack Obama)同樣大力支持使用無人機(jī)，促使其數(shù)量進(jìn)一步擴(kuò)大。外交關(guān)系高級研究員邁卡·曾科(Micah Zenko)估計(jì)，奧巴馬授權(quán)的無人機(jī)襲擊高達(dá)506次，而布什授權(quán)還不到50次。
批評人士表示，由數(shù)百或數(shù)千公里以外的操作員遠(yuǎn)程操控?zé)o人機(jī)很難做到萬無一失?；槎Y和其他平民集會遭到意外襲擊事件屢見不鮮，成為無人機(jī)項(xiàng)目的最大困擾之一。奧巴馬在2013年演講中說，利用無人機(jī)對恐怖分子發(fā)動(dòng)襲擊依然是最佳方案。他說：“與無人機(jī)相比，傳統(tǒng)的空軍或?qū)椄粶?zhǔn)確，并有可能造成更多平民傷亡和引發(fā)更多地方憤怒。這些入侵領(lǐng)土行為使我們被視為占領(lǐng)軍隊(duì)，會產(chǎn)生許多意想不到而難以控制的后果，進(jìn)而造成大量平民傷亡，導(dǎo)致暴力沖突加劇。”
2013年，美國參議員林賽·格雷厄姆(Lindsey Graham)估計(jì)，約有4700人在美國無人機(jī)襲擊中身亡。他說：“有時(shí)你會攻擊到無辜的人，我討厭這樣，但我們正處于戰(zhàn)爭中，我們已經(jīng)擊斃了許多基地組織高級成員。”唐納德·特朗普(Donald Trump)在就任總統(tǒng)后的頭幾個(gè)月里，繼續(xù)授權(quán)CIA增加無人機(jī)襲擊次數(shù)。在去年大選期間，他甚至提倡使用捕食者無人機(jī)進(jìn)行邊境巡邏。
據(jù)美國智囊機(jī)構(gòu)New America Foundation估計(jì)，美國面臨裝備無人機(jī)的敵軍威脅日益加劇，現(xiàn)在已經(jīng)有86個(gè)國家擁有某種無人機(jī)，其中包括19個(gè)已經(jīng)擁有或正在獲得武裝無人機(jī)技術(shù)的國家。該基金會報(bào)告說：“2011年研究發(fā)現(xiàn)，世界各國政府、公司和研究機(jī)構(gòu)共有約680個(gè)活躍的無人機(jī)開發(fā)項(xiàng)目，而六年前只有195個(gè)。”恐怖組織也在關(guān)注這項(xiàng)空中技術(shù)：IS使用商業(yè)和定制無人機(jī)進(jìn)行監(jiān)視，最近甚至還向伊拉克部隊(duì)投放炸彈。
在伊拉克和阿富汗，路邊炸彈和簡易爆炸裝置已經(jīng)造成數(shù)以千計(jì)的美軍士兵傷殘或者死亡，無人地面車輛可以幫助拆除它們，地面機(jī)器人已經(jīng)展示出拯救生命的巨大潛力。New America Foundation戰(zhàn)略專家、《連線戰(zhàn)爭：機(jī)器人革命和21世紀(jì)沖突》(Wired for War: The Robotics Revolution and Conflict in the 21st Centur)的作者彼得·辛格(Peter Singer)2009年寫道，部署在伊拉克的軍用地面機(jī)器人數(shù)量2004年末大約為150個(gè)，4年后已經(jīng)增加到大約12000個(gè)。
美國軍方發(fā)言人多弗·施瓦茨(Dov Schwartz)承認(rèn)：“多達(dá)1000輛無人地面車輛已在伊拉克和阿富汗被炸毀，但它們挽救了無數(shù)生命。”早在2002年初，類似坦克的便攜式遙控汽車PackBots就被部署在阿富汗，幫助搜尋布滿陷阱的洞穴和隱藏的敵人。當(dāng)時(shí)，這些機(jī)器由麻省理工學(xué)院分拆的公司iRobot制造，以Roomba和Braava等自動(dòng)地板清洗機(jī)為基礎(chǔ)。該公司的軍事部門去年剝離出來，組建了總部位于馬薩諸塞州的Endeavor Robotics公司。
PackBot被證明在前線部隊(duì)中很受歡迎。一位陸軍上校在2003年稱，與損失士兵相比，更換機(jī)器人顯然更劃算。iRobot公司推出了新的模型，可以拆除拆除炸彈和應(yīng)對伏擊，也能用于偵察和處理炸彈。Endeavor Robotics首席執(zhí)行官肖恩·比拉特(Sean Bielat)表示：“在與客戶和最終用戶的協(xié)調(diào)中，我們在不斷學(xué)習(xí)。因?yàn)榕c我們的遐想相比，他們總是知道自己更需要什么。我們總是需要這樣的迭代過程：把設(shè)備交給他們，他們提供反饋，然后我們進(jìn)行重新設(shè)計(jì)，最終幫助他們完成任務(wù)。”
2005年，PackBot成為環(huán)納斯達(dá)克交易所首個(gè)開市敲鐘的機(jī)器人，預(yù)示著iRobot公司7200萬美元的IPO活動(dòng)開市。到2012年，iRobot公司宣布已經(jīng)向國防機(jī)構(gòu)和警察機(jī)構(gòu)售出超過5000個(gè)機(jī)器人，包括能夠攜帶68公斤負(fù)重的超級戰(zhàn)士PackBot、重量僅2.3公斤的FirstLook。其中，F(xiàn)irstLook屬于通常被稱為“異類”的機(jī)器人，因?yàn)樗鼈兛梢员蝗拥胶茈y看到的地方，或者從車上滾下去，甚至被扔到建筑物里面檢查潛在威脅。
專為軍方和執(zhí)法機(jī)構(gòu)提供各種設(shè)備的ReconRobotics公司首席執(zhí)行官兼總裁馬克·特雷納(Mack Traynor)表示：“軍隊(duì)將使用機(jī)器人偵察道路、下涵洞，以及進(jìn)入狹窄的地方。曾有海軍陸戰(zhàn)隊(duì)上士告訴我，當(dāng)他被外派執(zhí)行任務(wù)的時(shí)候，負(fù)責(zé)連隊(duì)里最大的家伙。他要做的，就是把它盡量扔到遠(yuǎn)處。”
同樣，美國海軍始終在使用機(jī)器人定位水雷。2003年，被稱為遠(yuǎn)程環(huán)境監(jiān)控單元(REMUS)的魚雷形無人潛艇第一次被用于在伊拉克港口城市烏姆蓋斯?fàn)?Umm Qasr)周圍尋找水雷。這些裝置幫助水手在水面下發(fā)現(xiàn)了幾十個(gè)可疑物體。
作為偵察工具，這些機(jī)器人過去幾十年已被證明非常有價(jià)值，包括1985年幫助找到泰坦尼克號的殘骸。它們還被用來尋找沉船和失事飛機(jī)的“黑匣子”。1999年，美國海軍水下無人機(jī)Deep Drone在楠塔基特附近成功找到發(fā)生空難的埃及航班飛行數(shù)據(jù)記錄儀。
但到目前為止，反水雷無人機(jī)大多辜負(fù)了人們的期望。所謂的遙控獵雷系統(tǒng)(Remote Minehunting System，簡稱RMS)去年被正式取消，因?yàn)榇饲皡⒆h院武裝部隊(duì)委員會主席約翰·麥凱恩(John McCain)發(fā)表了一份措辭嚴(yán)厲的報(bào)告，稱該系統(tǒng)斥資7.06億美元、歷時(shí)開發(fā)16年，卻依然沒有提供任何幫助。麥凱恩寫道：“簡單地說，雖然RMS的總體支出只比原計(jì)劃略高一點(diǎn)，但它只產(chǎn)出了半數(shù)系統(tǒng)，這意味著超過了單位成本的兩倍，并要花兩倍的時(shí)間來解決這個(gè)問題。而且，它也不起作用。”
存在爭議的地方在于，海軍始終在使用訓(xùn)練有素的海豚和海獅尋找水雷。官員們稱，一旦證明有機(jī)器能夠勝任這些工作，他們計(jì)劃執(zhí)行淘汰海洋哺乳動(dòng)物的計(jì)劃。2016年11月份，美國國防部總檢查官辦公室警告說，這個(gè)計(jì)劃中的機(jī)器名叫Knifefish，可部署在淺水區(qū)，與海軍中新開發(fā)的瀕海戰(zhàn)斗艦協(xié)同作戰(zhàn)?？墒?，它們可能無法在2017年使用。Knifefish是美國海軍淘汰海豚等動(dòng)物計(jì)劃的重要組成部分。
軍事機(jī)器人的革命還有很多需要改進(jìn)的地方。隨著美國五角大樓從快速的戰(zhàn)時(shí)收購轉(zhuǎn)變?yōu)殚L期的機(jī)器人項(xiàng)目，它面臨著許多挑戰(zhàn)。這些挑戰(zhàn)與普通科技項(xiàng)目差不多，而非像科幻小說中描述的那樣恐怖。比如，它需要確保來自不同廠商的設(shè)備能夠很好地兼容，還要弄清楚哪些新工具能讓操作變得更安全、更高效。
2013年發(fā)布的25年路線圖強(qiáng)調(diào)，確保未來機(jī)器人能夠共享數(shù)據(jù)并相互協(xié)作非常重要。該計(jì)劃要求機(jī)器人使用標(biāo)準(zhǔn)化接口，以便機(jī)器人可以使用其他廠商的傳感器以及工具等附加硬件，就像來自不同制造商的計(jì)算機(jī)可以與相同的USB設(shè)備進(jìn)行通信那樣。報(bào)告中警告稱：“升級現(xiàn)有的專有零部件可能是昂貴的，在后勤上也是不可行的，因?yàn)檎麄€(gè)平臺可能都需要更換。這種封閉的發(fā)展方式導(dǎo)致許多不利的特點(diǎn)，阻礙了進(jìn)步技術(shù)的應(yīng)用和新能力的采用。”
施瓦茨透露，美國陸軍去年啟動(dòng)了兩個(gè)標(biāo)準(zhǔn)模塊化機(jī)器人平臺的采購流程，初步計(jì)算需要采購大約4400臺設(shè)備。他們的目標(biāo)是最終能夠從不同的供應(yīng)商那里購買到能夠兼容的硬件，如輻射傳感器和機(jī)器人手臂，而不必更換車身，只需保持零部件更新即可。
這種做法至少得到了部分承包商的贊賞，這將使他們能夠把精力集中在專門的知識領(lǐng)域上。諾斯洛普-格魯曼公司地面部隊(duì)和防護(hù)系統(tǒng)主管林肯·哈德遜(Lincoln Hudson)說：“作為機(jī)動(dòng)性提供商，我們可以真正專注于那些使特定平臺能夠去做其他事情的東西，而不必跟上最新技術(shù)的發(fā)展，比如說攝像頭。”
除了互操作性問題外，國防部和國土安全部等機(jī)構(gòu)也越來越多地投資于跟蹤和擊落敵方無人機(jī)的技術(shù)，從無線電干擾、黑客工具再到霰彈以及誘捕網(wǎng)等。專家擔(dān)心無人機(jī)可被用于對美國發(fā)動(dòng)恐怖襲擊。風(fēng)投公司Spectrum 28聯(lián)合創(chuàng)始人兼合伙人肯特·霍(Kent Ho)表示：“很顯然，無人機(jī)是提供類似生物制劑的完美武器。”
最終，未來無人機(jī)技術(shù)可能引發(fā)新一輪的軍備競賽，無人機(jī)開發(fā)人員正設(shè)計(jì)可以擊退或躲避敵方無人機(jī)攻擊的更先進(jìn)機(jī)器。巴德學(xué)院下屬無人機(jī)研究中心主任丹·蓋廷格(Dan Gettinger)說，到目前為止，美國在無人機(jī)領(lǐng)域還沒有迫切需求，這在很大程度上是因?yàn)闆]有空中威脅。他說：“捕食者、收割者以及類似的灰鷹無人機(jī)，它們都不是設(shè)計(jì)用于空對空戰(zhàn)斗的。”它們正在伊拉克、阿富汗、敘利亞、索馬里和也門上空飛行，那里沒有空對空作戰(zhàn)需求或防空威脅。”
與今天的同類機(jī)器人相比，未來幾代軍事機(jī)器人幾乎肯定會比它們擁有更大的自主性，但它們是否能做出攸關(guān)人類生死的決定呢?Endeavor Robotics首席執(zhí)行官肖恩·比拉特(Sean Bielat)說：“我無法想象這樣的情況，你絕對不想要能夠自主決定是否傷害人類的機(jī)器人。”
但是其他人正在想象這種可能，同時(shí)拉響警報(bào)，包括梵蒂岡。前梵蒂岡駐聯(lián)合國代表、大主教西爾瓦諾·托馬西(Silvano Tomasi)曾在2015年相關(guān)會議上稱，這些該裝置有助于加大富國和窮國之間的權(quán)力差距。他說：“我們需要注意的另一個(gè)重要方面是武裝機(jī)器人的魅力和它們所產(chǎn)生的力量感。它們的使用可能會讓人產(chǎn)生‘無所不能’感覺，而不再僅僅限于正當(dāng)防衛(wèi)。”
當(dāng)機(jī)器人處于支持角色時(shí)，自主的論點(diǎn)達(dá)到最強(qiáng)。當(dāng)時(shí)并在地圖上進(jìn)行標(biāo)注時(shí)，地面機(jī)器人可以預(yù)見性地準(zhǔn)備物資和導(dǎo)航通過困難地形。巴德學(xué)院下屬無人機(jī)研究中心主任丹·蓋廷格(Dan Gettinger)表示，在理想情況下，它們也足夠可靠，可以與部隊(duì)共同行軍，而不需要部隊(duì)人員專門注意它們。他說：“如果你想讓機(jī)器人帶著所有裝備，同時(shí)還不希望任何人在任何時(shí)候控制這個(gè)機(jī)器人，這只會增加額外的復(fù)雜性。”
自動(dòng)船只和潛艇將能夠與其他機(jī)器人進(jìn)行越來越復(fù)雜的機(jī)動(dòng)和協(xié)調(diào)，即使是當(dāng)它們在與人類指揮官失去聯(lián)系時(shí)。美國海軍研究所最近展示的水面艦艇顯示，它們能夠集體攻擊目標(biāo)，將來甚至可以用于港口防御。海軍研究所發(fā)言人大衛(wèi)·薩馬利(David Smalley)稱：“在演示中，無人艦隊(duì)在大面積的開放水域執(zhí)行了巡邏任務(wù)。當(dāng)未知船只駛?cè)朐摰貐^(qū)時(shí)，這些無人船只合作確定哪艘巡邏能夠最快逼近未知船只，并把它歸類為無害的或可疑的。它們還能與其他船只協(xié)助追蹤未知船只，而其他船則繼續(xù)巡邏該區(qū)域。”
類似的船只也可在危險(xiǎn)區(qū)域巡邏或監(jiān)控更廣闊的海域，在很大程度上，這要比載人船只成本更便宜。美國海軍研究辦公室項(xiàng)目官羅伯特·布里佐拉拉(Robert Brizzolara)稱：“如果我們能用無人艇代替載人船只開進(jìn)雷區(qū)，這將是一個(gè)巨大的優(yōu)勢。”
海軍無人系統(tǒng)指揮部發(fā)言人卡拉·英林(Kara Yingling)指出，海軍機(jī)器人，特別是那些在水下操作的機(jī)器人，需要比無人機(jī)或陸地機(jī)器人有更強(qiáng)的自主性，因?yàn)樗鼈兏菀着c人類操作者失去聯(lián)系。“無人駕駛潛水艇(UUV)的態(tài)勢感知需要一定程度的自主能力，這與現(xiàn)有的無人系統(tǒng)不同。如果有飛行員遠(yuǎn)程操控，無人機(jī)(UAV)依然給人有人操控的感覺。而UUV不太可能在水下的通信回路中始終保持與人類的聯(lián)系。”
有些自主空中無人機(jī)可能會大群飛行，它們需要比人類給出轉(zhuǎn)彎指示更快的速度，根據(jù)自己所處環(huán)境做出群體決定并改變隊(duì)形。美國賓夕法尼亞大學(xué)工程學(xué)院院長、被譽(yù)為空中機(jī)器人之父的維嘉?庫馬爾(Vijay Kumar)說：“如果你要我保護(hù)建筑，我可能會說，建筑太大了，我要招聘我的朋友。”
在公眾對“殺手機(jī)器人”橫行或自動(dòng)間諜無人機(jī)正巡邏城市的恐慌中，美軍和其他國家軍隊(duì)對于軍事機(jī)器人的自主程度顯得十分謹(jǐn)慎。Endeavor Robotics公司的比拉特說：“自主技術(shù)已經(jīng)領(lǐng)先于客戶的需求，我們正在與客戶密切合作，看看執(zhí)行他們?nèi)蝿?wù)最切實(shí)可行的方案。”
部分原因是人們本質(zhì)上不愿引進(jìn)新的、復(fù)雜的、具有潛在危險(xiǎn)的機(jī)器。比拉特表示：“引入的任何自主功能都必須以減少潛在傷害為目標(biāo)。”指揮官們可能會更傾向于把自我導(dǎo)航的機(jī)器人帶入戰(zhàn)場，前提是它們更多地建立在平民生活之上。比拉特說：“我認(rèn)為，通過谷歌或者Uber的無人駕駛汽車，或者特斯拉的自動(dòng)駕駛模式，我們的社會將會越來越習(xí)慣于機(jī)器自主化，進(jìn)而軍事客戶也會變得更舒適。”
但軍方領(lǐng)導(dǎo)人也對所謂的“全自主武器”保持警惕：機(jī)器人可以在沒有人為干預(yù)的情況下選擇目標(biāo)、瞄準(zhǔn)以及射擊。這些設(shè)備也已經(jīng)成為可能，而且不僅僅是在美國出現(xiàn)。英國廣播公司2015年報(bào)道稱，韓國武器制造商已經(jīng)開發(fā)出機(jī)槍炮塔，并部署在中東地區(qū)。這些設(shè)備可以向入侵者發(fā)出口頭警告，并發(fā)出明確的人類命令。它的初始版本可能自己決定是否開火。但到目前為止，客戶始終堅(jiān)持，這些產(chǎn)品只有經(jīng)人類許可才會開火。
這個(gè)領(lǐng)域的研究人員經(jīng)常將系統(tǒng)分為兩種，第一種是“人在回路中(humans in the loop)”或“人在回路上(humans on the loop)”，前者需要有人類選擇每個(gè)目標(biāo)，而后者則有機(jī)器人選擇目標(biāo)并開火，但人類擁有要求它停止行動(dòng)的絕對權(quán)力。第二種是“人在回路外(humans out of the loop)”，人類缺少控制機(jī)器的權(quán)威，也許是因?yàn)闄C(jī)器人超出了通信的有效距離。
到目前為止，當(dāng)涉及到機(jī)器人像人類開火的多數(shù)情況下，美國軍方高級官員一直試圖保持“人在回路中”狀態(tài)。美國軍方在3月份公布的戰(zhàn)略文件中說：“軍隊(duì)力求維持對所有自主性系統(tǒng)的人為控制，主要通過確保當(dāng)前和未來‘人在回路中’的狀態(tài)來實(shí)現(xiàn)這個(gè)目標(biāo)。”
這符合2012年國防部長卡特(Ash Carter)為自主武器制定的規(guī)則。卡特下令對機(jī)器人進(jìn)行嚴(yán)格的測試，并要堅(jiān)決抵制黑客襲擊。他還特別要求，半自主機(jī)器人不允許選擇新的目標(biāo)，即使是在無法與人類溝通的情況下。有人監(jiān)視的機(jī)器人可以選擇非人類目標(biāo)，比如來襲導(dǎo)彈或者其他機(jī)器人，常識及時(shí)攔截或發(fā)動(dòng)飽和攻擊。完全自主機(jī)器人只限于對物質(zhì)目標(biāo)發(fā)動(dòng)“非致命的，非動(dòng)能的”攻擊，如某些形式的電擊。美國智庫“新美國安全中心”下屬未來戰(zhàn)爭計(jì)劃部主任、高級研究員保羅·沙雷(Paul Scharre)稱，在實(shí)踐中，可以攻擊類似機(jī)載雷達(dá)干擾器這樣的自動(dòng)化設(shè)備。
至少有19個(gè)國家和國際組織，包括人權(quán)觀察組織，呼吁國際上禁止研發(fā)和部署自主致命機(jī)器人，可能類似于現(xiàn)在對不可探測的地雷和致盲激光武器的限制。2012年，多個(gè)非政府組織啟動(dòng)了他們稱之為“禁止殺手機(jī)器人”的運(yùn)動(dòng)，聯(lián)合國也就這個(gè)問題舉行了一系列國際會議。
俄羅斯總統(tǒng)普京(Vladimir Putin)最近表示，很有興趣推進(jìn)本國的軍事自主性技術(shù)，而俄羅斯對于是否參加限制機(jī)器人的國際討論猶豫不決，此類會談將在今年繼續(xù)進(jìn)行。美國國防部的“自主武器五年政策”也計(jì)劃在2017年進(jìn)行重新評估。這意味著，特朗普和普京很有可能最終決定自主武器系統(tǒng)如何從實(shí)驗(yàn)室轉(zhuǎn)移到戰(zhàn)場上。
人權(quán)觀察組織武器部門的宣傳總監(jiān)、“禁止殺手機(jī)器人”運(yùn)動(dòng)全球協(xié)調(diào)員瑪麗·韋勒姆(Mary Wareham)說：“有人擔(dān)心人類的生死將由機(jī)器決定，這似乎是大多數(shù)人無法接受的。” 人權(quán)觀察組織在2012年的報(bào)告中稱，完全自主的致命武裝機(jī)器甚至可能不符合現(xiàn)有國際法。它們可能不夠聰明，無法識別出戰(zhàn)斗人員與平民的區(qū)別。
報(bào)告中舉例稱：一個(gè)受驚的母親可能會追趕她的兩個(gè)孩子，并大聲要求他們停止在士兵附近玩玩具槍的行為。而人類士兵能識別出母親的恐懼，并確認(rèn)孩子們在玩游戲，從而認(rèn)識到他們的意圖是無害的。可是完全自主的武器可能只看到有人跑過來，還有2人手中持有武器。對于前者，它會保持克制，后者可能立刻發(fā)動(dòng)攻擊。
這些自主性武器還可能與國際法的其他要求相矛盾：這些機(jī)器決定是否發(fā)動(dòng)攻擊完全從軍事利益考慮，而不在乎是否對平民造成潛在危險(xiǎn)，甚至必要時(shí)使用武力。它們也可能缺乏人性約束和同情心，這些都可以約束部隊(duì)，以免做出不人道的事情。報(bào)告中警告稱：“沒有感情的機(jī)器人可能成為專制獨(dú) 裁者打擊異己的工具，而不擔(dān)心自己的軍隊(duì)會倒戈。”
但是有些專家說，自主機(jī)器人經(jīng)過嚴(yán)格的開發(fā)和適當(dāng)?shù)臏y試，可能有助于在高危情況下保護(hù)平民安全。而且它們可能避免犯下人類的錯(cuò)誤，也不會危及手無寸鐵的旁觀者。佐治亞州理工學(xué)院下屬計(jì)算機(jī)學(xué)院主管研究和空間規(guī)劃的副院長、移動(dòng)機(jī)器人實(shí)驗(yàn)室主任羅納德·阿爾金(Ronald Arkin)說：“它們的行動(dòng)可能比人類更保守，并承擔(dān)更多的風(fēng)險(xiǎn)。它們不會表現(xiàn)出恐懼、挫折、憤怒或是導(dǎo)致人判斷錯(cuò)誤的情緒。”
阿爾金反對完全禁止機(jī)器人，盡管他承認(rèn)應(yīng)該對它們進(jìn)行仔細(xì)監(jiān)管。他說，這些機(jī)器人不應(yīng)該被部署到戰(zhàn)斗中，直到他們被證明始終堅(jiān)守國際法，而且比人類軍隊(duì)做得更好。阿爾金還稱：“如果我們徹底禁止這種技術(shù)，那么我們也失去了幫助非戰(zhàn)斗人員和減少非戰(zhàn)斗人員傷亡的潛力。”
阿爾金指出，機(jī)器人的開發(fā)人員應(yīng)該避開編程技術(shù)，比如某些機(jī)器學(xué)習(xí)形式，這些技術(shù)可以引導(dǎo)產(chǎn)生人類無法輕易進(jìn)入的決策過程。他說：“如果這些系統(tǒng)將被使用，監(jiān)管是關(guān)鍵。機(jī)器人應(yīng)該以被分級和控制的方式進(jìn)入戰(zhàn)場，而不是急匆匆地胡亂投放。”
將對機(jī)器人采取什么樣的監(jiān)管形式，很可能在未來幾年內(nèi)決定。國防部的政策(正式名稱為國防部第3000.09號指令)將在今年被重新審視：如果在11月份其簽署5周年時(shí)不補(bǔ)發(fā)或“重新認(rèn)證”，它的有效期會自動(dòng)延期五年。目前還不清楚特朗普總統(tǒng)和國防部長詹姆斯·馬蒂斯(James Mattis)將如何選擇，五角大樓發(fā)言人拒絕評論該政策的潛在變化。
但在去年12月份，美軍現(xiàn)任參謀長史蒂芬·格洛維斯(Steven Groves)曾表示，美國不太可能支持禁止自主武器，這有利于維持美軍的軍事優(yōu)勢。他在Heritage Foundation的2015年會議上說：“國會應(yīng)該資助自主技術(shù)的研究和開發(fā)，致命自主武器系統(tǒng)提高美國國家安全的能力尚未得到充分探索，禁止或暫停此類研究不符合美國利益。”
然而，格洛維斯提倡簽署國際協(xié)議，規(guī)定何時(shí)、何地以及如何在戰(zhàn)斗中合法使用自主機(jī)器人。這可以解決許多人的擔(dān)憂，包括擔(dān)心其會危及平民安全。美國國務(wù)院1名官員表示：“美國正加入《化學(xué)武器公約》，并在討論‘致命自主武器系統(tǒng)中的新興技術(shù)’?，F(xiàn)在還不知道這些專家討論會取得什么樣的結(jié)果。”普京總統(tǒng)也談到“自主機(jī)器人系統(tǒng)”研究對俄羅斯的重要性，稱其可能“從根本上改變常規(guī)軍隊(duì)的武器裝備”。
廣州澳博信息科技有限公司首頁
