和軍用機器人談一談道德

巴黎高科評論

不論最終采取怎樣的預防措施，具有殺傷力的自主機器仍給世界帶來不安。成立于2009年的非政府組織國際機器人武器控制委員會由專門研究機器人、道德、國際關系與人權的專家們組成，這一組織反對一個充斥著武裝機器人的“反烏托邦”世界。委員會還推出相關宣傳活動，目標是防止機器人軍備競賽的發生，活動已經取得了一些進展。2013年5月，聯合國在一份報告中呼吁，要對具有致命殺傷性的自主系統施加暫用禁令，直到成員國制定出使用規則為止。

美國在研究軍用機器人領域是不二的全球領跑者。研究原因無外乎是為了減少軍事行動中的艱苦與危險。上世紀九十年代早期人們提出了“干凈戰爭”的理念。除了通過“外科手術式”的精準打擊做到盡量減少平民傷亡，或者是更廣義的人身傷害，“干凈戰爭”的理念也反映了公眾不愿讓前線士兵冒著生命危險沖鋒陷陣，遭受可能來自生理和心理（創傷后精神緊張性障礙）的雙重打擊。在與無視戰爭規則的非正規軍交戰時，囚犯待遇也是十分敏感的問題。

正因如此，過去二十年機器人在軍事領域與作戰中的地位不斷提升，軍工行業在研發機器人過程中取得了長足進步，在一定程度上也導致了民用機器人的進步。

所謂“軍用機器人”，并非單指嚴格意義上的機器人（由算法操作的單一機器）。軍用機器人還包括其他可遠程控制的儀器。每種機器人都有許多實地優勢。它們的表現不受天氣環境（寒冷、雨水、黑暗）的影響；不會疲憊和分心，也無所畏懼。“受傷”之后簡單將其維修或銷毀即可。

但是，大規模使用軍用機器人會影響人力資源及收入問題。不論是在服役期間或退伍之后，要支付給士兵的開支都不菲。2012年，美國政府撥出1500億美元，用于支付服役和退伍士兵薪酬、社保與醫療服務，占當年國防預算的四分之一。軍用機器人的興起一部分也是因為減支的需求。美國政府目標于2015年底先裁軍6萬人，2019年底再縮減6萬人，最終將士兵總數裁減至42萬。

五角大樓一邊努力減少作戰單元的數量，一邊還要確保軍隊的整體效率。2014年初，美國陸軍訓練及戰略思想司令部司令Robert　Cole將軍表示，在2030-2040年底，要將旅級作戰部隊（美國軍隊編制中可單獨作戰的最小單位）從4000人的規模縮減至3000人。五角大樓最大的技術實驗室國防高等研究計劃署宣稱，其目標簡單來說就是：發明機器人，精簡班組，節省交通開支。

專才還是通才？

機器人長久以來就是一種軍用儀器。比如說，要操作戰斗機，機載計算機就是不可或缺的一部分。在陸地作戰時，機器人可以完成無聊、骯臟或者危險的任務。有些機器人具有多棲才能，有些則術業有專攻。

在完成拆除簡易爆炸裝置的任務中，機器人也起到了不可或缺的作用。這種做法是有其歷史原因的。在伊拉克和阿富汗戰爭中，工程師發現，37至53磅力每平方英寸的壓力足以引爆簡易爆炸裝置，遠小于一個全裝備士兵所載的88磅力每平方英寸壓力。因此，他們發明了一臺由一個簡易機器人操控的迷你推土機來進行排雷。自此，人們又發明了各種不同的掃雷機器人。大多數的體積都非常小：由法國ECA機器人公司生產的Miniroge僅重13磅。緊湊的設計允許其深入諸如水管或汽車底部等困難區域偵測。

美軍目前擁有7000架無人機與5000個地面機器人。其中最復雜的一款當屬iRobot公司生產的Packbot　510型機器人。該款機器人能夠在跌倒后起身繼續作業、穿越崎嶇地形、修復損壞的無線電、傳回高清畫面。另外還有一種“機器騾馬”機器人，可負責馱運武器與補給，減少后勤運輸的壓力。國防高等研究計劃署也在研發一種新型的自主機器人（與之前型號有所不同），搭載二沖程發動機與液壓泵。這個金屬的四足裝置目前仍處模型階段，平地上的運行速度可達到16　英里每小時。

軍用機器人的核心理念就是“人造士兵”。其中一個研究重點就是如何將人和機器與一個外骨骼無縫接合——此高科技因電影《鋼鐵俠》一炮走紅。有此技術，步兵團的戰斗速度、實力與打擊精度都會大幅提高。于2012年問世的XOS2型機器人，機身僅重22磅，卻可讓一名士兵背負超過200磅的重物！

自主度有多高？

機會不言自明，挑戰也不可小覷。對那些由算法系統而非人類操作的自主機器而言尤為如此。而要制造各行業中流水線上操作的機器人，難度來自于如何讓它們與人類保持同樣高效率以及形體和精神上的獨立完整。另外，法律上的不確定性或許也無可避免。機器人的行動由程序員、制造商和操作員所決定。一旦發生事故，三方中的哪方應承擔責任？

另外，這些半自動或遠程控制的機器的操作員也是機器行為的一部分，心理上難免會受到影響。有證據顯示，遠程操作無人機的技術人員可能產生的紊亂，是由日常生活與他們所做決定之間的脫節所致。他們所做的都是數千英里之外奪人性命的決定。來自華盛頓大學的茱莉·卡彭特曾進行過一項研究，發現在戰場上，士兵與掃雷機器人所建立起來的感情遠超一般用戶和工具之間的關系。

但是，最大的隱患還是來自于自主機器本身。人們已經開始擔心如何控制管理機器人的自主權。對于在戰地上沖鋒的軍用機器人，問題在于能否將做決定開槍射擊的權力下放到機器。許多強硬派人士已經開始質疑，人類究竟是否還能擁有投反對票的權力。

準自動機器人已經問世。以色列的哈比無人機可以自動飛入巡邏區域，偵查周圍是否存在敵軍的雷達信號，一旦發現信號源，便立即開火摧毀。諸如美國密集陣近程防御武器系統或以色列的“鐵穹”反火箭彈系統會自動延遲發射導彈，人類根本無法進行干預。三星Techwin所出品的SGR-A1機器人系統可以替代朝鮮半島邊界紛爭的前線士兵，它可以偵查到人類進入設定區域的痕跡，并向其索取密碼獲得準入權，甚至在經過設置后，它也可以進行自動射擊。

那么，底線何在？機器人專家與倫理專家羅恩·阿爾金提出，要讓機器人具備一套道德準則——也就是一套體現人為意識的規則——將這些規則直接植入機器內，確保其所作所為完全符合國際人道主義法。

機器人要道德有何用？

軍用機器人有能力選擇并摧毀打擊目標，因此不能將它們與安全和責任的概念脫鉤。編程中必須明確，對于包括“友方”目標、平民與休戰狀態的敵軍等“值得道德考慮”的目標需要手下留情。也可以在機器人中設置一張對手清單，在清單范圍內，如果能卸去對方武裝就不要趕盡殺絕。機器人必須選擇一個行動模式，在不同模式下遵守相應的道德規則。工程師將其稱為“人工道德代理”。不過問題就在于機器人的靈活性到底有多強。當機器人僅在一定的地理范圍內活動時，其行為完全受程序員與設計師的控制，他們可以提早預判各種情況，將相關應對措施寫入機器人的程序內。這種機器人屬于在“操作上道德”。

機器人本身是無需對自己進行道德評估的，不用判斷行動所產生的后果。該類機器人不需要在毫秒之內就要為某個情況挑選道德規則，也不會面臨數條相抵觸的規則。

加州州立理工大學的“道德與新興科學”組織向美國海軍提交了一份報告，當中寫到，單靠達到“操作上道德”是遠遠不夠的。在復雜環境下，機器人系統可能會因為內部過于簡單的結構而在不可預知環境的影響下崩潰。研究人員指出，機器必須內置“功能性道德”，它們需要擁有自主能力進行道德判斷。但是，該類項目研發也引發了不小的難題。該學術團體著力將最簡單的“道德”規則——機器人三定律寫入機器人程序內。機器人三定律指：1.機器人不得傷害人類，或因不作為使人類受到傷害；2.除非違背第一法則，機器人必須服從人類的命令；3.在不違背第一及第二法則下，機器人必須保護自己。很明顯，機器本身不清楚什么行為會傷害人類，因此這些規則的效力是有限的。

有人提出了另一方案：拋棄康德所謂的“定言命令”，使用所謂“自動道德觀”。但是，這一概念放在機器人的例子當中行不通。機器人既無意志也無意愿，好壞也無從談起。其他研究團隊建議索性放棄將道德植入機器人軟件的想法，而是要使用“奴隸道德”將軍用機器人定性為完全服從的機器。這種看似保險的做法實際上會影響機器人的工作效率：軍用機器人的價值在于其快速的行動和反應能力。

有些哲學家提出了另行方案。他們認為通過學習算法、使用情感探測器和了解社會機制能夠幫助提高機器人的道德感。但是，計算機科學家尚不清楚這一體系能否進一步提高機器人的情商、認知水平、道德判斷與意識。

（馮素雯/譯，本文由《上海交大巴黎高科評論》提供中文版權，欲了解更多科技評論請訪問www.sp-treview.org）