近日，在瑞士達沃斯舉辦的世界經濟論壇上，與會人士討論了智慧機器應用於戰場可能産生的後果。美國福克斯新聞網在報道中指出，儘管機器人能減輕士兵在戰場上的負擔，但自主機器人可以不受人類操控而自動選擇目標，所以需要建設完善的道德程式才能保證安全，否則，遇到駭客襲擊將會十分危險。

　　本報記者 劉 霞 綜合外電

　　機器起來對抗它們的人類主人，這是科幻小説中常見的橋段，但在最近的世界經濟論壇上，有專家警告稱，它有可能成為一個真實的威脅。與現在無人機仍然由人類操控不同，自主武器有可能被編程從而能夠自主選擇並攻擊目標，這些戰爭機器可能會有不符合道德的行為並且成為駭客的遊樂場。

　　自主武器提出道德挑戰

　　澳大利亞新南威爾士大學電腦科學和工程學院人工智慧教授托比·沃爾什接受福克斯新聞網採訪時説：“這是我們去年列出的應該關注的主要問題之一。”

　　他補充説：“令人擔心的是，各國軍隊可能會在未來數年內將機器人派上戰場，但我們中的大多數人相信，我們沒有能力建造出有道德的機器人，而且，我們也不認為會有人打算建造有道德的機器人。”

　　科學小説作者艾薩克·阿西莫夫在他1942年的短篇小説《環舞》（Runaround）中提出了著名的“機器人三定律”：機器人不能危害人，或任人受傷而袖手旁觀；除非違背第一定律，機器人必須服從人的命令；除非違背第一及第二定律，機器人必須保護自己。

　　研究人員認為，對於任何“有道德的機器人”來説，這樣的守則必不可少，但將這些倫理規範編入機器人內是建造者的責任。不過，理想很美好，現實很骨感。

　　美國安全中心倫理自主性項目新主管保羅·謝爾説：“這樣的武器目前還不存在。而且，即使先進的系統也被設計成不能選擇目標，只可以在射擊目標時做出糾正。”

　　儘管目前仍然沒有國家研發出自主武器，但包括美國在內的幾個國家已經在戰區部署了無人機。美國不僅將無人機作為監控手段，而且，也作為一種遠端攻擊和殺死可疑恐怖分子的手段。

　　以色列飛機工業公司的“哈洛普”（Harop）巡飛無人機可能是通向真正的自主武器的第一步。“哈洛普”是基於以色列航空工業公司生産的上一代無人機“哈比”（Harpy）製造而成。《簡氏防務週刊》此前報道，以色列航空工業公司2015年6月7日宣佈成功對“哈洛普”無人機進行了試驗，該無人機在沒有探測到目標後，可以安全降落。

　　“哈洛普”這款自殺無人機可以在目標區域盤旋6個小時，發現目標後飛向並撞擊目標，引爆其33磅（約15千克）重的彈頭。據悉，“哈比”無人機主要用於探測並摧毀雷達站，但“哈洛普”也可以攻擊汽車和地面其他目標。

　　謝爾説：“這類武器能通過遵守程式，自己選擇目標，但它能變得非常狡猾。相比較而言，自動駕駛汽車自身並不能做決定。”

　　目前，這類機器仍然不能進行主動攻擊。佈雷德斯補充説：“主動攻擊權仍然不能賦予機器，至少不能被任何文明世界的個人給機器。”

　　謝爾強調稱，戰爭法本身並不禁止自主武器，這是一個事實。不過，他也警告稱，讓此類設備遵守目前共同接受的規則，是一個巨大的挑戰，即便這一切成為現實，自主武器仍然提出了嚴重的倫理和道德挑戰，也存在技術方面的隱憂。

　　謝爾説：“假定我們能建造出有道德的機器人，它們能遵守這些法則，但還是存在另一個隱憂，那就是，我們仍然無法建造任何不被攻擊的系統。”

　　面臨被攻擊和劫持的威脅

　　即使現在的“當紅炸子雞”無人機本身也非完全安全。2011年，伊朗軍隊宣稱“劫持”了一架美國尖端的RQ-170隱形無人機。儘管美國軍方否認，但這也説明遠端設備很有可能被攻擊。

　　簡氏資訊集團下屬的《國際防務評論》雜誌的編輯胡武·威廉姆斯説：“科學家們一直在努力，希望通過加固數據連結的‘加密’程式來使其與操作員之間的連接變得更安全。但是，沒有加密方法是完美無缺的，儘管現在的加密程式的安全性已經極高，但數據連結仍然可以被攻破；而且，也有人在不斷想方設法破壞對遠端系統的控制。”

　　正如一直有聯網汽車會被攻擊的報道那樣，立法人士擔心，某些人可能會對無人武器系統發動攻擊。弗若斯特&沙利文諮詢公司航空航太和國防領域資深分析師邁克爾·佈雷德斯説：“我們打算對包括無人機在內的更多人工智慧遠端系統進行核查。這些系統配備的鐳射雷達、聲學感測器等傳感設備的先進性與日俱增，且與我們在目前的自動汽車內看到的大相徑庭。”

　　佈雷德斯説：“儘管我們現在正努力確保遠端機器不被不懷好意的人接管，很多設備都擁有加密的數據連接，但威脅仍然存在。”威廉姆斯解釋稱：“今天的遠端系統的安全性已經非常高，但仍會有人想辦法來破壞它們，來竊奪控制權、竊奪GPS系統或通過其他手段來破壞對飛機的控制。”