無障礙鏈接

突發新聞

報告:大國競相研發“殺人機器人”可能引發災難


在北京舉辦的第八屆中國國際警用裝備博覽會上展出的遙控機器人武器。(2016年5月19日)
please wait

No media source currently available

0:00 0:05:09 0:00

荷蘭的一個和平組織警告說,美中俄等大國開始在人工智能領域展開軍備競賽,而這樣一場全面的軍備競賽將嚴重危及國際和平與安全。該組織在一份報告中呼籲禁止研發所謂的“殺人機械人”,因為這項技術的發展可能會讓機械來決定人的生死。

美中俄在人工智能領域展開軍備競賽

美國與中國在貿易上的爭端只是這兩個大國戰略博弈的一部分。事實上,這兩個國家正在人工智能等高科技領域展開競爭。

荷蘭的“和平”組織PAX研究了美、中、俄、英、法、以色列和韓國這7個國家的人工智能發展狀況。

該組織在一份報告中說,已經有清楚的跡象顯示,美國、中國和俄羅斯等國家正在開始進行人工智能領域的軍備競賽,這種競賽可能導致人工智能武器取代人類的角色,自行選擇攻擊的目標並發動攻擊。

致命自動武器的出現被人工智能專家稱之為繼火藥以及原子彈之後的“第三次戰爭革命”。

“殺人機械人”引發種種擔憂

報告認為,這些被稱為“殺人機械人”的武器引發了很多法律、倫理和安全上的擔憂。把生與死的決定交給一個機械或是算法將是極為不道德的,因為機械本身不可能遵守戰爭法或是有能力區分平民與戰鬥人員。在誰應該為非法行為負責的問題上,這種武器也會帶來“責任真空”的狀況。而且,這種武器的部署可能導致意外的戰爭與衝突的急劇惡化以及其他意想不到但危險的後果。目前還不清楚這種由相互對立的軍隊設計並部署的武器會如何互動。

目前,有28個國家呼籲全面禁止全自動的致命武器。美國軍方的政策要求在自動武器決定開火之前要與人有一定程度的互動。中國支持禁止使用這種武器但不禁止開發這種武器。

和平組織的報告說,旨在縮短反應時間並使襲擊更為精準的致命自動武器正在限制有關使用武力的決策過程,並增加大規模傷亡的風險。

報告還指出,自動武器技術一旦發展出來可能會被廣泛的擴散,讓各種各樣的人或團體擁有它,而這意味著這些武器系統的軍事優勢將是暫時的,也是有限的。

此外,人工智能領域的軍備競賽將迫使這些國家盡快的發展自動武器系統,以保持自己的領先地位,因此根本沒有時間考慮這種新技術可能帶來的長期影響。

這份報告認為,這些國家不應該問“我們如何才能贏得這場人工智能的軍備競賽”這樣的問題,而是問“我們如何避免一場人工智能的軍備競賽”。

報告呼籲禁止開發“殺人機械人”

報告建議所有國家立即暫停開發、生產和使用致命的自動武器,努力達成一項具有法律約束力的文件,確保人類對武力的使用施加有意義的控制並禁止使用那些能夠自動選擇並攻擊目標的武器;同時制定和執行建立信任措施,以減少人們對那些正在開發致命自動武器的國家存在的擔憂。報告還建議私營企業承諾不對自主殺傷性武器的發展做出貢獻。

美國是人工智能的領先者

美國被認為是人工智能領域的全球領先者。今年2月,美國總統特朗普簽署一項行政命令,推動美國在人工智能領域的發展,同時削弱中國在這一領域的強勁勢頭。這項行政命令要求聯邦機構在研發投入中把人工智能列入優先地位,同時擴大科研人員使用有利於人工智能研發的政府數據的權限。

在特朗普簽署行政命令的一天之後,五角大樓正式推出了人工智能戰略,並宣佈在今後五年的時間裡投資20億美元,研發下一波的人工智能技術。這是迄今為止對美國武器中的人工智能係統做出的最大一筆投資。國防部去年6月還設立了聯合人工智能中心,負責各軍種以及國防部門對人工智能技術的開發。

中俄高度重視人工智能 希望趕超美國

中國也高度重視人工智能的開發,把它作為國力與軍力的一個關鍵組成部分。中國在2017年公佈了“新一代人工智能開發計劃”。為了趕上美國,中國成立了兩個專門研究人工智能與無人體系的機構。中國軍方人員發表的文章暗示,北京正在研究一種“算法遊戲”,幫助預測戰場上發生的情況。

俄羅斯也把人工智能置於優先地位。俄羅斯總統普京2017年在一次講話中表示,人工智能不僅是俄羅斯的未來,而且是全人類的未來。他說,“這個領域的領導者將是世界的主宰者”。和平組織的報告說,俄羅斯預計會在幾個月的時間裡公佈它開發人工智能技術的戰略。

評論 (1)

此論壇已被關閉。
XS
SM
MD
LG