前谷歌工程師警告：自治武器可 “意外” 觸發第三次世界大戰
責編：gltian ｜2019-09-20 14:20:23Laura Nolan，去年辭職的前谷歌軟件工程師，警告稱自治武器(Autonomous weapons)恐 “意外” 觸發下一次世界大戰。
Nolan 去年被公司指派參與美國軍方無人機項目，因理念不同憤而辭職。上周末，她指出，軍用技術中融入越來越多復雜人工智能可能產生嚴重負面效果。
Nolan 后來參加了 “禁止殺手機器人運動” (Campaign to Stop Killer Robots)，就此話題發表多篇言論。她最近的擔憂是人工智能 (AI) 可能最終會發動戰爭或犯下暴行。
接受英國《衛報》采訪時 Nolan 說道：我不是要禁導彈制導系統或反導防御系統。這些畢竟都在人類完全控制之下，終歸有人負責。
但自治武器不僅是戰爭中的技術變革，也是戰爭倫理的巨大變化。很少有人談論這些，但如果我們不引起重視，這些殺手機器人可能意外引發戰爭，摧毀核電站造成大規模殺傷。
其中一個重大問題是，此類軍用自治系統只能在戰場測試，這就引發更深遠的諸多問題了。她詰問道：你怎么訓練一個完全基于軟件的系統檢測細微的人類動作，或者分辨獵人和暴亂分子的不同？
18 歲的戰士和 18 歲抓兔子的獵人，這些殺人機器要怎么自行區分？
去年，谷歌拿下美國國防部改進無人機視頻識別技術的 Maven 項目，Nolan 為此辭職。3,000 多名谷歌員工簽署反對公司參與軍方項目的請愿書后，谷歌最終于今年 3 月退出該項目。
與此同時，谷歌設立由八名 “數字倫理專家” 組成的倫理委員會，就 AI 問題提供建議。然而，一個月后，另一個倫理委員會被悄悄解散。
禁止殺手機器人運動詳情：