死亡開關

死亡開關

死亡開關,是歐盟提出的一個概念,鑒於機器人革命即將涉及社會的方方面面,針對機器人可能引發的安全風險,歐盟議會提出需要為機器人安裝“死亡開關”,以保證機器人可以隨時被關閉。此次立法將有利於人類應對機器人革命帶來的社會震盪。

基本信息

概念由來

死亡開關死亡開關
2017年1月12日,歐洲議會的法律事務委員會舉行會議,討論歐洲首份管制機器人的建議立法草案,旨在為民用機器人的使用制訂法律框架。報告對機器人可能引發的安全風險、道德問題、對人類造成的傷害等情況作討論。報告指出,設計人員應確保機器人安裝了“死亡開關”,保證機器人可以隨時被關閉。同時,機器人不能對使用者造成“身體或心理傷害”。

報告建議,設計師研究機器人時也應該尊重人類的基本人權;在設計新型機器人時,需事先獲得道德研究委員會的批准;設計者還應該為機器人註冊,方便他們在調查事故時找出涉事的機器人。

參照依據

死亡開關死亡開關
人類與機器人的關係將掀起一場對於隱私、尊嚴及安全的討論。人工智慧在幾十年內可能超越人類的智力,這將對人類控制機器人構成挑戰。一旦機器人自我意識崛起,機器人甚至可能威脅人類的生存。

歐盟報告參照美國科幻小說作家阿西莫夫提出的“機器人學三大法則”作為立法框架,規定了機器人自我意識覺醒後的行為規範。“機器人學三大法則”指的是:1.機器人不得傷害人,也不得見人受到傷害而袖手旁觀;2.機器人應服從人的一切命令,但不得違反第一定律;3.機器人應保護自身的安全,但不得違反第一、第二定律。

由於規則無法轉化為代碼,該法律將針對機器人的設計者、生產者和操作者。歐洲議會正在考慮建立一個針對機器人和人工智慧的機構,提供技術、倫理和監管方面的專門知識。

報告提出,一旦發生事故,機器人應當承擔責任。機器人應負的責任應該對應它接收的實際指令及其自主程度。也就是說,機器人的學習能力和自主性越高,人的責任就較低;機器人“受教育”的時間越長,教導它的“老師”負的責任越大。報告還提出,機器人的生產商或擁有者將來或需要購買保險,來承擔機器人可能造成的損失。

背景事件

預計到2020年,機器人和人工智慧可以取代510萬個工作崗位。而機器人“殺人”的爭議事件不少:

2016年6月,美國一家汽車零件生產商的一名女員工在修理故障機器人時,被突然啟動的機器人壓死。

2015年6月,德國大眾汽車一名工人在安裝機器人時,被抓起推向金屬板壓死。

相關詞條

相關搜尋

熱門詞條

聯絡我們