概念由來
2017年1月12日,歐洲議會的法律事務委員會舉行會議,討論歐洲首份管制機器人的建議立法草案,旨在為民用機器人的使用制訂法律框架。報告對機器人可能引發的安全風險、道德問題、對人類造成的傷害等情況作討論。報告指出,設計人員應確保機器人安裝了“死亡開關”,保證機器人可以隨時被關閉。同時,機器人不能對使用者造成“身體或心理傷害”。報告建議,設計師研究機器人時也應該尊重人類的基本人權;在設計新型機器人時,需事先獲得道德研究委員會的批准;設計者還應該為機器人註冊,方便他們在調查事故時找出涉事的機器人。
參照依據
人類與機器人的關係將掀起一場對於隱私、尊嚴及安全的討論。人工智慧在幾十年內可能超越人類的智力,這將對人類控制機器人構成挑戰。一旦機器人自我意識崛起,機器人甚至可能威脅人類的生存。歐盟報告參照美國科幻小說作家阿西莫夫提出的“機器人學三大法則”作為立法框架,規定了機器人自我意識覺醒後的行為規範。“機器人學三大法則”指的是:1.機器人不得傷害人,也不得見人受到傷害而袖手旁觀;2.機器人應服從人的一切命令,但不得違反第一定律;3.機器人應保護自身的安全,但不得違反第一、第二定律。
由於規則無法轉化為代碼,該法律將針對機器人的設計者、生產者和操作者。歐洲議會正在考慮建立一個針對機器人和人工智慧的機構,提供技術、倫理和監管方面的專門知識。
報告提出,一旦發生事故,機器人應當承擔責任。機器人應負的責任應該對應它接收的實際指令及其自主程度。也就是說,機器人的學習能力和自主性越高,人的責任就較低;機器人“受教育”的時間越長,教導它的“老師”負的責任越大。報告還提出,機器人的生產商或擁有者將來或需要購買保險,來承擔機器人可能造成的損失。
背景事件
預計到2020年,機器人和人工智慧可以取代510萬個工作崗位。而機器人“殺人”的爭議事件不少:
2016年6月,美國一家汽車零件生產商的一名女員工在修理故障機器人時,被突然啟動的機器人壓死。
2015年6月,德國大眾汽車一名工人在安裝機器人時,被抓起推向金屬板壓死。