概念由來
死亡開關報告建議,設計師研究機器人時也應該尊重人類的基本人權;在設計新型機器人時,需事先獲得道德研究委員會的批准;設計者還應該為機器人註冊,方便他們在調查事故時找出涉事的機器人。
參照依據
死亡開關歐盟報告參照美國科幻小說作家阿西莫夫提出的“機器人學三大法則”作為立法框架,規定了機器人自我意識覺醒後的行為規範。“機器人學三大法則”指的是:1.機器人不得傷害人,也不得見人受到傷害而袖手旁觀;2.機器人應服從人的一切命令,但不得違反第一定律;3.機器人應保護自身的安全,但不得違反第一、第二定律。
由於規則無法轉化為代碼,該法律將針對機器人的設計者、生產者和操作者。歐洲議會正在考慮建立一個針對機器人和人工智慧的機構,提供技術、倫理和監管方面的專門知識。
報告提出,一旦發生事故,機器人應當承擔責任。機器人應負的責任應該對應它接收的實際指令及其自主程度。也就是說,機器人的學習能力和自主性越高,人的責任就較低;機器人“受教育”的時間越長,教導它的“老師”負的責任越大。報告還提出,機器人的生產商或擁有者將來或需要購買保險,來承擔機器人可能造成的損失。
背景事件
預計到2020年,機器人和人工智慧可以取代510萬個工作崗位。而機器人“殺人”的爭議事件不少:
2016年6月,美國一家汽車零件生產商的一名女員工在修理故障機器人時,被突然啟動的機器人壓死。
2015年6月,德國大眾汽車一名工人在安裝機器人時,被抓起推向金屬板壓死。

