基本介紹
經典機器人三定律,化學家、科幻大師阿西莫夫在他的短篇集《我,機器人》中成型。雖說只是科幻小說中的理
論,但在現實中已成為“機械倫理學”的基礎:A robot may not injure a human being or, through inactive, allow a human being to come to harm;
機器人不得傷害人類,或者不得置人類於危難中;
A robot must abey orders given by human beings except where such orders would conflict with the First Law;
機器人必須服從人類的命令,除非與第一定律衝突;
A robot must protect its own existence as long as such protection does not conflict with the First or Second Law.
機器人可以在不與第一、第二定律衝突情況下維護自身存在。
“機器人三定律”在他於1942年發表的作品Runaround中第一次明確提出,並且成為他的很多小說,包含基地系列小說中機器人的行為準則和故事發展的線索。機器人被設計為遵守這些準則,違反準則會導致機器人受到不可恢復的心理損壞。但是在某些場合,這樣的損壞是不可避免的。在兩個人互相造成傷害時,機器人不能任人受到傷害而無所作為,但是這會造成對另一個人的傷害,在一些小說中這造成了機器人的自毀。
他在小說中提出了三定律的很多變體,例如第零定律的產生(機器人不得傷害人類,或任人類受到傷害而無所作為)。這些對機器人行為準則的修改成為他的很多故事的主線。在Little Lost Robot中為了避免機器人無謂地阻止人類進行低危險性工作,第一定律中的後半部分被去掉了,但是也產生了一些其他的問題。在Robot Dreams中,一個機器人關於取消第一定律和第二定律的夢,導致了他的毀滅。在機器人與帝國等小說中,一些外表是人的機器人認為自己應該歸屬於人類。在科幻電影Bicentennial Man中,一個機器人為了成為人,將自己的機械部分逐步替換成組織,並且在最後用自己的貢獻和犧牲換來了人類的認同和保護機器人的法律的產生。
三定律在科幻小說中大放光彩,在一些其他作者的科幻小說中的機器人也遵守這三條定律。但是,截至2005年,三定律在現實機器人工業中仍然沒有套用。目前很多人工智慧和機器人領域的技術專家也認同這個準則,隨著技術的發展,三定律可能成為未來機器人的安全準則。
擴展定律,或者補充定律。如由《我,機器人》改編、威爾史密斯主演的《機械公敵》裡面有個第七定律:
A robot shall never become a Big Brother.
機器人永遠不得稱為獨裁者。
這裡的Big Brother指的是奧威爾名著《1984》中極權獨裁者老大哥,這個定律給機器人專政判了機型。還有第八定律,也是最終定律:
If the robot failed to follow any of the above law then it should be auto destructed.
若機器人違反上述任何定律,當自我毀滅。