機器人三大定律

機器人三大定律:即機器人學三大法則:一.機器人不得傷害人,也不得見人受到傷害而袖手旁觀二.機器人應服從人的一切命令,但不得違反第一定律三.機器人應保護自身的安全,但不得違反第一、第二定律機器人學三大法則的提出三大法則之間互相約束,為後世的創作有一定的指導意義。

名稱

機器人三大定律

相關信息

在科幻小說領域,機器人三定律是科幻小說家艾薩克·阿西莫夫在他的大量機器人相關作品中為機器人設定的行為準則:

第一定律

機器人不得傷害人,或任人受到傷害而無所作為

第二定律

機器人應服從人的一切命令,但命令與第一定律相牴觸時例外;

第三定律

機器人必須保護自己的存在,但不得與第一、第二定律相牴觸

“機器人三定律”在他於1942年發表的作品《Runaround》中第一次明確提出,並且成為他的很多小說,包含基地系列小說中機器人的行為準則和故事發展的線索。機器人被設計為遵守這些準則,違反準則會導致機器人受到不可恢復的心理損壞。但是在某些場合,這樣的損壞是不可避免的。在兩個人互相造成傷害時,機器人不能任人受到傷害而無所作為,但是這會造成對另一個人的傷害,在一些小說中這造成了機器人的自毀。

他在小說中提出了三定律的很多變體,例如第零定律的產生(機器人不得傷害人類,或任人類受到傷害而無所作為)。這些對機器人行為準則的修改成為他的很多故事的主線。在《Little Lost Robot》中為了避免機器人無謂地阻止人類進行低危險性工作,第一定律中的後半部分被去掉了,但是也產生了一些其他的問題。在《Robot Dreams》中,一個機器人關於取消第一定律和第二定律的夢,導致了他的毀滅。在機器人與帝國等小說中,一些外表是人的機器人認為自己應該歸屬於人類。在《bicentennialMan》中,一個機器人為了成為人,將自己的機械部分逐步替換成組織,並且在最後用自己的貢獻和犧牲換來了人類的認同和保護機器人的法律的產生。

三定律在科幻小說中大放光彩,在一些其他作者的科幻小說中的機器人也遵守這三條定律。但是,截至2005年,三定律在現實機器人工業中仍然沒有套用。目前很多人工智慧和機器人領域的技術專家也認同這個準則,隨著技術的發展,三定律可能成為未來機器人的安全準則。

“機器人三定律”的目的是為了保護人類不受傷害,但阿西莫夫在小說中也探討了在不違反三定律的前提下傷害人類的可能性。在現實中“三定律”成為機械倫理學的基礎,目前的機械製造業都遵循這三條定律。

如果在現實世界中,牛頓的“萬有引力”定律是宇宙運行的普遍法則,那么在科幻界或工業設計界,“機器人三定律”就是智慧型機器人賴以存在和發展的準則。

機器人三定律來自阿西莫夫的名著《我,機器人》。其內容是:一、機器人不得傷人,或任人受傷而袖手旁觀;二、除非違背第一定律,機器人必須服從人的命令;三、除非違背第一及第二定律,機器人必須保護自己。

在形式上,機器人三定律有著數學公式般的美感,簡潔、鮮明,而且前後邏輯環環相扣,具有瞬間揭示“從屬”關係的奇妙魅力。但實際上其內部隱藏著近乎不可調和的矛盾,不過在fans看來,這種“漏洞”其實不是漏洞,而是從根本上展現了機器人(甚至人)迷失於“存在”、“意義”等迷宮中的巨大悲劇。在創造機器人的《聖經》里,阿西莫夫就是全能、悲憫然而不可問的上帝。

在商業消費領域,機器人三定律廣泛套用於電影、電視、遊戲等現代媒體中,其中最近的一次套用和改進就是去年11月在我國上映的科幻大片《我,機器人》。

在該片中,本應協助人類生活得更好的超級電腦VIKI卻掀起一場“智慧型叛亂”,為什麼會這樣?答案還要從機器人三定律說起。

在影片閃回的車禍片斷中,潛入水中的機器人救出了“威爾·史密斯”,卻放棄了小女孩。因為前者有45%的生存幾率,而在另一輛下沉更快的車中,小女孩的生存幾率只有11%.嚴格按照三定律行動的機器人,卻造成了“違背”第一定律的結果(坐視小女孩死去而袖手旁觀),這個定律本身的bug,就是創建者阿西莫夫所謂的“第一定律潛在值”(firstlawpoten鄄tial)。意即在智慧機器人的“正子腦”中,第一定律可能引發兩種潛在的選擇,而哪一種選擇的結果更好、成功率更大,哪一種選擇就會勝出。

相關詞條

相關搜尋

熱門詞條

聯絡我們