會騙人的機器人

會騙人的機器人

機器人不僅會尋找藏身地點,還會在躲藏前破壞自己留下的痕跡,製造假象欺騙人和其他機器人,會騙人的機器人可能會令許多人感到恐懼,因為它們使人聯想到科幻影片中那些妄圖取代人類的機器人叛徒。

簡介

會騙人的機器人 會騙人的機器人

美國科學家研製出“會騙人”的機器人,不僅懂得如何欺騙人類,同時還能夠將自己隱藏起來躲避敵人,如此厲害的高智商不免讓人聯想到斯坦利·庫布里克拍攝的熱門影片《2001太空漫遊》中的機器人。

美國喬治亞州理工學院研究人員進行的一項實驗,據悉是世界上第一項有關機器人“騙術”的詳細測試。這支研究小組創建的算法,能夠讓機器人決定是否欺騙人類或者另一個機器人,同時還能讓機器人找到在最大程度上讓自己不被發現的策略。

未來發展前景在戰場上

這項“進步”,可能讓一些原本就對機器人持不信任態度的人更為擔憂,在他們看來,機器人在實際生活和工作中可能也會變成騙子,與人類共事時無法保證安全性。

但研究人員表示,具有欺騙能力的機器人擁有很大的未來發展前景,尤其是在軍事領域。在戰場上,成功將自己隱藏並誤導敵人的這種欺騙能力,能確保自身以及重要信息的安全性。

研究論文聯合執筆人、喬治亞州技術研究院研究工程師艾倫·華格納表示:“絕大多數社交機器人將極少使用欺騙手段,但在機器人的互動‘軍火庫’中,這仍舊是一個重要工具,原因就在於認識到有欺騙必要的機器人與其他機器人相比擁有優勢,這種優勢就體現在結果上。”

此外,搜救機器人可能也需要欺騙人類,以便讓搜救對象平靜下來或者取得恐慌的被搜救者的合作。研究發現刊登在《國際社交機器人技術雜誌》上。

調整自己的騙術

為了讓機器人懂得將自己隱藏起來以躲避其他同類,喬治亞州理工學院的研究人員開發了一系列程式,最終讓機器人成功上演欺騙行為。首先,他們教會騙人機器人如何辨別眼前的形勢以決定是否採用欺騙手段。

華格納和同事羅納德·艾金利用相互依存理論和博弈論開發算法,以測試特殊情況下實施騙術的價值。

允許實施騙術的情形必須滿足兩大條件:首先,騙人機器人與搜尋者之間必須存在衝突。其次,騙人機器人必須能夠從欺騙行為中獲益。一旦確定眼前形勢可以實施騙術,機器人便會製造出一個假的運動軌跡進行欺騙。

令人感到吃驚的是,騙人機器人甚至能夠根據對它們設法欺騙的機器人的了解程度,調整自己的騙術以達到最佳欺騙效果。

引發倫理問題

為了測試他們的算法,研究人員在兩個自治機器人之間進行了20次“捉迷藏”實驗。他們在通向機器人躲藏位置的3條潛線上路上,放置彩色直立標記。躲藏機器人隨機從3個躲藏位置中挑選一個並且移動到這個位置,沿途撞倒彩色標記。一旦穿過一個標記,機器人便會改變線路並躲藏在另外兩個位置中的一個。直立標記的存在與否,暗示搜尋機器人躲藏機器人的位置。

華格納解釋說:“躲藏機器人通過撞倒標記製造假的移動軌跡,進而將搜尋機器人引向假躲藏位置。例如,從標記的指示來看,它去了右邊,而實際上卻去了左邊。”

在“捉迷藏”實驗中,躲藏機器人成功騙到搜尋機器人的機率高達75%,在失敗的實驗中,躲藏機器人因未能撞倒為騙過搜尋機器人而必須撞倒的標記,最終被後者逮到。

華格納說:“雖然並不完美,但實驗結果仍舊證明機器人能夠在嘈雜環境下學會並利用騙術。這些結果初步表明,論文中描述的技術與算法能夠讓機器人成功實施欺騙。”研究人員表示,他們也意識到教會機器人如何欺騙同類和人類,將引發“倫理問題”。

科幻影片曾預示危險性

最著名的騙人機器人可能當屬《2001太空漫遊》中的Hal。這部影片改編自亞瑟·克拉克的暢銷科幻小說,故事圍繞一艘由高智慧型電腦Hal操控的太空飛船上的船員展開。由於Hal出現故障,船員們試圖將其關閉。隨後,陷入故障的Hal開始殺害船員並控制整艘飛船。由於倖存的船員成功將其關閉,Hal最終放下屠刀。隨著逐漸喪失“意識”,Hal將有關他們神秘任務的真相告訴了船員。

《機械公敵》是另一部有關機器人造反的影片,改編自艾薩克·阿西莫夫的短篇小說集。片中,一個機器人首次有了“自我意識”並造成災難性後果。

相關詞條

相關搜尋

熱門詞條

聯絡我們