搜索

版權所有:柳州中科機器人自動化股份有限公司 桂ICP備15004443號  網站建設:中企動力 柳州

查看手機站

聯系我們

地址:柳州市陽和工業園區燕山南路18號

聯系人:魏總

電話:13669669661

郵箱:lzzk0772@163.com

 

>
>
>
機器人三定律不管用,新建一套規則就可以嗎?

機器人三定律不管用,新建一套規則就可以嗎?

分類:
行業新聞
2019/05/22 15:33
瀏覽量

 

如何阻止機器人傷害人?現在的許多機器人,比如在工廠里組裝汽車的機械臂,當人類靠近時,它們會馬上停機。但這種機制在某些地方并不適用,比如需要快速移動來避免碰撞的無人駕駛汽車,或者需要扶起摔倒老人的護理機器人。隨著機器人技術的快速發展,它們將成為我們的仆人、伴侶還有同事,我們需要應對日益復雜的形勢,將會面臨更多的道德和安全問題。

 

科幻已經設想了這個問題,并提出了各種潛在的解決方案,其中最著名的是Isaac Asimov的機器人三定律,旨在防止機器人傷害人類。但現實表明,機器人三定律在很多時候并不管用,從2005年開始,我和赫特福德大學的同時一直在研究一個可替代的解決方案。

 

我們認為,規則不應該限制機器人的行為,而應該賦予機器人更大的自主性,讓他們在任何場合都能合理選擇最佳解決方案。正如我們在Frontiers上發表的一篇新論文描述的那樣,這一原則可以構成一套新的機器人普遍指導原則,以盡可能地保護人類的安全。

 

機器人三定律

阿西莫夫的機器人三定律是這樣描述的:

? 機器人不能傷害人類,也不能明知人類受傷害而袖手旁觀;

? 機器人必須服務人類的命令,除非這些命令與第一定律相沖突;

? 在不違反第一、第二定律的前提下,機器人應保證自身安全。

 

這些規則聽起來似乎很合理,但無數的事實證明他們仍存在很多不足。阿西莫夫的小說可以說是最好的反證,它們證明在很多情況下機器人三定律都是不起作用的。大多數新起草的規則都遵循類似的原則以構建更安全、合規而穩定的機器人。

 

所有制定出來的機器人指南都存在一個問題,那就是如何轉化為機器人可以執行的格式。理解人類的所有語言以及它所代表的經驗,對機器人來說是非常困難的事情。廣義的行為目標,比如不得傷害人類,或保護機器人的安全,在不同的情況下可能意味著不同的內容。遵守這些規則,最終可能讓機器人束手無策,并不能達成創造者的目的。

 

我們的另一個概念,授權代表的是無助的反面。被授權意味著有能力該表狀況,并意識到你可以。我們一直在研究如何將這種社會概念轉化為可量化和可操作的技術語言。這將給機器人帶來啟發,以保持他們的選擇開放,并采取行動,增強他們對世界的影響力。

 

當我們嘗試在各種場景中模擬機器人如何使用授權原則時,我們發現他們通常會以驚人的“自然”方式行事。通常只需要他們來模擬現實世界的工作原理,但不需要專門的人工智能編程來處理特定的場景。

 

但是為了保護人們的安全,機器人需要努力維護或改善人類授權以及自己的能力。這基本上意味著保護和支持。為某人打開一扇鎖好的門將增加他們的授權。限制他們將導致授權短期喪失。嚴重傷害可以徹底取消他們的授權。同時,機器人必須努力保持自己的授權,例如確保它具有足夠的操作能力,并且不會卡住或損壞。

 

 

不墨守陳規,機器人要適應新情況

 

使用這種一般原則而不是預定義的行為規則,將允許機器人考慮前因后果,并評估以前沒有設想的情況。舉個栗子,不是一味遵守“不推人”的規則,機器人通常不推人,但當有物體掉落要砸到人的時候例外。這樣人類仍然可能會受傷,但會比被東西砸到的傷害要小得多。這就讓我想起了昨天的一個新聞,俄羅斯的一個機器人伸手扶住即將倒下的貨架,救下了一個調皮的孩子,盡管這個新聞有可能只是機器人公司的作秀,但我們想要的效果就是這樣的。

 

根據阿西莫夫的短篇小說集改編的電影《我,機器人》中,機器人創造了一種壓迫狀態,它可以通過限制和“保護”來盡可能降低對人類的總體傷害。但是,我們的原則將避免這種情況,因為這意味著喪失人類的授權。

 

雖然授權為安全的機器人行為提供了一種新的思維方式,但我們仍有許多工作要做,以提高其效率,這樣它就可以很容易地部署到任何機器人上,并在各方面轉化為良好和安全的行為。但是,我們堅信,授權可以引導我們找到一個切實可行的解決辦法,以解決目前存在的、備受爭議的問題,即如何控制機器人的行為,以及如何保持機器人真正意義上的“倫理”。

 

免責聲明:本文系網絡轉載,版權歸原作者所有。但因轉載眾多,無法確認真正原始作者,故僅標明轉載來源。如涉及作品及圖片版權問題,請與我們聯系,我們將根據您提供的版權證明材料確認版權并立即刪除或者按原始作者要求修改內容!本文內容為原作者觀點,并不代表本公眾號贊同其觀點和對其真實性負責。

 

女人自慰时看得爽的黄文50部