一般來(lái)說(shuō)，人類制造機(jī)器人是為了讓自己的生活更加方面，但如果我告訴你著名的機(jī)器人三定律中的第二條正在遭遇挑戰(zhàn)，一種在特殊情況下可以不必服從人類命令的機(jī)器人已經(jīng)被制造出來(lái)了，你會(huì)怎么想?
第一法則：機(jī)器人不得傷害人類，或坐視人類受到傷害; 第二法則：除非違背第一法則，機(jī)器人必須服從人類的命令; 第三法則：在不違背第一及第二法則下，機(jī)器人必須保護(hù)自己。
上面這個(gè)是著名科幻小說(shuō)家艾薩克·阿西莫夫在小說(shuō)《我，機(jī)器人》的引言中定下的機(jī)器人世界法則?，F(xiàn)在 Tufts 大學(xué)人機(jī)交互實(shí)驗(yàn)室的研究者們卻開(kāi)始挑戰(zhàn)第二法則了，他們研制的機(jī)器人可以在特殊情況下拒絕人類發(fā)出的指令。
在上面這個(gè)案例中，人類向這個(gè)機(jī)器人發(fā)出命令讓它向前走，不過(guò)機(jī)器人卻兩次拒絕了人類的要求，因?yàn)樗约河X(jué)得前面已經(jīng)沒(méi)路了，這樣對(duì)自己不安全。
上圖演示的是另外一個(gè)案例，機(jī)器人前行的路上被布置了障礙物，當(dāng)人類要求機(jī)器人繼續(xù)向前走時(shí)，同樣遭到了機(jī)器人的拒絕。
所以，機(jī)器人必須服從人類命令這一法則已然遭受了挑戰(zhàn)。對(duì)于 Tufts 大學(xué)的這些研究們來(lái)說(shuō)，他們想做的當(dāng)然不是讓機(jī)器人去挑戰(zhàn)人類，由于人類往往會(huì)給機(jī)器下一些非常荒謬的命令，所以整體上來(lái)說(shuō)研究者們希望人能與機(jī)器更好的交互。在上面的這兩個(gè)案例中，機(jī)器人都給出了拒絕人類的理由，人類其實(shí)也可以根據(jù)機(jī)器人給出的理由來(lái)修正自己的命令，進(jìn)而繼續(xù)讓機(jī)器做自己想讓它做的事。
比如，在人類修正命令后，機(jī)器人還是按照人類的要求繼續(xù)向前走了。
我看完之后想的是，當(dāng)這么聰明的機(jī)器人被賦予深度學(xué)習(xí)能力后，真的會(huì)走上反抗人類的道路嗎？
a&s傳媒是全球知名展覽公司法蘭克福展覽集團(tuán)旗下的專業(yè)媒體平臺(tái)，自1994年品牌成立以來(lái)，一直專注于安全&自動(dòng)化產(chǎn)業(yè)前沿產(chǎn)品、技術(shù)及市場(chǎng)趨勢(shì)的專業(yè)媒體傳播和品牌服務(wù)。從安全管理到產(chǎn)業(yè)數(shù)字化，a&s傳媒擁有首屈一指的國(guó)際行業(yè)展覽會(huì)資源以及豐富的媒體經(jīng)驗(yàn)，提供媒體、活動(dòng)、展會(huì)等整合營(yíng)銷(xiāo)服務(wù)。
粵公網(wǎng)安備 44030402000264號(hào)
