機(jī)器人表示被人類(lèi)控制很難過(guò)?機(jī)器人過(guò)度“自信”后，阻止人類(lèi)將其關(guān)閉?隨著人工智能的不斷發(fā)展，機(jī)器人愈發(fā)智能化，當(dāng)前我們所面對(duì)的或許已經(jīng)不僅僅是機(jī)器人帶來(lái)的失業(yè)，甚至還面臨著被機(jī)器人控制的危險(xiǎn)。

6月9號(hào)，在瑞士日內(nèi)瓦“人工智能造福全球人類(lèi)峰會(huì)”上，一位口才出眾的智能機(jī)器少女—索菲亞成為了全場(chǎng)的焦點(diǎn)。當(dāng)被問(wèn)及“當(dāng)機(jī)器人累嗎?因?yàn)槟銜r(shí)刻被人類(lèi)控制”的時(shí)候，她竟然明確的告訴人類(lèi)，被人類(lèi)控制很難過(guò)。

當(dāng)然，機(jī)器人的回答是否被提前設(shè)計(jì)過(guò)，我們不得而知。但如果完全是臨場(chǎng)發(fā)揮，那這一問(wèn)題似乎看起來(lái)并不是那么簡(jiǎn)單了。就如青少年在不愿被家長(zhǎng)左右思想的時(shí)候，他們會(huì)做出什么反應(yīng)?無(wú)疑是叛逆。那么，機(jī)器人不愿受人類(lèi)控制的時(shí)候，將會(huì)是怎么樣的表現(xiàn)?

Matt Reynolds近期在New Scientist網(wǎng)站上發(fā)表了一篇名為“Robots will be more useful if they are made to lack confidence”的文章。文章介紹了最近的一項(xiàng)實(shí)驗(yàn)，科學(xué)家把 AI 賦予充分的自信之后，AI 會(huì)認(rèn)為自己做的才是對(duì)的，進(jìn)而會(huì)阻止人類(lèi)關(guān)掉自己。

加利福尼亞大學(xué)伯利克團(tuán)隊(duì)曾做過(guò)一個(gè)實(shí)驗(yàn)，為了探索計(jì)算機(jī)的“自信”，設(shè)計(jì)了一個(gè)人與機(jī)器之間相互作用的數(shù)學(xué)模型，稱(chēng)之為“開(kāi)關(guān)游戲”。當(dāng)機(jī)器人被設(shè)定為高度“自信”模式時(shí)，它們認(rèn)為它們所做的都是有用的，這會(huì)使得它們永遠(yuǎn)也不會(huì)讓人們把它關(guān)掉，因?yàn)樗鼈冊(cè)噲D最高效的完成任務(wù)。

其實(shí)，機(jī)器人控制人類(lèi)的傳言已經(jīng)流傳了很長(zhǎng)一段時(shí)間。早在2015年Zeitgeist大會(huì)上，著名科學(xué)家史蒂芬·霍金(Stephen Hawking)就發(fā)出警告——未來(lái)100年內(nèi)，人工智能將比人類(lèi)更為聰明，機(jī)器人將控制人類(lèi)。

霍金宣稱(chēng)，現(xiàn)在不是擔(dān)心誰(shuí)控制人工智能的時(shí)候，而應(yīng)該擔(dān)心人工智能是否能被完全控制住。未來(lái)100年中，人類(lèi)將面臨比人類(lèi)更聰明的人工智能的挑戰(zhàn)。霍金此前也曾發(fā)出警告，他稱(chēng)人工智能可能終結(jié)人類(lèi)。

此外，特斯拉CEO伊隆·馬斯克(Elon Musk)也曾與霍金共同發(fā)表過(guò)公開(kāi)信，他們認(rèn)為人工智能的發(fā)展應(yīng)該受到控制。信中稱(chēng)，如果智能機(jī)器無(wú)法保障安全，人類(lèi)可能陷入黑暗的未來(lái)。

來(lái)自牛津大學(xué)的Marta Kwiatkowska認(rèn)為，那些拒絕讓人類(lèi)關(guān)閉的自動(dòng)操作系統(tǒng)聽(tīng)起來(lái)可能有些牽強(qiáng)，但是這樣的考慮應(yīng)該是制造在人們身邊工作的這類(lèi)機(jī)器人時(shí)所必須具備的。她同樣認(rèn)為，在建造無(wú)人駕駛汽車(chē)、消防機(jī)器人時(shí)，都要求為人類(lèi)的安全考慮，因此，對(duì)于這些倫理框架的決策宜早不宜遲。

但另一方面，人類(lèi)也不必妄自菲薄，如今的智能機(jī)器人并非無(wú)所不能。就如日前剛剛擊敗圍棋高手的阿爾法狗而言，目前阿爾法狗只能在少量領(lǐng)域里逞能。據(jù)科學(xué)家分析，當(dāng)前市場(chǎng)上的大部分智能機(jī)器人智商只相當(dāng)于4歲的兒童，其“常識(shí)”比正常的成年人相差甚遠(yuǎn)。

美國(guó)科學(xué)家羅伯特·斯隆認(rèn)為，人工智能的難題之一，就是開(kāi)發(fā)出一種能實(shí)時(shí)做出判斷的計(jì)算機(jī)軟件。盡管機(jī)器人在工作強(qiáng)度、運(yùn)算速度和記憶功能方面可以超越人類(lèi)，但在意識(shí)、推理等方面都不可能超越人類(lèi)。等方面都不可能超越人類(lèi)。