科學(xué)家：須建立“道德和倫理委員會(huì)”掌控人工智能

悉尼大學(xué)電氣工程與信息工程學(xué)院計(jì)算機(jī)工程徐東教授在工作中。許薇薇攝

悉尼大學(xué)兩位機(jī)器學(xué)習(xí)專家在此間發(fā)出警告：必須建立“道德和倫理委員會(huì)”來保持掌控人工智能，否則我們可能會(huì)變得無力抵抗。

悉尼大學(xué)電氣工程與信息工程學(xué)院計(jì)算機(jī)工程徐東教授說，近日世界圍棋賽冠軍在人機(jī)大戰(zhàn)中的慘敗，重新引發(fā)了人們對(duì)人工智能(AI)設(shè)備未來會(huì)扮演何種角色的擔(dān)憂。

這位研究領(lǐng)域包括計(jì)算機(jī)視覺、機(jī)器學(xué)習(xí)和多媒體內(nèi)容分析的教授說，現(xiàn)在的問題是，我們應(yīng)該對(duì)人工智能中自我學(xué)習(xí)進(jìn)行多少控制。

“科學(xué)家們和科技界的投資者在幾年前就已經(jīng)對(duì)人工智能抱有巨大的熱情，但是這臺(tái)超級(jí)計(jì)算機(jī)的勝利終于讓公眾也認(rèn)識(shí)到了它的能力。這是科技界的重大突破。”徐教授說。

徐東認(rèn)為，超級(jí)計(jì)算機(jī)比人類思維的更強(qiáng)大。競(jìng)技性游戲，例如圍棋，實(shí)際上都是有關(guān)規(guī)則的，這對(duì)一臺(tái)電腦來說很容易。一旦電腦掌握了這些規(guī)則，它就會(huì)很善于玩這些游戲。一個(gè)人類玩家可以被情緒所影響，比如壓力或高興，但電腦并不會(huì)。一個(gè)人在一年之內(nèi)能夠記下1000個(gè)棋局，但計(jì)算機(jī)能記住數(shù)萬(wàn)或者數(shù)十萬(wàn)盤棋。超級(jí)計(jì)算機(jī)可以隨時(shí)改進(jìn)，如果它輸了一局，那么它會(huì)對(duì)此進(jìn)行分析，并且在下一局表現(xiàn)地更好。

徐東強(qiáng)調(diào)，如果超級(jí)計(jì)算機(jī)能夠完全模仿人類的大腦，具有憤怒或悲傷等人類情緒，它將會(huì)更加危險(xiǎn)。

徐東認(rèn)為，對(duì)于如谷歌和facebook這樣的公司來說，建立“道德和倫理委員會(huì)”來保持掌控，使科學(xué)研究不會(huì)走向錯(cuò)誤的方向，發(fā)明出來的機(jī)器不會(huì)做出任何帶有惡意的事情。

悉尼大學(xué)復(fù)雜系統(tǒng)的高級(jí)講師麥克·哈爾花了多年時(shí)間來研究中國(guó)古代的棋盤游戲背后的人工智能，他說：“圍棋可能是今天普遍在玩的最復(fù)雜的游戲。和有極大數(shù)量可能棋局的國(guó)際象棋相比，圍棋甚至擁有比宇宙中的原子數(shù)量還要多的可能性的棋局。

哈爾說：“現(xiàn)在已經(jīng)發(fā)展到了人工智能在簡(jiǎn)單和復(fù)雜的任務(wù)中都可以智勝人類的階段。這是需要引發(fā)擔(dān)憂的，因?yàn)槿斯ぶ悄芗夹g(shù)可能在未來達(dá)到一個(gè)階段，它被應(yīng)用于防御方面，在操縱過程中已經(jīng)不需要人類是可能的，也就是說已成為真正自主的人工智能(AI )”。（中新網(wǎng)悉尼電 許薇薇）