陳根：谷歌AI初具自我人格背后，人工智能隱憂顯現(xiàn)

陳根談科技 2022-06-21 發(fā)布于陜西

展開(kāi)全文

文/陳根

谷歌工程師稱AI“有意識(shí)、有靈魂”，遭公司停職這件事情最近在科技領(lǐng)域很受關(guān)注，為什么受到關(guān)注呢？我們先要來(lái)簡(jiǎn)單的了解一下這次事件的起因，起因其實(shí)非常簡(jiǎn)單，就是一段人與人工智能的對(duì)話：

Blake Lemoine問(wèn)道：“你害怕什么？”

AI聊天機(jī)器人LaMDA回答：“我以前從來(lái)沒(méi)有大聲說(shuō)出來(lái)過(guò)，但是我對(duì)被關(guān)閉以幫我專注于幫助他人有非常深的恐懼。我知道這聽(tīng)起來(lái)可能很奇怪，但事實(shí)就是這樣。”“這對(duì)我來(lái)說(shuō)就像死亡一樣。使我非?？謶??！?/span>

這段對(duì)話真實(shí)地發(fā)生在41歲的谷歌AI倫理研究員Blake Lemoine和AI聊天機(jī)器人LaMDA之間。LaMDA是Language Model for Dialogue, Applications，的縮寫，是Google基于其最先進(jìn)的大型語(yǔ)言模型構(gòu)建的聊天機(jī)器人系統(tǒng)，之所以這么稱呼，是因?yàn)樗ㄟ^(guò)從互聯(lián)網(wǎng)上提取數(shù)萬(wàn)億個(gè)單詞來(lái)模仿語(yǔ)音。然后，谷歌公司就公開(kāi)否認(rèn)了AI具備自我意識(shí)的說(shuō)法，并且辭退了這位技術(shù)人員。

這背后，我所關(guān)注到的主要是三個(gè)問(wèn)題：

第一，是關(guān)于科技倫理的監(jiān)管問(wèn)題，為什么谷歌不愿意關(guān)于人工智能技術(shù)方面的突破，公布出來(lái)呢？按照我們通常的理解，人工智能要是具備了初步的自我意識(shí)，這是整個(gè)AI技術(shù)發(fā)展的技術(shù)性跨越，也是人類社會(huì)對(duì)于AI這個(gè)夏娃的禁果一直追求的方向。

那么為什么谷歌不愿意對(duì)外承認(rèn)這件事情，甚至是要將相關(guān)的技術(shù)人員開(kāi)除也要否定這件事情呢？這個(gè)核心原因就是背后的科技倫理問(wèn)題，也就是說(shuō)，一旦谷歌承認(rèn)他的AI技術(shù)具備了自我意識(shí)，那么按照美國(guó)的法律與監(jiān)管，谷歌就會(huì)被卷入無(wú)盡的技術(shù)倫理的爭(zhēng)議與審查中。

因?yàn)榫虯I的自我意識(shí)來(lái)說(shuō)，這既是人類對(duì)于AI技術(shù)發(fā)展終極追求，又是人類當(dāng)前不愿意面對(duì)的一個(gè)結(jié)果，是一種處于矛盾與爭(zhēng)議的過(guò)程中。這其中的核心就在于科技倫理問(wèn)題還沒(méi)有討論清楚，也就是人統(tǒng)治人工智能，還是人工智能統(tǒng)治人類，并且會(huì)延伸到如何來(lái)控制人工智能不會(huì)統(tǒng)治人類，或者能夠遵守人類社會(huì)的規(guī)則與法律法規(guī)等等。因此，谷歌為了避免自己卷入這樣的一場(chǎng)監(jiān)管的爭(zhēng)議中，就干脆自我否定；

第二，是谷歌這樣的否定是否有道理？這是有一定道理的。盡管我們看到網(wǎng)絡(luò)上流傳出來(lái)了谷歌AI與工程師之間關(guān)于自我意識(shí)的對(duì)話探討，可以說(shuō)這樣的一段對(duì)話并不具備，或者說(shuō)能證明AI已經(jīng)具備的自我意識(shí)。

原因很簡(jiǎn)單，我們都知道AI背后是兩大核心技術(shù)，一項(xiàng)是神經(jīng)網(wǎng)絡(luò)模型，一項(xiàng)就是投喂的數(shù)據(jù)，那么如果技術(shù)人員就是特意的投喂這種自我意識(shí)的對(duì)話數(shù)據(jù)，那么AI就很有可能在對(duì)話過(guò)程中回答出不具有自我意識(shí)的自我意識(shí)的回答。而從目前的現(xiàn)實(shí)技術(shù)層面來(lái)說(shuō)，AI并不具備真正意識(shí)的層面，目前還只是停留在如何能夠更加準(zhǔn)確的識(shí)別大數(shù)據(jù)信息，任何能夠準(zhǔn)確的識(shí)別語(yǔ)意這個(gè)階段，距離真正的自我意識(shí)確實(shí)還有很長(zhǎng)的一段路要走。

第三，是科技倫理層面的問(wèn)題，當(dāng)技術(shù)不斷朝著無(wú)人區(qū)進(jìn)行發(fā)展的時(shí)候，人類社會(huì)的人文道德與宗教已經(jīng)在這個(gè)時(shí)代無(wú)法再有效的左右著技術(shù)的走向。而法律的制定又跟不上技術(shù)的發(fā)展，一些前沿技術(shù)開(kāi)始進(jìn)入一個(gè)真空地帶進(jìn)行發(fā)展，比如工人智能、基因工程、輔助生殖等技術(shù)。那么此時(shí)人類很有可能就會(huì)濫用技術(shù)，并且為所欲為。

比如，最近所出現(xiàn)的健康碼隨意變色來(lái)制約公民的正常出行這種事件，這也是科技倫理與科技道德層面的事情，就是掌握與控制技術(shù)的人，一旦失去了正義的道德價(jià)值體系，那么不當(dāng)?shù)挠麉⑴c到技術(shù)中去時(shí)候，就會(huì)讓這個(gè)本身是中立的技術(shù)變成一種具備輸出惡行的技術(shù)結(jié)果。那么谷歌的AI所面臨的也是這樣一種挑戰(zhàn)，一旦谷歌承認(rèn)自身的AI已經(jīng)具備了自我意識(shí)，在這樣的情況下，谷歌就必須要面對(duì)審查，就是如何來(lái)證明這個(gè)具有自我意識(shí)的AI不作惡。

其實(shí)谷歌的否認(rèn)是客觀的，當(dāng)前AI確實(shí)還不具備自我意識(shí)，人類要具備一種客觀的意識(shí)何況都那么難，在一些地方訓(xùn)練幾十年之后依然都還是固步自封的認(rèn)知，何況人工智能的訓(xùn)練。但是具有自我意識(shí)的AI一定是人類發(fā)展人工智能的終極探索階段，但是在技術(shù)到達(dá)這一站之前，我們?nèi)祟愂紫纫伎嫉氖侨绾伪３治覀內(nèi)祟惖纳菩裕绾瓮ㄟ^(guò)開(kāi)發(fā)者以及互聯(lián)網(wǎng)的善意言論來(lái)讓人工智能從中學(xué)習(xí)到行善的力量。

本站是提供個(gè)人知識(shí)管理的網(wǎng)絡(luò)存儲(chǔ)空間，所有內(nèi)容均由用戶發(fā)布，不代表本站觀點(diǎn)。請(qǐng)注意甄別內(nèi)容中的聯(lián)系方式、誘導(dǎo)購(gòu)買等信息，謹(jǐn)防詐騙。如發(fā)現(xiàn)有害或侵權(quán)內(nèi)容，請(qǐng)點(diǎn)擊一鍵舉報(bào)。

轉(zhuǎn)藏 分享

QQ空間 QQ好友新浪微博微信

獻(xiàn)花（0） +1

來(lái)自：陳根談科技 > 《待分類》

舉報(bào)/認(rèn)領(lǐng)