OpenAI和谷歌(Google)DeepMind等公司的一群首席執(zhí)行官和科學(xué)家警告稱，快速發(fā)展的人工智能(AI)技術(shù)對(duì)人類構(gòu)成的潛在威脅與核沖突和疾病不相上下。

“減輕AI造成滅絕的風(fēng)險(xiǎn)，應(yīng)該與其他社會(huì)規(guī)模的風(fēng)險(xiǎn)——例如大流行病和核戰(zhàn)爭——一起被列為全球優(yōu)先事項(xiàng)，”舊金山非營利組織——人工智能安全中心(Center for AI Safety)發(fā)布的一份聲明稱。

包括OpenAI的薩姆·奧爾特曼(Sam Altman)、谷歌DeepMind的德米斯·哈薩比斯(Demis Hassabis)和Anthropic的達(dá)里奧·阿莫代伊(Dario Amodei)在內(nèi)的350多位AI高管、研究人員和工程師簽署了這份只有一句話的聲明。

杰弗里·辛頓(Geoffrey Hinton)和約書亞·本吉奧(Yoshua Bengio)——他們?cè)蛟谏窠?jīng)網(wǎng)絡(luò)領(lǐng)域的工作而獲得圖靈獎(jiǎng)(Turing Award)，經(jīng)常被稱為AI“教父”——也簽署了這份聲明。辛頓在5月初從谷歌離職，以便不受約束地談?wù)撨@項(xiàng)技術(shù)的潛在危害。

這份聲明出爐之前，大型科技公司發(fā)布的一些AI產(chǎn)品提高了人們對(duì)其潛在缺陷——包括散布錯(cuò)誤信息、固化社會(huì)偏見和取代人類員工——的認(rèn)識(shí)，促使各方呼吁對(duì)整個(gè)行業(yè)進(jìn)行監(jiān)管。

歐盟立法者正在推進(jìn)歐洲的《人工智能法案》(Artificial Intelligence Act)，而美國也在探索監(jiān)管。

微軟(Microsoft)支持的OpenAI在去年11月推出ChatGPT，被視為開啟AI普及之先河。奧爾特曼5月首次在美國國會(huì)作證，呼吁以許可證的形式進(jìn)行監(jiān)管。

今年3月，埃隆·馬斯克(Elon Musk)等1000多名研究人員和科技公司高管曾呼吁暫停開發(fā)先進(jìn)AI系統(tǒng)六個(gè)月，以叫停他們所稱的“軍備競賽”。

那封信因其具體做法而受到批評(píng)，包括其論證中引用的一些研究人員提出的批評(píng)，還有些人則不同意按照該信的建議暫停技術(shù)發(fā)展。

對(duì)于最新這份一句話的聲明，人工智能安全中心告訴《紐約時(shí)報(bào)》(New York Times)，它希望避免分歧。

“我們不想推動(dòng)包含30種潛在干預(yù)措施的龐大菜單，”執(zhí)行董事丹·亨德里克斯(Dan Hendrycks)表示。“那么做會(huì)沖淡主要信息。”

微軟首席技術(shù)官凱文·斯科特(Kevin Scott)和首席科學(xué)官埃里克·霍維茨(Eric Horvitz)周二也簽署了該聲明。簽名的還有Deepmind聯(lián)合創(chuàng)始人、如今經(jīng)營初創(chuàng)公司Inflection AI的穆斯塔法·蘇萊曼(Mustafa Suleyman)。

譯者/和風(fēng)