Google 旗下的人工智能研究所 DeepMind，最近以他們研發(fā)的 AI 程式打敗世界圍棋冠軍李世乭后一夜成名，無疑為人工智能技術(shù)立下了一個里程碑。但 DeepMind 卻表示，在棋藝上打敗人類只是研究的開始；他們的最終目標(biāo)，是研發(fā)像人類一樣能獨立思考和從經(jīng)驗中學(xué)習(xí)的人工智能。

這不禁為大眾帶來憂慮：假如一天人工智能系統(tǒng)發(fā)生故障、受病毒感染、甚至選擇背叛人類，我們將有能力反抗嗎？

正因此，DeepMind 最近和牛津大學(xué)人類未來研究院合作，發(fā)表了一篇論文，指出「人工智能不可能隨時處于最佳狀態(tài)」，在某些情況下，人類操作者可能需要「按下一個緊急按鈕」，方止AI 造成任何的傷害。換而言之，我們必需設(shè)計出他們的死穴。

DeepMind 研究所創(chuàng)辦人之一的素里曼先生強調(diào)，DeepMind 并非一個只會下棋的程式，而是一個「人工綜合性智能」，這表示DeepMind 并不需要任何預(yù)先輸入的程式，也能獨自從資料及數(shù)據(jù)中學(xué)習(xí)。

那么這些「人工綜合性智能」也能找出自己的死穴，然后學(xué)習(xí)如何超越它，打敗我們最后的防線嗎？在 DeepMind 和牛津大學(xué)合作發(fā)表的論文中，科學(xué)家解釋他們正探索一個能防止 AI 人工智能找出他們死穴的方法。

Google 人工智能與圍棋世界冠軍的對決

如今，AI 人工智能每年都以驚人的速度在不斷成長。素里曼舉例說，DeepMind 在2012 年曾以 84% 的準(zhǔn)確度分類了一百萬張照片內(nèi)的動物，引來傳媒一時轟動。但在大眾的回響逐漸平息后，DeepMind 依然一直在更新和學(xué)習(xí)，三年后，它的準(zhǔn)確度竟已達到 94.5%，足足減少了百分之十的誤差。

在某些工作上，人工智能無疑地已達到、甚至已超越我們?nèi)祟惖募夹g(shù)水平。以往，圍棋一直被視為世界上最復(fù)雜的棋盤游戲，策略千變?nèi)f化，每一步皆存在數(shù)百個可能性，超出電腦計算的范圍。即使在 1997 年，DeepBlue 電腦打敗國際象棋冠軍后，大眾依然不能相信電腦一日能夠掌握圍棋。想不到在 20 年內(nèi)，DeepMind 已成功征服這人類多年智慧的結(jié)晶，令人興奮之余，亦同時讓人憂慮未來人工智能將能夠取代我們。