近日，《麻省理工科技評論》評出50家“最智能”科技公司榜單,據(jù)外媒統(tǒng)計, 今年這份名單中首次有13家公司依靠人工智能（AI）支撐自己的業(yè)務(wù),在榜單占比超過20%。其中包括英偉達(NVIDIA)、Facebook、Line、微軟、Enlitic、IBM、特斯拉、Improbable、Fanuc、Alphabet、博世、滴滴出行。AI火熱程度可見一斑。

來自名人的告誡

2014年在接受英國廣播公司的采訪時，英國理論物理學(xué)家史蒂芬·霍金警告說，人工智能的發(fā)展可能意味著人類的滅亡?！拔覀円呀?jīng)擁有原始形式的人工智能，而且已經(jīng)證明非常有用。但我認(rèn)為人工智能的完全發(fā)展會導(dǎo)致人類的終結(jié)”。

2014年Spacex太空探索技術(shù)公司首席執(zhí)行官兼首席技術(shù)官，環(huán)保跑車公司特斯拉（Tesla）產(chǎn)品設(shè)計師埃隆·馬斯克就曾發(fā)文稱：“我們需要萬分警惕人工智能，它們比核武器更加危險！”

2015年比爾·蓋茨在Reddit的“Ask Me Anything”論壇上表示，人類應(yīng)該敬畏人工智能的崛起。“人工智能將最終構(gòu)成一個現(xiàn)實性的威脅，但它在此之前會使我們的生活更輕松?！?/p>

擔(dān)心AI不夠聰明

人們對人工智能的擔(dān)憂主要集中于可控性和失業(yè)方面，但其實就目前來講，對可控性的擔(dān)憂其實有點科幻，強人工智能是有可能實現(xiàn)的，但是現(xiàn)在的技術(shù)離強人工智能的距離還非常遠，短期做不到超出控制水平的AI。

但人對人工智能的“恐懼”是客觀存在的，人的確有擺脫AI“控制”的本能，但原因不在于這東西太強，而是因為它還不夠強。

舉個例子，有幸獲得了某品牌的體驗駕駛機會，汽車配備了新技術(shù)，隨車AI能自動避免追尾和撞人。能辨認(rèn)出障礙物的距離，發(fā)現(xiàn)行車軌跡上的汽車和人，判斷兩者之間的相對運動速度，在快速接近的時候發(fā)出提醒，提醒無效的話就緊急制動，拉緊安全帶，在障礙物面前停車，至少能避免汽車以危險速度撞上去。

功能聽起來很牛，其實感覺和早期互聯(lián)網(wǎng)防火墻差不多，“豬隊友般的存在”并不夠聰明。

假定一個場景，婚車車隊大家都見過吧，不遠不近的距離，那豈不是一路上都在發(fā)出提醒，拉緊安全帶，緊急制動，或者選擇直接關(guān)閉AI。好吧，或許你會覺得這個應(yīng)用場景過于特殊，確實是可以選擇關(guān)閉AI的。

但它的不聰明不只是這一個場景表現(xiàn)，只能通過觀察前方路況，臨時接管制動系統(tǒng)，對于側(cè)面和后方的威脅，盡管也有雷達監(jiān)測并警告。卻沒有納入統(tǒng)一的風(fēng)險控制邏輯，不會因為后面有失控卡車就允許我撞車保命。至于攔在車道上的行人是不是手持利刃，更是計算機從來不考慮的因素。

于是就跟眾多網(wǎng)友選擇關(guān)閉防火墻一樣，使用者需要知道如何用半秒鐘關(guān)掉AI。雖然AI在大多數(shù)情況下可能會挽救性命，甚至?xí)炀儒X包（不撞上其他車輛或者人就是省錢），多數(shù)人還是希望它能隨時關(guān)閉，放著汽車讓自己來（至少有選擇撞哪輛的權(quán)利）。

9月騰訊科恩實驗室宣布，他們以“遠程無物理接觸”的方式，成功入侵了特斯拉汽車。于千里之外，就能直接遙控別人的特斯拉汽車，理論上全球任何一輛特斯拉都跑不了。入侵之后可以遠程控制車輛停車狀態(tài)和行進狀態(tài)，在停車狀態(tài)下，可以遠程解鎖車輛、打開天窗、轉(zhuǎn)向燈和調(diào)節(jié)座椅等，駕車時則可以啟動雨刷、收起后視鏡、打開后備箱等，而正常情況下的特斯拉在行駛中是無法打開后備箱和收起后視鏡的。但更恐怖、更危險的是，連遠程剎車都可以做到。假使這種攻擊方式，被不法分子利用，其所能造成的損失或難以估計。在上班早高峰，控制一輛自動駕駛的車輛，所能造成的混亂，并不亞于一場爆炸。

所以才會有一部分人，會因為開按鍵式啟動的車子，不能在行駛中瞬間控制熄火，而內(nèi)心不安。更不信任AT的換擋邏輯，不信任自適應(yīng)巡航對前車的判斷，不信任自動剎車、車道保持、自動泊車這些，更不用說自動駕駛了。萬物互聯(lián)的時代，AI網(wǎng)絡(luò)安全性不在可控范圍內(nèi)，這或許也是人們擔(dān)憂的原因之一。

在“德國慕尼黑電子展”大會發(fā)布的有關(guān)智能汽車2020 年趨勢指數(shù)中，對于未來智能汽車將主導(dǎo)駕駛、自動將使用者載往目的地的趨勢調(diào)查顯示，汽車生產(chǎn)大國的德國及日本支持率低，分別占 28 ％、29 ％，大多數(shù)人還是不愿依賴自動駕駛，認(rèn)為自動駕駛只是輔助工具，主導(dǎo)權(quán)仍應(yīng)由駕駛?cè)苏莆铡?/p>

擔(dān)心AI太過聰明

近日有新聞報道“阿爾法圍棋”（AlphaGo）棋力大增，明年初或“重出江湖”！這個由谷歌DeepMind公司研發(fā)的圍棋AI，在2016年備受矚目。3月在和李世石九段的“人機大戰(zhàn)”中，以4比1出人意料地獲得勝利。7月以3612分超越3608分的中國棋手柯潔成為新的世界第一。這是世界職業(yè)圍棋史上第一次榜首由非人類占據(jù)，令很多職業(yè)高手和圍棋愛好者感到震驚，引發(fā)了全球范圍內(nèi)對于AI的討論，未來人將被機器取代了？

但這場人機對弈似乎有點被神話的意味。事實上，雖然人類在圍棋項目輸了，但這從本質(zhì)上講，僅僅意味著人類單項競技智慧的頹敗，并不代表人工智能已經(jīng)全面超越人類。AlphaGo只是在勝率上壓制人類，但是還不能完全碾壓。比如在于李世石對戰(zhàn)時，AlphaGo已經(jīng)暴露出了弱點，比起執(zhí)白，它比較畏懼執(zhí)黑；碰到?jīng)]有意料到的一手時，會出現(xiàn)BUG，臭棋連連，在局面上，會選擇勝率最高的步驟。

而且圍棋作為一項競技項目，是有規(guī)則可尋的，而這些規(guī)則計算機的數(shù)據(jù)足夠全面，其實也可以在這些數(shù)據(jù)的基礎(chǔ)上找出規(guī)律形成算法，而機器的算法早就已經(jīng)超越了人類。有人認(rèn)為，這是圍棋冠軍的一個挫敗，但卻是人類文明的勝利。因為人類是一個善于發(fā)明工具去協(xié)助自己變得更強大的生物。

用“弱AI”加強人類

其實汽車自動制動裝置、圍棋AI AlphaGo、都屬于“弱AI”，即沒有自我意識，只能按照人類設(shè)定程序處理信息的AI?！皬夾I”同時具備自我意識和高速處理能力的人工智能，獨立的意識既意味著無限的潛力，也意味著無限的風(fēng)險。從之前的名人提醒可以看出，具有很高的不可控性。

目前來講，趨利避害的方法應(yīng)該是，用“弱AI”加強人類自身，讓我們來變成“強AI”！為什么圍棋電腦可以挑戰(zhàn)李世石？不是因為電腦真的理解圍棋是什么東西，而是因為電腦擁有遠超人類的記憶能力和推算速度。如果我們通過植入芯片增強記憶和計算力，通過添加傳感器增強自己的信息搜集能力，世界上第一個“強AI”可能就是我們自己！而實際上，類似的事情我們已經(jīng)在做了。

一個副部級官員在臺上高舉自己的智能手機：你們覺得這是什么？眾人回答手機、通訊工具、支付工具、娛樂工具，都被一一否定。最后這位50后的領(lǐng)導(dǎo)說：這是有史以來和人類結(jié)合最緊密的機器！是人體的新增器官！大多數(shù)人可能根本沒有意識到，手機中充滿了“弱AI”，地圖導(dǎo)航軟件，音樂電臺的推薦，明天天氣的查詢，和Siri聊天等等，這些都是“弱AI”。

即便是“弱AI”在造成失業(yè)方面，其不可否認(rèn)具有強大的影響力。工業(yè)4.0的到來，工業(yè)AI在流水線上高效、準(zhǔn)確地焊接、裝配汽車零件，許多行業(yè)和工種均已出現(xiàn)可以替代人工的創(chuàng)新技術(shù)。

AI也會對于經(jīng)濟分工體系中某些中層職位造成破壞，即某些基于機器學(xué)習(xí)的智能系統(tǒng)，來替代某些人類的工作。包括調(diào)配、計算分析，甚至于特定情景的交流，這或許會是我們短期之內(nèi)最關(guān)注的問題。

無論我們?nèi)绾慰创鼳I的風(fēng)險，有兩個事實是不可否認(rèn)的。一維持現(xiàn)有的生活水平離不開AI；二 用弱AI裝備自己的人類會獲得競爭上的極大優(yōu)勢。這意味著AI和人類的結(jié)合必然會越來越更緊密。我們與其被動地接受這個新時代，不如主動地變成超級智能生物，變得更聰明、更善于交流、更強大。

本文由安全鷹獨家編寫，轉(zhuǎn)載請注明出處。