宇視姚華：交通 AI的探索與實踐

老三的休閑書屋 2018-04-19

展開全文

2018年4月12日，由北京千方科技股份有限公司承辦的“中國人工智能+交通發(fā)展論壇”在北京隆重召開。浙江宇視科技有限公司首席架構師姚華作《交通+AI的探索與實踐》主題演講。

以下文字整理自現(xiàn)場實錄。

今天我主要講講AI和交通，作為設備廠商在落地過程中的一些探索和實踐。

AI對安防、交通以及視頻分析帶來了非常大的變革。AI的出現(xiàn)，讓安防IT技術從2.0升級到3.0版，從看得清、看得廣，到看得快，看得懂，基于AI的智能分析讓識別更快，大數(shù)據(jù)應用讓我們看得懂。未來視頻應用會越分越細，現(xiàn)在普遍采用1080P/30幀，交通監(jiān)控設備已經(jīng)朝1080P/60幀發(fā)展，效果會更好，發(fā)展非常快。AI對視頻監(jiān)控行業(yè)的促進是非常深遠的。

機器視覺SMV戰(zhàn)略

宇視科技在2016年提出了安防的機器視覺戰(zhàn)略SMV(Security Machine Vision)，涵蓋產(chǎn)品、算力、架構和算法幾個維度。我們最早在2005年把IT和SMV放到監(jiān)控里，2008年提出云監(jiān)控、易安防，之后是安防IT化。宇視科技一直以系統(tǒng)觀的角度解決安防和交通的痛點問題，所以在產(chǎn)品方面也有一些突破。

在AI的系統(tǒng)觀上，我們認為不僅僅是算法算力的提升，對整個行業(yè)和系統(tǒng)來說都是提升。如圖所示，從前端的采集到傳輸中，到存儲，到圖像的視頻分析、大數(shù)據(jù)的研判，大數(shù)據(jù)的控制要求，都會帶來變化。在五年前，車輛大數(shù)據(jù)分析比較流行，到現(xiàn)在匯集百億數(shù)據(jù)時，突然發(fā)現(xiàn)原有數(shù)據(jù)處理架構已經(jīng)不行了，到AI時代，各種各樣的數(shù)據(jù)混合在一起，原有架構不行了，就推倒重來。后來就升級到SMV2.0，在業(yè)務落地的時候有很多需要我們解決的具體問題。

算力策略

算力是依靠超強的芯片能力?，F(xiàn)在智能芯片有很多，其實芯片一直在發(fā)展，有兩個方向，一個是通用的，還有一個是把某種算法精準固化以后變成SOC的芯片，算法的迭代速度也非?？?。我想說的是，從我們近幾年的工作實踐中看，其實GPU以及實際業(yè)務中某種智能交通的算法，都在飛快的迭代。所以說在芯片中的算法，有很多種變量。舉個例子，有兩個方向的GPU，不同的廠家都會選出相對比較適合的，比如算力小一些，但是功耗也小一些，放在前端更適合一些。對算力來說，作為AI的核心其變化在這個時代會非常快。對我們來說，唯一的選擇是緊跟用戶，給芯片廠商提一些要求，跟一些獨角獸CV芯片企業(yè)合作，每個芯片其算法適配的工作量非常大。

算法

大家都在談算法，其實目前的算法框架開源的，入門門檻非常低。2015年底，谷歌開源了內(nèi)部使用的深度學習框架TensorFlow，2016年底，宇視全面掌握CNN深度學習算法。現(xiàn)在各主流廠家數(shù)據(jù)量趨于相等，我們掌握算法以后，大家就跑到各種各樣的論壇刷記錄，各個安防廠家都在刷，這個季度你上榜，下一個季度我上榜。其實刷分不代表把算法能變成產(chǎn)品，最重要的事情是把算法變成產(chǎn)品落地，怎么提升效率，對每個廠家來說都是最重要的。宇視的算法樣本庫的標定庫，每月的電費將近30萬，以百萬級的車輛數(shù)據(jù)去做運算，就是要把各種樣本數(shù)據(jù)進行計算，把優(yōu)化的過程放到我們產(chǎn)品上。所以在算法的門檻較低的情況下，對于廠商來說，你的樣本和樣本的計算能力都是要考慮的。

需要強調的是，不僅要有算法算力以及數(shù)據(jù)樣本，還要實現(xiàn)架構跟產(chǎn)品之間的平衡。AI應用，如何做優(yōu)化業(yè)務需求以及計算平臺和算法。目前產(chǎn)品應用中，有兩條路，第一個就是前端的，A算法在B算法的前端， C算法在D智能的后端，E智能業(yè)務，這是很多的甲方用戶希望實現(xiàn)的。但是目前的情況是，每一個前端后端業(yè)務之間的接口都是廠商私有的接口。另外一個就是單廠商的基礎方案，A算法，A前端。A算法和A智能后端，N智能業(yè)務，這是現(xiàn)階段的行業(yè)情況。對大數(shù)據(jù)大IT來講，應該是要開放，所有的東西都應是通用的。AI目前還是處在百花齊放的狀態(tài)，各個廠商為了體現(xiàn)芯片的算法優(yōu)勢，對硬件的反應力都比較長，這也是目前的常態(tài)。

SMV架構

從行業(yè)應用的角度來說，還是要看架構支撐和產(chǎn)品支撐，最終給用戶的體現(xiàn)表達是誰最好。據(jù)此，宇視提出了自己架構，在智能交通方面，前端的智能攝像機，智能卡口電警構成了一個物聯(lián)化的智能化基礎設施層。中間層是一個大布局，提供聯(lián)網(wǎng)共享接入服務和運維安全管控服務，包括時空地圖引擎、視圖智能分析引擎、時空大數(shù)據(jù)引擎、視圖云存儲云分析引擎等，融合數(shù)據(jù)資源池、融合存儲資源池以及離線存儲資源池等，作為平臺服務的層。通過中間架構對外提供業(yè)務，我們稱之為可視化業(yè)務呈現(xiàn)，為公共安全、公安交通、大安防等提供服務。

宇視科技AI產(chǎn)品

根據(jù)這個架構，宇視推出了一些相關的智能產(chǎn)品，AI整體解決方案代號‘關山’第二代視圖數(shù)據(jù)中心一體機“昆侖”、超融合視圖云存儲“秦嶺”、視頻安全智能準入設備“燕山”、智能交通抓拍單元“天目”、深度智能攝像機“函谷”、人臉識別速通門“潼關”等，也都是基于AI的場景應用。

介紹下“函谷”深度學習智能攝像機，采用深度卷積加神經(jīng)網(wǎng)絡算法。在西北地區(qū)的高速公路設備用太陽能供電，GPU芯片，兩個主要業(yè)務，一是人臉識別，可同時實現(xiàn)40個人的人臉檢測，最近已經(jīng)優(yōu)化到60人；二是道路交通監(jiān)控視頻的結構化，實現(xiàn)機、非、人分離。也就是說加個2W功耗的GPU芯片的交通攝像機，就能判斷識別路面上的非機動車和行人，比如高速公路上違法下客。

加入新一代算法+GPU后，我們對道路交通的分析要更加準確和深入。包括非機動車和行人識別，以及車牌、車身顏色、車型、車標識別等。

介紹視圖數(shù)據(jù)中心一體機“昆侖”，為什么要設計這款產(chǎn)品？昆侖帶通用計算板卡，智能計算板卡，大數(shù)據(jù)板卡，從而實現(xiàn)智能結構化分析和大數(shù)據(jù)處理。單機如果插滿智能計算板卡的話，可實現(xiàn)最高640路視頻的人臉對比，還可以做到最高80路視頻的人、車、非機動車活動目標提取。此外，可實現(xiàn)IAM集群調度，充分利用GPU芯片計算能力，任何一個GPU芯片發(fā)生故障都能自動切換。此外，任一同類型的板卡故障也可以自動檢測，為什么要這么做？為什么不用優(yōu)化方案？因為現(xiàn)在AI的算法沒有辦法像以前X86的平臺用虛擬化的手段，把所有的設備虛擬化，AI算法跑的時候基于GPU的內(nèi)核，中間層是跑不了的，你要大規(guī)模上數(shù)據(jù)的時候，原來的虛擬化方案是實現(xiàn)不了的。雖說有廠商在做這樣的方案，但目前還沒有看到比較好的虛擬化方案。現(xiàn)在主要的方法就是做技術標準，因此要考慮到三級的故障，在設計當中要把所有能想到的因素放到實際應用中考慮。

另外，現(xiàn)在的AI智能分析目前還做不到一個芯片同時能跑多種任務，這也是AI的現(xiàn)實。能不能一下子都統(tǒng)計出來？這個做不到。因為往GPU加載任務的時候只能加載一種，要么車，要么人臉。正因為這種現(xiàn)實，就要更好的優(yōu)化分析系統(tǒng)設計。算法和算力非常昂貴，能不能充分的應用這些工具做計算資源的調度。舉個例子，早晚高峰的道路交通管理，重大活動交通保障，需要對路面的調度分析時，能不能做到算力資源的自由調度？

所以我們做了一個集群調度。不同的人數(shù)統(tǒng)計板卡和不同視頻結構化板卡中，做忙碌和空閑間的不同調度，保證在不同峰值的狀態(tài)下，保證系統(tǒng)工作的目標，均衡算力的目標。這是業(yè)界首創(chuàng)的基于芯片級的標準化以及故障切換。