小男孩‘自慰网亚洲一区二区,亚洲一级在线播放毛片,亚洲中文字幕av每天更新,黄aⅴ永久免费无码,91成人午夜在线精品,色网站免费在线观看,亚洲欧洲wwwww在线观看

分享

Kimi“顛兒了”以后:國產(chǎn)大模型危機感重重

 supermbt 2024-04-11 發(fā)布于浙江

導語:受Kimi影響,百度的文心一言和阿里的通義千問,用戶訪問量大幅下滑,降幅分別達到33.42%與45.05%。

01 此消彼長

問世以來,Kimi就在不斷“吊打”國內各大廠AI模型。

Kimi“顛兒了”以后:國產(chǎn)大模型危機感重重

根據(jù)券商監(jiān)測數(shù)據(jù),截止3月25日,Kimi的網(wǎng)頁端、APP端的用戶DAU(Daily Active User,日活躍用戶數(shù)量)突破歷史新高,分別達到了79萬和54萬。疊加小程序用戶量,全端總DAU顯著大于225萬,或已超越百度(BIDU.O/9888.HK)旗下大模型文心一言的233萬。

而半個月之前,3月10日,Kimi的全端DAU剛剛突破120萬人。但其實早在2月,Kimi的用戶訪問量就已達到305萬,相較1月超翻倍增長。

與此同時,百度的文心一言和阿里(BABA.N/9988.HK)旗下的通義千問兩大TOP2玩家,用戶訪問量則大幅下滑,降幅分別達到33.42%與45.05%。

數(shù)據(jù)屢破新高下,Kimi的一舉一動也被大廠關注并模仿。

Kimi是月之暗面推出的對話式AI產(chǎn)品。3月18日,月之暗面宣布Kimi支持200萬字的無損上下文輸入。而在半年之前,去年10月發(fā)布時,Kimi可支持的無損上下文輸入長度僅為20萬字。

因此,大模型的“長文本能力”也受到大廠關注,甚至被認為是大模型競爭的重要性能指標。

3月22日,通義千問升級,向所有人免費開放 1000 萬字的長文檔處理功能;360的智腦正式內測500萬字長文本處理功能,該功能即將入駐 360AI 瀏覽器。

文心一言也宣布將于4月升級,屆時也將開放長文本能力,文字范圍預計將在200萬-500萬。

據(jù)筆者了解,不少業(yè)內人士卻并不看好這些大廠的“東施效顰”。他們認為,Kimi在長文本領域的領先身位,并沒有那么容易被超越。

或許正因于此,今年2月,在月之暗面最新一輪融資中,阿里作為領頭方,其投資額度的百分之七八十,被置換成算力服務。

02 kimi的靈魂

互聯(lián)網(wǎng)大廠,集中了各領域的技術頂尖人才,但鮮有像Kimi這樣的“明星員工”。

月之暗面創(chuàng)始人楊植麟,是Kimi團隊的靈魂人物。他擁有清華和卡內基梅隆背景,本人是長文本領域專家。

在過去五年內的自研語言處理(NLP)領域,楊植麟有相當?shù)挠绊懥?。在華人學者引用排名中,楊植麟的學術論文位居前10,在40歲以下排名第一。

在讀博士期間,楊植麟就以第一作者身份發(fā)表Transformer-XL和XLNet兩項工作,在谷歌學術上被引用近兩萬次,并在多個NLP任務上取得了當時的最佳效果。

Transformer-XL成為首個全面超越RNN的注意力語言模型,XLNet則在20項頂級會議中獲得最佳論文提名。

楊植麟以及他的團隊,創(chuàng)造了Kimi表現(xiàn)優(yōu)秀的無損壓縮技術。這種技術可減少參數(shù)對存儲的需求、推理的算力,以及數(shù)據(jù)傳輸?shù)膸捳加?,從而高效率無損處理百萬級的長Token。

而為了快速趕上長文本熱潮,其他大廠只能退而求其次,選擇檢索增強生成RAG技術。

Kimi的無損長上下文窗口的方案,是在逐字閱讀全文后給出答案。RAG技術是對全文關鍵信息進行檢索生成答案,但可能會丟失掉部分關鍵的信息。

因此,與前者相比,無論對比輸出的深度還是精度,大廠的模型都還存在較大差距。

目前,Kimi并沒有公布無損壓縮技術細節(jié)。除了論文,該技術在學界也沒有太多開源內容可參照。大廠想要“學習”、并工程化是非常困難的。

技術之外,Kimi的戰(zhàn)略也值得思考。

為快速“跟上形勢”,大廠一上手就追求花哨的多模態(tài)、導致“樣樣通樣樣松”走入平庸。

而Kimi選擇“一擊必殺”——首先垂直選擇打透長文本領域,以培養(yǎng)用戶心智,積累用戶留存。

自發(fā)布以來,Kimi除了將上下窗口從最初的20萬字拓展到200萬字之外,在指令理解、信息檢索能力和模型相應速度上,也持續(xù)迭代。

月之暗面內部人士介紹,基于Infra層的優(yōu)化,Kimi生成速度較去年10月份提升了三倍。

2023年12月、今年1月和2月,Kimi用戶留存分別為18.48%、22.25%和23.36%。這種高留存的粘性,同時形成了正反饋。

用戶們在使用過程中自發(fā)“喂”給Kimi很多專業(yè)語料。通過不斷學習和處理各種類型的語料,Kimi更能理解和適應不同的語境、問題和需求,從而提高其性能和準確性。

在此類專業(yè)語料處理上的進步速度,Kimi甚至快于Open AI。

這是因為,目前Open AI對于C端用戶上傳文件仍然有限制。而對于Kimi用戶而言,則是親手培養(yǎng)了一個高學習力的免費私人助手,持續(xù)進行互動。

03 加碼海外市場

正如馬斯克近日發(fā)言,升級技術路線的方法,不是與競爭對手比較,那就太簡單了。應是不斷挑戰(zhàn)物理極限。

Kimi“顛兒了”以后:國產(chǎn)大模型危機感重重

超越百度等大廠,或許并非Kimi的目標。下一步擴張,月之暗面指向了海外。

目前,月之暗面正在對外招聘國內/國外效果廣告設計師。除國內廣告平臺設計外,這一崗位,還需承擔公司產(chǎn)品在海外各大廣告平臺,如Google,Meta,Tiktok等廣告創(chuàng)意設計。

Kimi“顛兒了”以后:國產(chǎn)大模型危機感重重

同時,月之暗面也在補足運營短板。

月之暗面技術團隊僅有100多人,是頭部國產(chǎn)大模型公司中,人數(shù)最少的一家。包括安卓工程師、測試、市場、人力等等,都是公司正在招聘的崗位。

以產(chǎn)品增長職位為例,該職位要求有大廠工作經(jīng)驗且擅長通過社交媒體和用戶裂變策略推動產(chǎn)品增長,包括擁有從0到1000萬用戶增長的經(jīng)驗,專注于提升活躍用戶數(shù)量和長期留存率等職責。

“打不過就加入”。對于Kimi的崛起,阿里雖有自己的通義千問,但也給予了支持。

目前,Kimi借調了阿里的英偉達(NVDA.O)A800以及A100 GPU處理器的機型進行擴容,未來Kimi算力側的支持,也將主要來自于阿里。

今年2月,在月之暗面最新一輪超10億美元投資中,阿里作為領投方,其投資額度的百分之七八十,將被置換成算力服務器。

有了阿里的支持,Kimi不用再擔心因為算力不足而宕機。該人士也表示,擴容并非一步到位。一下子擴容太多,容易造成算力閑置和浪費,需要一定的策略。比如,Kimi也會對用戶的使用情況進行預測。

自從2022年11月ChatGPT發(fā)布以來,國內AI大模型已超200個,且還在持續(xù)增加。Kimi的問世,喚醒了行業(yè)巨頭的危機意識。

但Kimi也并非這場技術競賽的終點。(來源:AI新智能)

    本站是提供個人知識管理的網(wǎng)絡存儲空間,所有內容均由用戶發(fā)布,不代表本站觀點。請注意甄別內容中的聯(lián)系方式、誘導購買等信息,謹防詐騙。如發(fā)現(xiàn)有害或侵權內容,請點擊一鍵舉報。
    轉藏 分享 獻花(0

    0條評論

    發(fā)表

    請遵守用戶 評論公約

    類似文章 更多