墨算未來 

墨科技演進，算未來氣象

百度 AI開發(fā)者大會（BIDA）上，百度發(fā)布了兩個重要產(chǎn)品：一是備受關(guān)注的文心一言。文心一言是全球首個多模態(tài)融合 NLP模型，它能夠同時理解文本和對話中的多個模態(tài)，從而進行多模態(tài)融合生成。在百度 AI開發(fā)者大會上，文心一言首次亮相，其效果表現(xiàn)引發(fā)業(yè)界關(guān)注。

百度在此次大會上推出了文心一言的升級版本——文心一言 Plus。升級后的文心一言 Plus具備多模態(tài)、多場景、高效率四大優(yōu)勢，是智能對話和智能寫作領(lǐng)域的重大突破，在語言理解和生成方面超越 ChatGPT等國際領(lǐng)先算法模型。

百度副總裁沈抖介紹說：“文心一言 Plus不僅繼承了文心一號的開放能力，還首次引入了文心二號的語義理解技術(shù)，構(gòu)建起了更加強大的語義理解模型?！币远嗄B(tài)融合 NLP模型為基礎(chǔ)，文心一言 Plus能夠在對話、寫作等任務(wù)上全面超越 ChatGPT。

沈抖還表示：“文心一號是我們面向自然語言處理任務(wù)訓(xùn)練的第一個大規(guī)模語言模型，我們希望文心一言 Plus能夠幫助更多人獲得更好的創(chuàng)作體驗?！?/p>

據(jù)介紹，接下來，百度將在開放更多核心能力，與業(yè)界共同探索人機協(xié)同、跨模態(tài)融合的 NLP新范式。

一、簡介

文心一言是全球首個多模態(tài)融合 NLP模型，由百度聯(lián)合中國科學(xué)院計算技術(shù)研究所共同研發(fā)。文心一號和文心二號是其最重要的兩個基礎(chǔ)模型，也是文心一言的前身，二者均采用大規(guī)模預(yù)訓(xùn)練語言模型進行訓(xùn)練，是目前業(yè)內(nèi)最先進的文本生成模型之一。

在此基礎(chǔ)上，文心一號和文心二號被不斷改進，并融合了文本和對話中的多個模態(tài)信息，形成了能同時處理文本和對話中的多個模態(tài)、并具有更高語義理解能力的新模型——文心一言 Plus。

相較于當前國際最先進的 ChatGPT模型，文心一言 Plus能夠在語言理解和生成方面超越 ChatGPT等國際領(lǐng)先算法模型。

二、模型架構(gòu)

文心一言 Plus在保留文心一號、文心二號、文心一言基礎(chǔ)上，采用了多模態(tài)融合架構(gòu)。該架構(gòu)利用深度神經(jīng)網(wǎng)絡(luò)對多模態(tài)數(shù)據(jù)進行建模，同時利用文本語義和對話上下文信息，構(gòu)建出文本-對話-文本的融合生成模型。

三、技術(shù)實踐

作為國內(nèi)首個多模態(tài)融合 NLP模型，文心一言 Plus在多個領(lǐng)域取得了出色的效果。例如在智能對話中，它可以應(yīng)對復(fù)雜多變的對話場景，根據(jù)用戶意圖和上下文等信息，提供更加自然的交互體驗；在智能寫作領(lǐng)域，文心一言 Plus可用于文檔、報告、演講、小說等多種應(yīng)用場景，生成富有創(chuàng)意的文本內(nèi)容。

另外，文心一言 Plus也擁有高效率優(yōu)勢。相比傳統(tǒng)方法，文心一言 Plus具有更高的靈活性和通用性。以自然語言生成為例，只需少量文本訓(xùn)練數(shù)據(jù)即可實現(xiàn)效果提升，既可以訓(xùn)練文心二號模型也可以訓(xùn)練文心一號模型；而對于大型語言模型來說，它還具有更高的靈活性和通用性。

四、使用案例

在過去一年中，百度文心一言 Plus已經(jīng)在多個應(yīng)用場景落地，幫助開發(fā)者提升產(chǎn)品體驗。

在對話式寫作方面，文心一言 Plus已經(jīng)上線了智能寫作平臺“文心一言”，用戶可以用它來寫文章，寫對話，完成各種復(fù)雜的任務(wù)。

目前該平臺已支持多達30種語言的寫作能力，包括中文、英文、日文、泰文等。

五、思考和展望

“文心一言 Plus在對話、寫作等任務(wù)上全面超越 ChatGPT，將引領(lǐng)智能對話、智能寫作技術(shù)的新突破。”沈抖表示。

但也要看到， ChatGPT還是一個基于大規(guī)模數(shù)據(jù)進行學(xué)習(xí)的語言模型，其生成能力仍然有很大改進空間。未來，百度將進一步研發(fā)多模態(tài)融合 NLP模型，讓機器更加全面、更加智能地理解自然語言，為更多人提供更加智能的生活體驗。

此外，百度將進一步探索 AI與自然語言處理技術(shù)融合的新范式。除了文心一言 Plus，百度還將基于文心一言，進一步加強開放能力建設(shè)、推進人機協(xié)同創(chuàng)新發(fā)展。文心一言 Plus將繼續(xù)以開放和創(chuàng)新的方式與更多伙伴分享。