Vol.04 GPT-4即將到來，新一代GPT意味著什么

konofufuda 2023-03-03 發(fā)布于江西

展開全文

卷首語

這周還是 4 篇文章。

尤其建議大家認真看看第三篇，如果 OpenAI 的底層模型繼續(xù)進化，思考一下，新機會在哪里，長期有價值的商業(yè)生態(tài)位又在哪里？

第一篇，我把 ChatGPT 類比成歷史上的數(shù)據(jù)庫和云?；A設施的發(fā)展，讓構(gòu)建應用變得越來越簡單，也讓 IT 能力不再是核心競爭力。商業(yè)的競爭又回到了本質(zhì)：洞察市場 & 設計生意。

第二篇，徐文浩演示了一下，如何用 ChatGPT 寫代碼做出一個小插件，讓 OpenAI 根據(jù)你輸入的商品中文的描述，去重新取英文標題，描述賣點、建議銷售的價格范圍。如果重新給這篇文章取名字，應該叫“30 分鐘學會編程，開掉公司一半人”。

第三篇，徐文浩介紹了一下 OpenAI 即將推出的 GPT-4，主要關(guān)注在 32K 的上下文支持上。隨著 AI “記憶力”的穩(wěn)步提升，或許我們很快就能把一個人一生的對話都放進去。而在具體的商業(yè)場景中，更大的上下文支持，其實提供了不用 finetune 就可以讓模型全面理解業(yè)務提供定制化服務的可能性。

第四篇，我介紹了麥肯錫的一個框架，它將人類經(jīng)濟行為分為三類：生產(chǎn)、交易和互動。其實本質(zhì)上從營銷人編寫營銷文案到律師提供法律建議，都算做互動。這個領域最近兩年會受到 AI 巨大的沖擊。

這次的卷首語我寫得很快很順，主要原因是把協(xié)作辦公區(qū)搬到了 Notion 上面。讓 Notion AI 幫我做了每一個板塊的總結(jié)。雖然它總結(jié)的文字基本不能直接用，但“看到一段文字，覺得很嫌棄，一邊嘆氣一邊改”比“對著空白文檔，自己一個一個字敲”還是容易太多了：）

——任鑫

1

INFRASTRUCTURE

ChatGPT 是新的數(shù)據(jù)庫和云

最近被拉到了很多群里，大部分時候，是一群像我一樣已經(jīng)不太懂技術(shù)的創(chuàng)業(yè)者在討論技術(shù)，大家自嘲是“一群怕被時代拋棄的中年人的掙扎”：）

其實，我倒是沒覺得弄懂技術(shù)有那么重要。這一次 AI 浪潮，最大的變化，就是讓使用 AI 的復雜性，從商業(yè)側(cè)挪到了基礎設施（比如模型）側(cè)。這時最普遍的機會，其實是理解新的基礎設施帶來的新能力（和局限），在其之上做東西。

歷史上這樣的事情發(fā)生過很多次。

比如“數(shù)據(jù)庫”，剛有這個概念的時候，每家公司都得自己做，只有大公司能自建自用。后來出現(xiàn)了第三方標準產(chǎn)品，小公司也能開箱即用，極大增強了小公司的數(shù)據(jù)應用能力；

再比如“云”，我 2011 年創(chuàng)業(yè)的時候，還和 Mango 同學去機房搬過刀片服務器，然后看他施魔法一樣管理一大堆服務器讓今夜酒店特價 APP 能夠正常運行?，F(xiàn)如今，這都是阿里云或者 AWS 的事兒，小白點幾下按鈕付個錢就能搞定。

基礎設施的升級，讓大量的前端復雜性被封裝到了能力提供商那層。而這一次看起來，被封裝的能力其實是”常識能力“和”對話能力“。雖然都不完善，但和 7 年前（我上一次創(chuàng)業(yè)做 Get 的時候）相比，已經(jīng)近乎神跡。

什么是常識？舉例來說，我們 7 年前做 Get 的時候也用到了一些 AI，比如用微軟的 API 來幫助判斷用戶表達當中的情緒、比如自己搭了一個模型來預測用戶第二天體重變化。這些功能都有用，甚至于比現(xiàn)在的 ChatGPT 類似功能更精準，但缺乏常識基礎導致所有功能都只能在訓練范圍內(nèi)有效。

比如用戶如果告訴 Get AI 她今天中午吃了一頭大象，Get AI 要么會認為這是個錯誤數(shù)據(jù)，要么會幫助用戶計算今天攝入了 1 噸的肉食，而不能像 ChatGPT 那樣敏銳識別到”這是個玩笑，應該和用戶瞎聊幾句“；比如用戶告訴 Get AI 她中午出去吃飯差點遇到車禍很危險，嚇了個半死，所以沒吃東西，Get AI （在人工不干預情況下）只會警告她不吃午飯對健康的7種危害并且調(diào)高日后對她的科普力度，而沒有常識去回應”車禍“和”情緒“相關(guān)部分。

那對話有什么用呢？一是給用戶普世化的交互界面，二是給創(chuàng)業(yè)者一個普世化的”編程“界面。

給用戶這邊，自然語言是最”自然“的交互方式，真的能普及的話，可以讓我們已有的互聯(lián)網(wǎng)服務范圍至少再擴大一倍。

能看這個公眾號文章的同學們，大部分可能對這一點毫無感知——因為我們都是高級用戶。我舉個例子，我過年時看到一個親戚的手機屏幕是他太太的照片，但是照片下面還有幾個安卓的菜單符號，明顯是截屏而不是原片，聊下來發(fā)現(xiàn)他是在微信群看到的照片，女兒發(fā)的，但他不知道怎么保存照片，就截屏做了壁紙。還有很多用戶，并沒有掌握現(xiàn)在的各種圖形化界面，如果讓他們用自然語言表達“這張照片不錯，幫我做成手機壁紙”會輕松很多。

而在給創(chuàng)業(yè)者這邊，其實也是提供了極簡單的編程界面。

做 Get 的時候，我們雖然也是基于大廠開源的架構(gòu)來做自己的模型，但當時不僅主程要花時間花精力研究，而且我還拉了兩個大學室友（碰巧都是 AI 大神）在群里幫忙指點，也花了不少代價才跑通。但現(xiàn)在，我這個已經(jīng) 20 年沒寫代碼的，都覺得自己可以靠自然語言 Prompt Engineering 就能調(diào)通好幾個細分場景的方案。這就使得構(gòu)建 AI 應用變得極其簡單，難點又回到了市場洞察和商業(yè)設計上。

相關(guān)延伸

https://www./perspectives/the-ai-platform-shift/

?? Vol.03 AI產(chǎn)業(yè)的“搖錢樹”會在哪一層？

2

EXPERIENCE

讓ChatGPT寫使用GPT的插件的體驗

今天一時興起，想要做一個能在Excel里面用的插件。初步想法是通過調(diào)用 Open AI 自己的GPT3.5 的接口，來實現(xiàn)一個根據(jù)中文的商品標題和描述，重寫英文名稱和描述的功能。

Excel寫插件需要用VBA，但是好久沒有寫過VBA了，那怎么辦？想了一下決定把需求描述給ChatGPT，讓他幫我寫。于是，就有了下面這樣的畫面：

不幸的是，手上是一臺Mac，不能生成VBA里面生成的ActiveX的對象，和ChatGPT聊了一下，讓他不要用MSXML2.XMLHTTP。但是它還是傻傻用另一個依賴ActiveX的WinHTTP組件。

不想再重新開WIndows電腦，所以決定先不用Excel了，直接用Google Sheet吧，網(wǎng)頁版就可以了，于是ChatGPT還像模像樣地把代碼寫出來了。

不過直接扔到 Google Sheet 的 AppScript 里有錯，發(fā)現(xiàn)問題是最后增加一個按鈕，觸發(fā)調(diào)用OpenAI的API有問題。和ChatGPT糾纏了一會兒，發(fā)現(xiàn)它給的都是錯誤答案之后，還是老老實實切換回Google搜索找到了解法。

然后調(diào)試了一下，一個小的新功能就可以自己用了。

小小一段代碼，可以讓Open AI根據(jù)你輸入的商品中文的描述，去重新取英文標題，描述賣點、建議銷售的價格范圍。

效果大概是下面這樣：

整個過程大概前后花了2個小時左右。這個時間是基于幾點：

1. 我并不熟悉App Script這門編程語言

2. 我沒有使用任何本地的開發(fā)工具IDE，所有的代碼直接找了個在線JS工具進行錯誤調(diào)試

3. 我是個非常有經(jīng)驗的程序員，能在ChatGPT寫出來的代碼報錯的時候快速通過搜索和調(diào)試工具解決問題

4. 主要的代碼都是ChatGPT寫的，我主要就是在它生成的代碼基礎之上Debug

我相信一個熟練的Javascript程序員可以更快地完成這個任務，而一個不會寫程序的人可能不能在ChatGPT胡扯的時候解決問題。不過，對我來說，ChatGPT是一個非常好的幫手。如果沒有它，我至少需要先讀個一天App Script的文檔才能動手。

不過，后面嘗試把這個代碼變成一個Google Sheet插件發(fā)布的體驗就非常糟糕了。一方面，ChatGPT似乎沒有足夠的相關(guān)信息，給出的都是粗略的步驟，然后對應的步驟在Google的文檔里又進入了圓環(huán)套圓環(huán)指向下一個文檔的過程。在嘗試了2個小時左右之后，我先放棄了。從這個體驗來看，Google現(xiàn)在的這個笨重遲緩的狀態(tài)并不是偶然的了。

?? 粉絲福利

對這個功能有興趣的同學，我會將對應的提示詞和代碼都放出來。

關(guān)注公眾號，回復：預約領取

我們會在后續(xù)的文章、直播中同步領取細節(jié)，如果想圍觀的同學比較多，會考慮直播敲代碼的過程。

3

MODEL

GPT-4可能要來了，這又意味著什么？

前兩天推上就有人在傳下面這個圖，說是Open AI接下來要提供一個叫做Foundry的私有化部署的版本，當時覺得沒啥可以驗證的信息也就沒有當真。今天 Techcrunch 又報道了，那看起來就真了一點。

里面的價格信息其實我不太關(guān)注，但是提供的最大的模型有 32K 的Context的確驚到我了。從這個表格來看，這個 32K 應該是指提示詞 + 補全可以達到32K Token，而我們現(xiàn)在用的GPT3.5只有4K。大家都在推測這個就是還沒有公開發(fā)布的GPT-4的模型。

32K是個什么概念呢？

按照OpenAI的官方文檔說法，你可以認為英文里面，3個單詞一般會需要消耗4個Token，這是因為有些單詞在分詞的過程里面會拆成兩個Token，比如 icecream 會變成 ice 和 cream，這么做是為了模型的語義模型更好。那 32K Token意味著差不多 2萬4千個單詞。

現(xiàn)在大家在用GPT3.5的時候，其實要做不少的工程工作。

比如做多輪對話，不能輪數(shù)太多，太多的話到后面ChatGPT就忘記了前面的事兒。這是因為模型只能支持 4K 的Token，所以只能往里塞過去5輪或者10輪的對話。而在很多人做的閱讀理解類的應用里，大家也要做很多工程化的工作，通過embedding或者語義搜索定位相關(guān)文本，再調(diào)用Open AI的接口來解決問題。

而有了2萬4千個單詞的上下文，世界就完全不同了。要知道，平均一本英文書，也就是5萬到10萬的單詞量。

這意味著你可以一次把半本書的上下文直接扔給大語言模型然后向他問問題，而不需要做任何中間的工程工作。

今天所有流行的中間工程庫比如gpt-index, langchain等等在這個情況下都不需要了。而這還只是GPT-4，如果GPT-5呢？

從能夠支持的上下文的數(shù)量來說，GPT-4比GPT-3大了8倍，那如果GPT-5，6也來個8倍的話。也許我們離把整個人一生所說的對話都放到GPT模型里面不遠了，我想這也是為什么Sam說在3-5年內(nèi)可能我們不再需要提示詞工程了吧。你只需要把一個人說的話都扔給AI，它就能模仿一個真實的你出來。

相關(guān)延伸

https:///2023/02/21/openai-foundry-will-let-customers-buy-dedicated-capacity-to-run-its-ai-models/

4

AI BUSINESS

ChatGPT 如何改變商業(yè)

麥肯錫有個奇特的框架，把人類經(jīng)濟行為分成三類：生產(chǎn)，交易和互動。

自動化和信息化提高了生產(chǎn)效率，而各種互聯(lián)網(wǎng)平臺提高了交易效率，現(xiàn)在輪到 ChatGPT 來提高互動效率。這個角度很有意思，價值是生產(chǎn)出來的，交易可以讓我們更有效配置資源用于生產(chǎn)（和消費），而互動讓我們搞清楚情況相互了解。

套這個模型的話，其實當面聊天是互動，我現(xiàn)在寫這篇東西也是互動，去搜索引擎投廣告也是互動，律師給你解釋法條和建議行動也是互動……這樣延展下來，會發(fā)現(xiàn)其實大量人類的工作，都只是在互動而已。大部分時候，人類只是 as an interface。

語言模型在訓練后，在基礎層面可以替代大量重復性互動（比如客服；比如酒店前臺），而在高端層面也可以起到開拓創(chuàng)造性（相當于提供了一個幫助腦暴的團隊）的作用。其實侵蝕了原來工作安全感最足的領域，大量的崗位都必須學會如何和 ChatGPT 共存。

相關(guān)延伸

https://www./capabilities/quantumblack/our-insights/generative-ai-is-here-how-tools-like-chatgpt-could-change-your-business

待辦清單

直播預約

本站是提供個人知識管理的網(wǎng)絡存儲空間，所有內(nèi)容均由用戶發(fā)布，不代表本站觀點。請注意甄別內(nèi)容中的聯(lián)系方式、誘導購買等信息，謹防詐騙。如發(fā)現(xiàn)有害或侵權(quán)內(nèi)容，請點擊一鍵舉報。

小男孩‘自慰网亚洲一区二区,亚洲一级在线播放毛片,亚洲中文字幕av每天更新,黄aⅴ永久免费无码,91成人午夜在线精品,色网站免费在线观看,亚洲欧洲wwwww在线观看

Vol.04 GPT-4即將到來，新一代GPT意味著什么