吳軍《信息論40講》已經(jīng)學(xué)完，學(xué)習(xí)心得如下。

一、信息的產(chǎn)生（控制和選擇）

萬物皆信息。信息的度量，是通過信息量來衡量的，其單位就是比特bit。信息量對應(yīng)著信息熵。熵，即不確定性程度或混亂程度。信息的作用，是用來消除不確定性的。

人類通過信息編碼創(chuàng)造了數(shù)字和文字，開始記錄和測量事物，以消除對世界的不確定性。數(shù)字和文字，都是編碼手段。編碼要點，一是易識別，二是有效，能落地應(yīng)用。文字的編碼是通過信息的矢量數(shù)字化實現(xiàn)的，有拼音的，有象形的；數(shù)字的編碼方法有很多種，如二進制、十進制、十六進制等等，由于各種編碼是等價的，所以根據(jù)需要可以選擇合適的編碼方法。編碼盡量要短，如哈夫曼編碼法。（即把最好的、最重要的資源投入到最成功或最頻繁的事情上）

傳輸信息時，為了提升傳輸?shù)男?，時常要進行壓縮。壓縮的方法，一種是利用等價信息壓縮，比如傅立葉變換（時域-頻域）、離散余弦變換（空域-頻域）；一種是利用信息前后相關(guān)性，找出差異，只對增量編碼（大部分事物的發(fā)展是漸進式的）。在壓縮時，要注意壓縮比和失真率。無損壓縮，如傅立葉變換、離散余弦變換將聲音和圖像變成頻率信息，再用哈夫曼編碼壓縮。有損壓縮，則要根據(jù)場景設(shè)定壓縮目標(biāo)。切記，減少信息數(shù)量，必然會增加不確定性。

以上是對信息的控制方面的總結(jié)，對信息的選擇也很重要。信息的選擇要注意四點：一是要選擇正交的、不同維度的信息；二是要選擇強相關(guān)性的信息，互信息高的（三觀要一致，這樣溝通起來才通暢，或?qū)Σ煌娜?，要采用不同的方式溝通，這樣才能順暢）；三是要選擇信息增益大的，比如最初的發(fā)明、第一個發(fā)表意見的、與眾不同的意見等等；四是要選擇置信度大的，被重復(fù)檢驗足夠多次之后的信息。

二、信息的傳播（困境和突破）

傳輸信息的過程中，有四個困境，會增加信息的不確定性。這四個困境是：噪音干擾，信道窄，傳輸出錯和竊密者。

信息與噪音同在，信噪比就此誕生。信噪比越小，噪音干擾越大；信噪比越大，干擾就越小。對于信噪比較小的信息，就要想辦法濾除掉噪音。噪音按來源，可分為已知來源的噪音&不清楚來源的噪音；按規(guī)律性，可分為有規(guī)律的噪音&隨機的噪音、固定頻率的噪音&白噪音。過濾噪音的方法有兩個，一個是利用信息的冗余和比對，過濾掉噪音。雙MIC手機，就是利用這個方法降噪的。另一個方法是將有噪音的信息分解到不同的維度（頻率）過濾噪音。

傳輸信息也是需要通道的，這就是信道。信道的的寬度（帶寬或容量C）也是有邊界的（盡量在邊界內(nèi)做事）。帶寬越大，信息傳輸率R就越大（人脈，就是帶寬）。切記，R≤C。傳輸信息時，若信道容量不足，唯一的辦法就是降低速度。

在生產(chǎn)管理和市場推廣中，為了保障信息傳輸?shù)挠行院蜏?zhǔn)確性，一般會利用科技（互聯(lián)網(wǎng)）提高帶寬或提升一定帶寬的溝通效率。

由于人難免會出錯，干擾也無處不在，就有必要增強信息的自動糾錯能力，添加信息冗余，以達(dá)到信息傳輸?shù)臏?zhǔn)確性。自動糾錯的方法有三種：一種是重復(fù)傳輸信息（重要的事情說3遍），二是奇偶校驗&海明碼，三是參考DNA的編碼。

信息傳輸過程中，為了防止信息被他人竊取，就需要對信息進行加密，以保障自己的隱私。加密的目的就是當(dāng)竊取者收到密文后，無法降低任何不確定性。最有效的加密方式就是一次性加密，量子通信就是一次性加密。重復(fù)的密碼，最容易被破譯。常用的加密方法有：一是密碼要經(jīng)常替換，二是將信息埋藏在隨機的噪音中。當(dāng)然，如果你想讓人知道你的觀點，就要明確表述。

至于未來無線移動通信5G的發(fā)展，業(yè)界無論在技術(shù)上和應(yīng)用上都還存在著爭議。當(dāng)然，行業(yè)主流還是推動了5G的建設(shè)。這樣也可以理解，因為通過多建基站和光纖，是現(xiàn)行最有效的擴容手段，為萬物互聯(lián)創(chuàng)造條件。

三、信息應(yīng)用（有效識別和利用）

計算機科學(xué)家做的事情，就是把現(xiàn)實問題變成數(shù)學(xué)問題。計算機工程師做的事情，就是把數(shù)學(xué)問題變成計算機能夠處理的問題，這就要借助硬件-電路（模電、數(shù)電和電源電路）和軟件-程序（指令和數(shù)據(jù)）來實現(xiàn)。期間，數(shù)學(xué)扮演著非常重要的角色。我們要做的是，如何把自己領(lǐng)域中的問題，描述成一個信息收集、傳輸、綜合、存儲和處理的問題。

在沒有得到信息之前，則不要做任何主觀假設(shè)，并且要根據(jù)需要解決的問題來收集正確的信息。信息，能直接收集到的就直接收集，不能直接收集到的，可以通過其等價信息來收集。對于收集到的信息，可以通過交叉驗證來進行確認(rèn)。收集的信息不在于多，只要能把事情做好即可。對于收集到的大數(shù)據(jù)，可以通過定向思維、逆向思維、對比細(xì)節(jié)和相關(guān)聯(lián)系等數(shù)據(jù)分析方法，找出規(guī)律，幫助我們解決問題。