萬(wàn)字入門(mén)推薦系統(tǒng)

數(shù)學(xué)

微積分

線(xiàn)性代數(shù)

概率論

總結(jié)

1. 《DeepLearning》，又名「花書(shū)」，被譽(yù)為深度學(xué)習(xí)領(lǐng)域圣經(jīng)。它前面有必備數(shù)學(xué)知識(shí)的介紹，講得挺不錯(cuò)的。
2. B站搜索微積分、線(xiàn)性代數(shù)、概率論關(guān)鍵詞，會(huì)有很多教學(xué)視頻，隨便選取時(shí)長(zhǎng)較短的看看即可。

計(jì)算機(jī)基礎(chǔ)

數(shù)據(jù)結(jié)構(gòu)與算法

1. 《劍指offer》，準(zhǔn)備過(guò)面試的人應(yīng)該都知道這本書(shū)。
2. 《大話(huà)數(shù)據(jù)結(jié)構(gòu)》通俗易懂。剩下的就是多刷LeetCode，多看別人的題解。

計(jì)算機(jī)組成原理

操作系統(tǒng)

計(jì)算機(jī)網(wǎng)絡(luò)

1. 詞匯
2. 語(yǔ)法
3. 聲帶+耳朵
4. 傳播介質(zhì)：空氣

1. 數(shù)據(jù)：計(jì)算機(jī)之間傳輸?shù)男畔?/span>
2. 通信協(xié)議：決定數(shù)據(jù)的排列方式
3. 網(wǎng)卡：數(shù)據(jù)發(fā)射器與接收器
4. 傳播介質(zhì)：光纖、網(wǎng)線(xiàn)、WIFI

1. 《計(jì)算機(jī)網(wǎng)絡(luò)自頂向下方法》這本書(shū)相比于其他計(jì)算機(jī)網(wǎng)絡(luò)書(shū)籍較通俗易懂，學(xué)習(xí)起來(lái)應(yīng)該不太費(fèi)勁。這本書(shū)重點(diǎn)章節(jié)是第2、3、4、5、6章，其他章節(jié)可以跳過(guò)。配套視頻：https://www.bilibili.com/video/BV1mb4y1d7K7
2. 謝希仁的《計(jì)算機(jī)網(wǎng)絡(luò)》，是國(guó)內(nèi)很有名的教材。

數(shù)據(jù)庫(kù)

1. 《SQL必知必會(huì)》，快速掌握常用的SQL語(yǔ)法
2. 一天學(xué)會(huì) MySQL 數(shù)據(jù)庫(kù)：https://www.bilibili.com/video/BV1Vt411z7wy
   
   

機(jī)器學(xué)習(xí)

1. 邏輯回歸=線(xiàn)性回歸+sigmoid激活函數(shù)，從而將回歸問(wèn)題轉(zhuǎn)換為分類(lèi)問(wèn)題
2. 邏輯回歸+矩陣分解，構(gòu)成了推薦算法中常用的FM模型
3. 邏輯回歸+softmax，從而將二分類(lèi)問(wèn)題轉(zhuǎn)化為多分類(lèi)問(wèn)題
4. 邏輯回歸還可以看做單層神經(jīng)網(wǎng)絡(luò)，相當(dāng)于最簡(jiǎn)單的深度學(xué)習(xí)模型

1. 決策樹(shù)經(jīng)歷了三次改進(jìn)，ID3、C4.5、CART，主要區(qū)別在于一個(gè)根據(jù)信息增益劃分特征、一個(gè)根據(jù)信息增益率、一個(gè)根據(jù)基尼指數(shù)。
2. 隨機(jī)森林=決策樹(shù)+Bagging集成學(xué)習(xí)
3. GBDT=決策樹(shù)+AdaBoost集成學(xué)習(xí)
4. XGB是陳天奇2014年提出，相當(dāng)于GBDT的工程改進(jìn)版，在實(shí)用性和準(zhǔn)確度上有很大提升。比如：使用泰勒二階展開(kāi)近似損失函數(shù)，支持處理缺失值、在特性粒度上并行計(jì)算等等特性。
5. LGB是微軟2016年提出，對(duì)XGB進(jìn)行了改進(jìn)，使用單邊梯度采樣算法減少不必要的樣本；在尋找最優(yōu)分割點(diǎn)時(shí)采用直方圖算法使計(jì)算代價(jià)更?。恢С诸?lèi)別特征...
6. CGB是Yandex2017年提出，對(duì)類(lèi)別特征進(jìn)行了更完美的支持。

實(shí)戰(zhàn)

1. 如果是一個(gè)機(jī)器學(xué)習(xí)小白，那么推薦兩個(gè)入門(mén)視頻， 吳恩達(dá)或者李宏毅的ML視頻（B站上都有），先快速過(guò)一遍，了解機(jī)器學(xué)習(xí)是什么。
2. 如果有了一定的機(jī)器學(xué)習(xí)基礎(chǔ)，就需要去進(jìn)階。建議是看書(shū)與高質(zhì)量文章。推薦兩本書(shū)：周志華的《機(jī)器學(xué)習(xí)》、李航的《統(tǒng)計(jì)學(xué)習(xí)方法》這兩本書(shū)，可以好好先研究一本，注意這里是研究，一本通了，另一本也就差不多。如果發(fā)現(xiàn)看一遍很難看懂，這是正?，F(xiàn)象，隨著后面實(shí)踐經(jīng)歷慢慢變多，再看一遍，會(huì)有很多新的感悟。再就是公眾號(hào)：Datawhale，里面有很多高質(zhì)量文章。

深度學(xué)習(xí)

1. 計(jì)算機(jī)視覺(jué)（CV）：卷積神經(jīng)網(wǎng)絡(luò)（CNN）及其改進(jìn)。
2. 自然語(yǔ)言處理（NLP）：循環(huán)神經(jīng)網(wǎng)絡(luò)（RNN）及其改進(jìn)，Transformer、Bert等。
3. 推薦算法：Embeding、Wide & Deep及其改進(jìn)。

實(shí)戰(zhàn)

1. 李沐《動(dòng)手學(xué)深度學(xué)習(xí)》https://zh-v2./
2. 邱錫鵬《神經(jīng)網(wǎng)絡(luò)與深度學(xué)習(xí)》https://nndl./
3. 吳恩達(dá)《深度學(xué)習(xí)》https://www.bilibili.com/video/BV1FT4y1E74V
4. 《DeepLearning》，又名「花書(shū)」，被譽(yù)為深度學(xué)習(xí)領(lǐng)域圣經(jīng)。
5. TensorFlow、pytorch官網(wǎng)是最好的參考資料。如果英語(yǔ)不好，那么可以看看下面的資料：
1. Pytorch學(xué)習(xí)筆記：https://blog.csdn.net/wuzhongqiang/category_10024538.html
2. 《30天吃掉那只TensorFlow2》：https://github.com/lyhue1991/eat_tensorflow2_in_30_days
3. 《20天吃掉那只Pytorch》：https://github.com/lyhue1991/eat_pytorch_in_20_days
4. PyTorch深度學(xué)習(xí)快速入門(mén)教程：https://www.bilibili.com/video/BV1hE411t7RN

數(shù)據(jù)挖掘與分析

1. numpy中文教程：https://github.com/datawhalechina/powerful-numpy
2. pandas中文教程（這份文檔可能比官方文檔還適合學(xué)習(xí)）：https://github.com/datawhalechina/joyful-pandas
3. matplotlib中文教程：
   https://github.com/datawhalechina/fantastic-matplotlib
4. 《Hands-on-Machine-Learning-with-Scikit-Learn》用sklearn工具實(shí)現(xiàn)各種機(jī)器學(xué)習(xí)模型

大數(shù)據(jù)

1. 尚硅谷大數(shù)據(jù)Hadoop 3.x：https://www.bilibili.com/video/BV1Qp4y1n7EN
2. 尚硅谷大數(shù)據(jù)Spark教程從入門(mén)到精通：https://www.bilibili.com/video/BV11A411L7CK
3. 推薦系統(tǒng)算法基礎(chǔ)+綜合項(xiàng)目實(shí)戰(zhàn)：https://www.bilibili.com/video/BV1qK4y1479r

推薦算法理論知識(shí)

熱追推薦算法

召回粗排

精排

1. CTR預(yù)估：LR、FM家族、自動(dòng)特征交叉的DNN家族。
2. 多任務(wù)學(xué)習(xí)（Multi-Task Learning，也稱(chēng)為多目標(biāo)學(xué)習(xí)）。多任務(wù)是很常見(jiàn)的，比如視頻推薦中，用戶(hù)喜歡、收藏、評(píng)論。而不同的任務(wù)可能會(huì)互相沖突，互相影響，造成模型學(xué)習(xí)起來(lái)十分困難。所以這一塊是重難點(diǎn)，也是很多大公司的研究重點(diǎn)，更是未來(lái)的一大發(fā)展趨勢(shì)。但好在這里每個(gè)模型或者技術(shù)有對(duì)應(yīng)paper，所以和召回一樣，這里依然可以利用解讀paper的方式，把這些模型和技術(shù)娓娓道來(lái)。
3. 排序打分公式融合。

重排

冷啟動(dòng)

1. 首先當(dāng)然是后續(xù)自己寫(xiě)的文章啦哈哈哈。主要是因?yàn)楦闼惴ǖ娜藢W(xué)習(xí)模型都是參考論文，這也是為什么我后面分享這一塊內(nèi)容都是以解讀論文的形式。
2. 一定要推薦一本書(shū)籍的話(huà)，我選王喆的《深度學(xué)習(xí)推薦系統(tǒng)》。這本書(shū)高屋建瓴的介紹了推薦系統(tǒng)整體架構(gòu)，發(fā)展歷史以及未來(lái)趨勢(shì)，還有各種推薦模型的演化之路，很適合前期用來(lái)當(dāng)做科普。但是具體的模型并沒(méi)有深入講解，還是得自己去看論文解讀。
3. 再就是一些我認(rèn)為很優(yōu)秀的開(kāi)源項(xiàng)目：
1. 強(qiáng)子整理的
   https://github.com/zhongqiangwu960812/AI-RecommenderSystem
2. 我的另一個(gè)好友潛心整理，star已過(guò)千 https://github.com/ZiyaoGeng/Recommender-System-with-TF2.0

推薦系統(tǒng)實(shí)戰(zhàn)項(xiàng)目

新聞推薦系統(tǒng)

階段一

1. Mysql基礎(chǔ)及python調(diào)用（簡(jiǎn)介、安裝、簡(jiǎn)單的命令行基礎(chǔ)、python如何調(diào)用mysql數(shù)據(jù)（增刪改查，排序））
2. MongoDB基礎(chǔ)及python調(diào)用
3. Redis基礎(chǔ)及python調(diào)用
4. Scrapy基礎(chǔ)及新聞爬取
5. 新聞畫(huà)像構(gòu)建（存入MongoDB）

1. Vue簡(jiǎn)介及基本使用（對(duì)于我們做推薦算法的，了解一些前后端交互之類(lèi)的就夠了）
2. 前后端如何交互
3. 用戶(hù)注冊(cè)界面
4. 新聞?wù)故荆▋?nèi)容、時(shí)間、點(diǎn)贊次數(shù)，收藏次數(shù)）
5. 可以保留用戶(hù)的行為（user_id, news_id, action(點(diǎn)贊、收藏、閱讀)，time）
   
   

階段二

1. 收集數(shù)據(jù)
1. 在服務(wù)器上部署數(shù)據(jù)收集的系統(tǒng)（新聞數(shù)據(jù)+用戶(hù)行為數(shù)據(jù)）
2. 冷啟動(dòng)策略
   
   
2. 冷啟動(dòng)
1. 用戶(hù)側(cè)
2. 物品側(cè)
3. 系統(tǒng)側(cè)

階段三

1. 離線(xiàn)評(píng)估指標(biāo)
2. 多路召回
1. 特征工程
2. 規(guī)則類(lèi)
3. 模型類(lèi)
3. 召回評(píng)估
4. 排序
1. DeepFM
2. 排序評(píng)估
5. 規(guī)則+重排

階段四

1. 推薦服務(wù)，前后端交互（flask）
2. 任務(wù)調(diào)度
3. 系統(tǒng)部署
4. 規(guī)范類(lèi)修改

結(jié)束語(yǔ)