小男孩‘自慰网亚洲一区二区,亚洲一级在线播放毛片,亚洲中文字幕av每天更新,黄aⅴ永久免费无码,91成人午夜在线精品,色网站免费在线观看,亚洲欧洲wwwww在线观看

分享

一個(gè)絕對(duì)讓你欣喜若狂的開源Python爬蟲

 heii2 2018-12-10

正式介紹weixin_crawler之前,我準(zhǔn)備了兩個(gè)問(wèn)題,這兩個(gè)問(wèn)題通過(guò)weixin_crawler自帶的報(bào)告和搜索指數(shù)都能得到回答。


問(wèn)題1:高考在每年的幾月舉行?


有無(wú)數(shù)種方法可以知道這個(gè)問(wèn)題的答案。鑒于手頭有60個(gè)公眾號(hào)的全部發(fā)文數(shù)據(jù),共計(jì)大約14萬(wàn)篇文章,其中包含了文章的發(fā)文時(shí)間、正文、閱讀量等信息,于是決定使用“大數(shù)據(jù)”回答這個(gè)問(wèn)題。


在這14萬(wàn)篇文章中出現(xiàn)“高”或者“考”的文章有12285篇,出現(xiàn)“高考”的文章有4390篇,按照月份統(tǒng)計(jì)這4390篇文章就得到了這張條形圖,很明顯每年的6月份出現(xiàn)“高考”的文章最多,如下圖。


        所以也就不難回答高考所在的月份了,這個(gè)問(wèn)題只是起到一個(gè)拋磚引玉的用途,類似的問(wèn)題還有很多,比如“創(chuàng)客教育是在哪一年興起的?”


問(wèn)題2:一個(gè)公眾號(hào)應(yīng)該在一天的哪個(gè)個(gè)小時(shí)段推文?

以新加坡萬(wàn)事通為例,新加坡萬(wàn)事通截止到今天累計(jì)發(fā)文10450篇。

第一步,獲取公眾號(hào)新加坡萬(wàn)事通的全部歷史發(fā)文,得到每篇文章的發(fā)文小時(shí)和閱讀量。


第二步,統(tǒng)計(jì)每個(gè)小時(shí)段內(nèi)的發(fā)文總數(shù),會(huì)得到一個(gè)類似這樣的條形圖。從下圖可見該公眾號(hào)主要是晚上7、8、8、10和凌晨12點(diǎn)發(fā)文為主,由此可大致推測(cè)目標(biāo)讀者的作息時(shí)間。



第三步,計(jì)算每個(gè)小時(shí)段發(fā)文閱讀量的平均數(shù)或者中位數(shù)。如下圖,可見晚上8點(diǎn)鐘發(fā)文的閱讀量中位數(shù)最高。



        那些發(fā)文量靠前同時(shí)平均閱讀量最高的小時(shí)段就應(yīng)該是最佳發(fā)文時(shí)間,該公眾號(hào)應(yīng)該選擇在更早的8點(diǎn)發(fā)文而不是大量集中在9點(diǎn)發(fā)文,凌晨12點(diǎn)就更加不合適了。實(shí)際統(tǒng)計(jì)中發(fā)現(xiàn)相當(dāng)大比例的公眾號(hào)并非在最佳的小時(shí)段發(fā)文。


以上數(shù)據(jù)和統(tǒng)計(jì)計(jì)算工作通過(guò)都可以通過(guò)weixin_crawler一鍵完成,現(xiàn)在回到開源微信公眾號(hào)爬蟲weixin_crawler。


What is weixin_crawler?


weixin_crawler是一款使用Scrapy、Flask、Echarts、Elasticsearch等實(shí)現(xiàn)的微信公眾號(hào)文章爬蟲,自帶分析報(bào)告和全文檢索功能,幾百萬(wàn)的文檔都能瞬間搜索


主要特點(diǎn)


  1. 使用Python3編寫

  2. 爬蟲框架為Scrapy并且實(shí)際用到了Scrapy的諸多特性,是深入學(xué)習(xí)Scrapy的不錯(cuò)開源項(xiàng)目

  3. 利用Flask、Flask-socketio、Vue實(shí)現(xiàn)了高可用性的UI界面。功能強(qiáng)大實(shí)用,是新媒體運(yùn)營(yíng)等崗位不錯(cuò)的數(shù)據(jù)助手

  4. 得益于Scrapy、MongoDB、Elasticsearch的使用,數(shù)據(jù)爬取、存儲(chǔ)、索引均簡(jiǎn)單高效

    本站是提供個(gè)人知識(shí)管理的網(wǎng)絡(luò)存儲(chǔ)空間,所有內(nèi)容均由用戶發(fā)布,不代表本站觀點(diǎn)。請(qǐng)注意甄別內(nèi)容中的聯(lián)系方式、誘導(dǎo)購(gòu)買等信息,謹(jǐn)防詐騙。如發(fā)現(xiàn)有害或侵權(quán)內(nèi)容,請(qǐng)點(diǎn)擊一鍵舉報(bào)。
    轉(zhuǎn)藏 分享 獻(xiàn)花(0

    0條評(píng)論

    發(fā)表

    請(qǐng)遵守用戶 評(píng)論公約

    類似文章 更多