觸屏版
全國(guó)服務(wù)熱線:0571-87205688
登錄
注冊(cè)
客戶中心
關(guān)注云客
最近收到一個(gè)非常典型的抓取優(yōu)化例子,整理一下分享給各位,各位站長(zhǎng)們謹(jǐn)記不要出現(xiàn)相同的情況:
站點(diǎn)反饋:
網(wǎng)站主體內(nèi)容都是js生成,針對(duì)用戶訪問,沒有做優(yōu)化;但是網(wǎng)站特針對(duì)爬蟲抓取做了優(yōu)化,直接將圖片二進(jìn)制內(nèi)容放到了html中導(dǎo)致頁面長(zhǎng)度過長(zhǎng);然而優(yōu)化后發(fā)現(xiàn)內(nèi)容卻不被百度收錄
頁面質(zhì)量很好,還特意針對(duì)爬蟲做了優(yōu)化,為什么內(nèi)容反而不收錄了呢?
分析:
1、網(wǎng)站針對(duì)爬蟲爬取做的優(yōu)化,直接將圖片二進(jìn)制內(nèi)容放到了html中導(dǎo)致頁面長(zhǎng)度過長(zhǎng),網(wǎng)站頁面長(zhǎng)度達(dá)164k;
2、 站點(diǎn)優(yōu)化后將主體內(nèi)容放于最后,圖片卻放于前面;
3、爬蟲抓取內(nèi)容后,頁面內(nèi)容過長(zhǎng)被截?cái)?已抓取部分無法識(shí)別到主體內(nèi)容,最終導(dǎo)致頁面被認(rèn)定為空短而不收錄.
建議:
1、不建議站點(diǎn)使用js生成主體內(nèi)容,如js渲染出錯(cuò),很可能導(dǎo)致頁面內(nèi)容讀取錯(cuò)誤,頁面無法抓取
2、 如站點(diǎn)針對(duì)爬蟲爬取做優(yōu)化,建議頁面長(zhǎng)度在128k之內(nèi),不要過長(zhǎng)
3、針對(duì)爬蟲爬取做優(yōu)化,請(qǐng)將主體內(nèi)容放于前方,避免抓取截?cái)嘣斐傻膬?nèi)容抓取不全
評(píng)論(0人參與,0條評(píng)論)
發(fā)布評(píng)論
最新評(píng)論