在第四次深"度"接觸結束后,spider工程師表示新浪的死鏈處理工作一直效果不錯,提醒學院應該請其做個分享.新浪穩(wěn)座國家級門戶頭把交椅,誰還敢說自己網站結構的復雜程度可以超越新浪.于是我們請王久明分享一下新浪在死鏈處理和死鏈預防(重要頁面因修改而產生死鏈)方面的經驗.
一、在以下背景下會較多產生死鏈:
1、時政新聞的敏感性;
2、來自監(jiān)管的刪除需求;
3、頻道(編輯)自身刪改的需求;
4、搜索方期望資源方主動優(yōu)化和定期清除的需求
二、死鏈分類:
由于系統(tǒng)架構、歷史遺留問題、多業(yè)務系統(tǒng)交叉影響等多方面因素,新浪存在如下三種死鏈:
1、協(xié)議死鏈,服務器端返回HTTP狀態(tài)碼404;
例如:'誰在偽善'
http://news.sina.com.cn/movie/music/1999-06-15/2965.shtml
clip_image002.jpg
2,內容死鏈,服務器端返回HTTP狀態(tài)碼200,無法設置為404;
例如:http://news.sina.com.cn/c/2015-04-23/184531753084.shtml
clip_image002.jpg
3,頁面需要用戶和蜘蛛可以正常訪問,但由于刪改或誤操作導致反復上下線形成協(xié)議死鏈或內容死鏈.例如:http://news.sina.com.cn/2015-12-05/doc-ifxmhqaa9933763.shtml
上線后又下線,后又上線,甚至反復多次.由于下線期間存在協(xié)議死鏈或內容死鏈的情況,導致百度認為該頁面應該被刪除,不被收錄,且即使后續(xù)重新上線也無法恢復收錄.對于這種情況,應加以預防.
clip_image002.jpg
三、解決方案:
1、協(xié)議死鏈,這個最符合HTML標準處理方式,站點方面無須多做什么,如果需要百度快速處理可以通過百度站長平臺的死鏈提交工具(http://zhanzhang.baidu.com/college/courseinfo?id=267&page=4#h2_article_title18)進行主動提交
2,無法設置協(xié)議死鏈接,僅主體內容文本被刪除的內容死鏈死鏈,新浪的處理方法是:
1)走事先之制定好的《死鏈標準流程》:用站內標準內容死鏈模板頁面(告訴用戶該頁無法找到)覆蓋需要刪除的頁面,5秒后跳轉到統(tǒng)一的全站導航頁,以減少用戶流失.
2)根據需要,比如根據特定關鍵詞圈定一批最終需要處理為協(xié)議死鏈的敏感頁面,將這些頁面鏈接放到一個文件里,由專人在服務器端修改成協(xié)議死鏈.通過百度站長平臺工具進行死鏈提交
3,針對反復上下線導致百度誤判為死鏈的情況,新浪的預防辦法是:
1)制度上:系統(tǒng)后臺設置提醒,提醒編輯上線后除非特殊情況不要下線;
2)功能上:這種情況在專題運營中最常見,且影響比單篇新聞頁要大,由于我站點運營規(guī)定是不能刪除頁面的,因此在系統(tǒng)后臺將"刪除專題(對編輯來說就是刪除該專題)"和"將專題調整為不對外顯示(對編輯來說不是刪除,而是暫時下線,調整為外網用戶無法訪問,可隨時再次重新上線)"兩個功能嚴格區(qū)分開,并提供回收功能.針對"將專題調整為不對外顯示"這種情況,不再將頁面更新為內容死鏈(頁面無法找到),以免被百度誤判.專題頁面仍可訪問,只是站點不設置入口、不進行推廣,用戶沒有訪問來源而已.
評論(0人參與,0條評論)
發(fā)布評論
最新評論