目前防采集的方法有很多種,先介紹一下常見防采集策略方法和它的弊端及采集對策:
第一法、判斷一個(gè)IP在一定時(shí)間內(nèi)對本站頁面的訪問次數(shù),如果明顯超過了正常人瀏覽速度,就拒絕此IP訪問
弊端:
1、此方法只適用于動態(tài)頁面,如:aspjspphp等…靜態(tài)頁面無法判斷某個(gè)IP一定時(shí)間訪問本站頁面的次數(shù)
2、此方法會嚴(yán)重影響搜索引擎蜘蛛對其收錄,因?yàn)樗阉饕嬷┲胧珍洉r(shí),瀏覽速度都會比較快而且是多線程。此方法也會拒絕搜索引擎蜘蛛收錄站內(nèi)文件
采集對策:只能放慢采集速度,或者不采
建議:做個(gè)搜索引擎蜘蛛的IP庫,只允許搜索引擎蜘蛛快速瀏覽站內(nèi)內(nèi)容。搜索引擎蜘蛛的IP庫的收集,也不太容易,一個(gè)搜索引擎蜘蛛,也不一定只有一個(gè)固定的IP地址。
評論:此方法對防采集比較有效,但卻會影響搜索引擎對其收錄。
第二法、用javascript加密內(nèi)容頁面
弊端:此方法適用于靜態(tài)頁面,但會嚴(yán)重影響搜索引擎對其收錄情況,搜索引擎收到到的內(nèi)容,也都是加密后的內(nèi)容
采集對策:建議不采,如非要采,就把解密碼的JS腳本也采下來。
建議:目前沒有好的改良建議
評論:建議指望搜索引擎帶流量的站長不要使用此方法。
第三法、把內(nèi)容頁面里的特定標(biāo)記替換為”特定標(biāo)記+隱藏版權(quán)文字“
弊端:此方法弊端不大,僅僅會增加一點(diǎn)點(diǎn)的頁面文件大小,但容易反采集
采集對策:把采集來的含有隱藏版權(quán)文字內(nèi)容的版權(quán)文字替掉,或替換成自己的版權(quán)。
建議:目前沒有好的改良建議
評論:自己感覺實(shí)用價(jià)值不大,就算是加上隨機(jī)的隱藏文字,也等于畫蛇添足。
第四法、只允許用戶登陸后才可以瀏覽
弊端:此方法會嚴(yán)重影響搜索引擎蜘蛛對其收錄
采集對策:目前落伍已經(jīng)有人發(fā)了對策文章 ,具體對策就看這個(gè)吧《ASP小偷程序如何利用XMLHTTP實(shí)現(xiàn)表單的提交以及cookies或session的發(fā)送》
建議:目前沒有好的改良建議
評論:建議指望搜索引擎帶流量的站長不要使用此方法。不過此方法防一般的采集程序,還是有點(diǎn)效果的。
第五法、用javascript、vbscript腳本做分頁
弊端:影響搜索引擎對其收錄
采集對策:分析javascript、vbscript腳本,找出其分頁規(guī)則,自己做個(gè)對應(yīng)此站的分頁集合頁即可。
建議:目前沒有好的改良建議
評論:感覺懂點(diǎn)腳本語言的人都能找出其分頁規(guī)則
第六法、只允許通過本站頁面連接查看,如:Request.ServerVariables(“HTTP_REFERER”)
弊端:影響搜索引擎對其收錄
采集對策:不知道能不能模擬網(wǎng)頁來源,目前我沒有對應(yīng)此方法的采集對策
建議:目前沒有好的改良建議
評論:建議指望搜索引擎帶流量的站長不要使用此方法。不過此方法預(yù)防一般的采集程序,還是有點(diǎn)效果的。