Incapsula 反爬虫

来源:互联网 发布:苹果cms简洁模板 编辑:程序博客网 时间:2024/05/18 08:20

新遇到个反爬虫的事情,在一个遍历中,第一个数据正常,第二个报错:

<html style="height:100%"><head><META NAME="ROBOTS" CONTENT="NOINDEX, NOFOLLOW"><meta name="format-detection" content="telephone=no"><meta name="viewport" content="initial-scale=1.0"><meta http-equiv="X-UA-Compatible" content="IE=edge,chrome=1"></head><body style="margin:0px;height:100%"><iframe src="/_Incapsula_Resource?CWUDNSAI=9&xinfo=10-169203586-0 0NNN RT(1481249976816 0) q(0 -1 -1 -1) r(0 -1) B12(4,316,0) U2&incident_id=461000260199316743-1312910273363640746&edet=12&cinfo=04000000" frameborder=0 width="100%" height="100%" marginheight="0px" marginwidth="0px">Request unsuccessful. Incapsula incident ID: 461000260199316743-1312910273363640746</iframe></body></html>

解决方法:

在请求的headers 把cookie带上,抓取到了页面

0 0