python验证IP代理是否可用
来源:互联网 发布:卫星地图下载软件 编辑:程序博客网 时间:2024/06/05 02:53
网络爬虫往往会碰到IP被封的尴尬场面,但通过IP代理可以得到解决,但往往免费的IP不稳定,所以使用之前需要验证代理的可用性,现将自己查阅相关资料总结的方法及代码记录以备日后查阅,也供有需要的朋友参阅:
思路如下:
1、在相关免费IP代理的网站获取可用的代理IP以及端口号,存在数据库或者文本,也可不存直接抓取验证使用
2,从抓取的文件或者数据库钟读取IP及端口号和协议
3,使用resqustes.get()设置代理,去尝试访问要抓取的网站,进行验证。
代码如下:
import pandas as pdimport reimport requestsdf = pd.read_csv("prox.csv")t = 0for i in df.iterrows(): # print(i[1][0]) protocol = "https" ip = i[1][0] port = i[1][1] server = ip + ':' + str(port) try: r = requests.get('https://www.ipip.net/', proxies={"https": server}, timeout=2) except: print('connect failed' + ip) else: # print('success' + server) t += 1 print('success' + str(re.findall('(.*?)', str(r.text)))) print(str(t))
阅读全文
0 0
- python验证IP代理是否可用
- #如何用ping的方法验证代理IP是否可用
- 抓取西刺代理IP+验证是否可用+存储mongodb
- 从西刺代理爬取代理ip,并验证是否可用
- 怎样快速判断代理ip是否可用
- c#编写检测代理IP是否可用
- 【转】JAVA 验证代理是否可用
- 【Python脚本】-Python查找可用代理IP
- Python采集代理ip并判断是否可用和定时更新
- 测试ip是否可用(ip代理时)
- c# 快速验证代理IP是否有用
- c# 快速验证代理IP是否有用
- c# 快速验证代理IP是否有用
- c# 快速验证代理IP是否有用
- python 爬取西刺免费代理ip 并使用telnetlib.Telnet验证是否有效
- 批量检查代理ip是否可用 curl-multi php检测ip代理是否有效
- python:代理ip获取,验证,使用
- 移动可用代理ip
- 老司机教你如何优雅地完成一个小项目测试
- 继承相关面试题
- WebSocket
- 最大字段和
- main方法的一些小细节
- python验证IP代理是否可用
- PAT1007 素数对猜想
- git clone出现错误:(gnome-ssh-askpass:3530): Gtk-WARNING **: cannot open display: 然后求解决方案?
- Android微信支付集成和踩过的坑
- Oracle导入导出命令和相关介绍
- 《Effective C++》条款08
- MyEclipse中将普通Java项目convert(转化)为Maven项目
- opencv学习——简单阈值二值化
- 仿扫一扫实现拍摄框内的照片