python学习笔记:使用requests库发送get与post请求
来源:互联网 发布:淘宝网玉手镯 编辑:程序博客网 时间:2024/06/07 19:04
最近看的爬虫视频是用的python2的,之前的urlib2在Python3中已不支持,一般用的都是requests库。
对于普通网页的静态数据,直接使用beautifulsoup与requests库就可以进行提取,而对于某些动态数据,需要用别的方法,今天说的是发送post请求获取表单数据。
网站url:http://shuju.wdzj.com/plat-info-91.html
在点击右边栏时会在网页中间显示柱形数据图:
分析网络活动发现请求是以post形式提交的:
提交的表单数据:
代码如下
import requestsurl='http://shuju.wdzj.com/plat-info-target.html'#使用requests发送get请求,一般用于静态内容wb_data=requests.get(url)from bs4 import BeautifulSoupsoup=BeautifulSoup(wb_data.text,'lxml')print(soup)#此处以get请求只能得到空网页#使用requests发送post请求,一般用于动态内容form_data={'wdzjPlatId':91,'type':3,'target1':17,'target2':1}data=requests.post(url,form_data).textprint(data)
阅读全文
0 0
- python学习笔记:使用requests库发送get与post请求
- Python -- 使用requests模块发送GET和POST请求
- Python 使用requests发送POST请求
- python 使用requests 实现 post 和get请求
- Python发送get,post请求
- Python Requests-学习笔记(1)-定制请求头和POST
- python 使用urllib2发送get请求和post请求
- Android笔记---使用HttpClient发送POST和GET请求
- Http学习之使用HttpURLConnection发送post和get请求
- Http学习之使用HttpURLConnection发送post和get请求
- Http学习之使用HttpURLConnection发送post和get请求
- Http学习之使用HttpURLConnection发送post和get请求
- Http学习之使用HttpURLConnection发送post和get请求
- Http学习之使用HttpURLConnection发送post和get请求
- Http学习之使用HttpURLConnection发送post和get请求
- Http学习之使用HttpURLConnection发送post和get请求
- Http学习之使用HttpURLConnection发送post和get请求 .
- Http学习之使用HttpURLConnection发送post和get请求
- 二叉树--判断一棵树是否是完全二叉树
- 安装eclipse并配置环境tomcat,总之让它跑起来
- JAVA-EE表单file文件的简单应用
- Unicode and ANSI
- 2017.7.27
- python学习笔记:使用requests库发送get与post请求
- 17.7.27 日记
- 2017 Multi-University Training Contest
- Unity3D中FindGameObjectsWithTag的排序问题
- 关于面向对象的个人看法0727
- CSS基本属性用法(不包含代码)
- HDOJ 6047-Maximum Sequence
- 在创建实例变量的时候用Set,List,Map等接口声明类型而不是用具体的子类声明的原因之代码重构
- if-else结构语句和switch结构语句