如何判断一个网页是不是动态页面

来源:互联网 发布:软件编程教学 编辑:程序博客网 时间:2024/05/28 17:04

如果你需要爬取的数据是放在js里面的,那么就是动态,需要用selenium等工具抓取。

跑下面的代码,就会把网页上所有元素都打印出来。ctrl+F搜索一下,如果要找的元素在一个js object里面,就说明是动态获取到的。

import requestsfrom bs4 import BeautifulSoupurl = "xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx"response = requests.get(url)soup = BeautifulSoup(response.text,'lxml')print(soup.prettify())

0 0