Jsoup——爬虫工具的使用

官方API:https://jsoup.org/apidocs/overview-summary.html
加载插件：org.jsoup:jsoup:1.11.1（版本1.11.1）

基本步骤

1.加载源数据取得Document对象
2.选择元素
3.提取数据
加载
在Connect 接口中，定义了很多接口，用于发送各种请求。
例：发送简单的get

 Document doc = Jsoup.connect("http://www.baidu.com").get();

发送简单的post

Document doc = Jsoup.connect("http://example.com")                .data(Map m)                .userAgent("Mozilla")                .cookie("auth", "token")                .timeout(3000)                .post();

在请求发送成功后会得到Document 对象，进行下一步操作
当然还可以通过加载其他源，如html文件的String类型,本地的html文件，使用pase()方法即可。如：Document doc = Jsoup.parse(“E:\index.html”);
过滤元素
元素的查找

  通过id：   getElementById(String id)  通过 标签：   getElementsByTag(String tag)  通过class名： getElementsByClass(String className)  通过属性： getElementsByAttribute(String key) (and related methods)  通过节点 ： 所有兄弟节点siblingElements(),第一个 firstElementSibling(), 最后一个lastElementSibling();下一个 nextElementSibling(),上一个 previousElementSibling()，父节点parent(), 子节点children(), 第?个子节点child(int index)

例

//因为id是唯一的，所以通过id查找得到的是Element，而通过其他的得到的时Elements，需要对其遍历 Element idel = doc.getElementById("loginForm"); Elements inputElements = idel.getElementsByTag("input");    for (Element inputElement : inputElements) {            String key = inputElement.attr("name");            String value = inputElement.attr("value");            System.out.println("Param name: "+key+" \nParam value: "+value);        }     

当然，还可以通过选择器Selector，更加精确的查找元素
常用的

     tagname: 通过标签查找元素，比如：a     ns|tag: 通过标签在命名空间查找元素，比如：可以用 fb|name 语法来查找 <fb:name> 元素     #id: 通过ID查找元素，比如：#logo     .class: 通过class名称查找元素，比如：.masthead     [attribute]: 利用属性查找元素，比如：[href]     [^attr]: 利用属性名前缀来查找元素，比如：可以用[^data-] 来查找带有HTML5 Dataset属性的元素     [attr=value]: 利用属性值来查找元素，比如：[width=500]     //使用正则表达式     [attr~=regex]: 利用属性值匹配正则表达式来查找元素，比如： img[src~=(?i)\.(png|jpe?g)]     *: 这个符号将匹配所有元素  //组合使用     el#id: 元素+ID，比如： div#logo     el.class: 元素+class，比如： div.masthead     el[attr]: 元素+class，比如： a[href]     任意组合，比如：a[href].highlight     ancestor child: 查找某个元素下子元素，比如：可以用.body p 查找在"body"元素下的所有 p元素     parent > child: 查找某个父元素下的直接子元素，比如：可以用div.content > p 查找 p 元素，也可以用body > * 查找body标签下所有直接子元素     siblingA + siblingB: 查找在A元素之前第一个同级元素B，比如：div.head + div     siblingA ~ siblingX: 查找A元素之前的同级X元素，比如：h1 ~ p     el, el, el:多个选择器组合，查找匹配任一选择器的唯一元素，例如：div.masthead, div.logo     //使用伪选择器selectors     :lt(n): 查找哪些元素的同级索引值（它的位置在DOM树中是相对于它的父节点）小于n，比如：td:lt(3) 表示小于三列的元素     :gt(n):查找哪些元素的同级索引值大于n，比如： div p:gt(2)表示哪些div中有包含2个以上的p元素     :eq(n): 查找哪些元素的同级索引值与n相等，比如：form input:eq(1)表示包含一个input标签的Form元素     :has(seletor): 查找匹配选择器包含元素的元素，比如：div:has(p)表示哪些div包含了p元素     :not(selector): 查找与选择器不匹配的元素，比如： div:not(.logo) 表示不包含 class=logo 元素的所有 div 列表     :contains(text): 查找包含给定文本的元素，搜索不区分大不写，比如： p:contains(jsoup)     :containsOwn(text): 查找直接包含给定文本的元素     :matches(regex): 查找哪些元素的文本匹配指定的正则表达式，比如：div:matches((?i)login)     :matchesOwn(regex): 查找自身包含文本匹配指定正则表达式的元素     注意：上述伪选择器索引是从0开始的，也就是说第一个元素索引值为0，第二个元素index为1等

提取数据
一般也就是节点的属性值，文本值等
常用的方法

   //获取页面数据   title()  //元素数据获取和设置     attr(String key)获取属性     attr(String key, String value)设置属性     text()获取文本内容     text(String value) 设置文本内容     attributes()获取所有属性     id(), className() and classNames()     html()获取元素内HTMLhtml(String value)设置元素内的HTML内容     outerHtml()获取元素外HTML内容     data()获取数据内容（例如：script和style标签)     tag() and tagName()

例：抓取节点id为main下所有图片

Document doc = Jsoup.connect("http://www.xxx.com").get();Element ls = doc.getElementById("main");Elements imgs= ls.select("img");            for (Element pic: imgs){                System.out.println("src : " + pic.attr("src"));                System.out.println("alt : " + pic.attr("alt"));            }