Java爬虫入门简介（一） —— HttpClient请求及其使用方法

原文地址：http://www.datalearner.com/blog/1051501160659926

数据是科研活动重要的基础。本系列博客将讲述如何使用Java工具获取网络的数据。

---

博客系列

Java爬虫入门简介（一） —— HttpClient请求（本文）
Java爬虫入门简介（二） —— Jsoup解析HTML页面

---

首先，我们讲述一下爬虫的基本原理。爬虫的基本原理很简单，就是利用程序访问互联网，然后将数据保存到本地中。我们都知道，互联网提供的服务大多数是以网站的形式提供的。我们需要的数据一般都是从网站中获取的，如电商网站商品信息、商品的评论、微博的信息等。爬虫和我们手动将看到的数据复制粘贴下来是类似的，只是获取大量的数据靠人工显然不太可能。因此，需要我们使用工具来帮助获取知识。使用程序编写爬虫就是使用程序编写一些网络访问的规则，将我们的目标数据保存下来。接下来，让我们开始从头搭建一个爬虫的案例。

一、环境的准备

这里的环境就是指开发环境，本博客将使用Java编写爬虫程序，因此，需要构建Java的编程环境。需要安装的软件包括（注意，我的电脑使用的是windows X64的程序，请选择对应的JDK版本，要使用8.0及以上）：
1、JDK 8.0: http://download.oracle.com/otn-pub/java/jdk/8u144-b01/090f390dda5b47b9b721c7dfaa008135/jdk-8u144-windows-x64.exe
2、IntelliJ IDEA: https://download.jetbrains.8686c.com/idea/ideaIC-2017.2.exe

JDK的安装和环境变量的配置网上有很多，就不说了。IntelliJ IDEA是个傻瓜式的安装，基本不会有问题。也不说了。

二、创建工程

安装好环境后，我们打开IntelliJ IDEA，然后创建一个Maven工程，Group Id和Artifact Id自己随便写没关系的。创建完之后我们的目录就如下图所示了。

好了，下面我们就开始编写爬虫了。

三、第一个示例

首先，假设我们需要爬取数据学习网站上第一页的博客（http://www.datalearner.com/blog ）。首先，我们需要使用maven导入HttpClient 4.5.3这个包（这是目前最新的包，你可以根据需要使用其他的版本）。那么，我们在pom.xml中添加如下语句：

<dependencies>    <dependency>        <groupId>org.apache.httpcomponents</groupId>        <artifactId>httpclient</artifactId>        <version>4.5.3</version>    </dependency></dependencies>

Java本身提供了关于网络访问的包，在java.net中，然后它不够强大。于是Apache基金会发布了开源的http请求的包，即HttpClient，这个包提供了非常多的网络访问的功能。在这里，我们也是使用这个包来编写爬虫。好了，使用pom.xml下载完这个包之后我们就可以开始编写我们的第一个爬虫例子了。其代码如下（注意，我们的程序是建立在test包下面的，因此，需要在这个包下才能运行）：

package test;import org.apache.http.HttpEntity;import org.apache.http.client.methods.CloseableHttpResponse;import org.apache.http.client.methods.HttpGet;import org.apache.http.impl.client.CloseableHttpClient;import org.apache.http.impl.client.HttpClients;import org.apache.http.util.EntityUtils;import java.io.IOException;/** * 第一个爬虫测试 * Created by DuFei on 2017/7/27. */public class FirstTest {  public static void main(String[] args) {    //建立一个新的请求客户端    CloseableHttpClient httpClient = HttpClients.createDefault();    //使用HttpGet方式请求网址    HttpGet httpGet = new HttpGet("http://www.datalearner.com/blog");    //获取网址的返回结果    CloseableHttpResponse response = null;    try {      response = httpClient.execute(httpGet);    } catch (IOException e) {      e.printStackTrace();    }    //获取返回结果中的实体    HttpEntity entity = response.getEntity();    //将返回的实体输出    try {      System.out.println(EntityUtils.toString(entity));      EntityUtils.consume(entity);    } catch (IOException e) {      e.printStackTrace();    }  }}

如上面的代码所示，爬虫的第一步需要构建一个客户端，即请求端，我们这里使用CloseableHttpClient作为我们的请求端，然后确定使用哪种方式请求什么网址，再然后使用HttpResponse获取请求的地址对应的结果即可。最后取出HttpEntity转换一下就可以得到我们请求的网址对应的内容了。上述程序对应的输出如下图所示：

显然，这就是我们需要的网址对应的页面的源代码。于是我们的第一个爬虫就成功的将网门需要的页面的内容下载下来了。

四、HttpClient的详细使用

在上篇博客里面，我们讲述了如何使用HttpClient请求一个简单的网页。但是，在实际中，有很多网页的请求需要附带许多参数设置。主要包括请求的Header设置以及路径参数。在HttpClient 4.3及以上的版本中，这个过程主要包含如下步骤：

使用List<NameValuePair>添加路径参数（请求参数）使用URI对请求路径及其参数进行设置使用List<Header>设置请求的头部初始化自定义的HttpClient客户端，并设置头部使用HttpUriRequest设置请求使用HttpClient请求上述步骤中的HttpUriRequest对象

我们看一个代码示例

import com.google.common.collect.Lists;import org.apache.http.Header;import org.apache.http.HttpHeaders;import org.apache.http.HttpResponse;import org.apache.http.NameValuePair;import org.apache.http.client.HttpClient;import org.apache.http.client.methods.HttpUriRequest;import org.apache.http.client.methods.RequestBuilder;import org.apache.http.client.utils.URIBuilder;import org.apache.http.impl.client.HttpClients;import org.apache.http.message.BasicHeader;import org.apache.http.message.BasicNameValuePair;import java.io.IOException;import java.net.URI;import java.net.URISyntaxException;import java.util.List;/************ * HttpClient 使用示例 * ***********/public class HttpClientTest {  public static void main(String[] args) throws URISyntaxException, IOException {    String url = "";    //请求路径    //构造路径参数    List<NameValuePair> nameValuePairList = Lists.newArrayList();    nameValuePairList.add(new BasicNameValuePair("username","test"));    nameValuePairList.add(new BasicNameValuePair("password","password"));    //构造请求路径，并添加参数    URI uri = new URIBuilder(url).addParameters(nameValuePairList).build();    //构造Headers    List<Header> headerList = Lists.newArrayList();    headerList.add(new BasicHeader(HttpHeaders.ACCEPT_ENCODING,"gzip, deflate"));    headerList.add(new BasicHeader(HttpHeaders.CONNECTION, "keep-alive"));    //构造HttpClient    HttpClient httpClient = HttpClients.custom().setDefaultHeaders(headerList).build();    //构造HttpGet请求    HttpUriRequest httpUriRequest = RequestBuilder.get().setUri(uri).build();    //获取结果    HttpResponse httpResponse = httpClient.execute(httpUriRequest);    //获取返回结果中的实体    HttpEntity entity = httpResponse.getEntity();    //查看页面内容结果    String rawHTMLContent = EntityUtils.toString(entity);    System.out.println(rawHTMLContent);    //关闭HttpEntity流    EntityUtils.consume(entity);  }}

这种方式可以使我们一次性构造一个统一头部的HttpClient，后面所有的请求都可以使用带有这个Headers的HttpClient。非常简单方便。

关于下载的网页如何解析，转换成结构化数据，请看下一篇博客。

---

博客系列

Java爬虫入门简介（一） —— HttpClient请求（本文）
Java爬虫入门简介（二） —— Jsoup解析HTML页面

---