怎么让程序利用搜索引擎来搜集你需要的东西
来源:互联网 发布:淘宝女装图片修图手法 编辑:程序博客网 时间:2024/05/16 08:40
本文采用Java语言写成,以google和百度搜索引擎为对象。
我们要利用google、百度搜索引擎的搜索规则中的两条,关键字搜索和inurl搜索。什么是inurl搜索,就是你所要搜索的网址中本身带有的关键字,比如http://www.xxx.com/post.asp ,这个网址就含有post.asp这样的关键字,在搜索引擎中填写规则是 inurl:post.asp,这是收集网址的关键,因为很多网址本身会带有特定的信息,比如软件发布的网页网址信息中多含有 publish、submit、tuijian这样的信息,如http://www.xxx.com/publish.asp,这样的网址多是发布信息的网页,在结合网页中本身可能含有的关键字,就可以用搜索引擎搜索出结果,然后我们利用程序将结果取回,对HTML页面进行分析,去除没有用的信息,将有用的信息写入文件或者数据库,就可以给其它应用程序或者人来使用了。
第一步,用程序将搜索结果取回,先以百度为例,比如我们要搜索软件发布的网页,关键字采用 “软件发布版本 inurl:publish.asp",先登录百度看看,将关键字写入,然后提交,在地址栏就会看到 http://www.baidu.com/s?ie=gb2312&bs=%C8%ED%BC%FE%B7%A2%B2%BC+%C8%ED%BC%FE%B0%E6%B1%BE+inurl%3Apublish.asp&sr=&z=&cl=3&f=8&wd=%C8%ED%BC%FE%B7%A2%B2%BC+%B0%E6%B1%BE+inurl%3Apublish.asp&ct=0 ,中文关键字全都变成编码了,没有关系,我们在程序中直接用中文也是可以的,其中多个关键字用+号相连,去掉一些没有用的信息,我们可以把地址优化成 http://www.baidu.com/s?lm=0&si=&rn=20&ie=gb2312&ct=0& wd=软件发布+版本+inurl%3Apublish%2Easp&pn=0&cl=0,其中rn表示一页显示多少个结果,wd=表示你要搜索的关键字,pn表示从第几条开始显示,这个pn将是我们程序循环取结果的变量,每20条循环一次。我们用Java写的程序来模拟这个搜索的过程,用到的关键类为 java.net.HttpURLConnection,java.net.URL,先写一个提交搜索的class,关键代码如下:
以下是引用片段:
class Search
{
public URL url;
public HttpURLConnection http;
public java.io.InputStream urlstream;
......
for(int i=0;i++;i <100)
{
......
try {
url = new URL("www.baidu.com/s?lm=0&si=&rn=20&ie=gb2312&ct=0& wd=软件发布+版本 +inurl%3Apublish%2Easp&pn="+beginrecord+"&cl=0");
}catch(Exception ef){}
try {
http = (HttpURLConnection) url.openConnection();
http.connect();
urlstream = http.getInputStream();
}catch(Exception ef){}
class Search
{
public URL url;
public HttpURLConnection http;
public java.io.InputStream urlstream;
......
for(int i=0;i++;i <100)
{
......
try {
url = new URL("www.baidu.com/s?lm=0&si=&rn=20&ie=gb2312&ct=0& wd=软件发布+版本 +inurl%3Apublish%2Easp&pn="+beginrecord+"&cl=0");
}catch(Exception ef){}
try {
http = (HttpURLConnection) url.openConnection();
http.connect();
urlstream = http.getInputStream();
}catch(Exception ef){}
java.io.BufferedReader l_reader = new java.io. BufferedReader(new java.io.InputStreamReader(urlstream));
try {
while ((currentLine = l_reader.readLine()) != null) {
totalstring += currentLine;
}
} catch (IOException ex3) {}
....
//本次搜索的结果已经放到totalstring中了,是一些HTML代码,需要下一步进行分析了。
}
再以google为例,稍微有些不同,google对浏览器进行了一些检测,编码也不同,URL为http: //www.google.com/search?q=软件发布+版本+inurl:publish.asp&hl=zh-CN&lr= &newwindow=1&start=0&sa=N&ie=UTF-8,其中编码要用ie=UTF-8,start表示从第几条记录显示,需要注意的是google对浏览器还要检查,如果浏览器不符合它的要求,将返回错误代码,所以在模拟浏览器提交中,我们要多加一行代码,修改关键部分要将http属性中的User-Agent设置为常用的浏览器,比如Mozilla/4.0,代码如下:
以下是引用片段:
try {
http = (HttpURLConnection) url.openConnection();
http.setRequestProperty("User-Agent", "Mozilla/4.0");
http.connect();
urlstream = http.getInputStream();
}catch(Exception ef){};
try {
http = (HttpURLConnection) url.openConnection();
http.setRequestProperty("User-Agent", "Mozilla/4.0");
http.connect();
urlstream = http.getInputStream();
}catch(Exception ef){};
- 怎么让程序利用搜索引擎来搜集你需要的东西
- 微信小程序你需要知道的东西
- 让搜索引擎按你的意图来进行
- 让你的java程序飞起来
- 搜集有意义的东西
- 知道你搜索到的东西是怎么来的吗?
- 如何让浏览器调用你的程序来打开资源
- 如何让浏览器调用你的程序来打开资源
- 利用google突破各种封锁来下载你要的东西
- 利用google突破各种封锁来下载你要的东西
- 利用google突破各种封锁来下载你要的东西
- 利用google突破各种封锁来下载你要的东西【实用】
- 利用google突破各种封锁来下载你要的东西
- 利用google突破各种封锁来下载你要的东西
- 利用google突破各种封锁来下载你要的东西(转载)
- 利用google突破各种封锁来下载你要的东西
- 利用google突破各种封锁来下载你要的东西
- 利用google突破各种封锁来下载你要的东西(转自:www.vipcn.com)
- 调查显示企业IT技术员工面临短缺
- Maven入门--概念与实例
- 俄罗斯将中国挤下宝座 成为恶意软件王国
- C#Socket编程
- Debug正常 而Release模式错误问题调试(转载)
- 怎么让程序利用搜索引擎来搜集你需要的东西
- 2008年2月编程语言排名PHP第四
- PHP smarty的ubb插件实现彩字
- 转:在solaris 10 u3 x86上安装oracle 10g r2时,按照安装手册
- [转载]使用Jfreechart 在applet中画动态柱图
- java转码工具native2ascii.exe的使用方法
- utf-8和gb2312的字符编码
- 策略路由
- 松下G500数据线