php获取网页内容方法总结

来源:互联网 发布:淘宝图片下载工具 编辑:程序博客网 时间:2024/04/29 22:18

用php抓取页面的内容在实际的开发当中是非常有用的,如作一个简单的内容采集器,提取网页中的部分内容等等

1.file_get_contents
PHP代码

<?php$url = "http://www.jb51.net";$contents = file_get_contents($url);//如果出现中文乱码使用下面代码//$getcontent = iconv("gb2312", "utf-8",$contents);echo $contents;?> 

2.curl
PHP代码

<?php$url = "http://www.jb51.net";$ch = curl_init();$timeout = 5;curl_setopt($ch, CURLOPT_URL, $url);curl_setopt($ch, CURLOPT_RETURNTRANSFER, 1);curl_setopt($ch, CURLOPT_CONNECTTIMEOUT, $timeout);//在需要用户检测的网页里需要增加下面两行//curl_setopt($ch, CURLOPT_HTTPAUTH, CURLAUTH_ANY);//curl_setopt($ch, CURLOPT_USERPWD, US_NAME.":".US_PWD);$contents = curl_exec($ch);curl_close($ch);echo $contents;?> <?php$url = "http://www.jb51.net";$ch = curl_init();$timeout = 5;curl_setopt($ch, CURLOPT_URL, $url);curl_setopt($ch, CURLOPT_RETURNTRANSFER, 1);curl_setopt($ch, CURLOPT_CONNECTTIMEOUT, $timeout);//在需要用户检测的网页里需要增加下面两行//curl_setopt($ch, CURLOPT_HTTPAUTH, CURLAUTH_ANY);//curl_setopt($ch, CURLOPT_USERPWD, US_NAME.":".US_PWD);$contents = curl_exec($ch);curl_close($ch);echo $contents;?> 

3.fopen->fread->fclose

<?php$handle = fopen ("http://www.jb51.net", "rb");$contents = "";do {$data = fread($handle, 1024);if (strlen($data) == 0) {break;}$contents .= $data;} while(true);fclose ($handle);echo $contents;?> 

注:
1.使用file_get_contents和fopen必须空间开启allow_url_fopen。方法:编辑php.ini,设置allow_url_fopen = On,allow_url_fopen关闭时fopen和file_get_contents都不能打开远程文件。
2.使用curl必须空间开启curl。方法:windows下修改php.ini,将extension=php_curl.dll前面的分号去掉,而且需要拷贝ssleay32.dll和libeay32.dll到C:\WINDOWS\system32下;Linux下要安装curl扩展。

原创粉丝点击