远程抓取图片

来源:互联网 发布:车牌选号软件 编辑:程序博客网 时间:2024/05/17 21:47
/**
 * 远程抓取图片类
 */
class download_image{
    
    //抓取图片的保存地址
    public $save_path;
    //抓取图片的大小限制单位字节,比size限制大的图片
    public $img_size = 0;
    //定义静态数组,记录曾经抓取过的超链接地址,避免重复抓取
    public static $a_url_arr = array();
    
    public function __construct($save_path, $img_size){
        $this->save_path = $save_path;
        $this->img_size =  $img_size;
    }
    
    /**
     * 递归下载抓取首页及其子页面图片的方法
     * $capture_url抓取图片的网址
     */
    public function recursive_download_images($capture_url){
        //没有抓取过
        if(!in_array($capture_url, self::$a_url_arr)){
            //放入静态数组
            self::$a_url_arr[] = $capture_url;
        }else{
            //抓取过,直接退出函数
            return;
        }
        //下载当前页面的所有图片
        $this->download_current_page_images($capture_url);
        //用@屏蔽掉因为抓取地址无法读取导致的warning错误
        $content = @file_get_contents($capture_url);
        
        //匹配a标签href属性中?之前部分的正则
        $a_pattern = "|<a[^>]+href=['\" ]?([^ '\"?]+)['\" >]|U";
        preg_match_all($a_pattern, $content, $a_out, PREG_SET_ORDER);
        
        //定义一个数组,用于存放当前循环下抓取图片的超链接地址
        $tmp_arr = array();
        foreach($a_out as $k=>$v){
            /**
             * 去除超链接中的空、#、/和重复值
             * 1.超链接地址的值,不能等于当前抓取页面的url,否则会陷入死循环
             * 2.超链接为‘’或者‘#’,‘/’也是本页面,这样会陷入死循环
             * 3.有时一个超链接地址在一个网页中会重复出现多次,如果不去除,会对一个子页面进行重复下载
             */
            if($v[1] && !in_array($v[1],self::$a_url_arr) && !in_array($v[1],array('#','/',$capture_url))){
                $tmp_arr[] = $v[1];
            }
        }
        
        foreach($tmp_arr as $k=>$v){
            //超链接路径地址,如果url包含http://可以直接访问
            if(strpos($v, 'http://') !== false){
                $a_url = $v;
            }else{
                //否则证明是相对地址,需要重新拼凑超链接访问地址
                $domain_url = substr($capture_url, 0, strpos($capture_url, '/', 8)+1);
                $a_url = $domain_url.$v;
            }
            $this->recursive_download_images($a_url);
        }
    }
    
    
    /**
     * 下载当前网页下的所有图片
     */
    public function download_current_page_images($capture_url){
        //屏蔽warning错误
        $content = @file_get_contents($capture_url);
        //匹配img标签src属性中?之前部分的正则
        $img_pattern = "|<img[^>]+src=['\" ]?([^ '\"?]+)['\" >]|U";
        preg_match_all($img_pattern, $content, $img_out, PREG_SET_ORDER);
        
        $photo_num = count($img_out);
        //匹配到的图片数量
        echo '<h1>'.$capture_url."共找到 ".$photo_num." 张图片</h1>";
        foreach($img_out as $k=>$v){
            $this->save_one_img($capture_url, $v[1]);
        }
    }
    
    /*
     * 保存单个图片的方法
     * 用于抓取图片的网页地址,需要保存的图片的url
     */
    public function save_one_img($capture_url, $img_url){
        //图片路径地址
        if(strpos($img_url, 'http://')!== false){
            
        }else{
            $domain_url = substr($capture_url, 0, strpos($capture_url, '/', 8)+1);
            $img_url = $domain_url.$img_url;
        }
        //获取图片路径信息
        $pathinfo = pathinfo($img_url);
        //获取图片的名字
        $pic_name = $pathinfo['basename'];
        //如果图片存在,证明已经被抓取过,退出函数
        if(file_exists($this->save_path.$pic_name)){
            echo $img_url.'<span style="color:red;margin-left:80px">该图片已经抓取过!</span><br/>';
            return;
        }
        //将图片内容读入一个字符串
        //屏蔽掉因为图片地址无法读取导致的warning错误
        //下载size比限制大的图片
        $img_data = @file_get_contents($img_url);
        if(strlen($img_data) > $this->img_size){
            $img_size = file_put_contents($this->save_path.$pic_name,$img_data);
            if($img_size){
                echo $img_url.'<span style="color:green;margin-left:80px">图片保存成功!</span><br/>';
            }else{
                echo $img_url.'<span style="color:red;margin-left:80px">图片保存失败!</span><br/>';
            }
        }else{
            echo $img_url.'<span style="color:red;margin-left:80px">图片读取失败!</span><br/>';
        }
        
    }
}
//设置脚本的最大执行时间
set_time_limit(120);
//实例化下载图片对象
$download_img = new download_image('E:/images/', 0);
// $download_img->recursive_download_images("http://www.nipic.com");
$download_img->download_current_page_images("http://www.itcast.cn/subject/pythonzly/index.shtml?from=160607a9");


0 0
原创粉丝点击