php遠程抓取網站圖片並保存

/**
 * 一個用於抓取圖片的類
 */
class download_image{
    //抓取圖片的保存地址
    public $save_path;
    //抓取圖片的大小限制(單位:字節) 只抓比size比這個限制大的圖片
    public $img_size=0;
    //定義一個靜態數組,用於記錄曾經抓取過的的超鏈接地址,避免重複抓取       
    public static $a_url_arr=array();   
    /**
     * @param String $save_path    抓取圖片的保存地址
     * @param Int    $img_size     抓取圖片的保存地址
     */
    public function __construct($save_path,$img_size){
        $this->save_path=$save_path;
        $this->img_size=$img_size;
    }

    /**
     * 遞歸下載抓取首頁及其子頁面圖片的方法  ( recursive 遞歸)
     * @param   String  $capture_url  用於抓取圖片的網址
     */
    public function recursive_download_images($capture_url){
    	//沒抓取過
        if (!in_array($capture_url,self::$a_url_arr)){
        	//計入靜態數組
            self::$a_url_arr[]=$capture_url;
        }else{
        	//抓取過,直接退出函數
            return;
        }
        //下載當前頁面的所有圖片
        $this->download_current_page_images($capture_url);
        //用@屏蔽掉因爲抓取地址無法讀取導致的warning錯誤
        $content=@file_get_contents($capture_url);
        //匹配a標籤href屬性中?之前部分的正則
        $a_pattern = "|<a[^>]+href=['\" ]?([^ '\"?]+)['\" >]|U";   
        preg_match_all($a_pattern, $content, $a_out, PREG_SET_ORDER);
        //定義一個數組,用於存放當前循環下抓取圖片的超鏈接地址
        $tmp_arr=array();
        foreach ($a_out as $k => $v){
            /**
             * 去除超鏈接中的 空'','#','/'和重複值  
             * 1: 超鏈接地址的值 不能等於當前抓取頁面的url, 否則會陷入死循環
             * 2: 超鏈接爲''或'#','/'也是本頁面,這樣也會陷入死循環,  
             * 3: 有時一個超連接地址在一個網頁中會重複出現多次,如果不去除,會對一個子頁面進行重複下載)
             */
            if ( $v[1] && !in_array($v[1],self::$a_url_arr) &&!in_array($v[1],array('#','/',$capture_url))){
                $tmp_arr[]=$v[1];
            }
        }
        foreach ($tmp_arr as $k => $v){            
            //超鏈接路徑地址,如果url包含http://,可以直接訪問
            if ( strpos($v, 'http://')!==false ){
                $a_url = $v;
            }else{
            	//否則證明是相對地址, 需要重新拼湊超鏈接的訪問地址
                $domain_url = substr($capture_url, 0,strpos($capture_url, '/',8)+1);
                $a_url=$domain_url.$v;
            }
            $this->recursive_download_images($a_url);
        }
    }  
    
    /**
     * 下載當前網頁下的所有圖片
     * @param   String  $capture_url  用於抓取圖片的網頁地址
     * @return  Array   當前網頁上所有圖片img標籤url地址的一個數組
     */
    public function download_current_page_images($capture_url){
    	//屏蔽warning錯誤
        $content=@file_get_contents($capture_url);
		//匹配img標籤src屬性中?之前部分的正則
		$img_pattern = "|<img[^>]+src=['\" ]?([^ '\"?]+)['\" >]|U";   
        preg_match_all($img_pattern, $content, $img_out, PREG_SET_ORDER);
		$photo_num = count($img_out);
        //匹配到的圖片數量
        echo '<h1>'.$capture_url . "共找到 " . $photo_num . " 張圖片</h1>";
        foreach ($img_out as $k => $v){
            $this->save_one_img($capture_url,$v[1]);
        }
    }

    /**
     * 保存單個圖片的方法
     * @param String $capture_url   用於抓取圖片的網頁地址
     * @param String $img_url       需要保存的圖片的url
     */
    public function save_one_img($capture_url,$img_url){      
        //圖片路徑地址
        if ( strpos($img_url, 'http://')!==false ){
            // $img_url = $img_url;
        }else{
            $domain_url = substr($capture_url, 0,strpos($capture_url, '/',8)+1);
            $img_url=$domain_url.$img_url;
        }
        //獲取圖片路徑信息
        $pathinfo = pathinfo($img_url);
        //獲取圖片的名字
        $pic_name=$pathinfo['basename'];
        //如果圖片存在,證明已經被抓取過,退出函數
        if (file_exists($this->save_path.$pic_name)){
            echo $img_url . '<span style="color:red;margin-left:80px">該圖片已經抓取過!</span><br/>'; 
            return;
        }
        //將圖片內容讀入一個字符串,屏蔽掉因爲圖片地址無法讀取導致的warning錯誤
        $img_data = @file_get_contents($img_url);
        //下載size比限制大的圖片
        if ( strlen($img_data) > $this->img_size){
            $img_size = file_put_contents($this->save_path . $pic_name, $img_data);
            if($img_size){
                echo $img_url . '<span style="color:green;margin-left:80px">圖片保存成功!</span><br/>';
            }else{
                echo $img_url . '<span style="color:red;margin-left:80px">圖片保存失敗!</span><br/>';
            }
        }else{
            echo $img_url . '<span style="color:red;margin-left:80px">圖片讀取失敗!</span><br/>';
        }
    }
}
//設置腳本的最大執行時間  根據情況設置
set_time_limit(120);   
//實例化下載圖片對象
$download_img=new download_image('E:/images/',0);
//遞歸抓取圖片方法
$download_img->recursive_download_images('http://www.xxx.com/zj/shipin');
//只抓取當前頁面圖片方法
//$download_img->download_current_page_images($_POST['capture_url']);

發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章