php獲取網頁內容方法總結

        用php抓取頁面的內容在實際的開發當中是非常有用的，如作一個簡單的內容採集器，提取網頁中的部分內容等等
        抓取到的內容在通過正則表達式做一下過濾就得到了你想要的內容，至於如何用正則表達式過濾，在這裏就不做介紹了，有興趣的，以下就是幾種常用的用php抓取網頁中的內容的方法。

首先舉個自己做過的例子：這個例子是調用大衆點評的接口數據 返回的是XML的數據

$api = 'http://api.dianping.com/Promo.svc/search?'; //接口地址
$param = array(
    'cityid'    =>'1',
    //'shoptype'    =>'',
    //'keyword'     =>'',
    //'categoryID'  =>'',
    //'regionid'    =>'',
    'type'      =>'0',
    //'range'       =>'',
    //'order'       =>'',
    //'lat'         =>'',
    //'lng'         =>'',
    //'distance'    =>'',
    //'page'        =>'',
      'maxrows'     =>'5',
      'apikey'      =>'xxxxxxxxxxx',
); //這個就是該接口需要的三個參數。
$query = http_build_query($param);//把參數生成格式
$url=$api.$query;//合併成最後URL

//$content=file_get_contents($url);
$contents=file($url); //獲得頁面的源代碼
//print_r($contents);
//echo "<hr/>";
$content=$contents[0];
$xml = simplexml_load_string($content);
$lists=$xml ->Promos->Promo;

$api = 'http://api.dianping.com/Promo.svc/search?'; //接口地址 $param = array( 'cityid' =>'1', //'shoptype' =>'', //'keyword' =>'', //'categoryID' =>'', //'regionid' =>'', 'type' =>'0', //'range' =>'', //'order' =>'', //'lat' =>'', //'lng' =>'', //'distance' =>'', //'page' =>'', 'maxrows' =>'5', 'apikey' =>'xxxxxxxxxxx', ); //這個就是該接口需要的三個參數。 $query = http_build_query($param);//把參數生成格式 $url=$api.$query;//合併成最後URL //$content=file_get_contents($url); $contents=file($url); //獲得頁面的源代碼 //print_r($contents); //echo "<hr/>"; $content=$contents[0]; $xml = simplexml_load_string($content); $lists=$xml ->Promos->Promo;

這樣獲得內容！

下面是常用的獲取頁面的內容的方法 

1.file_get_contents
PHP代碼 

<?php
$url = "http://www.jb51.net";
$contents = file_get_contents($url);
//如果出現中文亂碼使用下面代碼
//$getcontent = iconv("gb2312", "utf-8",$contents);
echo $contents;
?>

<?php $url = "http://www.jb51.net"; $contents = file_get_contents($url); //如果出現中文亂碼使用下面代碼 //$getcontent = iconv("gb2312", "utf-8",$contents); echo $contents; ?>

2.curl
PHP代碼 

<?php
$url = "http://www.jb51.net";
$ch = curl_init();
$timeout = 5;
curl_setopt($ch, CURLOPT_URL, $url);
curl_setopt($ch, CURLOPT_RETURNTRANSFER, 1);
curl_setopt($ch, CURLOPT_CONNECTTIMEOUT, $timeout);
//在需要用戶檢測的網頁裏需要增加下面兩行
//curl_setopt($ch, CURLOPT_HTTPAUTH, CURLAUTH_ANY);
//curl_setopt($ch, CURLOPT_USERPWD, US_NAME.":".US_PWD);
$contents = curl_exec($ch);
curl_close($ch);
echo $contents;
?>

<?php $url = "http://www.jb51.net"; $ch = curl_init(); $timeout = 5; curl_setopt($ch, CURLOPT_URL, $url); curl_setopt($ch, CURLOPT_RETURNTRANSFER, 1); curl_setopt($ch, CURLOPT_CONNECTTIMEOUT, $timeout); //在需要用戶檢測的網頁裏需要增加下面兩行 //curl_setopt($ch, CURLOPT_HTTPAUTH, CURLAUTH_ANY); //curl_setopt($ch, CURLOPT_USERPWD, US_NAME.":".US_PWD); $contents = curl_exec($ch); curl_close($ch); echo $contents; ?>

3.fopen->fread->fclose
PHP代碼 

<?php
$handle = fopen ("http://www.jb51.net", "rb");
$contents = "";
do {
$data = fread($handle, 1024);
if (strlen($data) == 0) {
break;
}
$contents .= $data;
} while(true);
fclose ($handle);
echo $contents;
?>

<?php $handle = fopen ("http://www.jb51.net", "rb"); $contents = ""; do { $data = fread($handle, 1024); if (strlen($data) == 0) { break; } $contents .= $data; } while(true); fclose ($handle); echo $contents; ?>

 

注：
1.使用file_get_contents和fopen必須空間開啓allow_url_fopen。方法：編輯php.ini，設置 allow_url_fopen = On，allow_url_fopen關閉時fopen和file_get_contents都不能打開遠程文件。
2.使用curl必須空間開啓curl。方法：windows下修改php.ini，將extension=php_curl.dll前面的分號去掉，而且需要拷貝ssleay32.dll和libeay32.dll到C:/WINDOWS/system32下；Linux下要安裝curl擴展。

 

點擊查看原文