【轉】用php抓取網頁內容方法總結

用php 抓取頁面的內容在實際的開發當中是非常有用的，如作一個簡單的內容採集器，提取網頁中的部分內容等等，抓取到的內容在通過正則表達式做一下過濾就得到了你想要的內容，至於如何用正則表達式過濾，在這裏就不做介紹了，有興趣的同學可以參考本站的《正則表達式》板塊：http://phpzixue.cn/articles11.shtml ，以下就是幾種常用的用php抓取網頁中的內容的方法。
1.file_get_contents
PHP代碼

2. $url = "http://www.phpzixue.cn ";
3. $contents = file_get_contents($url);
4. //如果出現中文亂碼使用下面代碼
5. //$getcontent = iconv("gb2312", "utf-8",$contents);
6. echo $contents;
7. ?>

2.curl
PHP代碼

2. $url = "http://www.phpzixue.cn ";
3. $ch = curl_init();
4. $timeout = 5;
5. curl_setopt($ch, CURLOPT_URL, $url);
6. curl_setopt($ch, CURLOPT_RETURNTRANSFER, 1);
7. curl_setopt($ch, CURLOPT_CONNECTTIMEOUT, $timeout);
8. //在需要用戶檢測的網頁裏需要增加下面兩行
9. //curl_setopt($ch, CURLOPT_HTTPAUTH, CURLAUTH_ANY);
10. //curl_setopt($ch, CURLOPT_USERPWD, US_NAME.":".US_PWD);
11. $contents = curl_exec($ch);
12. curl_close($ch);
13. echo $contents;
14. ?>

3.fopen->fread->fclose
PHP代碼

2. $handle = fopen ("http://www.phpzixue.cn ", "rb");
3. $contents = "";
4. do {
5. $data = fread($handle, 1024);
6. if (strlen($data) == 0) {
7. break;
8. }
9. $contents .= $data;
10. } while(true);
11. fclose ($handle);
12. echo $contents;
13. ?>

注：
1. 使用file_get_contents和fopen必須空間開啓allow_url_fopen。方法：編輯php.ini，設置 allow_url_fopen = On，allow_url_fopen關閉時fopen和file_get_contents都不能打開遠程文件。
2.使用curl必須空間開啓curl。方法：windows下修改php.ini，將extension=php_curl.dll前面的分號去掉，而且需要拷貝ssleay32.dll和libeay32.dll到C:/WINDOWS/system32下；Linux 下要安裝curl擴展。