PHP抓取網(wǎng)頁的方法有:1、file()函數(shù);2、file_get_contents()函數(shù);3、fopen()->fread()->fclose模式;4、curl方式;5、fsockopen()函數(shù)。
本文操作環(huán)境:windows10系統(tǒng)、php 7.1、thinkpad t480電腦。
我們在進行開發(fā)工作的時候通常會需要抓取一些網(wǎng)頁文件,通常情況下我們都是使用PHP模擬瀏覽器的訪問,通過http請求訪問url地址, 然后得到html源代碼或者xml數(shù)據(jù)。但是我們在拿到數(shù)據(jù)后并不能直接輸出,往往需要對內(nèi)容進行提取,然后再進行格式化,以更加友好的方式將數(shù)據(jù)顯現(xiàn)出來。
下面我們簡單說一下php抓取頁面的幾種方法及原理:
一、 PHP抓取頁面的主要方法:
1. file()函數(shù)
2. file_get_contents()函數(shù)
3. fopen()->fread()->fclose()模式
4.curl方式
5. fsockopen()函數(shù) socket模式
二、PHP解析html或xml代碼主要方式:
1、file()函數(shù)
<?php //定義url $url='http://t.qq.com'; //fiel函數(shù)讀取內(nèi)容數(shù)組 $lines_array=file($url); //拆分數(shù)組為字符串 $lines_string=implode('',$lines_array); //輸出內(nèi)容,嘿嘿,大家也可以保存在自己的服務(wù)器上 echo $lines_string;
2、file_get_contents()函數(shù)
使用file_get_contents和fopen必須空間開啟allow_url_fopen。方法:編輯php.ini,設(shè)置 allow_url_fopen = On,allow_url_fopen關(guān)閉時fopen和file_get_contents都不能打開遠程文件。
<?php //定義url $url='http://t.qq.com'; //file_get_contents函數(shù)遠程讀取數(shù)據(jù) $lines_string=file_get_contents($url); //輸出內(nèi)容,嘿嘿,大家也可以保存在自己的服務(wù)器上 echo htmlspecialchars($lines_string);
3、fopen()->fread()->fclose()模式
<?php //定義url $url='http://t.qq.com'; //fopen以二進制方式打開 $handle=fopen($url,"rb"); //變量初始化 $lines_string=""; //循環(huán)讀取數(shù)據(jù) do{ $data=fread($handle,1024); if(strlen($data)==0) { break; } $lines_string.=$data; }while(true); //關(guān)閉fopen句柄,釋放資源 fclose($handle); //輸出內(nèi)容,嘿嘿,大家也可以保存在自己的服務(wù)器上 echo $lines_string;
4、curl方式
使用curl必須空間開啟curl。方法:windows下修改php.ini,將extension=php_curl.dll前面的分號去掉,而且需 要拷貝ssleay32.dll和libeay32.dll到C:WINDOWSsystem32下;Linux下要安裝curl擴展。
<?php // 創(chuàng)建一個新cURL資源 $url='http://t.qq.com'; $ch=curl_init(); $timeout=5; // 設(shè)置URL和相應(yīng)的選項 curl_setopt($ch, CURLOPT_URL, $url); curl_setopt($ch, CURLOPT_RETURNTRANSFER, 1); curl_setopt($ch, CURLOPT_CONNECTTIMEOUT, $timeout); // 抓取URL $lines_string=curl_exec($ch); // 關(guān)閉cURL資源,并且釋放系統(tǒng)資源 curl_close($ch); //輸出內(nèi)容,嘿嘿,大家也可以保存在自己的服務(wù)器上 echo $lines_string;
5、fsockopen()函數(shù) socket模式
socket模式能否正確執(zhí)行,也跟服務(wù)器的設(shè)置有關(guān)系,具體可以通過phpinfo查看服務(wù)器開啟了哪些通信協(xié)議。
<?php $fp = fsockopen("t.qq.com", 80, $errno, $errstr, 30); if (!$fp) { echo "$errstr ($errno)<br />n"; } else { $out = "GET / HTTP/1.1rn"; $out .= "Host: t.qq.comrn"; $out .= "Connection: Closernrn"; fwrite($fp, $out); while (!feof($fp)) { echo fgets($fp, 128); } fclose($fp); }
PHP中文網(wǎng)17期線上班正式開班了(php培訓)!熱愛PHP編程的小伙伴們趕緊報名參加吧!