相信很多人做大批量數據導出和數據導入的時候,經常會遇到PHP內存溢出的問題,在解決了問題之後,總結了一些經驗,整理成文章記錄下。
優化點
- 優化SQL語句,避免慢查詢,合理的建立索引,查詢指定的字段,sql優化這塊在此就不展開了。
- 查詢的結果集爲大對象時轉數組處理,框架中一般有方法可以轉,如Laravel中有toArray(),Yii2中有asArray()。
- 對於大數組進行數據切割處理,PHP函數有array_chunk()、array_slice()。
- 對於大型的字符串和對象,使用引用傳遞&。
- 用過的變量及時unset。
- 導出的文件格式由excel改爲csv
- ini_set('memory_limit',''),設置程序可以使用的內存(不建議這樣做)。
思考
內存管理
PHP的內存什麼怎麼管理的呢? 在學C語言時,開發者是需要手動管理內存。在PHP中,Zend引擎提供爲了處理請求相關數據提供了一種特殊的內存管理器。請求相關數據是隻需要服務單個請求,最遲會在請求結束時釋放數據。
防止內存泄漏並儘可能快地釋放所有內存是內存管理的重要組成部分。因爲安全原因,Zend引擎會釋放所有上面提到的API鎖分配的內存。
垃圾回收機制
簡單說下:
PHP5.3之前,採用引用計數的方式管理。PHP中的變量存在zval的變量容器中,變量被引用的時,引用計數+1,變量引用計數爲0時,PHP將在內存中銷燬這個變量。但是在引用計數循環引用時,引用計數就不會消減爲0,導致內存泄漏。
PHP5.3之後做了優化,並不是每次引用計數減少都進入回收週期,只有根緩衝區滿額後纔開始進行垃圾回收,這樣可以解決循環引用的問題,也可以將總內存泄漏保持在一個閾值之下。
代碼
由於使用phpexcel時經常會遇到內存溢出,下面分享一段生成csv文件的代碼:
<?php
namespace api\service;
class ExportService
{
public static $outPutFile = '';
/**
* 導出文件
* @param string $fileName
* @param $data
* @param array $formFields
* @return mixed
*/
public static function exportData($fileName = '', $data, $formFields = [])
{
$fileArr = [];
$tmpPath = \Yii::$app->params['excelSavePath'];
foreach (array_chunk($data, 10000) as $key => $value) {
self::$outPutFile = '';
$subject = !empty($fileName) ? $fileName : 'data_';
$subject .= date('YmdHis');
if (empty($value) || empty($formFields)) {
continue;
}
self::$outPutFile = $tmpPath . $subject . $key . '.csv';
if (!file_exists(self::$outPutFile)) {
touch(self::$outPutFile);
}
$index = array_keys($formFields);
$header = array_values($formFields);
self::outPut($header);
foreach ($value as $k => $v) {
$tmpData = [];
foreach ($index as $item) {
$tmpData[] = isset($v[$item]) ? $v[$item] : '';
}
self::outPut($tmpData);
}
$fileArr[] = self::$outPutFile;
}
$zipFile = $tmpPath . $fileName . date('YmdHi') . '.zip';
$zipRes = self::zipFile($fileArr, $zipFile);
return $zipRes;
}
/**
* 向文件寫入數據
* @param array $data
*/
public static function outPut($data = [])
{
if (is_array($data) && !empty($data)) {
$data = implode(',', $data);
file_put_contents(self::$outPutFile, iconv("UTF-8", "GB2312//IGNORE", $data) . PHP_EOL, FILE_APPEND);
}
}
/**
* 壓縮文件
* @param $sourceFile
* @param $distFile
* @return mixed
*/
public static function zipFile($sourceFile, $distFile)
{
$zip = new \ZipArchive();
if ($zip->open($distFile, \ZipArchive::CREATE) !== true) {
return $sourceFile;
}
$zip->open($distFile, \ZipArchive::CREATE);
foreach ($sourceFile as $file) {
$fileContent = file_get_contents($file);
$file = iconv('utf-8', 'GBK', basename($file));
$zip->addFromString($file, $fileContent);
}
$zip->close();
return $distFile;
}
/**
* 下載文件
* @param $filePath
* @param $fileName
*/
public static function download($filePath, $fileName)
{
if (!file_exists($filePath . $fileName)) {
header('HTTP/1.1 404 NOT FOUND');
} else {
//以只讀和二進制模式打開文件
$file = fopen($filePath . $fileName, "rb");
//告訴瀏覽器這是一個文件流格式的文件
Header("Content-type: application/octet-stream");
//請求範圍的度量單位
Header("Accept-Ranges: bytes");
//Content-Length是指定包含於請求或響應中數據的字節長度
Header("Accept-Length: " . filesize($filePath . $fileName));
//用來告訴瀏覽器,文件是可以當做附件被下載,下載後的文件名稱爲$file_name該變量的值
Header("Content-Disposition: attachment; filename=" . $fileName);
//讀取文件內容並直接輸出到瀏覽器
echo fread($file, filesize($filePath . $fileName));
fclose($file);
exit();
}
}
}
調用處代碼
$fileName = "庫存導入模板";
$stockRes = []; // 導出的數據
$formFields = [
'store_id' => '門店ID',
'storeName' => '門店名稱',
'sku' => 'SKU編碼',
'name' => 'SKU名稱',
'stock' => '庫存',
'reason' => '原因'
];
$fileRes = ExportService::exportData($fileName, $stockRes, $formFields);
$tmpPath = \Yii::$app->params['excelSavePath']; // 文件路徑
$fileName = str_replace($tmpPath, '', $fileRes);
// 下載文件
ExportService::download($tmpPath, $fileName);
以上內容希望幫助到大家,更多PHP大廠PDF面試文檔,PHP進階架構視頻資料,PHP精彩好文免費獲取可以微信搜索關注公衆號:PHP開源社區,或者訪問: