本文基於http Range Requests協議,實現了分片下載的功能。
使用場景包括基於瀏覽器的流文件片段傳輸、基於客戶端的分片下載等。
原理
http通過Range Requests相關的header,可以與服務器進行協商,實現分部分的請求。
這裏就不細說具體協議內容了,具體可以參考這兩篇文章,解釋的非常詳細:
- https://tools.ietf.org/html/rfc7233
- https://www.oschina.net/translate/http-partial-content-in-node-js
下面貼一下實現過程。
服務端代碼
服務端用node實現:
const fs = require('fs');
const path = require('path');
const Koa = require('koa');
const app = new Koa();
const PATH = './resource';
app.use(async ctx => {
const file = path.join(__dirname, `${PATH}${ctx.path}`);
// 1、404檢查
try {
fs.accessSync(file);
} catch (e) {
return ctx.response.status = 404;
}
const method = ctx.request.method;
const { size } = fs.statSync(file);
// 2、響應head請求,返回文件大小
if ('HEAD' == method) {
return ctx.set('Content-Length', size);
}
const range = ctx.headers['range'];
// 3、通知瀏覽器可以進行分部分請求
if (!range) {
return ctx.set('Accept-Ranges', 'bytes');
}
const { start, end } = getRange(range);
// 4、檢查請求範圍
if (start >= size || end >= size) {
ctx.response.status = 416;
return ctx.set('Content-Range', `bytes */${size}`);
}
// 5、206分部分響應
ctx.response.status = 206;
ctx.set('Accept-Ranges', 'bytes');
ctx.set('Content-Range', `bytes ${start}-${end ? end : size - 1}/${size}`);
ctx.body = fs.createReadStream(file, { start, end });
});
app.listen(3000, () => console.log('partial content server start'));
function getRange(range) {
var match = /bytes=([0-9]*)-([0-9]*)/.exec(range);
const requestRange = {};
if (match) {
if (match[1]) requestRange.start = Number(match[1]);
if (match[2]) requestRange.end = Number(match[2]);
}
return requestRange;
}
代碼實現的功能邏輯大致是:
- 對請求的資源做檢查,不存在則響應404
- 對於HEAD請求,返回資源大小
- 如果GET請求沒有告知range,返回Content-Length,告知瀏覽器可以進行分片請求
- 如果請求設置了range,則檢查range是否合法,不合法返回合法的rangge
- 一切正常,獲取文件range範圍部分,做流響應
代碼很簡單,把Range Requests協議對應實現一遍就ok了,當然這裏沒有完全實現協議的內容,但已經滿足了這裏演示的需求。
服務端代碼ok了,用一個瀏覽器的demo來檢驗一下。
瀏覽器例子
現代瀏覽器基本都實現了Range Requests,這裏用audio標籤作爲例子。
<html>
<head>
<title>分片流傳輸</title>
<script type="text/javascript">
function jump() {
const player = document.getElementById('musicPlayer');
// 從30s開始播放
player.currentTime = 30;
}
</script>
</head>
<body>
<audio id="musicPlayer" src="http:127.0.0.1:3000/source.mp3" controls></audio>
<button onclick="jump()">切到30s</button>
</body>
</html>
最終的效果是這樣的:
對比兩張圖,當html加載完成,瀏覽器自動請求資源,此時header有Range: bytes=0-
,表示從第0 byte開始加載資源;當點擊跳到30s處播放時,此時header變成了Range: bytes=3145728-
。
同樣用這個服務端代碼,還可以實現一個客戶端,模擬一下分包下載。
node分包下載
這個例子演示了,對一個資源,併發的實現分部分的下載,然後再合併成一個文件。
這裏也是用node實現:
import request from 'request';
import path from 'path';
import fs from 'fs';
const SINGLE = 1024 * 1000;
const SOURCE = 'http://127.0.0.1:3000/source.mp3';
request({
method: 'HEAD',
uri: SOURCE,
}, (err, res) => {
if (err) return console.error(err);
const file = path.join(__dirname, './download/source.mp3');
try {
fs.closeSync(fs.openSync(file, 'w'));
} catch (err) {
return console.error(err);
}
const size = Number(res.headers['content-length']);
const length = parseInt(size / SINGLE);
for (let i=0; i<length; i++) {
let start = i * SINGLE;
let end = i == length ? (i + 1) * SINGLE - 1 : size - 1;
request({
method: 'GET',
uri: SOURCE,
headers: {
'range': `bytes=${start}-${end}`
},
}).on('response', (resp) => {
const range = resp.headers['content-range'];
const match = /bytes ([0-9]*)-([0-9]*)/.exec(range);
start = match[1];
end = match[2];
}).pipe(fs.createWriteStream(file, {start, end}));
}
});
代碼比較簡單,就是開啓多個http請求,併發的下載資源,然後根據響應的content-range
,寫到文件的對應位置。