流是一個被io.js
內(nèi)部的許多對象所實現(xiàn)的抽象接口。例如一個發(fā)往HTTP服務器的請求是一個留,stdout
也是一個流。流可以是可讀的,可寫的或雙向的。所有的流都是EventEmitter
實例。
你可以通過require('stream')
來取貨Stream
的基類。其中包括了Readable
流,Writable
流,Duplex
流和Transform
流的基類。
此文檔分為三個章節(jié)。第一章節(jié)解釋了在你的編程中使用流時需要的API。如果你不需要實現(xiàn)你自己的流式API,你可以在這里停止。
第二章節(jié)解釋了你在構(gòu)建你自己的流時需要的API,這些API是為了方便你這么做而設計的。
第三章節(jié)深入講述了流的工作機制,包括一些內(nèi)部的機制和函數(shù),你不應該去改動它們除非你知道你在做什么。
流可以是可讀的,可寫的,或雙工的。
所有的流都是EventEmitters
。但是它們也各自有一些獨特的方法和屬性,這取決于它們是可讀流,可寫流或雙工流。
如果一個流同時是可讀的和可寫的,那么表示它實現(xiàn)了以下所有的方法和事件。所以,這些API同時也涵蓋Duplex
或Transform
流,即使它們的實現(xiàn)可能有些不同。
在你程序中,為了消費流而去實現(xiàn)流接口不是必須的。如果你確實正在你的程序中實現(xiàn)流接口,請參考下一章節(jié)面向流實現(xiàn)者的API
。
幾乎所有io.js
程序,不論多簡單,都使用了流。下面是一個在io.js
是使用流的例子:
var http = require('http');
var server = http.createServer(function (req, res) {
// req is an http.IncomingMessage, which is a Readable Stream
// res is an http.ServerResponse, which is a Writable Stream
var body = '';
// we want to get the data as utf8 strings
// If you don't set an encoding, then you'll get Buffer objects
req.setEncoding('utf8');
// Readable streams emit 'data' events once a listener is added
req.on('data', function (chunk) {
body += chunk;
});
// the end event tells you that you have entire body
req.on('end', function () {
try {
var data = JSON.parse(body);
} catch (er) {
// uh oh! bad json!
res.statusCode = 400;
return res.end('error: ' + er.message);
}
// write back something interesting to the user:
res.write(typeof data);
res.end();
});
});
server.listen(1337);
// $ curl localhost:1337 -d '{}'
// object
// $ curl localhost:1337 -d '"foo"'
// string
// $ curl localhost:1337 -d 'not json'
// error: Unexpected token o
可讀流接口是一個你可以從之讀取數(shù)據(jù)的數(shù)據(jù)源的抽象。換句話說,數(shù)據(jù)從可讀流而來。
除非你指示已經(jīng)準備好接受數(shù)據(jù),否則可讀流不會開始發(fā)生數(shù)據(jù)。
可讀流有兩個“模式”:流動模式和暫停模式。當在流動模式時,數(shù)據(jù)由底層系統(tǒng)讀出,并且會盡快地提供給你的程序。當在暫停模式時,你必須調(diào)用stream.read()
方法來獲取數(shù)據(jù)塊。流默認是暫停模式。
注意:如果data
事件沒有被綁定監(jiān)聽器,并且沒有導流(pipe)目標,并且流被切換到了流動模式,那么數(shù)據(jù)將會被丟失。
你可以通過下面任意一個做法切換到流動模式:
添加一個data
事件的監(jiān)聽器來監(jiān)聽數(shù)據(jù)。
調(diào)用resume()
方法來明確開啟流動模式。
調(diào)用pipe()
方法將數(shù)據(jù)導入一個可寫流。
你可以同意下面任意一種方法切換回暫停模式:
如果沒有導流(pipe)目標,調(diào)用pause()
方法。
如果有導流(pipe)目標,移除所有的data
事件監(jiān)聽器,并且通過unpipe()
方法移除所有導流目標。
注意,由于為了向后兼任的原因,移除data
事件的監(jiān)聽器將不會自動暫停流。同樣的,如果有導流目標,調(diào)用pause()
方法將不會保證目標流排空并請求更多數(shù)據(jù)時保持暫停。
一些內(nèi)置的可讀流例子:
zlib
流crypto
流process.stdin
當一個數(shù)據(jù)塊能可以從流中被讀出時,會觸發(fā)一個readable
事件。
某些情況下,監(jiān)聽一個readable
事件會導致一些將要被讀出的數(shù)據(jù)從底層系統(tǒng)進入內(nèi)部緩沖,如果它沒有準備好。
var readable = getReadableStreamSomehow();
readable.on('readable', function() {
// there is some data to read now
});
當內(nèi)部緩沖被排空時,一旦有更多數(shù)據(jù),readable
事件會再次觸發(fā)。
為一個沒有被暫停的流添加一個data
事件的監(jiān)聽器會使其切換到流動模式。之后數(shù)據(jù)會被盡快得傳遞給用戶。
如果你只是想盡快得從流中取得所有數(shù)據(jù),這是最好的方式。
var readable = getReadableStreamSomehow();
readable.on('data', function(chunk) {
console.log('got %d bytes of data', chunk.length);
});
當沒有更多可讀的數(shù)據(jù)時這個事件會被觸發(fā)。
注意,除非數(shù)據(jù)被完全消費,end
事件才會觸發(fā)。這可以通過切換到流動模式,或重復調(diào)用read()
方法。
var readable = getReadableStreamSomehow();
readable.on('data', function(chunk) {
console.log('got %d bytes of data', chunk.length);
});
readable.on('end', function() {
console.log('there will be no more data.');
});
當?shù)讓淤Y源(如源頭的文件描述符)被關(guān)閉時觸發(fā)。不是所有的流都會觸發(fā)這個事件。
當接受數(shù)據(jù)時有錯誤發(fā)生,會觸發(fā)此事件。
read()
方法從內(nèi)部緩沖中取出數(shù)據(jù)并返回它。如果沒有可用數(shù)據(jù),那么將返回null
。
如果你傳遞了一個size
參數(shù),那么它將返回指定字節(jié)的數(shù)據(jù)。如果size
參數(shù)的字節(jié)數(shù)不可用,那么將返回null
。
如果你不指定size
參數(shù),那么將會返回內(nèi)部緩沖中的所有數(shù)據(jù)。
這個方法只能在暫定模式中被調(diào)用。在流動模式下,這個方法會被自動地重復調(diào)用,知道內(nèi)部緩沖被排空。
var readable = getReadableStreamSomehow();
readable.on('readable', function() {
var chunk;
while (null !== (chunk = readable.read())) {
console.log('got %d bytes of data', chunk.length);
}
});
如果這個方法返回一個數(shù)據(jù)塊,那么它也會觸發(fā)data
事件。
調(diào)用這個函數(shù)會導致流返回指定編碼的字符串而不是Buffer
對象。例如,如果你調(diào)用readable.setEncoding('utf8')
,那么輸出的數(shù)據(jù)將被解釋為UTF-8數(shù)據(jù),并且作為字符串返回。如果你調(diào)用了readable.setEncoding('hex')
,那么數(shù)據(jù)將被使用十六進制字符串的格式編碼。
該方法可以正確地處理多字節(jié)字符。如果你只是簡單地直接取出緩沖并且對它們調(diào)用buf.toString(encoding)
,將會導致錯位。如果你想使用字符串讀取數(shù)據(jù),請使用這個方法。
var readable = getReadableStreamSomehow();
readable.setEncoding('utf8');
readable.on('data', function(chunk) {
assert.equal(typeof chunk, 'string');
console.log('got %d characters of string data', chunk.length);
});
這個方法將會讓可讀流繼續(xù)觸發(fā)data
事件。
這個方法將會使流切換至流動模式。如果你不想消費流中的數(shù)據(jù),但你想監(jiān)聽它的end
事件,你可以通過調(diào)用readable.resume()
來打開數(shù)據(jù)流。
var readable = getReadableStreamSomehow();
readable.resume();
readable.on('end', function() {
console.log('got to the end, but did not read anything');
});
這個方法會使一個處于流動模式的流停止觸發(fā)data
事件,并切換至暫停模式。所有可用的數(shù)據(jù)將仍然存在于內(nèi)部緩沖中。
var readable = getReadableStreamSomehow();
readable.on('data', function(chunk) {
console.log('got %d bytes of data', chunk.length);
readable.pause();
console.log('there will be no more data for 1 second');
setTimeout(function() {
console.log('now data will start flowing again');
readable.resume();
}, 1000);
});
這個方法會返回流是否被客戶端代碼所暫停(調(diào)用readable.pause()
,并且沒有在之后調(diào)用readable.resume()
)。
var readable = new stream.Readable
readable.isPaused() // === false
readable.pause()
readable.isPaused() // === true
readable.resume()
readable.isPaused() // === false
options Object
true
。這個方法會取出可讀流中所有的數(shù)據(jù),并且將之寫入指定的目標。這個方法會自動調(diào)節(jié)流量,所以當快速讀取可讀流時目標不會溢出。
可以將數(shù)據(jù)安全地導流至多個目標。
var readable = getReadableStreamSomehow();
var writable = fs.createWriteStream('file.txt');
// All the data from readable goes into 'file.txt'
readable.pipe(writable);
這個函數(shù)返回目標流,所以你可以鏈式調(diào)用pipe()
:
var r = fs.createReadStream('file.txt');
var z = zlib.createGzip();
var w = fs.createWriteStream('file.txt.gz');
r.pipe(z).pipe(w);
例子,模仿UNIX的cat
命令:
process.stdin.pipe(process.stdout);
默認情況下,當源流觸發(fā)end
事件時,目標流會被調(diào)用end()
方法,然后目標就不再是可寫的了。將傳遞{ end: false }
作為options
參數(shù),將保持目標流開啟。
例子,保持被寫入的流開啟,所以“Goodbye”可以在末端被寫入:
reader.pipe(writer, { end: false });
reader.on('end', function() {
writer.end('Goodbye\n');
});
注意,不論指定任何options
參數(shù),process.stderr
和process.stdout
在程序退出前永遠不會被關(guān)閉。
這方法會移除之前調(diào)用pipe()
方法所設置的鉤子。
如果沒有指定目標,那么所有的導流都會被移除。
如果指定了目標,但是并沒有為目標設置導流,那么什么都不會發(fā)生。
var readable = getReadableStreamSomehow();
var writable = fs.createWriteStream('file.txt');
// All the data from readable goes into 'file.txt',
// but only for the first second
readable.pipe(writable);
setTimeout(function() {
console.log('stop writing to file.txt');
readable.unpipe(writable);
console.log('manually close the file stream');
writable.end();
}, 1000);
該方法在許多場景中都很有用,比如一個流正在被一個解析器消費,解析器可能需要將某些剛拉取出的數(shù)據(jù)“逆消費”回來源,以便流能將它傳遞給其它消費者。
如果你發(fā)現(xiàn)你必須經(jīng)常在你的程序中調(diào)用stream.unshift(chunk)
,你應該考慮實現(xiàn)一個Transform
流(參閱下文的面向流實現(xiàn)者的API)。
// Pull off a header delimited by \n\n
// use unshift() if we get too much
// Call the callback with (error, header, stream)
var StringDecoder = require('string_decoder').StringDecoder;
function parseHeader(stream, callback) {
stream.on('error', callback);
stream.on('readable', onReadable);
var decoder = new StringDecoder('utf8');
var header = '';
function onReadable() {
var chunk;
while (null !== (chunk = stream.read())) {
var str = decoder.write(chunk);
if (str.match(/\n\n/)) {
// found the header boundary
var split = str.split(/\n\n/);
header += split.shift();
var remaining = split.join('\n\n');
var buf = new Buffer(remaining, 'utf8');
if (buf.length)
stream.unshift(buf);
stream.removeListener('error', callback);
stream.removeListener('readable', onReadable);
// now the body of the message can be read from the stream.
callback(null, header, stream);
} else {
// still reading the header.
header += str;
}
}
}
}
Node.js
v0.10 以及之前版本的流沒有完全包含如今的所有的流API(更多的信息請參閱下文的“兼容性”)。
如果你正在使用一個老舊的io.js
庫,它觸發(fā)data
時間并且有一個僅作查詢用途的pause()
方法,那么你可以調(diào)用wrap()
方法來創(chuàng)建一個使用“舊式”流作為數(shù)據(jù)源的可讀流。
你幾乎不會用到這個函數(shù),它的存在僅是為了老舊的io.js
程序和庫交互。
例子:
var OldReader = require('./old-api-module.js').OldReader;
var oreader = new OldReader;
var Readable = require('stream').Readable;
var myReader = new Readable().wrap(oreader);
myReader.on('readable', function() {
myReader.read(); // etc.
});
可寫流接口是一個你可以向其寫入數(shù)據(jù)的目標的抽象。
一些內(nèi)部的可寫流例子:
zlib
流crypto
流socket
stdin
process.stdout
,process.stderr
true
該方法向底層系統(tǒng)寫入數(shù)據(jù),并且當數(shù)據(jù)被全部處理后調(diào)用指定的回調(diào)函數(shù)。
返回值指示了你是否可以立刻寫入數(shù)據(jù)。如果數(shù)據(jù)需要被內(nèi)部緩沖,會返回false
。否則返回true
。
返回值經(jīng)供參考。即使返回false
,你仍可以繼續(xù)寫入數(shù)據(jù)。但是,寫入的數(shù)據(jù)將會被緩沖在內(nèi)存里,所以最好不要這樣做。應該在寫入更多數(shù)據(jù)前等待drain
事件。
如果一個writable.write(chunk)
調(diào)用返回了false
,那么drain
事件會指示出可以繼續(xù)向流寫入數(shù)據(jù)的時機。
// Write the data to the supplied writable stream 1MM times.
// Be attentive to back-pressure.
function writeOneMillionTimes(writer, data, encoding, callback) {
var i = 1000000;
write();
function write() {
var ok = true;
do {
i -= 1;
if (i === 0) {
// last time!
writer.write(data, encoding, callback);
} else {
// see if we should continue, or wait
// don't pass the callback, because we're not done yet.
ok = writer.write(data, encoding);
}
} while (i > 0 && ok);
if (i > 0) {
// had to stop early!
// write some more once it drains
writer.once('drain', write);
}
}
}
強制滯留所有寫入。
滯留的數(shù)據(jù)會在調(diào)用.uncork()
或.end()
方法后被寫入。
寫入在調(diào)用.cork()
方法所有被滯留的數(shù)據(jù)。
設置一個可寫流的默認編碼。
當沒有更多可寫的數(shù)據(jù)時,調(diào)用這個方法。如果指定了回調(diào)函數(shù),那么會被添加為finish
事件的監(jiān)聽器。
在調(diào)用了end()
后調(diào)用write()
會導致一個錯誤。
// write 'hello, ' and then end with 'world!'
var file = fs.createWriteStream('example.txt');
file.write('hello, ');
file.end('world!');
// writing more now is not allowed!
當調(diào)用了end()
方法,并且所有的數(shù)據(jù)都被寫入了底層系統(tǒng),這個事件會被觸發(fā)。
var writer = getWritableStreamSomehow();
for (var i = 0; i < 100; i ++) {
writer.write('hello, #' + i + '!\n');
}
writer.end('this is the end\n');
writer.on('finish', function() {
console.error('all writes are now complete.');
});
這個事件將會在可讀流被一個可寫流使用pipe()
方法進行導流時觸發(fā)。
var writer = getWritableStreamSomehow();
var reader = getReadableStreamSomehow();
writer.on('pipe', function(src) {
console.error('something is piping into the writer');
assert.equal(src, reader);
});
reader.pipe(writer);
當可讀流對其調(diào)用unpipe()
方法,在源可讀流的目標集合中刪除這個可寫流,這個事件將會觸發(fā)。
var writer = getWritableStreamSomehow();
var reader = getReadableStreamSomehow();
writer.on('unpipe', function(src) {
console.error('something has stopped piping into the writer');
assert.equal(src, reader);
});
reader.pipe(writer);
reader.unpipe(writer);
在寫入數(shù)據(jù)或?qū)Я靼l(fā)生錯誤時觸發(fā)。
雙工是同時實現(xiàn)了可讀流與可寫流的借口。它的用處請參閱下文。
內(nèi)部雙工流的例子:
socket
zlib
流crypto
流轉(zhuǎn)換流是一種輸出由輸入計算所得的栓共流。它們同時集成了可讀流與可寫流的借口。它們的用處請參閱下文。
內(nèi)部轉(zhuǎn)換流的例子:
zlib
流crypto
流實現(xiàn)所有種類的流的模式都是一樣的:
util.inherits
非常合適于做這個)。被擴展的類和要實現(xiàn)的方法取決于你要編寫的流類的類型:
用途 | 類 | 需要實現(xiàn)的方法 |
---|---|---|
只讀 | Readable | _read |
只寫 | Writable | _write, _writev |
可讀以及可寫 | Duplex | _read, _write, _writev |
操作被寫入數(shù)據(jù),然后讀出結(jié)果 | Transform | _transform, _flush |
在你的實現(xiàn)代碼中,非常重要的一點是永遠不要調(diào)用上文的面向流消費者的API。否則,你在程序中消費你的流接口時可能有潛在的副作用。
stream.Readable
是一個被設計為需要實現(xiàn)底層的_read(size)
方法的抽象類。
請參閱上文的面向流消費者的API來了解如何在程序中消費流。以下解釋了如果在你的程序中實現(xiàn)可讀流。
例子:一個計數(shù)流
這是一個可讀流的基礎例子。它從1到1,000,000遞增數(shù)字,然后結(jié)束。
var Readable = require('stream').Readable;
var util = require('util');
util.inherits(Counter, Readable);
function Counter(opt) {
Readable.call(this, opt);
this._max = 1000000;
this._index = 1;
}
Counter.prototype._read = function() {
var i = this._index++;
if (i > this._max)
this.push(null);
else {
var str = '' + i;
var buf = new Buffer(str, 'ascii');
this.push(buf);
}
};
例子:簡單協(xié)議 v1 (次優(yōu))
這類似于上文中提到的parseHeader
函數(shù),但是使用一個自定義流實現(xiàn)。另外,注意這個實現(xiàn)不將流入的數(shù)據(jù)轉(zhuǎn)換為字符串。
更好地實現(xiàn)是作為一個轉(zhuǎn)換流實現(xiàn),請參閱下文更好地實現(xiàn)。
// A parser for a simple data protocol.
// The "header" is a JSON object, followed by 2 \n characters, and
// then a message body.
//
// NOTE: This can be done more simply as a Transform stream!
// Using Readable directly for this is sub-optimal. See the
// alternative example below under the Transform section.
var Readable = require('stream').Readable;
var util = require('util');
util.inherits(SimpleProtocol, Readable);
function SimpleProtocol(source, options) {
if (!(this instanceof SimpleProtocol))
return new SimpleProtocol(source, options);
Readable.call(this, options);
this._inBody = false;
this._sawFirstCr = false;
// source is a readable stream, such as a socket or file
this._source = source;
var self = this;
source.on('end', function() {
self.push(null);
});
// give it a kick whenever the source is readable
// read(0) will not consume any bytes
source.on('readable', function() {
self.read(0);
});
this._rawHeader = [];
this.header = null;
}
SimpleProtocol.prototype._read = function(n) {
if (!this._inBody) {
var chunk = this._source.read();
// if the source doesn't have data, we don't have data yet.
if (chunk === null)
return this.push('');
// check if the chunk has a \n\n
var split = -1;
for (var i = 0; i < chunk.length; i++) {
if (chunk[i] === 10) { // '\n'
if (this._sawFirstCr) {
split = i;
break;
} else {
this._sawFirstCr = true;
}
} else {
this._sawFirstCr = false;
}
}
if (split === -1) {
// still waiting for the \n\n
// stash the chunk, and try again.
this._rawHeader.push(chunk);
this.push('');
} else {
this._inBody = true;
var h = chunk.slice(0, split);
this._rawHeader.push(h);
var header = Buffer.concat(this._rawHeader).toString();
try {
this.header = JSON.parse(header);
} catch (er) {
this.emit('error', new Error('invalid simple protocol data'));
return;
}
// now, because we got some extra data, unshift the rest
// back into the read queue so that our consumer will see it.
var b = chunk.slice(split);
this.unshift(b);
// and let them know that we are done parsing the header.
this.emit('header', this.header);
}
} else {
// from there on, just provide the data to our consumer.
// careful not to push(null), since that would indicate EOF.
var chunk = this._source.read();
if (chunk) this.push(chunk);
}
};
// Usage:
// var parser = new SimpleProtocol(source);
// Now parser is a readable stream that will emit 'header'
// with the parsed header data.
options Object
objectMode
則是16null
stream.read(n)
返回一個單獨的對象而不是一個大小為n
的Buffer
,默認為false
在實現(xiàn)了Readable
類的類中,請確保調(diào)用了Readable
構(gòu)造函數(shù),這樣緩沖設置才能被正確的初始化。
注意:實現(xiàn)這個函數(shù),而不要直接調(diào)用這個函數(shù)。
這個函數(shù)不應該被直接調(diào)用。它應該被子類實現(xiàn),并且僅被Readable
類的內(nèi)部方法調(diào)用。
所有的可讀流都必須實現(xiàn)這個方法用來從底層資源中獲取數(shù)據(jù)。
這個函數(shù)有一個下劃線前綴,因為它對于類是內(nèi)部的,并應該直接被用戶的程序調(diào)用。你應在你的拓展類里覆蓋這個方法。
當數(shù)據(jù)可用時,調(diào)用readable.push(chunk)
方法將之推入讀取隊列。如果方法返回false
,那么你應當停止讀取。當_read
方法再次被調(diào)用,你應當推入更多數(shù)據(jù)。
參數(shù)size
僅作查詢?!皉ead”調(diào)用返回數(shù)據(jù)的實現(xiàn)可以通過這個參數(shù)來知道應當抓取多少數(shù)據(jù);其余與之無關(guān)的實現(xiàn),比如TCP或TLS,則可忽略這個參數(shù),并在可用時返回數(shù)據(jù)。例如,沒有必要“等到”size
個字節(jié)可用時才調(diào)用stream.push(chunk)
。
Buffer
編碼,如'utf8'或'ascii'注意:這個函數(shù)應該被Readable
流的實現(xiàn)者調(diào)用,而不是消費者。
_read()
函數(shù)在至少調(diào)用一次push(chunk)
方法前,不會被再次調(diào)用。
Readable
類通過在readable
事件觸發(fā)時,調(diào)用read()
方法將數(shù)據(jù)推入 之后用于讀出數(shù)據(jù)的讀取隊列 來工作。
push()
方法需要明確地向讀取隊列中插入數(shù)據(jù)。如果它的參數(shù)為null
,那么它將發(fā)送一個數(shù)據(jù)結(jié)束信號(EOF
)。
這個API被設計為盡可能的靈活。例如,你可能正在包裝一個有pause/resume
機制和一個數(shù)據(jù)回調(diào)函數(shù)的低級別源。那那些情況下,你可以通過以下方式包裝這些低級別源:
// source is an object with readStop() and readStart() methods,
// and an `ondata` member that gets called when it has data, and
// an `onend` member that gets called when the data is over.
util.inherits(SourceWrapper, Readable);
function SourceWrapper(options) {
Readable.call(this, options);
this._source = getLowlevelSourceObject();
var self = this;
// Every time there's data, we push it into the internal buffer.
this._source.ondata = function(chunk) {
// if push() returns false, then we need to stop reading from source
if (!self.push(chunk))
self._source.readStop();
};
// When the source ends, we push the EOF-signaling `null` chunk
this._source.onend = function() {
self.push(null);
};
}
// _read will be called when the stream wants to pull more data in
// the advisory size argument is ignored in this case.
SourceWrapper.prototype._read = function(size) {
this._source.readStart();
};
stream.Writable
是一個被設計為需要實現(xiàn)底層的_write(chunk, encoding, callback)
方法的抽象類。
請參閱上文的面向流消費者的API來了解如何在程序中消費流。以下解釋了如果在你的程序中實現(xiàn)可寫流。
options Object
write()
方法開始返回false
的緩沖級別。默認為16kb,對于objectMode
流則是16
write()
方法前將字符串解碼成Buffer
。默認為true
write(anyObj)
為一個合法操作。如果設置為true
你可以寫入任意數(shù)據(jù)而不僅是Buffer
或字符串數(shù)據(jù)。默認為false
在實現(xiàn)了Writable
類的類中,請確保調(diào)用了Writable
構(gòu)造函數(shù),這樣緩沖設置才能被正確的初始化。
decodeStrings
配置被設置為false
,否則將一直是一個buffer
buffer
,那么則會忽略它所有的Writable
流的實現(xiàn)都必須提供一個_write()
方法來給底層資源傳輸數(shù)據(jù)。
這個函數(shù)不應該被直接調(diào)用。它應該被子類實現(xiàn),并且僅被Writable
類的內(nèi)部方法調(diào)用。
回調(diào)函數(shù)使用標準的callback(error)
模式來表示這個寫操作成功或發(fā)生了錯誤。
如果構(gòu)造函數(shù)選項中設置了decodeStrings
標志,那么數(shù)據(jù)塊將是一個字符串而不是一個Buffer
,編碼將會決定字符串的類型。這個是為了幫助處理編碼字符串的實現(xiàn)。如果你沒有明確地將decodeStrings
選項設為false
,那么你會安全地忽略encoding
參數(shù),并且數(shù)據(jù)塊是Buffer
形式。
這個函數(shù)有一個下劃線前綴,因為它對于類是內(nèi)部的,并應該直接被用戶的程序調(diào)用。你應在你的拓展類里覆蓋這個方法。
{ chunk: ..., encoding: ... }
注意:這個函數(shù)不應該被直接調(diào)用。它應該被子類實現(xiàn),并且僅被Writable
類的內(nèi)部方法調(diào)用。
這個函數(shù)對于你的實現(xiàn)是完全可選的。大多數(shù)情況下它是不必的。如果實現(xiàn),它會被以所有滯留在寫入隊列中的數(shù)據(jù)塊調(diào)用。
一個“雙工”流既是可讀的,又是可寫的。如TCPsocket
連接。
注意,和你實現(xiàn)Readable
或Writable
流時一樣,stream.Duplex
是一個被設計為需要實現(xiàn)底層的_read(size)
和_write(chunk, encoding, callback)
方法的抽象類。
由于JavaScript
并不具備多繼承能力,這個類是繼承于Readable
類,并寄生于Writable
類。所以為了實現(xiàn)這個類,用戶需要同時實現(xiàn)低級別的_read(n)
方法和低級別的_write(chunk, encoding, callback)
方法。
options Object 同時傳遞給Writable
和Readable
構(gòu)造函數(shù)。并且包含以下屬性:
true
。如果設置為false
,那么流的可讀的一端結(jié)束時可寫的一端也會自動結(jié)束,反之亦然。false
,為流的可讀的一端設置objectMode
。當objectMode
為true
時沒有效果。false
,為流的可寫的一端設置objectMode
。當objectMode
為true
時沒有效果。在實現(xiàn)了Duplex
類的類中,請確保調(diào)用了Duplex
構(gòu)造函數(shù),這樣緩沖設置才能被正確的初始化。
“轉(zhuǎn)換”流是一個輸出于輸入存在對應關(guān)系的雙工流,如一個zilib
流或一個crypto
流。
輸出和輸出并不需要有相同的大小,相同的數(shù)據(jù)塊數(shù)或同時到達。例如,一個哈希流只有一個單獨數(shù)據(jù)塊的輸出當輸入結(jié)束時。一個zlib
流的輸出比其輸入小得多或大得多。
除了實現(xiàn)_read()
方法和_write()
方法,轉(zhuǎn)換流還必須實現(xiàn)_transform()
方法,并且可選地實現(xiàn)_flush()
方法(參閱下文)。
Writable
和Readable
構(gòu)造函數(shù)。在實現(xiàn)了Transform
類的類中,請確保調(diào)用了Transform
構(gòu)造函數(shù),這樣緩沖設置才能被正確的初始化。
decodeStrings
配置被設置為false
,否則將一直是一個buffer
這個函數(shù)不應該被直接調(diào)用。它應該被子類實現(xiàn),并且僅被Transform
類的內(nèi)部方法調(diào)用。
所有Transform
流的實現(xiàn)都必須提供一個_transform
方法來接受輸入和產(chǎn)生輸出。
在Transform
類中,_transform
可以做需要做的任何事,如處理需要寫入的字節(jié),將它們傳遞給可寫端,異步I/O,等等。
調(diào)用transform.push(outputChunk)
0次或多次來從輸入的數(shù)據(jù)塊產(chǎn)生輸出,取決于你想從這個數(shù)據(jù)塊中輸出多少數(shù)據(jù)作為結(jié)果。
僅當目前的數(shù)據(jù)塊被完全消費后,才會調(diào)用回調(diào)函數(shù)。注意,對于某些特殊的輸入可能會沒有輸出。如果你將數(shù)據(jù)作為第二個參數(shù)傳入回調(diào)函數(shù),那么數(shù)據(jù)將被傳遞給push
方法。換句話說,下面的兩個例子是相等的:
transform.prototype._transform = function (data, encoding, callback) {
this.push(data);
callback();
}
transform.prototype._transform = function (data, encoding, callback) {
callback(null, data);
}
這個函數(shù)有一個下劃線前綴,因為它對于類是內(nèi)部的,并應該直接被用戶的程序調(diào)用。你應在你的拓展類里覆蓋這個方法。
注意:這個函數(shù)不應該被直接調(diào)用。它應該被子類實現(xiàn),并且僅被Transform
類的內(nèi)部方法調(diào)用。
在一些情景中,你的轉(zhuǎn)換操作需要在流的末尾多發(fā)生一點點數(shù)據(jù)。例如,一個Zlib
壓縮流會存儲一些內(nèi)部狀態(tài)以便它能優(yōu)化壓縮輸出。但是在最后,它需要盡可能好得處理這些留下的東西來使數(shù)據(jù)完整。
在這種情況中,您可以實現(xiàn)一個_flush
方法,它會在最后被調(diào)用,在所有寫入數(shù)據(jù)被消費、但在觸發(fā)end
表示可讀端到達末尾之前。和_transform
一樣,只需在寫入操作完成時適當?shù)卣{(diào)用transform.push(chunk)
零或多次。
這個函數(shù)有一個下劃線前綴,因為它對于類是內(nèi)部的,并應該直接被用戶的程序調(diào)用。你應在你的拓展類里覆蓋這個方法。
finish
和end
事件分別來自于父類Writable
和Readable
。finish
事件在end()
方法被調(diào)用以及所有的輸入被_transform
方法處理后觸發(fā)。end
事件在所有的在_flush
方法的回調(diào)函數(shù)被調(diào)用后的數(shù)據(jù)被輸出后觸發(fā)。
上文中的簡單協(xié)議解釋器可以簡單地通過高級別的Transform
流更好地實現(xiàn)。與上文例子中的parseHeader
和SimpleProtocol v1
相似。
在這個例子中,沒有從參數(shù)中提供輸入,然后將它導流至解釋器中,這更符合io.js
的使用習慣。
var util = require('util');
var Transform = require('stream').Transform;
util.inherits(SimpleProtocol, Transform);
function SimpleProtocol(options) {
if (!(this instanceof SimpleProtocol))
return new SimpleProtocol(options);
Transform.call(this, options);
this._inBody = false;
this._sawFirstCr = false;
this._rawHeader = [];
this.header = null;
}
SimpleProtocol.prototype._transform = function(chunk, encoding, done) {
if (!this._inBody) {
// check if the chunk has a \n\n
var split = -1;
for (var i = 0; i < chunk.length; i++) {
if (chunk[i] === 10) { // '\n'
if (this._sawFirstCr) {
split = i;
break;
} else {
this._sawFirstCr = true;
}
} else {
this._sawFirstCr = false;
}
}
if (split === -1) {
// still waiting for the \n\n
// stash the chunk, and try again.
this._rawHeader.push(chunk);
} else {
this._inBody = true;
var h = chunk.slice(0, split);
this._rawHeader.push(h);
var header = Buffer.concat(this._rawHeader).toString();
try {
this.header = JSON.parse(header);
} catch (er) {
this.emit('error', new Error('invalid simple protocol data'));
return;
}
// and let them know that we are done parsing the header.
this.emit('header', this.header);
// now, because we got some extra data, emit this first.
this.push(chunk.slice(split));
}
} else {
// from there on, just provide the data to our consumer as-is.
this.push(chunk);
}
done();
};
// Usage:
// var parser = new SimpleProtocol();
// source.pipe(parser)
// Now parser is a readable stream that will emit 'header'
// with the parsed header data.
這是一個Transform
流的實現(xiàn)。將輸入的流簡單地傳遞給輸出。它的主要目的是用來演示和測試,但它在某些需要構(gòu)建特殊流的情況下可能有用。
可以簡單的構(gòu)造流而不使用繼承。
這可以通過調(diào)用合適的方法作為構(gòu)造函數(shù)和參數(shù)來實現(xiàn):
例子:
var readable = new stream.Readable({
read: function(n) {
// sets this._read under the hood
}
});
var writable = new stream.Writable({
write: function(chunk, encoding, next) {
// sets this._write under the hood
}
});
// or
var writable = new stream.Writable({
writev: function(chunks, next) {
// sets this._writev under the hood
}
});
var duplex = new stream.Duplex({
read: function(n) {
// sets this._read under the hood
},
write: function(chunk, encoding, next) {
// sets this._write under the hood
}
});
// or
var duplex = new stream.Duplex({
read: function(n) {
// sets this._read under the hood
},
writev: function(chunks, next) {
// sets this._writev under the hood
}
});
var transform = new stream.Transform({
transform: function(chunk, encoding, next) {
// sets this._transform under the hood
},
flush: function(done) {
// sets this._flush under the hood
}
});
Writable
流和Readable
流都會分別在一個內(nèi)部的叫_writableState.buffer
或_readableState.buffer
的對象里緩沖數(shù)據(jù)。
潛在的被緩沖的數(shù)據(jù)量取決于被傳遞給構(gòu)造函數(shù)的highWaterMark
參數(shù)。
在Readable
流中,當其的實現(xiàn)調(diào)用stream.push(chunk)
時就會發(fā)生緩沖。如果流的消費者沒有調(diào)用stream.read()
,那么數(shù)據(jù)就會保留在內(nèi)部隊列中直到它被消費。
在Writable
流中,當用戶重復調(diào)用stream.write(chunk)
時就會發(fā)生緩沖,甚至是當write()
返回false
時。
流,尤其是pipe()
方法的初衷,是限制數(shù)據(jù)的滯留量在一個可接受的水平,這樣才使得不同傳輸速度的來源和目標不會淹沒可用的內(nèi)存。
在一些情況下,你想不消費任何數(shù)據(jù)而去觸發(fā)一次底層可讀流機制的刷新。你可以調(diào)用stream.read(0)
,它總是返回null
。
如果內(nèi)部的讀緩沖量在highWaterMark
之下,并且流沒有正在讀取,那么調(diào)用read(0)
將會觸發(fā)一次低級別的_read
調(diào)用。
幾乎永遠沒有必須這么做。但是,你可能會在io.js
的Readable
流類的內(nèi)部代碼的幾處看到這個。
推入一個0字節(jié)的字符串或Buffer
(不處于對象模式)有一個有趣的副作用。因為這是一個stream.push()
的調(diào)用,它將會結(jié)束讀取進程。但是,它不添加任何數(shù)據(jù)到可讀緩沖中,所以沒有任何用戶可消費的數(shù)據(jù)。
在極少的情況下,你當下沒有數(shù)據(jù)可以提供,但你的消費者同過調(diào)用stream.read(0)
來得知合適再次檢查。在這樣的情況下,你可以調(diào)用stream.push('')
。
至今為止,這個功能的唯一使用之處是在tls.CryptoStream
類中,它將在io.js
的1.0版本中被廢棄。如果你發(fā)現(xiàn)你不得不使用stream.push('')
,請考慮使用另外的方式。因為這幾乎表示發(fā)生了某些可怕的錯誤。
Node.js
的兼容性在Node.js
的0.10版本之前,可讀流接口非常簡單,并且功能和功用都不強。
data
事件會立刻觸發(fā),而不是等待你調(diào)用read()
方法。如果你需要進行一些I/O
操作來決定是否處理數(shù)據(jù),那么你只能將數(shù)據(jù)存儲在某些緩沖區(qū)中以防數(shù)據(jù)流失。pause()
僅供查詢,并不保證生效。這意味著你還是要準備接收data
事件在流已經(jīng)處于暫停模式中時。在io.js
v1.0 和Node.js
v0.10中,下文所述的Readable
類添加進來。為了向后兼容性,當一個data
事件的監(jiān)聽器被添加時或resume()
方法被調(diào)用時,可讀流切換至流動模式。其作用是,即便您不使用新的read()
方法和readable
事件,您也不必擔心丟失數(shù)據(jù)塊。
大多數(shù)程序都會保持功能正常,但是,以下有一些邊界情況:
data
事件resume()
方法例如,考慮以下代碼:
// WARNING! BROKEN!
net.createServer(function(socket) {
// we add an 'end' method, but never consume the data
socket.on('end', function() {
// It will never get here.
socket.end('I got your message (but didnt read it)\n');
});
}).listen(1337);
在Node.js
v0.10前,到來的信息數(shù)據(jù)會被簡單地丟棄
更多建議: