BufferedReader для большого байтбуфера?
-
20-08-2019 - |
Вопрос
Есть ли способ прочитать ByteBuffer с помощью BufferedReader без необходимости сначала превращать его в строку?Я хочу прочитать довольно большой ByteBuffer в виде строк текста, и по соображениям производительности я хочу избежать записи его на диск.Вызов toString в ByteBuffer не работает, потому что результирующая строка слишком велика (она выдает java.lang.OutOfMemoryError:Пространство кучи Java).Я бы подумал, что в API найдется что-нибудь, чтобы обернуть ByteBuffer в подходящий reader, но, похоже, я не могу найти ничего подходящего.
Вот сокращенный пример кода, иллюстрирующий то, что я делаю):
// input stream is from Process getInputStream()
public String read(InputStream istream)
{
ReadableByteChannel source = Channels.newChannel(istream);
ByteArrayOutputStream ostream = new ByteArrayOutputStream(bufferSize);
WritableByteChannel destination = Channels.newChannel(ostream);
ByteBuffer buffer = ByteBuffer.allocateDirect(writeBufferSize);
while (source.read(buffer) != -1)
{
buffer.flip();
while (buffer.hasRemaining())
{
destination.write(buffer);
}
buffer.clear();
}
// this data can be up to 150 MB.. won't fit in a String.
result = ostream.toString();
source.close();
destination.close();
return result;
}
// after the process is run, we call this method with the String
public void readLines(String text)
{
BufferedReader reader = new BufferedReader(new StringReader(text));
String line;
while ((line = reader.readLine()) != null)
{
// do stuff with line
}
}
Решение
Непонятно, почему вы для начала используете байтовый буфер.Если у вас есть InputStream
и вы хотите прочитать строки для этого, почему бы вам просто не использовать InputStreamReader
завернутый в BufferedReader
?В чем выгода от привлечения NIO?
Зовущий toString()
на ByteArrayOutputStream
по-моему, это плохая идея, даже если бы у вас было для этого место:лучше получить его в виде массива байтов и обернуть его в ByteArrayInputStream
и затем InputStreamReader
, если вам действительно нужно иметь ByteArrayOutputStream
.Если вы действительно хочешь позвонить toString()
, по крайней мере, используйте перегрузку, которая принимает имя используемой кодировки символов - в противном случае она будет использовать системное значение по умолчанию, что, вероятно, не то, что вы хотите.
Редактировать:Хорошо, значит, вы действительно хотите использовать NIO.Ты все еще пишешь в ByteArrayOutputStream
в конце концов, таким образом, вы получите BAOS с содержащимися в нем данными.Если вы хотите избежать создания копии этих данных, вам нужно будет извлечь из ByteArrayOutputStream
, например , вот так:
public class ReadableByteArrayOutputStream extends ByteArrayOutputStream
{
/**
* Converts the data in the current stream into a ByteArrayInputStream.
* The resulting stream wraps the existing byte array directly;
* further writes to this output stream will result in unpredictable
* behavior.
*/
public InputStream toInputStream()
{
return new ByteArrayInputStream(array, 0, count);
}
}
Затем вы можете создать входной поток, обернуть его в InputStreamReader
, заверните это в BufferedReader
, а ты в отъезде.
Другие советы
Вы можете использовать NIO, но здесь в этом нет реальной необходимости.Как предложил Джон Скит:
public byte[] read(InputStream istream)
{
ByteArrayOutputStream baos = new ByteArrayOutputStream();
byte[] buffer = new byte[1024]; // Experiment with this value
int bytesRead;
while ((bytesRead = istream.read(buffer)) != -1)
{
baos.write(buffer, 0, bytesRead);
}
return baos.toByteArray();
}
// after the process is run, we call this method with the String
public void readLines(byte[] data)
{
BufferedReader reader = new BufferedReader(new InputStreamReader(new ByteArrayInputStream(data)));
String line;
while ((line = reader.readLine()) != null)
{
// do stuff with line
}
}
Это образец:
public class ByteBufferBackedInputStream extends InputStream {
ByteBuffer buf;
public ByteBufferBackedInputStream(ByteBuffer buf) {
this.buf = buf;
}
public synchronized int read() throws IOException {
if (!buf.hasRemaining()) {
return -1;
}
return buf.get() & 0xFF;
}
@Override
public int available() throws IOException {
return buf.remaining();
}
public synchronized int read(byte[] bytes, int off, int len) throws IOException {
if (!buf.hasRemaining()) {
return -1;
}
len = Math.min(len, buf.remaining());
buf.get(bytes, off, len);
return len;
}
}
И вы можете использовать это следующим образом:
String text = "this is text"; // It can be Unicode text
ByteBuffer buffer = ByteBuffer.wrap(text.getBytes("UTF-8"));
InputStream is = new ByteBufferBackedInputStream(buffer);
InputStreamReader r = new InputStreamReader(is, "UTF-8");
BufferedReader br = new BufferedReader(r);