Qual è il modo più veloce per leggere un numero elevato di piccoli file in memoria?
https://stackoverflow.com/questions/625420
-
05-07-2019 - |
italiano
english
français
española
中国
日本の
العربية
Deutsch
한국어
Português
RussianDomanda
Devo leggere ~ 50 file su ogni avvio del server e mettere in memoria la rappresentazione di ciascun file di testo. Ogni file di testo avrà la sua stringa (qual è il tipo migliore da usare per il titolare della stringa?).
Qual è il modo più veloce per leggere i file in memoria e qual è la migliore struttura / tipo di dati per contenere il testo in modo da poterlo manipolare in memoria (cercare e sostituire principalmente)? ??
Grazie
Soluzione
Un file mappato in memoria sarà il più veloce ... qualcosa del genere:
final File file;
final FileChannel channel;
final MappedByteBuffer buffer;
file = new File(fileName);
fin = new FileInputStream(file);
channel = fin.getChannel();
buffer = channel.map(MapMode.READ_ONLY, 0, file.length());
e quindi continua a leggere dal buffer di byte.
Questo sarà significativamente più veloce di FileInputStream o FileReader .
EDIT:
Dopo un po 'di indagine su questo, si scopre che, a seconda del proprio sistema operativo, si potrebbe essere meglio usando un nuovo BufferedInputStream (nuovo FileInputStream (file)) . Tuttavia, leggere tutto in una volta in un carattere [] la dimensione del file sembra il modo peggiore.
Quindi BufferedInputStream dovrebbe fornire prestazioni approssimativamente coerenti su tutte le piattaforme, mentre il file mappato in memoria potrebbe essere lento o veloce a seconda del sistema operativo sottostante. Come per tutto ciò che è fondamentale per le prestazioni, dovresti testare il tuo codice e vedere cosa funziona meglio.
EDIT:
Ok, ecco alcuni test (il primo viene fatto due volte per ottenere i file nella cache del disco).
L'ho eseguito sui file di classe rt.jar, estratti sul disco rigido, questo è in Windows 7 beta x64. Sono 16784 file per un totale di 94.706.637 byte.
Prima i risultati ...
(ricorda che il primo viene ripetuto per ottenere la configurazione della cache del disco)
-
ArrayTest
- time = 83016
- byte = 118641472
-
ArrayTest
- time = 46570
- byte = 118641472
-
DataInputByteAtATime
- time = 74735
- byte = 118641472
-
DataInputReadFully
- time = 8953
- byte = 118641472
-
MemoryMapped
- time = 2320
- byte = 118641472
Ecco il codice ...
import java.io.BufferedInputStream;
import java.io.DataInputStream;
import java.io.File;
import java.io.FileInputStream;
import java.io.IOException;
import java.io.InputStream;
import java.nio.MappedByteBuffer;
import java.nio.channels.FileChannel;
import java.nio.channels.FileChannel.MapMode;
import java.util.HashSet;
import java.util.Set;
public class Main
{
public static void main(final String[] argv)
{
ArrayTest.main(argv);
ArrayTest.main(argv);
DataInputByteAtATime.main(argv);
DataInputReadFully.main(argv);
MemoryMapped.main(argv);
}
}
abstract class Test
{
public final void run(final File root)
{
final Set<File> files;
final long size;
final long start;
final long end;
final long total;
files = new HashSet<File>();
getFiles(root, files);
start = System.currentTimeMillis();
size = readFiles(files);
end = System.currentTimeMillis();
total = end - start;
System.out.println(getClass().getName());
System.out.println("time = " + total);
System.out.println("bytes = " + size);
}
private void getFiles(final File dir,
final Set<File> files)
{
final File[] childeren;
childeren = dir.listFiles();
for(final File child : childeren)
{
if(child.isFile())
{
files.add(child);
}
else
{
getFiles(child, files);
}
}
}
private long readFiles(final Set<File> files)
{
long size;
size = 0;
for(final File file : files)
{
size += readFile(file);
}
return (size);
}
protected abstract long readFile(File file);
}
class ArrayTest
extends Test
{
public static void main(final String[] argv)
{
final Test test;
test = new ArrayTest();
test.run(new File(argv[0]));
}
protected long readFile(final File file)
{
InputStream stream;
stream = null;
try
{
final byte[] data;
int soFar;
int sum;
stream = new BufferedInputStream(new FileInputStream(file));
data = new byte[(int)file.length()];
soFar = 0;
do
{
soFar += stream.read(data, soFar, data.length - soFar);
}
while(soFar != data.length);
sum = 0;
for(final byte b : data)
{
sum += b;
}
return (sum);
}
catch(final IOException ex)
{
ex.printStackTrace();
}
finally
{
if(stream != null)
{
try
{
stream.close();
}
catch(final IOException ex)
{
ex.printStackTrace();
}
}
}
return (0);
}
}
class DataInputByteAtATime
extends Test
{
public static void main(final String[] argv)
{
final Test test;
test = new DataInputByteAtATime();
test.run(new File(argv[0]));
}
protected long readFile(final File file)
{
DataInputStream stream;
stream = null;
try
{
final int fileSize;
int sum;
stream = new DataInputStream(new BufferedInputStream(new FileInputStream(file)));
fileSize = (int)file.length();
sum = 0;
for(int i = 0; i < fileSize; i++)
{
sum += stream.readByte();
}
return (sum);
}
catch(final IOException ex)
{
ex.printStackTrace();
}
finally
{
if(stream != null)
{
try
{
stream.close();
}
catch(final IOException ex)
{
ex.printStackTrace();
}
}
}
return (0);
}
}
class DataInputReadFully
extends Test
{
public static void main(final String[] argv)
{
final Test test;
test = new DataInputReadFully();
test.run(new File(argv[0]));
}
protected long readFile(final File file)
{
DataInputStream stream;
stream = null;
try
{
final byte[] data;
int sum;
stream = new DataInputStream(new BufferedInputStream(new FileInputStream(file)));
data = new byte[(int)file.length()];
stream.readFully(data);
sum = 0;
for(final byte b : data)
{
sum += b;
}
return (sum);
}
catch(final IOException ex)
{
ex.printStackTrace();
}
finally
{
if(stream != null)
{
try
{
stream.close();
}
catch(final IOException ex)
{
ex.printStackTrace();
}
}
}
return (0);
}
}
class DataInputReadInChunks
extends Test
{
public static void main(final String[] argv)
{
final Test test;
test = new DataInputReadInChunks();
test.run(new File(argv[0]));
}
protected long readFile(final File file)
{
DataInputStream stream;
stream = null;
try
{
final byte[] data;
int size;
final int fileSize;
int sum;
stream = new DataInputStream(new BufferedInputStream(new FileInputStream(file)));
fileSize = (int)file.length();
data = new byte[512];
size = 0;
sum = 0;
do
{
size += stream.read(data);
sum = 0;
for(int i = 0; i < size; i++)
{
sum += data[i];
}
}
while(size != fileSize);
return (sum);
}
catch(final IOException ex)
{
ex.printStackTrace();
}
finally
{
if(stream != null)
{
try
{
stream.close();
}
catch(final IOException ex)
{
ex.printStackTrace();
}
}
}
return (0);
}
}
class MemoryMapped
extends Test
{
public static void main(final String[] argv)
{
final Test test;
test = new MemoryMapped();
test.run(new File(argv[0]));
}
protected long readFile(final File file)
{
FileInputStream stream;
stream = null;
try
{
final FileChannel channel;
final MappedByteBuffer buffer;
final int fileSize;
int sum;
stream = new FileInputStream(file);
channel = stream.getChannel();
buffer = channel.map(MapMode.READ_ONLY, 0, file.length());
fileSize = (int)file.length();
sum = 0;
for(int i = 0; i < fileSize; i++)
{
sum += buffer.get();
}
return (sum);
}
catch(final IOException ex)
{
ex.printStackTrace();
}
finally
{
if(stream != null)
{
try
{
stream.close();
}
catch(final IOException ex)
{
ex.printStackTrace();
}
}
}
return (0);
}
}
Altri suggerimenti
Il modo più efficiente è:
- Determina la lunghezza del file (
File.length ()) - Crea un buffer di caratteri con le stesse dimensioni (o leggermente più grande)
- Determina la codifica del file
- Usa
new InputStreamReader (new FileInputStream (file), codifica)per leggere - Leggi il file while nel buffer con una sola chiamata a read (). Si noti che read () potrebbe tornare presto (non avendo letto l'intero file). In tal caso, chiamarlo di nuovo con un offset per leggere il batch successivo.
- Crea la stringa:
new String (buffer)
Se devi cercare & amp; sostituisci una volta all'avvio, usa String.replaceAll ().
Se è necessario farlo più volte, è possibile considerare l'utilizzo di StringBuilder. Non ha un sostituto All () ma puoi usarlo per manipolare l'array di caratteri in atto (- > nessuna allocazione di memoria).
Detto questo:
- Rendi il tuo codice il più breve e semplice possibile.
- Misura le prestazioni
- È troppo lento, risolvilo.
Non c'è motivo di perdere molto tempo per far funzionare questo codice velocemente se ci vogliono solo 0,1 secondi per eseguire.
Se hai ancora un problema di prestazioni, considera di mettere tutti i file di testo in un JAR, aggiungilo nel percorso di classe e usa Class.getResourceAsStream () per leggere i file. Il caricamento di elementi dal percorso di classe Java è altamente ottimizzato.
Dipende molto dalla struttura interna dei tuoi file di testo e da cosa intendi farci.
I dizionari sono valori-chiave dei file (vale a dire "file proprietà" e file)? XML? JSON? Hai strutture standard per quelli.
Se hanno una struttura formale puoi anche usare JavaCC per costruire una rappresentazione di oggetti dei file.
Altrimenti, se sono solo blocchi di dati, beh, leggi i file e inseriscili in una stringa.
Modifica: informazioni su ricerca e uso sostitutivo La funzione stringa Sostituisci tutto .
Dopo aver cercato su Google i test esistenti sulla velocità di I / O in Java, devo dire che il caso di test di TofuBear mi ha completamente aperto gli occhi. Devi eseguire il suo test sulla tua piattaforma per vedere cosa è più veloce per te.
Dopo aver eseguito il suo test e aver aggiunto alcuni dei miei (merito a TofuBear per aver pubblicato il suo codice originale), sembra che tu possa ottenere ancora più velocità utilizzando il tuo buffer personalizzato rispetto a BufferedInputStream.
Con mio sgomento, NIO ByteBuffer non ha funzionato bene.
NOTA: il buffer byte statico [] si è ridotto di qualche ms, ma i ByteBuffer statici hanno effettivamente aumentato il tempo di elaborazione! C'è qualcosa di sbagliato nel codice ??
Ho aggiunto alcuni test:
-
ArrayTest_CustomBuffering (Leggi i dati direttamente nel mio buffer)
-
ArrayTest_CustomBuffering_StaticBuffer (leggi i dati in un buffer statico che viene creato una sola volta all'inizio)
-
FileChannelArrayByteBuffer (usa NIO ByteBuffer e racchiudi il tuo array byte [])
-
FileChannelAllocateByteBuffer (usa NIO ByteBuffer con .allocate)
-
FileChannelAllocateByteBuffer_StaticBuffer (uguale a 4 ma con un buffer statico)
-
FileChannelAllocateDirectByteBuffer (usa NIO ByteBuffer con .allocateDirect)
-
FileChannelAllocateDirectByteBuffer_StaticBuffer (uguale a 6 ma con un buffer statico)
Ecco i miei risultati :, usando Windows Vista e jdk1.6.0_13 sul file rt.jar estratto:
ArrayTest
tempo = 2075
byte = 2120336424
ArrayTest
tempo = 2044
byte = 2120336424
ArrayTest_CustomBuffering
tempo = 1903
byte = 2120336424
ArrayTest_CustomBuffering_StaticBuffer
tempo = 1872
byte = 2120336424
DataInputByteAtATime
tempo = 2668
byte = 2120336424
DataInputReadFully
tempo = 2028
byte = 2120336424
MemoryMapped
tempo = 2901
byte = 2120336424
FileChannelArrayByteBuffer
tempo = 2371
byte = 2120336424
FileChannelAllocateByteBuffer
tempo = 2356
byte = 2120336424
FileChannelAllocateByteBuffer_StaticBuffer
tempo = 2668
byte = 2120336424
FileChannelAllocateDirectByteBuffer
tempo = 2512
byte = 2120336424
FileChannelAllocateDirectByteBuffer_StaticBuffer
tempo = 2590
byte = 2120336424
La mia versione compromessa del codice di TofuBear:
import java.io.BufferedInputStream;
import java.io.DataInputStream;
import java.io.File;
import java.io.FileInputStream;
import java.io.IOException;
import java.io.InputStream;
import java.nio.MappedByteBuffer;
import java.nio.ByteBuffer;
import java.nio.channels.FileChannel;
import java.nio.channels.FileChannel.MapMode;
import java.util.HashSet;
import java.util.Set;
public class Main {
public static void main(final String[] argv) {
ArrayTest.mainx(argv);
ArrayTest.mainx(argv);
ArrayTest_CustomBuffering.mainx(argv);
ArrayTest_CustomBuffering_StaticBuffer.mainx(argv);
DataInputByteAtATime.mainx(argv);
DataInputReadFully.mainx(argv);
MemoryMapped.mainx(argv);
FileChannelArrayByteBuffer.mainx(argv);
FileChannelAllocateByteBuffer.mainx(argv);
FileChannelAllocateByteBuffer_StaticBuffer.mainx(argv);
FileChannelAllocateDirectByteBuffer.mainx(argv);
FileChannelAllocateDirectByteBuffer_StaticBuffer.mainx(argv);
}
}
abstract class Test {
static final int BUFF_SIZE = 20971520;
static final byte[] StaticData = new byte[BUFF_SIZE];
static final ByteBuffer StaticBuffer =ByteBuffer.allocate(BUFF_SIZE);
static final ByteBuffer StaticDirectBuffer = ByteBuffer.allocateDirect(BUFF_SIZE);
public final void run(final File root) {
final Set<File> files;
final long size;
final long start;
final long end;
final long total;
files = new HashSet<File>();
getFiles(root, files);
start = System.currentTimeMillis();
size = readFiles(files);
end = System.currentTimeMillis();
total = end - start;
System.out.println(getClass().getName());
System.out.println("time = " + total);
System.out.println("bytes = " + size);
}
private void getFiles(final File dir,final Set<File> files) {
final File[] childeren;
childeren = dir.listFiles();
for(final File child : childeren) {
if(child.isFile()) {
files.add(child);
}
else {
getFiles(child, files);
}
}
}
private long readFiles(final Set<File> files) {
long size;
size = 0;
for(final File file : files) {
size += readFile(file);
}
return (size);
}
protected abstract long readFile(File file);
}
class ArrayTest extends Test {
public static void mainx(final String[] argv) {
final Test test;
test = new ArrayTest();
test.run(new File(argv[0]));
}
protected long readFile(final File file) {
InputStream stream;
stream = null;
try {
final byte[] data;
int soFar;
int sum;
stream = new BufferedInputStream(new FileInputStream(file));
data = new byte[(int)file.length()];
soFar = 0;
do {
soFar += stream.read(data, soFar, data.length - soFar);
}
while(soFar != data.length);
sum = 0;
for(final byte b : data) {
sum += b;
}
return (sum);
}
catch(final IOException ex) {
ex.printStackTrace();
}
finally {
if(stream != null) {
try {
stream.close();
}
catch(final IOException ex) {
ex.printStackTrace();
}
}
}
return (0);
}
}
class ArrayTest_CustomBuffering extends Test {
public static void mainx(final String[] argv) {
final Test test;
test = new ArrayTest_CustomBuffering();
test.run(new File(argv[0]));
}
protected long readFile(final File file) {
InputStream stream;
stream = null;
try {
final byte[] data;
int soFar;
int sum;
stream = new FileInputStream(file);
data = new byte[(int)file.length()];
soFar = 0;
do {
soFar += stream.read(data, soFar, data.length - soFar);
}
while(soFar != data.length);
sum = 0;
for(final byte b : data) {
sum += b;
}
return (sum);
}
catch(final IOException ex) {
ex.printStackTrace();
}
finally {
if(stream != null) {
try {
stream.close();
}
catch(final IOException ex) {
ex.printStackTrace();
}
}
}
return (0);
}
}
class ArrayTest_CustomBuffering_StaticBuffer extends Test {
public static void mainx(final String[] argv) {
final Test test;
test = new ArrayTest_CustomBuffering_StaticBuffer();
test.run(new File(argv[0]));
}
protected long readFile(final File file) {
InputStream stream;
stream = null;
try {
int soFar;
int sum;
final int fileSize;
stream = new FileInputStream(file);
fileSize = (int)file.length();
soFar = 0;
do {
soFar += stream.read(StaticData, soFar, fileSize - soFar);
}
while(soFar != fileSize);
sum = 0;
for(int i=0;i<fileSize;i++) {
sum += StaticData[i];
}
return (sum);
}
catch(final IOException ex) {
ex.printStackTrace();
}
finally {
if(stream != null) {
try {
stream.close();
}
catch(final IOException ex) {
ex.printStackTrace();
}
}
}
return (0);
}
}
class DataInputByteAtATime extends Test {
public static void mainx(final String[] argv) {
final Test test;
test = new DataInputByteAtATime();
test.run(new File(argv[0]));
}
protected long readFile(final File file) {
DataInputStream stream;
stream = null;
try {
final int fileSize;
int sum;
stream = new DataInputStream(new BufferedInputStream(new FileInputStream(file)));
fileSize = (int)file.length();
sum = 0;
for(int i = 0; i < fileSize; i++) {
sum += stream.readByte();
}
return (sum);
}
catch(final IOException ex) {
ex.printStackTrace();
}
finally {
if(stream != null) {
try {
stream.close();
}
catch(final IOException ex) {
ex.printStackTrace();
}
}
}
return (0);
}
}
class DataInputReadFully extends Test {
public static void mainx(final String[] argv) {
final Test test;
test = new DataInputReadFully();
test.run(new File(argv[0]));
}
protected long readFile(final File file) {
DataInputStream stream;
stream = null;
try {
final byte[] data;
int sum;
stream = new DataInputStream(new BufferedInputStream(new FileInputStream(file)));
data = new byte[(int)file.length()];
stream.readFully(data);
sum = 0;
for(final byte b : data) {
sum += b;
}
return (sum);
}
catch(final IOException ex) {
ex.printStackTrace();
}
finally {
if(stream != null) {
try {
stream.close();
}
catch(final IOException ex) {
ex.printStackTrace();
}
}
}
return (0);
}
}
class DataInputReadInChunks extends Test {
public static void mainx(final String[] argv) {
final Test test;
test = new DataInputReadInChunks();
test.run(new File(argv[0]));
}
protected long readFile(final File file) {
DataInputStream stream;
stream = null;
try {
final byte[] data;
int size;
final int fileSize;
int sum;
stream = new DataInputStream(new BufferedInputStream(new FileInputStream(file)));
fileSize = (int)file.length();
data = new byte[512];
size = 0;
sum = 0;
do {
size += stream.read(data);
sum = 0;
for(int i = 0;
i < size;
i++) {
sum += data[i];
}
}
while(size != fileSize);
return (sum);
}
catch(final IOException ex) {
ex.printStackTrace();
}
finally {
if(stream != null) {
try {
stream.close();
}
catch(final IOException ex) {
ex.printStackTrace();
}
}
}
return (0);
}
}
class MemoryMapped extends Test {
public static void mainx(final String[] argv) {
final Test test;
test = new MemoryMapped();
test.run(new File(argv[0]));
}
protected long readFile(final File file) {
FileInputStream stream;
stream = null;
try {
final FileChannel channel;
final MappedByteBuffer buffer;
final int fileSize;
int sum;
stream = new FileInputStream(file);
channel = stream.getChannel();
buffer = channel.map(MapMode.READ_ONLY, 0, file.length());
fileSize = (int)file.length();
sum = 0;
for(int i = 0; i < fileSize; i++) {
sum += buffer.get();
}
return (sum);
}
catch(final IOException ex) {
ex.printStackTrace();
}
finally {
if(stream != null) {
try {
stream.close();
}
catch(final IOException ex) {
ex.printStackTrace();
}
}
}
return (0);
}
}
class FileChannelArrayByteBuffer extends Test {
public static void mainx(final String[] argv) {
final Test test;
test = new FileChannelArrayByteBuffer();
test.run(new File(argv[0]));
}
protected long readFile(final File file) {
FileInputStream stream;
stream = null;
try {
final byte[] data;
final FileChannel channel;
final ByteBuffer buffer;
int nRead=0;
final int fileSize;
int sum;
stream = new FileInputStream(file);
data = new byte[(int)file.length()];
buffer = ByteBuffer.wrap(data);
channel = stream.getChannel();
fileSize = (int)file.length();
nRead += channel.read(buffer);
buffer.rewind();
sum = 0;
for(int i = 0; i < fileSize; i++) {
sum += buffer.get();
}
return (sum);
}
catch(final IOException ex) {
ex.printStackTrace();
}
finally {
if(stream != null) {
try {
stream.close();
}
catch(final IOException ex) {
ex.printStackTrace();
}
}
}
return (0);
}
}
class FileChannelAllocateByteBuffer extends Test {
public static void mainx(final String[] argv) {
final Test test;
test = new FileChannelAllocateByteBuffer();
test.run(new File(argv[0]));
}
protected long readFile(final File file) {
FileInputStream stream;
stream = null;
try {
final byte[] data;
final FileChannel channel;
final ByteBuffer buffer;
int nRead=0;
final int fileSize;
int sum;
stream = new FileInputStream(file);
//data = new byte[(int)file.length()];
buffer = ByteBuffer.allocate((int)file.length());
channel = stream.getChannel();
fileSize = (int)file.length();
nRead += channel.read(buffer);
buffer.rewind();
sum = 0;
for(int i = 0; i < fileSize; i++) {
sum += buffer.get();
}
return (sum);
}
catch(final IOException ex) {
ex.printStackTrace();
}
finally {
if(stream != null) {
try {
stream.close();
}
catch(final IOException ex) {
ex.printStackTrace();
}
}
}
return (0);
}
}
class FileChannelAllocateDirectByteBuffer extends Test {
public static void mainx(final String[] argv) {
final Test test;
test = new FileChannelAllocateDirectByteBuffer();
test.run(new File(argv[0]));
}
protected long readFile(final File file) {
FileInputStream stream;
stream = null;
try {
final byte[] data;
final FileChannel channel;
final ByteBuffer buffer;
int nRead=0;
final int fileSize;
int sum;
stream = new FileInputStream(file);
//data = new byte[(int)file.length()];
buffer = ByteBuffer.allocateDirect((int)file.length());
channel = stream.getChannel();
fileSize = (int)file.length();
nRead += channel.read(buffer);
buffer.rewind();
sum = 0;
for(int i = 0; i < fileSize; i++) {
sum += buffer.get();
}
return (sum);
}
catch(final IOException ex) {
ex.printStackTrace();
}
finally {
if(stream != null) {
try {
stream.close();
}
catch(final IOException ex) {
ex.printStackTrace();
}
}
}
return (0);
}
}
class FileChannelAllocateByteBuffer_StaticBuffer extends Test {
public static void mainx(final String[] argv) {
final Test test;
test = new FileChannelAllocateByteBuffer_StaticBuffer();
test.run(new File(argv[0]));
}
protected long readFile(final File file) {
FileInputStream stream;
stream = null;
try {
final byte[] data;
final FileChannel channel;
int nRead=0;
final int fileSize;
int sum;
stream = new FileInputStream(file);
//data = new byte[(int)file.length()];
StaticBuffer.clear();
StaticBuffer.limit((int)file.length());
channel = stream.getChannel();
fileSize = (int)file.length();
nRead += channel.read(StaticBuffer);
StaticBuffer.rewind();
sum = 0;
for(int i = 0; i < fileSize; i++) {
sum += StaticBuffer.get();
}
return (sum);
}
catch(final IOException ex) {
ex.printStackTrace();
}
finally {
if(stream != null) {
try {
stream.close();
}
catch(final IOException ex) {
ex.printStackTrace();
}
}
}
return (0);
}
}
class FileChannelAllocateDirectByteBuffer_StaticBuffer extends Test {
public static void mainx(final String[] argv) {
final Test test;
test = new FileChannelAllocateDirectByteBuffer_StaticBuffer();
test.run(new File(argv[0]));
}
protected long readFile(final File file) {
FileInputStream stream;
stream = null;
try {
final byte[] data;
final FileChannel channel;
int nRead=0;
final int fileSize;
int sum;
stream = new FileInputStream(file);
//data = new byte[(int)file.length()];
StaticDirectBuffer.clear();
StaticDirectBuffer.limit((int)file.length());
channel = stream.getChannel();
fileSize = (int)file.length();
nRead += channel.read(StaticDirectBuffer);
StaticDirectBuffer.rewind();
sum = 0;
for(int i = 0; i < fileSize; i++) {
sum += StaticDirectBuffer.get();
}
return (sum);
}
catch(final IOException ex) {
ex.printStackTrace();
}
finally {
if(stream != null) {
try {
stream.close();
}
catch(final IOException ex) {
ex.printStackTrace();
}
}
}
return (0);
}
}
Qualsiasi approccio convenzionale sarà limitato nella velocità. Non sono sicuro che vedrai molta differenza tra un approccio e l'altro.
Mi concentrerei sui trucchi aziendali che potrebbero rendere più veloce l'intera operazione.
Ad esempio, se leggi tutti i file e li memorizzi in un singolo file con i timestamp di ciascuno dei tuoi file originali, puoi verificare se qualcuno dei file è cambiato senza aprirli. (una cache semplice, in altre parole).
Se il tuo problema era ottenere rapidamente una GUI, potresti trovare un modo per aprire i file in un thread in background dopo la visualizzazione della tua prima schermata.
Il sistema operativo può essere abbastanza buono con i file, se questo fa parte di un processo batch (nessun utente I / O), potresti iniziare con un file batch che aggiunge tutti i file in uno grande prima di avviare java, usando qualcosa in questo modo:
echo "file1" > file.all
type "file1" >> file.all
echo "file2" >> file.all
type "file2" >> file.all
Quindi apri semplicemente file.all (non sono sicuro di quanto sarà più veloce, ma è probabilmente l'approccio più veloce per le condizioni che ho appena dichiarato)
Suppongo che sto solo dicendo che il più delle volte, una soluzione a un problema di velocità richiede spesso di espandere un po 'il tuo punto di vista e ripensare completamente la soluzione utilizzando nuovi parametri. Le modifiche di un algoritmo esistente di solito forniscono solo piccoli miglioramenti della velocità a scapito della leggibilità.
Dovresti essere in grado di leggere tutti i file in meno di un secondo usando strumenti standard come Commons IO FileUtils.readFileToString (File)
Puoi usare writeStringToFile (File, String) per salvare anche il file modificato.
http: / /commons.apache.org/io/api-release/index.html?org/apache/commons/io/FileUtils.html
A proposito: 50 non è un gran numero di file. Un tipico PC può avere almeno 100.000 file.
