バルクロード中のSOLRエラー - org.apache.lucene.index.MergePolicy $ MergeException

https://stackoverflow.com//questions/25020670

21-12-2019
|

質問

SStableLoaderを介して何百万ものレコードを一括読み込んでいる間は、次の例外が発生します。

ERROR [Lucene Merge Thread #132642] 2014-07-29 00:35:01,252 CassandraDaemon.java (line 199) Exception in thread Thread[Lucene Merge Thread #132642,6,main]
org.apache.lucene.index.MergePolicy$MergeException: java.lang.IllegalStateException: failed
        at org.apache.lucene.index.ConcurrentMergeScheduler.handleMergeException(ConcurrentMergeScheduler.java:545)
        at org.apache.lucene.index.ConcurrentMergeScheduler$MergeThread.run(ConcurrentMergeScheduler.java:518)
Caused by: java.lang.IllegalStateException: failed
        at org.apache.lucene.util.packed.DirectPackedReader.get(DirectPackedReader.java:93)
        at org.apache.lucene.util.packed.BlockPackedReader.get(BlockPackedReader.java:86)
        at org.apache.lucene.util.LongValues.get(LongValues.java:35)
        at org.apache.lucene.codecs.lucene45.Lucene45DocValuesProducer$5.getOrd(Lucene45DocValuesProducer.java:459)
        at org.apache.lucene.codecs.DocValuesConsumer$4$1.setNext(DocValuesConsumer.java:389)
        at org.apache.lucene.codecs.DocValuesConsumer$4$1.hasNext(DocValuesConsumer.java:352)
        at org.apache.lucene.codecs.lucene45.Lucene45DocValuesConsumer.addNumericField(Lucene45DocValuesConsumer.java:141)
        at org.apache.lucene.codecs.lucene45.Lucene45DocValuesConsumer.addSortedField(Lucene45DocValuesConsumer.java:350)
        at org.apache.lucene.codecs.perfield.PerFieldDocValuesFormat$FieldsWriter.addSortedField(PerFieldDocValuesFormat.java:116)
        at org.apache.lucene.codecs.DocValuesConsumer.mergeSortedField(DocValuesConsumer.java:305)
        at org.apache.lucene.index.SegmentMerger.mergeDocValues(SegmentMerger.java:197)
        at org.apache.lucene.index.SegmentMerger.merge(SegmentMerger.java:116)
        at org.apache.lucene.index.IndexWriter.mergeMiddle(IndexWriter.java:4058)
        at org.apache.lucene.index.IndexWriter.merge(IndexWriter.java:3655)
        at org.apache.lucene.index.ConcurrentMergeScheduler.doMerge(ConcurrentMergeScheduler.java:405)
        at org.apache.lucene.index.ConcurrentMergeScheduler$MergeThread.run(ConcurrentMergeScheduler.java:482)
Caused by: java.io.EOFException: Read past EOF (resource: BBIndexInput(name=_13ms5_Lucene45_0.dvd))
        at com.datastax.bdp.search.lucene.store.bytebuffer.ByteBufferIndexInput.switchCurrentBuffer(ByteBufferIndexInput.java:188)
        at com.datastax.bdp.search.lucene.store.bytebuffer.ByteBufferIndexInput.readByte(ByteBufferIndexInput.java:129)
        at org.apache.lucene.store.DataInput.readShort(DataInput.java:77)
        at com.datastax.bdp.search.lucene.store.bytebuffer.ByteBufferIndexInput.readShort(ByteBufferIndexInput.java:89)
        at org.apache.lucene.util.packed.DirectPackedReader.get(DirectPackedReader.java:64)
        ... 15 more

例外トレースから、長い値とEOFと関係があることがわかります。ただし、エラーを引き起こしているのは何もわかりません。インポートしようとしているSSTABLEファイルは、 org.apache.cassandra.io.SSTABLE.CQLSSTABLEWRITER を使用するJavaプログラム（Meによって書かれています）によって生成されました。

CFスキーマ、SOLRスキーマ、およびSSTABLEジェネレータコードは、ここで見つけることができます。 https：// www.dropbox.com/sh/1rpo3ixmz1bg9y2/aaa3aqlfzwesniwy79g9dasba

PS：

最近DSE 4.1.3から4.5.1にアップグレードしました。アップグレード
の前にこのエラーを見ることを忘れないでください
ジェネレータのクラスパスに含まれているCassandraライブラリはバージョン2.0.8です。 DSEアップグレードの前に、バージョン2.0.5ライブラリ
を使用します。
DSEトポロジー：1 DC、6 SOLRノード（VNODE DASIXE）、RF 2

その他のDSE設定：LeveledCompAction、LZ4圧縮、gossipingpropertyfilesnitch

機械仕様：CentOS 6.5 x 64、JDK 1.7.0_55、Hexacore、ヒープサイズ120GB（これを必要とする特定のクエリがあります）、128GBの合計RAM

私は最初は6つのノードのうちの3つのエラーに遭遇しました。私はそれらすべてを再起動し、私はエラーなしで150百万のレコードをインポートすることができました。しかし、私が眠っている間に輸入を無人で去ったとき、それはエラーが6つのノードのうち1で再紹介されたときです。

各ノードのインデックス付きレコードの数（Solr Admin UIによる）の数は、（Nodetool CFSTATSによると）
の数と比較して、約6万レコードの数が約6万レコードされています。
更新：

それでもこれを経験し続けています。インデックス付き文書の数（SOLR）と保存されている文書（Cassandra CFSTATS）の間の不一致は、日々の日を大きくなっています

更新（2014-08-13）：

Rock Brainによって提案されたディレクトリファクトリを変更しました。しかし、SstableLoader
を介して数時間の継続的なインポート内で再発生しました
アップデート（2014-08-14）：

興味深いことに、私は実際に私は実際に2つの類似の例外を取得することに気づいた（違いは、最後の「違い」：

例外1：

ERROR [Lucene Merge Thread #24937] 2014-08-14 06:20:32,270 CassandraDaemon.java (line 199) Exception in thread Thread[Lucene Merge Thread #24937,6,main] org.apache.lucene.index.MergePolicy$MergeException: java.lang.IllegalStateException: failed at org.apache.lucene.index.ConcurrentMergeScheduler.handleMergeException(ConcurrentMergeScheduler.java:545) at org.apache.lucene.index.ConcurrentMergeScheduler$MergeThread.run(ConcurrentMergeScheduler.java:518) Caused by: java.lang.IllegalStateException: failed at org.apache.lucene.util.packed.DirectPackedReader.get(DirectPackedReader.java:93) at org.apache.lucene.util.packed.BlockPackedReader.get(BlockPackedReader.java:86) at org.apache.lucene.util.LongValues.get(LongValues.java:35) at org.apache.lucene.codecs.lucene45.Lucene45DocValuesProducer$5.getOrd(Lucene45DocValuesProducer.java:459) at org.apache.lucene.codecs.DocValuesConsumer$4$1.setNext(DocValuesConsumer.java:389) at org.apache.lucene.codecs.DocValuesConsumer$4$1.hasNext(DocValuesConsumer.java:352) at org.apache.lucene.codecs.lucene45.Lucene45DocValuesConsumer.addNumericField(Lucene45DocValuesConsumer.java:141) at org.apache.lucene.codecs.lucene45.Lucene45DocValuesConsumer.addSortedField(Lucene45DocValuesConsumer.java:350) at org.apache.lucene.codecs.perfield.PerFieldDocValuesFormat$FieldsWriter.addSortedField(PerFieldDocValuesFormat.java:116) at org.apache.lucene.codecs.DocValuesConsumer.mergeSortedField(DocValuesConsumer.java:305) at org.apache.lucene.index.SegmentMerger.mergeDocValues(SegmentMerger.java:197) at org.apache.lucene.index.SegmentMerger.merge(SegmentMerger.java:116) at org.apache.lucene.index.IndexWriter.mergeMiddle(IndexWriter.java:4058) at org.apache.lucene.index.IndexWriter.merge(IndexWriter.java:3655) at org.apache.lucene.index.ConcurrentMergeScheduler.doMerge(ConcurrentMergeScheduler.java:405) at org.apache.lucene.index.ConcurrentMergeScheduler$MergeThread.run(ConcurrentMergeScheduler.java:482) Caused by: java.io.EOFException: Read past EOF (resource: BBIndexInput(name=_67nex_Lucene45_0.dvd)) at com.datastax.bdp.search.lucene.store.bytebuffer.ByteBufferIndexInput.switchCurrentBuffer(ByteBufferIndexInput.java:188) at com.datastax.bdp.search.lucene.store.bytebuffer.ByteBufferIndexInput.readByte(ByteBufferIndexInput.java:129) at org.apache.lucene.util.packed.DirectPackedReader.get(DirectPackedReader.java:64) ... 15 more
.
例外2（この投稿の上の元の例外とまったく同じ）：

ERROR [Lucene Merge Thread #24936] 2014-08-14 06:20:34,694 CassandraDaemon.java (line 199) Exception in thread Thread[Lucene Merge Thread #24936,6,main] org.apache.lucene.index.MergePolicy$MergeException: java.lang.IllegalStateException: failed at org.apache.lucene.index.ConcurrentMergeScheduler.handleMergeException(ConcurrentMergeScheduler.java:545) at org.apache.lucene.index.ConcurrentMergeScheduler$MergeThread.run(ConcurrentMergeScheduler.java:518) Caused by: java.lang.IllegalStateException: failed at org.apache.lucene.util.packed.DirectPackedReader.get(DirectPackedReader.java:93) at org.apache.lucene.util.packed.BlockPackedReader.get(BlockPackedReader.java:86) at org.apache.lucene.util.LongValues.get(LongValues.java:35) at org.apache.lucene.codecs.lucene45.Lucene45DocValuesProducer$5.getOrd(Lucene45DocValuesProducer.java:459) at org.apache.lucene.codecs.DocValuesConsumer$4$1.setNext(DocValuesConsumer.java:389) at org.apache.lucene.codecs.DocValuesConsumer$4$1.hasNext(DocValuesConsumer.java:352) at org.apache.lucene.codecs.lucene45.Lucene45DocValuesConsumer.addNumericField(Lucene45DocValuesConsumer.java:141) at org.apache.lucene.codecs.lucene45.Lucene45DocValuesConsumer.addSortedField(Lucene45DocValuesConsumer.java:350) at org.apache.lucene.codecs.perfield.PerFieldDocValuesFormat$FieldsWriter.addSortedField(PerFieldDocValuesFormat.java:116) at org.apache.lucene.codecs.DocValuesConsumer.mergeSortedField(DocValuesConsumer.java:305) at org.apache.lucene.index.SegmentMerger.mergeDocValues(SegmentMerger.java:197) at org.apache.lucene.index.SegmentMerger.merge(SegmentMerger.java:116) at org.apache.lucene.index.IndexWriter.mergeMiddle(IndexWriter.java:4058) at org.apache.lucene.index.IndexWriter.merge(IndexWriter.java:3655) at org.apache.lucene.index.ConcurrentMergeScheduler.doMerge(ConcurrentMergeScheduler.java:405) at org.apache.lucene.index.ConcurrentMergeScheduler$MergeThread.run(ConcurrentMergeScheduler.java:482) Caused by: java.io.EOFException: Read past EOF (resource: BBIndexInput(name=_67fvk_Lucene45_0.dvd)) at com.datastax.bdp.search.lucene.store.bytebuffer.ByteBufferIndexInput.switchCurrentBuffer(ByteBufferIndexInput.java:188) at com.datastax.bdp.search.lucene.store.bytebuffer.ByteBufferIndexInput.readByte(ByteBufferIndexInput.java:129) at org.apache.lucene.store.DataInput.readShort(DataInput.java:77) at com.datastax.bdp.search.lucene.store.bytebuffer.ByteBufferIndexInput.readShort(ByteBufferIndexInput.java:89) at org.apache.lucene.util.packed.DirectPackedReader.get(DirectPackedReader.java:64) ... 15 more
.
更新第2部（2014-08-14）：

リロード警告：

WARN [http-8983-2] 2014-08-14 08:31:28,828 CassandraCoreContainer.java (line 739) Too much waiting for new searcher... WARN [http-8983-2] 2014-08-14 08:31:28,831 SolrCores.java (line 375) Tried to remove core myks.mycf from pendingCoreOps and it wasn't there. INFO [http-8983-2] 2014-08-14 08:31:28,832 StorageService.java (line 2644) Starting repair command #3, repairing 0 ranges for keyspace solr_admin INFO [http-8983-2] 2014-08-14 08:31:28,835 SolrDispatchFilter.java (line 672) [admin] webapp=null path=/admin/cores params={slave=true&deleteAll=false&name=myks.mycf&distributed=false&action=RELOAD&reindex=false&core=myks.mycf&wt=javabin&version=2} status=0 QTime=61640
.
アップデート（2014-08-23）：

提案された回避策
を再生した後、もう例外を再現できませんでした

解決

すべてのコアのSOLRCONFIG.XMLを更新します.directoryFactoryからcom.datastax.bdp.cassandra.index.solr.DSENRTCachingDirectoryFactoryへのsolr.MMapDirectoryFactoryをスワップします。

また、どのOS、JVMバージョンが使用されています。ロードに数時間/時間/時間が発生します。

ライセンス： CC-BY-SA と帰属

所属していません StackOverflow