Как отсортировать результаты поиска по нескольким полям с помощью весовой функции?

Question

У меня есть индекс Lucene, где у каждого документа есть несколько полей, которые содержат числовые значения. Теперь я хотел бы отсортировать результаты поиска по взвешенной сумме этого поля. Например:

field1=100
field2=002
field3=014

И весовая функция выглядит так:

f(d) = field1 * 0.5 + field2 * 1.4 + field3 * 1.8

Результаты должны быть упорядочены по f (d) , где d представляет документ. Функция сортировки должна быть нестатичной и может отличаться от поиска к поиску, поскольку постоянные факторы зависят от пользователя, который выполняет поиск.

У кого-нибудь есть идеи, как решить эту проблему, или, может быть, идея, как достичь этой цели другим способом?

Answer 1

Вы можете попробовать реализовать пользовательский ScoreDocComparator . Например:

public class ScaledScoreDocComparator implements ScoreDocComparator {

    private int[][] values;
    private float[] scalars;

    public ScaledScoreDocComparator(IndexReader reader, String[] fields, float[] scalars) throws IOException {
        this.scalars = scalars;
        this.values = new int[fields.length][];
        for (int i = 0; i < values.length; i++) {
            this.values[i] = FieldCache.DEFAULT.getInts(reader, fields[i]);
        }
    }

    protected float score(ScoreDoc scoreDoc) {
        int doc = scoreDoc.doc;

        float score = 0;
        for (int i = 0; i < values.length; i++) {
            int value = values[i][doc];
            float scalar = scalars[i];
            score += (value * scalar);
        }
        return score;
    }

    @Override
    public int compare(ScoreDoc i, ScoreDoc j) {
        float iScore = score(i);
        float jScore = score(j);
        return Float.compare(iScore, jScore);
    }

    @Override
    public int sortType() {
        return SortField.CUSTOM;
    }

    @Override
    public Comparable<?> sortValue(ScoreDoc i) {
        float score = score(i);
        return Float.valueOf(score);
    }

}

Вот пример ScaledScoreDocComparator в действии. Я считаю, что это работает в моем тесте, но я призываю вас доказать это на основе ваших данных.

final String[] fields = new String[]{ "field1", "field2", "field3" };
final float[] scalars = new float[]{ 0.5f, 1.4f, 1.8f };

Sort sort = new Sort(
    new SortField(
        "",
        new SortComparatorSource() {
            public ScoreDocComparator newComparator(IndexReader reader, String fieldName) throws IOException {
                return new ScaledScoreDocComparator(reader, fields, scalars);
            }
        }
    )
);

IndexSearcher indexSearcher = ...;
Query query = ...;
Filter filter = ...; // can be null
int nDocs = 100;

TopFieldDocs topFieldDocs = indexSearcher.search(query, filter, nDocs, sort);
ScoreDoc[] scoreDocs = topFieldDocs.scoreDocs;

Бонус!

Похоже, что разработчики Lucene устарели в интерфейсе ScoreDocComparator (в настоящее время он устарел в репозитории Subversion). Вот пример ScaledScoreDocComparator , модифицированного для соответствия преемнику ScoreDocComparator , FieldComparator :

public class ScaledComparator extends FieldComparator {

    private String[] fields;
    private float[] scalars;
    private int[][] slotValues;
    private int[][] currentReaderValues;
    private int bottomSlot;

    public ScaledComparator(int numHits, String[] fields, float[] scalars) {
        this.fields = fields;
        this.scalars = scalars;

        this.slotValues = new int[this.fields.length][];
        for (int fieldIndex = 0; fieldIndex < this.fields.length; fieldIndex++) {
            this.slotValues[fieldIndex] = new int[numHits];
        }

        this.currentReaderValues = new int[this.fields.length][];
    }

    protected float score(int[][] values, int secondaryIndex) {
        float score = 0;

        for (int fieldIndex = 0; fieldIndex < fields.length; fieldIndex++) {
            int value = values[fieldIndex][secondaryIndex];
            float scalar = scalars[fieldIndex];
            score += (value * scalar);
        }

        return score;
    }

    protected float scoreSlot(int slot) {
        return score(slotValues, slot);
    }

    protected float scoreDoc(int doc) {
        return score(currentReaderValues, doc);
    }

    @Override
    public int compare(int slot1, int slot2) {
        float score1 = scoreSlot(slot1);
        float score2 = scoreSlot(slot2);
        return Float.compare(score1, score2);
    }

    @Override
    public int compareBottom(int doc) throws IOException {
        float bottomScore = scoreSlot(bottomSlot);
        float docScore = scoreDoc(doc);
        return Float.compare(bottomScore, docScore);
    }

    @Override
    public void copy(int slot, int doc) throws IOException {
        for (int fieldIndex = 0; fieldIndex < fields.length; fieldIndex++) {
            slotValues[fieldIndex][slot] = currentReaderValues[fieldIndex][doc];
        }
    }

    @Override
    public void setBottom(int slot) {
        bottomSlot = slot;
    }

    @Override
    public void setNextReader(IndexReader reader, int docBase, int numSlotsFull) throws IOException {
        for (int fieldIndex = 0; fieldIndex < fields.length; fieldIndex++) {
            String field = fields[fieldIndex];
            currentReaderValues[fieldIndex] = FieldCache.DEFAULT.getInts(reader, field);
        }
    }

    @Override
    public int sortType() {
        return SortField.CUSTOM;
    }

    @Override
    public Comparable<?> value(int slot) {
        float score = scoreSlot(slot);
        return Float.valueOf(score);
    }

}

Использование этого нового класса очень похоже на оригинал, за исключением того, что определение объекта sort немного отличается:

final String[] fields = new String[]{ "field1", "field2", "field3" };
final float[] scalars = new float[]{ 0.5f, 1.4f, 1.8f };

Sort sort = new Sort(
    new SortField(
        "",
        new FieldComparatorSource() {
            public FieldComparator newComparator(String fieldname, int numHits, int sortPos, boolean reversed) throws IOException {
                return new ScaledComparator(numHits, fields, scalars);
            }
        }
    )
);

Answer 2

Я думаю, что один из способов сделать это - принять их как параметры для вашей функции сортировки:

количество полей, массив документов, список весовых коэффициентов (в зависимости от количества полей)

Рассчитайте функцию взвешивания для каждого документа, сохранив результат в отдельном массиве в том же порядке, что и массив документов. Затем выполните любую сортировку по вашему желанию (быстрая сортировка, вероятно, была бы лучшей), убедившись, что вы сортируете не только массив f (d), но и массив документов. Верните отсортированный массив документов, и все готово.

Answer 3

Реализуйте свой собственный класс сходства и переопределите idf (Term, Searcher) . В этом методе вы можете вернуть счет следующим образом. if (term.field.equals (" field1 ") {

    if (term.field.equals("field1") {
        score = 0.5 * Integer.parseInt(term.text());
    } else if (term.field.equals("field2") {
        score = 1.4 * Integer.parseInt(term.text());
    } // and so on
    return score;

Когда вы выполняете запрос, убедитесь, что он есть во всех полях. То есть запрос должен выглядеть как

  

field1: термин field2: термин field3: term

Итоговая оценка также добавит некоторые веса, основанные на нормализации запроса. Но это не повлияет на относительное ранжирование документов в соответствии с приведенным вами уравнением.

Answer 4

Создайте оболочку, которая содержит рейтинг и сопоставима. Что-то вроде:

public void sort(Datum[] data) {
   Rating[] ratings = new Rating[data.length];
   for(int i=0;i<data.length;i++)
     rating[i] = new Rating(data[i]);
   Arrays.sort(rating);
   for(int i=0;i<data.length;i++)
     data[i] = rating[i].datum;
}

class Rating implements Comparable<Datum> {
   final double rating;
   final Datum datum;

   public Rating(Datum datum) {
      this.datum = datum;
      rating = datum.field1 * 0.5 + datum.field2 * 1.4 + datum.field3 * 1.8
   }

   public int compareTo(Datum d) {
      return Double.compare(rating, d.rating);
   }
}