Получить имена всех ключей в коллекции
-
21-09-2019 - |
Вопрос
Я хотел бы получить имена всех ключей в коллекции MongoDB.
Например, из этого:
db.things.insert( { type : ['dog', 'cat'] } );
db.things.insert( { egg : ['cat'] } );
db.things.insert( { type : [] } );
db.things.insert( { hello : [] } );
Я хотел бы получить уникальные ключи:
type, egg, hello
Решение
Вы можете сделать это с помощью MapReduce:
mr = db.runCommand({
"mapreduce" : "my_collection",
"map" : function() {
for (var key in this) { emit(key, null); }
},
"reduce" : function(key, stuff) { return null; },
"out": "my_collection" + "_keys"
})
Затем запустите Different для полученной коллекции, чтобы найти все ключи:
db[mr.result].distinct("_id")
["foo", "bar", "baz", "_id", ...]
Другие советы
С Ответ Кристины В качестве вдохновения я создал инструмент с открытым исходным кодом под названием Variety, который делает именно это: https://github.com/variety/variety
Вы можете использовать агрегацию с новыми $objectToArrray
в 3.4.4
версия для преобразования всей верхней пары ключей и значений в массивы документов с последующим $unwind
& $group
с $addToSet
чтобы получить отдельные ключи для всей коллекции.
$$ROOT
для ссылки на документ верхнего уровня.
db.things.aggregate([
{"$project":{"arrayofkeyvalue":{"$objectToArray":"$$ROOT"}}},
{"$unwind":"$arrayofkeyvalue"},
{"$group":{"_id":null,"allkeys":{"$addToSet":"$arrayofkeyvalue.k"}}}
])
Вы можете использовать приведенный ниже запрос для получения ключей в одном документе.
db.things.aggregate([
{"$project":{"arrayofkeyvalue":{"$objectToArray":"$$ROOT"}}},
{"$project":{"keys":"$arrayofkeyvalue.k"}}
])
Попробуй это:
doc=db.thinks.findOne();
for (key in doc) print(key);
Если ваша целевая коллекция не слишком велика, вы можете попробовать это в клиенте оболочки mongo:
var allKeys = {};
db.YOURCOLLECTION.find().forEach(function(doc){Object.keys(doc).forEach(function(key){allKeys[key]=1})});
allKeys;
Использование питона.Возвращает набор всех ключей верхнего уровня в коллекции:
#Using pymongo and connection named 'db'
reduce(
lambda all_keys, rec_keys: all_keys | set(rec_keys),
map(lambda d: d.keys(), db.things.find()),
set()
)
Вот пример, работающий на Python:Этот пример возвращает результаты в реальном времени.
from pymongo import MongoClient
from bson.code import Code
mapper = Code("""
function() {
for (var key in this) { emit(key, null); }
}
""")
reducer = Code("""
function(key, stuff) { return null; }
""")
distinctThingFields = db.things.map_reduce(mapper, reducer
, out = {'inline' : 1}
, full_response = True)
## do something with distinctThingFields['results']
Очищенное и повторно используемое решение с использованием pymongo:
from pymongo import MongoClient
from bson import Code
def get_keys(db, collection):
client = MongoClient()
db = client[db]
map = Code("function() { for (var key in this) { emit(key, null); } }")
reduce = Code("function(key, stuff) { return null; }")
result = db[collection].map_reduce(map, reduce, "myresults")
return result.distinct('_id')
Использование:
get_keys('dbname', 'collection')
>> ['key1', 'key2', ... ]
Если вы используете mongodb 3.4.4 и выше, вы можете использовать агрегацию ниже, используя $objectToArray
и $group
агрегирование
db.collection.aggregate([
{ "$project": {
"data": { "$objectToArray": "$$ROOT" }
}},
{ "$project": { "data": "$data.k" }},
{ "$unwind": "$data" },
{ "$group": {
"_id": null,
"keys": { "$addToSet": "$data" }
}}
])
Вот работа пример
Это отлично работает для меня:
var arrayOfFieldNames = [];
var items = db.NAMECOLLECTION.find();
while(items.hasNext()) {
var item = items.next();
for(var index in item) {
arrayOfFieldNames[index] = index;
}
}
for (var index in arrayOfFieldNames) {
print(index);
}
Я удивлен, что ни у кого здесь нет ответа, используя простой javascript
и Set
логика для автоматической фильтрации повторяющихся значений, простой пример оболочка монгокак показано ниже:
var allKeys = new Set()
db.collectionName.find().forEach( function (o) {for (key in o ) allKeys.add(key)})
for(let key of allKeys) print(key)
Это напечатает все возможные уникальные ключи в названии коллекции: имя коллекции.
Чтобы получить список всех ключей минус _id
, рассмотрите возможность запуска следующего агрегатного конвейера:
var keys = db.collection.aggregate([
{ "$project": {
"hashmaps": { "$objectToArray": "$$ROOT" }
} },
{ "$project": {
"fields": "$hashmaps.k"
} },
{ "$group": {
"_id": null,
"fields": { "$addToSet": "$fields" }
} },
{ "$project": {
"keys": {
"$setDifference": [
{
"$reduce": {
"input": "$fields",
"initialValue": [],
"in": { "$setUnion" : ["$$value", "$$this"] }
}
},
["_id"]
]
}
}
}
]).toArray()[0]["keys"];
Я думаю, что лучший способ сделать это, как уже упоминалось здесь находится в mongod 3.4.4+, но без использования $unwind
оператором и с использованием только двух ступеней в конвейере.Вместо этого мы можем использовать $mergeObjects
и $objectToArray
операторы.
в $group
этап, мы используем $mergeObjects
оператор для возврата одного документа, где ключ/значение взяты из всех документов в коллекции.
Затем наступает $project
где мы используем $map
и $objectToArray
вернуть ключи.
let allTopLevelKeys = [
{
"$group": {
"_id": null,
"array": {
"$mergeObjects": "$$ROOT"
}
}
},
{
"$project": {
"keys": {
"$map": {
"input": { "$objectToArray": "$array" },
"in": "$$this.k"
}
}
}
}
];
Теперь, если у нас есть вложенные документы и мы хотим также получить ключи, это выполнимо.Для простоты рассмотрим документ с простым встроенным документом, который выглядит следующим образом:
{field1: {field2: "abc"}, field3: "def"}
{field1: {field3: "abc"}, field4: "def"}
Следующий конвейер возвращает все ключи (поле1, поле2, поле3, поле4).
let allFistSecondLevelKeys = [
{
"$group": {
"_id": null,
"array": {
"$mergeObjects": "$$ROOT"
}
}
},
{
"$project": {
"keys": {
"$setUnion": [
{
"$map": {
"input": {
"$reduce": {
"input": {
"$map": {
"input": {
"$objectToArray": "$array"
},
"in": {
"$cond": [
{
"$eq": [
{
"$type": "$$this.v"
},
"object"
]
},
{
"$objectToArray": "$$this.v"
},
[
"$$this"
]
]
}
}
},
"initialValue": [
],
"in": {
"$concatArrays": [
"$$this",
"$$value"
]
}
}
},
"in": "$$this.k"
}
}
]
}
}
}
]
Приложив небольшие усилия, мы можем получить ключ для всех вложенных документов в поле массива, элементы которого также являются объектами.
Я пытался писать на nodejs и наконец придумал следующее:
db.collection('collectionName').mapReduce(
function() {
for (var key in this) {
emit(key, null);
}
},
function(key, stuff) {
return null;
}, {
"out": "allFieldNames"
},
function(err, results) {
var fields = db.collection('allFieldNames').distinct('_id');
fields
.then(function(data) {
var finalData = {
"status": "success",
"fields": data
};
res.send(finalData);
delteCollection(db, 'allFieldNames');
})
.catch(function(err) {
res.send(err);
delteCollection(db, 'allFieldNames');
});
});
Прочитав вновь созданную коллекцию allFieldNames, удалите ее.
db.collection("allFieldNames").remove({}, function (err,result) {
db.close();
return;
});
Согласно монгольдбу документация, сочетание distinct
Находит различные значения для указанного поля в одной коллекции или представлении и возвращает результаты в массиве.
и индексы Операции сбора — это то, что возвращает все возможные значения для данного ключа или индекса:
Возвращает массив, содержащий список документов, идентифицирующих и описывающих существующие индексы в коллекции.
Таким образом, в данном методе можно использовать метод, подобный следующему, чтобы запросить коллекцию для всех ее зарегистрированных индексов и вернуть, скажем, объект с индексами для ключей (в этом примере используется async/await для NodeJS, но очевидно, вы можете использовать любой другой асинхронный подход):
async function GetFor(collection, index) {
let currentIndexes;
let indexNames = [];
let final = {};
let vals = [];
try {
currentIndexes = await collection.indexes();
await ParseIndexes();
//Check if a specific index was queried, otherwise, iterate for all existing indexes
if (index && typeof index === "string") return await ParseFor(index, indexNames);
await ParseDoc(indexNames);
await Promise.all(vals);
return final;
} catch (e) {
throw e;
}
function ParseIndexes() {
return new Promise(function (result) {
let err;
for (let ind in currentIndexes) {
let index = currentIndexes[ind];
if (!index) {
err = "No Key For Index "+index; break;
}
let Name = Object.keys(index.key);
if (Name.length === 0) {
err = "No Name For Index"; break;
}
indexNames.push(Name[0]);
}
return result(err ? Promise.reject(err) : Promise.resolve());
})
}
async function ParseFor(index, inDoc) {
if (inDoc.indexOf(index) === -1) throw "No Such Index In Collection";
try {
await DistinctFor(index);
return final;
} catch (e) {
throw e
}
}
function ParseDoc(doc) {
return new Promise(function (result) {
let err;
for (let index in doc) {
let key = doc[index];
if (!key) {
err = "No Key For Index "+index; break;
}
vals.push(new Promise(function (pushed) {
DistinctFor(key)
.then(pushed)
.catch(function (err) {
return pushed(Promise.resolve());
})
}))
}
return result(err ? Promise.reject(err) : Promise.resolve());
})
}
async function DistinctFor(key) {
if (!key) throw "Key Is Undefined";
try {
final[key] = await collection.distinct(key);
} catch (e) {
final[key] = 'failed';
throw e;
}
}
}
Итак, запрос к коллекции с помощью базового _id
index, вернет следующее (на момент теста тестовая коллекция содержит только один документ):
Mongo.MongoClient.connect(url, function (err, client) {
assert.equal(null, err);
let collection = client.db('my db').collection('the targeted collection');
GetFor(collection, '_id')
.then(function () {
//returns
// { _id: [ 5ae901e77e322342de1fb701 ] }
})
.catch(function (err) {
//manage your error..
})
});
Имейте в виду, здесь используются методы, встроенные в драйвер NodeJS.Как показывают некоторые другие ответы, существуют и другие подходы, такие как совокупная структура.Лично я считаю этот подход более гибким, поскольку вы можете легко создавать и настраивать способ возврата результатов.Очевидно, что это касается только атрибутов верхнего уровня, а не вложенных.Кроме того, чтобы гарантировать представление всех документов, если существуют вторичные индексы (кроме основного _id), эти индексы должны быть установлены как required
.
Возможно, немного не по теме, но вы можете рекурсивно распечатать все ключи/поля объекта:
function _printFields(item, level) {
if ((typeof item) != "object") {
return
}
for (var index in item) {
print(" ".repeat(level * 4) + index)
if ((typeof item[index]) == "object") {
_printFields(item[index], level + 1)
}
}
}
function printFields(item) {
_printFields(item, 0)
}
Полезно, когда все объекты в коллекции имеют одинаковую структуру.
Мы можем добиться этого, используя файл mongo js.Добавьте приведенный ниже код в свой getCollectionName.js файл и запустите js-файл в консоли Linux, как показано ниже:
монго --host 192.168.1.135 getCollectionName.js
db_set = connect("192.168.1.135:27017/database_set_name"); // for Local testing
// db_set.auth("username_of_db", "password_of_db"); // if required
db_set.getMongo().setSlaveOk();
var collectionArray = db_set.getCollectionNames();
collectionArray.forEach(function(collectionName){
if ( collectionName == 'system.indexes' || collectionName == 'system.profile' || collectionName == 'system.users' ) {
return;
}
print("\nCollection Name = "+collectionName);
print("All Fields :\n");
var arrayOfFieldNames = [];
var items = db_set[collectionName].find();
// var items = db_set[collectionName].find().sort({'_id':-1}).limit(100); // if you want fast & scan only last 100 records of each collection
while(items.hasNext()) {
var item = items.next();
for(var index in item) {
arrayOfFieldNames[index] = index;
}
}
for (var index in arrayOfFieldNames) {
print(index);
}
});
quit();
Спасибо @ackuser
Следуя за веткой ответа @James Cropcho, я нашел следующее, которое оказалось очень простым в использовании.Это бинарный инструмент, и это именно то, что я искал:мангоглаз.
С помощью этого инструмента экспорт моей схемы из командной строки занял около 2 минут.
Я немного расширил решение Карлоса Л.М., чтобы оно стало более подробным.
Пример схемы:
var schema = {
_id: 123,
id: 12,
t: 'title',
p: 4.5,
ls: [{
l: 'lemma',
p: {
pp: 8.9
}
},
{
l: 'lemma2',
p: {
pp: 8.3
}
}
]
};
Введите в консоль:
var schemafy = function(schema, i, limit) {
var i = (typeof i !== 'undefined') ? i : 1;
var limit = (typeof limit !== 'undefined') ? limit : false;
var type = '';
var array = false;
for (key in schema) {
type = typeof schema[key];
array = (schema[key] instanceof Array) ? true : false;
if (type === 'object') {
print(Array(i).join(' ') + key+' <'+((array) ? 'array' : type)+'>:');
schemafy(schema[key], i+1, array);
} else {
print(Array(i).join(' ') + key+' <'+type+'>');
}
if (limit) {
break;
}
}
}
Бегать:
schemafy(db.collection.findOne());
Выход
_id <number>
id <number>
t <string>
p <number>
ls <object>:
0 <object>:
l <string>
p <object>:
pp <number>
У меня есть 1 более простой обходной путь...
Что вы можете сделать, так это вставить данные/документ в вашу основную коллекцию «вещи», вы должны вставить атрибуты в 1 отдельную коллекцию, скажем, «вещи_атрибуты».
поэтому каждый раз, когда вы вставляете «вещи», вы получаете из «вещей_атрибутов» сравнение значений этого документа с ключами вашего нового документа, если какой-либо новый ключ присутствует, добавляете его в этот документ и снова вставляете его.
Таким образом,things_attributes будет иметь только один документ с уникальными ключами, которые вы можете легко получить, когда захотите, используя findOne().