idata.frame: Perché errore “is.data.frame (df) non è vero”?
-
09-10-2019 - |
Domanda
sto lavorando con una grande cornice di dati chiamato exp ( lima qui ) in R. per motivi di prestazioni, è stato suggerito che ho check out la funzione idata.frame () da plyr. Ma penso che sto usando nel modo sbagliato.
La mia chiamata originale, lento ma funziona:
df.median<-ddply(exp,
.(groupname,starttime,fPhase,fCycle),
numcolwise(median),
na.rm=TRUE)
Con idata.frame, Error: is.data.frame(df) is not TRUE
library(plyr)
df.median<-ddply(idata.frame(exp),
.(groupname,starttime,fPhase,fCycle),
numcolwise(median),
na.rm=TRUE)
Così, ho pensato, forse è il mio dati. Così ho provato il set di dati baseball
. L'esempio idata.frame
funziona bene: dlply(idata.frame(baseball), "id", nrow)
Ma se provo qualcosa di simile alla mia chiamata desiderata utilizzando baseball
, non funziona:
bb.median<-ddply(idata.frame(baseball),
.(id,year,team),
numcolwise(median),
na.rm=TRUE)
>Error: is.data.frame(df) is not TRUE
Forse il mio errore è nel modo in cui sto specificando i raggruppamenti? Qualcuno sa come fare il mio lavoro esempio?
ETA:
Ho anche provato:
groupVars <- c("groupname","starttime","fPhase","fCycle")
voi<-c('inadist','smldist','lardist')
i<-idata.frame(exp)
ag.median <- aggregate(i[,voi], i[,groupVars], median)
Error in i[, voi] : object of type 'environment' is not subsettable
che utilizza un modo più veloce di ottenere i mediane, ma dà un errore diverso. Io non credo di capire come utilizzare idata.frame a tutti.
Soluzione
Dato che si sta lavorando con i dati 'grandi' e alla ricerca di performance, questo sembra una misura perfetta per data.table
.
In particolare gli argomenti lapply(.SD,FUN)
e .SDcols
con by
Imposta la data.table
library(data.table)
DT <- as.data.table(exp)
iexp <- idata.frame(exp)
Quali colonne sono numeric
numeric_columns <- names(which(unlist(lapply(DT, is.numeric))))
dt.median <- DT[, lapply(.SD, median), by = list(groupname, starttime, fPhase,
fCycle), .SDcols = numeric_columns]
po 'di benchmarking
library(rbenchmark)
benchmark(data.table = DT[, lapply(.SD, median), by = list(groupname, starttime,
fPhase, fCycle), .SDcols = numeric_columns],
plyr = ddply(exp, .(groupname, starttime, fPhase, fCycle), numcolwise(median), na.rm = TRUE),
idataframe = ddply(exp, .(groupname, starttime, fPhase, fCycle), function(x) data.frame(inadist = median(x$inadist),
smldist = median(x$smldist), lardist = median(x$lardist), inadur = median(x$inadur),
smldur = median(x$smldur), lardur = median(x$lardur), emptyct = median(x$emptyct),
entct = median(x$entct), inact = median(x$inact), smlct = median(x$smlct),
larct = median(x$larct), na.rm = TRUE)),
aggregate = aggregate(exp[, numeric_columns],
exp[, c("groupname", "starttime", "fPhase", "fCycle")],
median),
replications = 5)
## test replications elapsed relative user.self
## 4 aggregate 5 5.42 1.789 5.30
## 1 data.table 5 3.03 1.000 3.03
## 3 idataframe 5 11.81 3.898 11.77
## 2 plyr 5 9.47 3.125 9.45
Altri suggerimenti
Strano comportamento, ma anche nella documentazione si dice che idata.frame è sperimentale. Probabilmente trovato un bug. Forse si potrebbe riscrivere il controllo nella parte superiore della ddply che i test is.data.frame ().
In ogni caso, questo riduce circa del 20% sul tempo (sul mio sistema):
system.time(df.median<-ddply(exp, .(groupname,starttime,fPhase,fCycle), function(x) data.frame(
inadist=median(x$inadist),
smldist=median(x$smldist),
lardist=median(x$lardist),
inadur=median(x$inadur),
smldur=median(x$smldur),
lardur=median(x$lardur),
emptyct=median(x$emptyct),
entct=median(x$entct),
inact=median(x$inact),
smlct=median(x$smlct),
larct=median(x$larct),
na.rm=TRUE))
)
Shane ti ha chiesto in un altro post, se si potesse memorizzare nella cache i risultati del vostro script. Io in realtà non ho un'idea del flusso di lavoro, ma può essere meglio di impostare una Chron per eseguire questo e memorizzare i risultati, ogni giorno / ogni ora qualunque cosa.