A execução paralela do trem no cursor falha com função não encontrada

Question

ontem atualizei meus pacotes R e desde então a execução paralela da função train falhou.

Parece que algumas funções chamadas de dentro dos trabalhadores não estão disponíveis.Essas funções são pelo menos flatTable e probFunction.

Estou enfrentando esses problemas em minha máquina de produção e consegui reproduzi-los em uma VM limpa do Windows 7 x64.

Eu adicionei um exemplo de trabalho mínimo abaixo.Caros usuários do stackoverflow:Qualquer ajuda é apreciada!

# R 3.0.2 x64, RStudio Version 0.98.490, Windows 7 x64

data(iris)
library(caret) # 6.0-21
library(doParallel) # 1.0.6

model <- "rf"

# Fail
?probFunction
?flatTable

fitControl <- trainControl(
  method = "repeatedcv"
  , number = 5  ## 5-fold CV
  , repeats = 1   ## repeated one times
  , verboseIter =TRUE
)

#### Sequential Version ####

# Runs
train(Species ~ ., data = iris, method = model, trControl = fitControl)

#### Parallelized version ####

# Fails with 
# Error in e$fun(obj, substitute(ex), parent.frame(), e$data) : 
#  worker initialization failed: Error in eval(expr, envir, enclos): could not find function "flatTable"
cl <- makeCluster(3)
registerDoParallel(cl)

train(Species ~ ., data = iris, method = model, trControl = fitControl)

stopCluster(cl)

# Fails with 
# Error in { : task 1 failed - "could not find function "probFunction""
fitControl <- trainControl(
  method = "repeatedcv"
  , number = 5  ## 5-fold CV
  , repeats = 1   ## repeated one times
  , verboseIter =TRUE
  , classProbs = TRUE
)

cl <- makeCluster(3)
registerDoParallel(cl)

train(Species ~ ., data = iris, method = model, trControl = fitControl)

stopCluster(cl)

#### Again sequential version ####

# Fails with
# Error in summary.connection(connection) : invalid connection
train(Species ~ ., data = iris, method = model, trControl = fitControl)

Informações da sessão R

R version 3.0.2 (2013-09-25)
Platform: x86_64-w64-mingw32/x64 (64-bit)

locale:
[1] LC_COLLATE=German_Germany.1252  LC_CTYPE=German_Germany.1252    LC_MONETARY=German_Germany.1252
[4] LC_NUMERIC=C                    LC_TIME=German_Germany.1252   

attached base packages:
[1] parallel  stats     graphics  grDevices utils     datasets  methods   base    

other attached packages:
[1] e1071_1.6-1        class_7.3-9        randomForest_4.6-7 doParallel_1.0.6   iterators_1.0.6  
[6] foreach_1.4.1      caret_6.0-21       ggplot2_0.9.3.1    lattice_0.20-23  

loaded via a namespace (and not attached):
[1] car_2.0-19         codetools_0.2-8    colorspace_1.2-4   compiler_3.0.2     dichromat_2.0-0  
 [6] digest_0.6.4       grid_3.0.2         gtable_0.1.2       labeling_0.2       MASS_7.3-29      
[11] munsell_0.4.2      nnet_7.3-7         plyr_1.8           proto_0.3-10       RColorBrewer_1.0-5
[16] reshape2_1.2.2     scales_0.2.3       stringr_0.6.2      tools_3.0.2      

Answer 1

O erro que você está recebendo é causado por um bug no cursor 6.0-21 ao usar doParallel, doSNOW e doMPI.Foi corrigido na versão 6.0-22 no R-forge, mas ainda não foi lançado no CRAN.Se não quiser esperar o lançamento da nova versão, você pode:

1. Downgrade para o cursor 5.x
2. Instale o cursor 6.0-22 do R-forge
3. Instale e use o doSNOW 1.0.10 do R-forge em vez do doParallel

O problema foi causado por uma mudança na política do CRAN que proíbe o uso do ::: operador, mesmo ao fazer referência a funções não exportadas de dentro do mesmo pacote.

---

Atualizar

Caret 6.0-22 foi lançado para CRAN em 18/01/2014.Isso deve resolver o problema relatado usando o cursor com doSNOW e back-ends paralelos semelhantes.