在R中，使用cv.glmnet并行设置种子会产生不同的结果

Question

我正在同时运行1000多个数据集上的glmnet包中的cv.glmnet函数。在每次运行时，我都设置了种子以使结果可重复。但我发现我的结果是不同的。问题是当我在同一天运行代码时，结果是相同的。但是第二天它们就会有所不同。

以下是我的代码：

model <- function(path, file, wyniki, faktor = 0.75) {

  set.seed(2)

  dane <- read.csv(file)

  n <- nrow(dane)
  podzial <- 1:floor(faktor*n)


  ########## GLMNET ############
  nFolds <- 3

  train_sparse <- dane[podzial,]
  test_sparse  <- dane[-podzial,]

  # fit with cross-validation
  tryCatch({
    wart <- c(rep(0,6), "nie")
    model <- cv.glmnet(train_sparse[,-1], train_sparse[,1], nfolds=nFolds, standardize=FALSE)

    pred <- predict(model, test_sparse[,-1], type = "response",s=model$lambda.min)

    # fetch of AUC value
    aucp1 <- roc(test_sparse[,1],pred)$auc

  }, error = function(e) print("error"))

  results <- data.frame(auc = aucp1, n = nrow(dane))
  write.table(results, wyniki, sep=',', append=TRUE,row.names =FALSE,col.names=FALSE)


}

path <- path_to_files
files <- list.files(sciezka, full.names = TRUE, recursive = TRUE)
wyniki <- "wyniki_adex__samplingfalse_decl_201512.csv"

library('doSNOW')
library('parallel')

#liczba watkow
threads <- 5

#rejestrujemy liczbe watkow
cl <- makeCluster(threads, outfile="")
registerDoSNOW(cl)

message("Loading packages on threads...")
clusterEvalQ(cl,library(pROC))
clusterEvalQ(cl,library(ROCR))
clusterEvalQ(cl,library(glmnet))
clusterEvalQ(cl,library(stringi))

message("Modelling...")
foreach(i=1:length(pliki)) %dopar% {
  print(i)
  model(path, files[i], wyniki)
}

有人知道是什么原因吗？ 我正在运行CentOS Linux release 7.0.1406 (Core) / Red Hat 4.8.2-16

- potockan

Answer 1

在 cv.glmnet 函数的文档中找到了答案：

注意，由于随机选择折叠，因此 cv.glmnet 的结果是随机的。

解决方案是手动设置折叠，以便不随机选择：

nFolds <- 3
foldid <- sample(rep(seq(nFolds), length.out = nrow(train_sparse))
model <- cv.glmnet(x = as.matrix(x = train_sparse[,-1], 
                   y = train_sparse[,1], 
                   nfolds = nFolds,
                   foldid = foldid,
                   standardize = FALSE)

- potockan

---

不知道为什么你会因此被踩。你的代码与 cv.glmnet 内部执行的代码完全一致，因此这似乎是正确的解决方案。 - daknowles

Answer 2

根据编写R扩展，需要使用C包装器从FORTRAN调用R的正态随机数。我在glmnet源代码中没有看到任何C代码。恐怕它还没有被实现。 6.6 从FORTRAN调用C和相反情况

- Zelazny7