我正在尝试并行处理多个列表项。
我的目标是:对每一列运行一些标记函数,基于其值。然后返回带有节点名称、列名称和处理后标签的数据框。
使用普通for循环工作流程正常。但是,当我尝试在foreach循环中执行相同的操作时,返回的结果如下: (请注意:以下内容仅为原始数据集的抽象表示)
我不确定到底发生了什么问题。如果您能帮我解决这个问题,那就太好了 :-)
我的目标是:对每一列运行一些标记函数,基于其值。然后返回带有节点名称、列名称和处理后标签的数据框。
使用普通for循环工作流程正常。但是,当我尝试在foreach循环中执行相同的操作时,返回的结果如下: (请注意:以下内容仅为原始数据集的抽象表示)
我不确定到底发生了什么问题。如果您能帮我解决这个问题,那就太好了 :-)
set.seed(12345)
options(stringsAsFactors = F)
# I. Random data generation (Original data is in data frame format)
random.data = list()
random.data[["one"]] = as.data.frame(matrix(data = runif(n = 15), ncol = 3))
random.data[["two"]] = as.data.frame(matrix(data = runif(n = 15), ncol = 3))
random.data[["three"]] = as.data.frame(matrix(data = runif(n = 15), ncol = 3))
# II. Some function applied to each column to label/classify the values
valslabel = function(DataCOlumn) {
if(mean(DataCOlumn) < 0.5) return("low")
return("high")
}
# III. Generating the desired output in a regular for loop :
desiredOutput = list()
for(frame.i in seq_along(random.data)) {
frame = random.data[[frame.i]]
frame.name = names(random.data)[frame.i]
frame.results = data.frame(frame.name = character(0),
mappedField = character(0), label = character(0) )
for(col.i in 1:ncol(frame)) {
frame.results[col.i, "frame.name"] = frame.name
frame.results[col.i, "mappedField"] = colnames(frame)[col.i]
frame.results[col.i, "label"] = valslabel(frame[,col.i])
}
desiredOutput[[frame.name]] = frame.results
}
print(desiredOutput)
# $one
# frame.name mappedField label
# 1 one V1 high
# 2 one V2 high
# 3 one V3 low
#
# $two
# frame.name mappedField label
# 1 two V1 low
# 2 two V2 high
# 3 two V3 low
#
# $three
# frame.name mappedField label
# 1 three V1 low
# 2 three V2 high
# 3 three V3 high
# IV. Using the "foreach" parallel execution
library(foreach)
library(doParallel)
cl = makeCluster(6)
registerDoParallel(cl)
output = foreach(frame.i = seq_along(random.data), .verbose = T) %dopar% {
frame = random.data[[frame.i]]
frame.name = names(random.data)[frame.i]
frame.results = data.frame(frame.name = character(0), mappedField = character(0), label = character(0) )
for(col.i in 1:ncol(frame)) {
frame.results[col.i, "frame.name"] = frame.name
frame.results[col.i, "mappedField"] = colnames(frame)[col.i]
frame.results[col.i, "label"] = valslabel(frame[,col.i])
}
return(frame.results)
}
print(output)
# [[1]]
# frame.name mappedField label
# 1 <NA> <NA> <NA>
# 2 <NA> <NA> <NA>
# 3 <NA> <NA> <NA>
#
# [[2]]
# frame.name mappedField label
# 1 <NA> <NA> <NA>
# 2 <NA> <NA> <NA>
# 3 <NA> <NA> <NA>
#
# [[3]]
# frame.name mappedField label
# 1 <NA> <NA> <NA>
# 2 <NA> <NA> <NA>
# 3 <NA> <NA> <NA>
谢谢!
cores
注册并行后端,即registerDoParallel(cores = 6)
,该选项会被传递到每个作业的本地环境中...不确定为什么会这样,以及它是否与平台有关。@Deena @cryo111 - konvasregisterDoParallel
的源代码。非 Windows 操作系统的区别似乎在于,当missing(cl)==TRUE
时,会调用setDoPar(doParallelMC, cores, mcinfo)
,而当missing(cl)==FALSE
时,则会执行setDoPar(doParallelSNOW, cl, snowinfo)
这一行。因此,似乎doParallelMC
导出了选项,而doParallelSNOW
则没有。 - cryo111