我想使用lm()函数在R中进行线性回归。我的数据是一个年度时间序列，其中一列是年份（22年），另一列是州名（50个州）。我希望为每个州都拟合一个回归模型，以便最终得到一个lm响应向量。我可以想象为每个州使用for循环，然后在循环内部进行回归，并将每个回归的结果添加到一个向量中。但这似乎不太像R风格。在SAS中，我会使用“by”语句，在SQL中，我会使用“group by”。那么R的方法是什么？
在R中的线性回归和按组分组
133
- JD Long
1
10个回答
76
自2009年以来，dplyr已经发布，它实际上提供了一种非常好的方法来进行这种分组，与SAS非常相似。
library(dplyr)
d <- data.frame(state=rep(c('NY', 'CA'), c(10, 10)),
year=rep(1:10, 2),
response=c(rnorm(10), rnorm(10)))
fitted_models = d %>% group_by(state) %>% do(model = lm(response ~ year, data = .))
# Source: local data frame [2 x 2]
# Groups: <by row>
#
# state model
# (fctr) (chr)
# 1 CA <S3:lm>
# 2 NY <S3:lm>
fitted_models$model
# [[1]]
#
# Call:
# lm(formula = response ~ year, data = .)
#
# Coefficients:
# (Intercept) year
# -0.06354 0.02677
#
#
# [[2]]
#
# Call:
# lm(formula = response ~ year, data = .)
#
# Coefficients:
# (Intercept) year
# -0.35136 0.09385
要检索系数和Rsquared/p.value，可以使用broom包。该包提供：
三个S3通用函数：tidy，它总结模型的统计结果，例如回归的系数；augment，它添加列到原始数据，例如预测、残差和集群分配；以及glance，它提供一个模型级别统计量的一行摘要。
library(broom)
fitted_models %>% tidy(model)
# Source: local data frame [4 x 6]
# Groups: state [2]
#
# state term estimate std.error statistic p.value
# (fctr) (chr) (dbl) (dbl) (dbl) (dbl)
# 1 CA (Intercept) -0.06354035 0.83863054 -0.0757668 0.9414651
# 2 CA year 0.02677048 0.13515755 0.1980687 0.8479318
# 3 NY (Intercept) -0.35135766 0.60100314 -0.5846187 0.5749166
# 4 NY year 0.09385309 0.09686043 0.9689519 0.3609470
fitted_models %>% glance(model)
# Source: local data frame [2 x 12]
# Groups: state [2]
#
# state r.squared adj.r.squared sigma statistic p.value df
# (fctr) (dbl) (dbl) (dbl) (dbl) (dbl) (int)
# 1 CA 0.004879969 -0.119510035 1.2276294 0.0392312 0.8479318 2
# 2 NY 0.105032068 -0.006838924 0.8797785 0.9388678 0.3609470 2
# Variables not shown: logLik (dbl), AIC (dbl), BIC (dbl), deviance (dbl),
# df.residual (int)
fitted_models %>% augment(model)
# Source: local data frame [20 x 10]
# Groups: state [2]
#
# state response year .fitted .se.fit .resid .hat
# (fctr) (dbl) (int) (dbl) (dbl) (dbl) (dbl)
# 1 CA 0.4547765 1 -0.036769875 0.7215439 0.4915464 0.3454545
# 2 CA 0.1217003 2 -0.009999399 0.6119518 0.1316997 0.2484848
# 3 CA -0.6153836 3 0.016771076 0.5146646 -0.6321546 0.1757576
# 4 CA -0.9978060 4 0.043541551 0.4379605 -1.0413476 0.1272727
# 5 CA 2.1385614 5 0.070312027 0.3940486 2.0682494 0.1030303
# 6 CA -0.3924598 6 0.097082502 0.3940486 -0.4895423 0.1030303
# 7 CA -0.5918738 7 0.123852977 0.4379605 -0.7157268 0.1272727
# 8 CA 0.4671346 8 0.150623453 0.5146646 0.3165112 0.1757576
# 9 CA -1.4958726 9 0.177393928 0.6119518 -1.6732666 0.2484848
# 10 CA 1.7481956 10 0.204164404 0.7215439 1.5440312 0.3454545
# 11 NY -0.6285230 1 -0.257504572 0.5170932 -0.3710185 0.3454545
# 12 NY 1.0566099 2 -0.163651479 0.4385542 1.2202614 0.2484848
# 13 NY -0.5274693 3 -0.069798386 0.3688335 -0.4576709 0.1757576
# 14 NY 0.6097983 4 0.024054706 0.3138637 0.5857436 0.1272727
# 15 NY -1.5511940 5 0.117907799 0.2823942 -1.6691018 0.1030303
# 16 NY 0.7440243 6 0.211760892 0.2823942 0.5322634 0.1030303
# 17 NY 0.1054719 7 0.305613984 0.3138637 -0.2001421 0.1272727
# 18 NY 0.7513057 8 0.399467077 0.3688335 0.3518387 0.1757576
# 19 NY -0.1271655 9 0.493320170 0.4385542 -0.6204857 0.2484848
# 20 NY 1.2154852 10 0.587173262 0.5170932 0.6283119 0.3454545
# Variables not shown: .sigma (dbl), .cooksd (dbl), .std.resid (dbl)
- Paul Hiemstra
8
3除了这个细节，你的回答很好。为了使用broom包，我需要在
rowwise(fitted_models) %>% tidy(model)中进行处理。 - pedram5很好用... 可以在不离开管道的情况下完成这一切：
d %>% group_by(state) %>% do(model = lm(response ~ year, data = .)) %>% rowwise() %>% tidy(model) - holastello11@pedram 和 @holastello，这种方法已经不再适用了，至少在 R 3.6.1、broom_0.7.0 和 dplyr_0.8.3 版本下不能使用。错误信息为 "Calling var(x) on a factor x is defunct. Use something like 'all(duplicated(x)[-1L])' to test for a constant vector."，同时还有警告信息："Data frame tidiers are deprecated and will be removed in an upcoming release of broom."。原始代码为：d %>% group_by(state) %>% do(model=lm(response ~year, data = .)) %>% rowwise() %>% tidy(model)。 - Chris Nolte
11现在（使用dplyr 1.0.4和tidyverse 1.3.0），您可以执行以下操作：
library(broom); library(tidyverse) d %>% nest(data = -state) %>% mutate(model = map(data, ~lm(response~year, data = .)), tidied = map(model, tidy)) %>% unnest(tidied)。 - Jon Spring1太晚编辑了：不太好看但是有效的代码：循环遍历
fittedmodels列表，并对每个模型调用summary()，例如summary(fittedmodels[[2]][[1]])。 - FLonLon显示剩余3条评论
66
这里提供一种使用plyr包的方法：
d <- data.frame(
state = rep(c('NY', 'CA'), 10),
year = rep(1:10, 2),
response= rnorm(20)
)
library(plyr)
# Break up d by state, then fit the specified model to each piece and
# return a list
models <- dlply(d, "state", function(df)
lm(response ~ year, data = df))
# Apply coef to each model and return a data frame
ldply(models, coef)
# Print the summary of each model
l_ply(models, summary, .print = TRUE)
- hadley
4
假设您添加了一个额外的独立变量，该变量在所有州都不可用（即海岸线长度），并在数据中被表示为NA。那么lm调用会失败吗？该如何处理？ - MikeTP
在函数内部，您需要测试该情况并使用不同的公式。 - hadley
在摘要（最后一步）中是否可以将子组的名称添加到每个调用中？ - erc
如果您运行
layout(matrix(c(1,2,3,4),2,2)) # optional 4 graphs/page，然后运行 l_ply(models, plot)，您将得到每个残差图。是否可能使用组名（例如，在此情况下为“state”）标记每个图？ - Brian D61
以下是使用lme4包的一种方法。
library(lme4)
d <- data.frame(state=rep(c('NY', 'CA'), c(10, 10)),
year=rep(1:10, 2),
response=c(rnorm(10), rnorm(10)))
xyplot(response ~ year, groups=state, data=d, type='l')
fits <- lmList(response ~ year | state, data=d)
fits
#------------
Call: lmList(formula = response ~ year | state, data = d)
Coefficients:
(Intercept) year
CA -1.34420990 0.17139963
NY 0.00196176 -0.01852429
Degrees of freedom: 20 total; 16 residual
Residual standard error: 0.8201316
- ars
3
2有没有办法列出这两个模型的R2？例如，在年份后添加一个R2列。还可以为每个系数添加p值吗？ - ToToRo
4@ToToRo 这里可以找到一个可行的解决方案（迟做总比不做好）：Your.df[, summary(lm(Y~X))$r.squared, by=Your.factor]。其中，Y、X 和 Your.factor 是你的变量。请记住，Your.df 必须是 data.table 类。 - FraNut
我找不到函数xyplot，在加载lme4后它没有出现。 - Herman Toothrot
26
在我看来，混合线性模型是处理这种数据的更好方法。下面的代码中给出固定效应整体趋势。随机效应表明每个个体州的趋势与全局趋势不同。相关结构考虑了时间自相关性。请参考Pinheiro & Bates（S和S-Plus中的混合效应模型）。
library(nlme)
lme(response ~ year, random = ~year|state, correlation = corAR1(~year))
- Thierry
3
4这是一个非常好的普遍统计理论答案，让我思考了一些我没有考虑过的事情。引发我提出问题的应用不适用于这个解决方案，但我很高兴你提出了这个问题。谢谢。 - JD Long
1从混合模型开始并不是一个好主意 - 你怎么知道任何假设都是有保证的呢？ - hadley
9一个人应该通过模型验证（和了解数据）来检查假设。顺便说一下，您也不能担保个别线性模型的假设。您需要单独验证所有模型。 - Thierry
23
在CrossValidated上@Zach发布了一个使用data.table的好方法，链接为这里。
我只想补充一点，也可以迭代地得到回归系数r^2：
## make fake data
library(data.table)
set.seed(1)
dat <- data.table(x=runif(100), y=runif(100), grp=rep(1:2,50))
##calculate the regression coefficient r^2
dat[,summary(lm(y~x))$r.squared,by=grp]
grp V1
1: 1 0.01465726
2: 2 0.02256595
以及从summary(lm)中得出的所有其他输出:
dat[,list(r2=summary(lm(y~x))$r.squared , f=summary(lm(y~x))$fstatistic[1] ),by=grp]
grp r2 f
1: 1 0.01465726 0.714014
2: 2 0.02256595 1.108173
- FraNut
18
我认为把purrr::map方法加入到这个问题中是值得的。
library(tidyverse)
d <- data.frame(state=rep(c('NY', 'CA'), c(10, 10)),
year=rep(1:10, 2),
response=c(rnorm(10), rnorm(10)))
d %>%
group_by(state) %>%
nest() %>%
mutate(model = map(data, ~lm(response ~ year, data = .)))
请参考 @Paul Hiemstra 的回答，了解如何使用 broom 包处理这些结果。
- ngm
1
如果您想要一列拟合值或残差，可以进行一些小的扩展：将lm()调用包装在resid()调用中，然后将最后一行的所有内容管道传递到unnest()调用中。当然，您需要将变量名从“model”更改为更相关的名称。 - randy
9
## make fake data
ngroups <- 2
group <- 1:ngroups
nobs <- 100
dta <- data.frame(group=rep(group,each=nobs),y=rnorm(nobs*ngroups),x=runif(nobs*ngroups))
head(dta)
#--------------------
group y x
1 1 0.6482007 0.5429575
2 1 -0.4637118 0.7052843
3 1 -0.5129840 0.7312955
4 1 -0.6612649 0.9028034
5 1 -0.5197448 0.1661308
6 1 0.4240346 0.8944253
#------------
## function to extract the results of one model
foo <- function(z) {
## coef and se in a data frame
mr <- data.frame(coef(summary(lm(y~x,data=z))))
## put row names (predictors/indep variables)
mr$predictor <- rownames(mr)
mr
}
## see that it works
foo(subset(dta,group==1))
#=========
Estimate Std..Error t.value Pr...t.. predictor
(Intercept) 0.2176477 0.1919140 1.134090 0.2595235 (Intercept)
x -0.3669890 0.3321875 -1.104765 0.2719666 x
#----------
## one option: use command by
res <- by(dta,dta$group,foo)
res
#=========
dta$group: 1
Estimate Std..Error t.value Pr...t.. predictor
(Intercept) 0.2176477 0.1919140 1.134090 0.2595235 (Intercept)
x -0.3669890 0.3321875 -1.104765 0.2719666 x
------------------------------------------------------------
dta$group: 2
Estimate Std..Error t.value Pr...t.. predictor
(Intercept) -0.04039422 0.1682335 -0.2401081 0.8107480 (Intercept)
x 0.06286456 0.3020321 0.2081387 0.8355526 x
## using package plyr is better
library(plyr)
res <- ddply(dta,"group",foo)
res
#----------
group Estimate Std..Error t.value Pr...t.. predictor
1 1 0.21764767 0.1919140 1.1340897 0.2595235 (Intercept)
2 1 -0.36698898 0.3321875 -1.1047647 0.2719666 x
3 2 -0.04039422 0.1682335 -0.2401081 0.8107480 (Intercept)
4 2 0.06286456 0.3020321 0.2081387 0.8355526 x
- Eduardo Leoni
9
我知道我的回答有点晚，但我正在寻找类似的功能。 似乎R中的内置函数“by”也可以轻松进行分组：
?by包含以下示例，适合每个组并使用sapply提取系数：
require(stats)
## now suppose we want to extract the coefficients by group
tmp <- with(warpbreaks,
by(warpbreaks, tension,
function(x) lm(breaks ~ wool, data = x)))
sapply(tmp, coef)
- Matthijs Cox
6
lm()函数是一个简单的例子。顺便说一下，我想象中你的数据库列应该如下所示：
年份 州 变量1 变量2 y...
在我看来，你可以使用以下代码：
require(base)
library(base)
attach(data) # data = your data base
#state is your label for the states column
modell<-by(data, data$state, function(data) lm(y~I(1/var1)+I(1/var2)))
summary(modell)
- Zack Mendes
1
这个问题似乎是关于如何在循环内部调用修改后的回归函数公式。以下是使用钻石数据集可以实现的方法：
attach(ggplot2::diamonds)
strCols = names(ggplot2::diamonds)
formula <- list(); model <- list()
for (i in 1:1) {
formula[[i]] = paste0(strCols[7], " ~ ", strCols[7+i])
model[[i]] = glm(formula[[i]])
#then you can plot the results or anything else ...
png(filename = sprintf("diamonds_price=glm(%s).png", strCols[7+i]))
par(mfrow = c(2, 2))
plot(model[[i]])
dev.off()
}
- IVIM
网页内容由stack overflow 提供, 点击上面的可以查看英文原文，
原文链接
原文链接
aggregate不是一个正确的选择；tapply也不是。 - Zheyuan Li