在R中进行多项式回归 - 对曲线增加额外约束

Question

我知道如何在R中进行基本的多项式回归。不过，我只能使用nls或lm来拟合一条使点之间误差最小的直线。

大多数情况下这是有效的，但有时当数据中存在测量间隙时，模型变得非常违反直觉。是否有办法添加额外的约束条件？

可重现示例：

我想要将下面这组虚构数据（类似于我的真实数据）拟合到一个模型中：

x <- c(0, 6, 21, 41, 49, 63, 166)
y <- c(3.3, 4.2, 4.4, 3.6, 4.1, 6.7, 9.8)
df <- data.frame(x, y)

首先，让我们绘制它。

library(ggplot2)
points <- ggplot(df, aes(x,y)) + geom_point(size=4, col='red')
points

看起来如果我们用一条线连接这些点，它会改变方向3次，因此让我们尝试拟合一个四次函数。

lm <- lm(formula = y ~ x + I(x^2) + I(x^3) + I(x^4))
quartic <- function(x)  lm$coefficients[5]*x^4 + lm$coefficients[4]*x^3 + lm$coefficients[3]*x^2 + lm$coefficients[2]*x + lm$coefficients[1]

points + stat_function(fun=quartic)

看起来这个模型与点相配得很好...除了一点，因为我们的数据在63和166之间有一个很大的间隙，所以那里有一个巨大的峰值，它没有理由存在于模型中。(对于我的实际数据，我知道那里没有巨大的峰值)

所以问题在于：

• 如何将局部最大值设置为(166,9.8)？

如果不可能，那么另一种方法是：

• 如何限制线性预测的y值不大于y=9.8？

或者也许有更好的模型可供使用？（而不是分段处理）。 我的目的是比较图表之间的模型特征。

- Yang Li

---

为了在你的图中添加一个四次多项式拟合，你可以在你的ggplot代码中添加如下内容： geom_smooth(method="lm", se=FALSE, formula=y ~ poly(x,4))。 - eipi10

@eipi10 感谢你的提示！这不一定解决问题，但确实使代码更加简洁 :) - Yang Li

我相信有一种方法可以创建一个受限制的多项式拟合，但是目前另一种选择是使用局部回归。例如：geom_smooth(colour="red", se=FALSE, method="loess")。当你有少量的点时，默认方法是loess，因此如果您希望可以省略method参数。 - eipi10

谁知道那个间隙里发生了什么？！那是最好的四次多项式拟合，但如果你想在多项式拟合和线性拟合之间找到一个折中点，你可以添加一些额外的数据点 - 均匀间隔，线性插值 - 并使用“权重”参数来减少它们的影响。 - Gregor Thomas

你应该使用一个模型（例如GAM或GAMM）对所有图形的数据进行建模。最好是基于数据背后的科学原理建立模型。除非科学原理表明数据应遵循这样的多项式，否则不要使用高于二次度数的多项式来建模数据。 - Roland

Answer 1

类型的函数将完美匹配您的数据（但不适用于预测目的）。样条曲线在CAD领域广泛使用，有时仅在数学上拟合数据点，与回归相比可能缺乏物理意义。更多信息请参见此处，以及此处提供的出色背景介绍。

示例（spline）将向您展示许多花哨的示例，实际上我使用其中之一。

此外，更合理的做法是采样更多数据点，然后通过lm或nls回归进行预测。

示例代码：

library(splines)

x <- c(0, 6, 21, 41, 49, 63, 166)
y <- c(3.3, 4.2, 4.4, 3.6, 4.1, 6.7, 9.8)

s1 <- splinefun(x, y, method = "monoH.FC")

plot(x, y)
curve(s1(x), add = TRUE, col = "red", n = 1001)

我能想到的另一种方法是，在回归中限制参数范围，这样您就可以得到预期范围内的预测数据。

下面是一个非常简单的使用optim的代码，但仅供选择参考。

dat <- as.data.frame(cbind(x,y))
names(dat) <- c("x", "y")

# your lm 
# lm<-lm(formula = y ~ x + I(x^2) + I(x^3) + I(x^4))

# define loss function, you can change to others 
 min.OLS <- function(data, par) {
      with(data, sum((   par[1]     +
                         par[2] *  x + 
                         par[3] * (x^2) +
                         par[4] * (x^3) +
                         par[5] * (x^4) +   
                         - y )^2)
           )
 }

 # set upper & lower bound for your regression
 result.opt <- optim(par = c(0,0,0,0,0),
                min.OLS, 
                data = dat, 
                lower=c(3.6,-2,-2,-2,-2),
                upper=c(6,1,1,1,1),
                method="L-BFGS-B"
  )

 predict.yy <- function(data, par) {
               print(with(data, ((
                    par[1]     + 
                    par[2] *  x +
                    par[3] * (x^2) +
                    par[4] * (x^3) + 
                    par[5] * (x^4))))
                )
  }

  plot(x, y, main="LM with constrains")
  lines(x, predict.yy(dat, result.opt$par), col="red" )

- Patric

---

已接受并加100分。虽然我没有得到我想要的确切答案，但样条解决方案是所有答案中最有效的。method参数特别有用。 - Yang Li

Answer 2

我建议你可以采用 eipi10 提出的局部回归方法。但是，如果你想要使用多项式回归，可以尝试最小化带罚项的平方和。

下面是一个例子，其中函数被罚款，因为它偏离了“直线”：

library(ggplot2)
library(maxLik)
x <- c(0, 6, 21, 41, 49, 63, 166)/100
y <- c(3.3, 4.2, 4.4, 3.6, 4.1, 6.7, 9.8)
df <- data.frame(x, y)
points <- ggplot(df, aes(x,y)) + geom_point(size=4, col='red')

polyf <- function(par, x=df$x) {
   ## the polynomial function
   par[1]*x + par[2]*x^2 + par[3]*x^3 + par[4]*x^4 + par[5]
}
quarticP <- function(x) {
   polyf(par, x)
}
## a evenly distributed set of points, penalize deviations on these
grid <- seq(range(df$x)[1], range(df$x)[2], length=10)

objectiveF <- function(par, kappa=0) {
   ## Calculate penalized sum of squares: penalty for deviating from linear
   ## prediction
   PSS <- sum((df$y - polyf(par))^2) + kappa*(pred1 - polyf(par))^2 
   -PSS
}

## first compute linear model prediction
res1 <- lm(y~x, data=df)
pred1 <- predict(res1, newdata=data.frame(x=grid))
points <- points + geom_smooth(method='lm',formula=y~x)
print(points)

## non-penalized function
res <- maxBFGS(objectiveF, start=c(0,0,0,0,0))
par <- coef(res)
points <- points + stat_function(fun=quarticP, col="green")
print(points)

## penalty
res <- maxBFGS(objectiveF, start=c(0,0,0,0,0), kappa=0.5)
par <- coef(res)
points <- points + stat_function(fun=quarticP, col="yellow")
print(points)

使用惩罚项0.5的结果如下所示： 你可以调整惩罚项以及grid，即对偏差进行惩罚的位置。

- Ott Toomet

Answer 3

Ott Toomets的源代码对我不起作用，出现了一些错误。这里是一个已经纠正过的版本（没有使用ggplot2）：

library(maxLik)
x <- c(0, 6, 21, 41, 49, 63, 166)/100
y <- c(3.3, 4.2, 4.4, 3.6, 4.1, 6.7, 9.8)
df <- data.frame(x, y)

polyf <- function(par, x=df$x) {
  ## the polynomial function
  par[1]*x + par[2]*x^2 + par[3]*x^3 + par[4]*x^4 + par[5]
}
quarticP <- function(x) {
  polyf(par, x)
}
## a evenly distributed set of points, penalize deviations on these
grid <- seq(range(df$x)[1], range(df$x)[2], length=10)

objectiveF <- function(par, kappa=0) {
  ## Calculate penalized sum of squares: penalty for deviating from linear
  ## prediction
  PSS <- sum((df$y - polyf(par))^2) + kappa*(pred1 - polyf(par, x=grid))^2 
  -PSS
}

plot(x,y, ylim=c(0,10))

## first compute linear model prediction
res1 <- lm(y~x, data=df)
pred1 <- predict(res1, newdata=data.frame(x=grid))
coefs = coef(res1)
names(coefs) = NULL
constant = coefs[1]
xCoefficient = coefs[2]
par = c(xCoefficient,0,0,0,constant)

curve(quarticP, from=0, to=2, col="black", add=T)


## non-penalized function
res <- maxBFGS(objectiveF, start=c(0,0,0,0,0))
par <- coef(res)
curve(quarticP, from=0, to=2, col="red", add=T)

## penalty
res2 <- maxBFGS(objectiveF, start=c(0,0,0,0,0), kappa=0.5)
par <- coef(res2)
curve(quarticP, from=0, to=2, col="green", add=T)

- Fabian Werner