Python负二项式回归 - 结果与R不符

5

我正在使用Python进行负二项式回归实验。我找到了这个使用R的例子,以及一个数据集:

http://www.karlin.mff.cuni.cz/~pesta/NMFM404/NB.html

我尝试使用以下代码复制网页上的结果:

import pandas as pd
import statsmodels.formula.api as smf 
import statsmodels.api as sm

df = pd.read_stata("http://www.karlin.mff.cuni.cz/~pesta/prednasky/NMFM404/Data/nb_data.dta")

model = smf.glm(formula = "daysabs ~ math + prog", data=df, family=sm.families.NegativeBinomial()).fit()

model.summary()

不幸的是,这并没有给出相同的系数。它给出了以下结果:

coef        std err     z       P>|z|   [95.0% Conf. Int.]
Intercept    3.4875     0.236   14.808  0.000    3.026  3.949
math        -0.0067     0.003   -2.600  0.009   -0.012 -0.002
prog        -0.6781     0.101   -6.683  0.000   -0.877 -0.479

这些跟网站上的差距太大了。假设R代码是正确的,那么我做错了什么?

1个回答

10

这种差异的原因是当你使用Pandas读入数据集时,默认情况下prog变量被视为float类型:

df.prog.head()

0    2.0
1    2.0
2    2.0
3    2.0
4    2.0
Name: prog, dtype: float32

相比而言,在R语言的例子中,prog变量被明确转换为一个因子(分类)变量:

dat <- within(dat, {
    prog <- factor(prog, levels = 1:3, labels = c("General", "Academic", "Vocational"))
    id <- factor(id)
})

因此,当您在R中查看适配摘要时,您可以看到prog变量已分成n-1个二进制编码项:

> summary(m1 <- glm.nb(daysabs ~ math + prog, data = dat))

Call:
glm.nb(formula = daysabs ~ math + prog, data = dat, init.theta = 1.032713156, 
    link = log)

Deviance Residuals: 
    Min       1Q   Median       3Q      Max  
-2.1547  -1.0192  -0.3694   0.2285   2.5273  

Coefficients:
                Estimate Std. Error z value Pr(>|z|)    
(Intercept)     2.615265   0.197460  13.245  < 2e-16 ***
math           -0.005993   0.002505  -2.392   0.0167 *  
progAcademic   -0.440760   0.182610  -2.414   0.0158 *  
progVocational -1.278651   0.200720  -6.370 1.89e-10 ***

与您发布的Python拟合摘要中prog变量的出现方式进行比较。

要解决此问题,您可以在statsmodels中使用C()函数将变量转换为分类变量。这样您将得到相同的结果:

model = smf.glm(formula = "daysabs ~ math + C(prog)", data=df, family=sm.families.NegativeBinomial()).fit()
model.summary()

<class 'statsmodels.iolib.summary.Summary'>
"""
                 Generalized Linear Model Regression Results                  
==============================================================================
Dep. Variable:                daysabs   No. Observations:                  314
Model:                            GLM   Df Residuals:                      310
Model Family:        NegativeBinomial   Df Model:                            3
Link Function:                    log   Scale:                   1.06830885199
Method:                          IRLS   Log-Likelihood:                -865.68
Date:                Thu, 16 Feb 2017   Deviance:                       350.98
Time:                        10:34:16   Pearson chi2:                     331.
No. Iterations:                     6                                         
==================================================================================
                     coef    std err          z      P>|z|      [0.025      0.975]
----------------------------------------------------------------------------------
Intercept          2.6150      0.207     12.630      0.000       2.209       3.021
C(prog)[T.2.0]    -0.4408      0.192     -2.302      0.021      -0.816      -0.065
C(prog)[T.3.0]    -1.2786      0.210     -6.079      0.000      -1.691      -0.866
math              -0.0060      0.003     -2.281      0.023      -0.011      -0.001
==================================================================================
"""

啊哈!!非常酷 - 谢谢! - Steve Maughan
结果现在已经非常接近,但仍然不完全相同,例如截距系数为2.6150,而在R中为2.61526。我认为这没有什么可担心的,但是这种微小差异的原因是什么? - Steve Maughan
3
请注意,statsmodels GLM 对于负二项分布并没有将其比例尺固定为1。因此,标准误差可能与R中的结果有所不同,因为statsmodels默认在GLM中使用准负二项分布。我不知道这是statsmodels的一个错误还是特性。https://github.com/statsmodels/statsmodels/issues/2888。 - Josef
如果您在R中使用固定的theta参数(即statsmodel中的alpha)运行负二项式回归,您将获得相同的标准误差:round(summary(m1 <- glm(daysabs ~ math + as.factor(prog), family=negative.binomial(theta=1.033), data = dat))$coefficients[,2],3)=0.207 0.003 0.191 0.210 - paqmo

网页内容由stack overflow 提供, 点击上面的
可以查看英文原文,
原文链接