Pandas：如何按MultiIndex分组和求和

Question

Pandas：如何按MultiIndex分组和求和

5

我有一个包含分类属性的数据框，其中索引包含重复项。我正在尝试找到每个可能的索引和属性组合的总和。

x = pd.DataFrame({'x':[1,1,3,3],'y':[3,3,5,5]},index=[11,11,12,12])
y = x.stack()
print(y)
print(y.groupby(level=[0,1]).sum())

输出

11  x    1
    y    3
    x    1
    y    3
12  x    3
    y    5
    x    3
    y    5
dtype: int64
11  x    1
    y    3
    x    1
    y    3
12  x    3
    y    5
    x    3
    y    5
dtype: int64

堆栈和按总和分组是一样的。

但是，我期望的是

11  x    2
11  y    6
12  x    6
12  y    10

编辑2：

x = pd.DataFrame({'x':[1,1,3,3],'y':[3,3,5,5]},index=[11,11,12,12])
y = x.stack().groupby(level=[0,1]).sum()
print(y.groupby(level=[0,1]).sum())

输出：

11  x    1
    y    3
    x    1
    y    3
12  x    3
    y    5
    x    3
    y    5
dtype: int64

编辑3：已提交问题报告 https://github.com/pydata/pandas/issues/10417

- vumaasha

3个回答

5

sum 允许你在 MultiIndex 数据框中指定要进行求和的层级。

x = pd.DataFrame({'x':[1,1,3,3],'y':[3,3,5,5]},index=[11,11,12,12])
y = x.stack()

y.sum(level=[0,1])

11  x     2
    y     6
12  x     6
    y    10

- Tai

3

使用Pandas 0.15.2版本，您只需要再进行一次groupby迭代。

x = pd.DataFrame({'x':[1,1,3,3],'y':[3,3,5,5]},index=[11,11,12,12])
y = x.stack().groupby(level=[0,1]).sum()
print(y.groupby(level=[0,1]).sum())

打印

11  x     2
    y     6
12  x     6
    y    10

- jgloves

你使用的 pandas 版本是什么？我使用的是 0.16.2 和 Python 3。对于相同的代码，我得到了不同的输出。请查看问题中的 edit2。 - vumaasha

啊...我在使用0.15.2版本，同时也是Python3。 - jgloves

太好了，我们发现了一个 bug！！ - vumaasha

2

但我仍然不理解为什么需要再进行一次groupby。如果您只检查stack()输出，它与第一个group by输出相同。 - vumaasha

网页内容由stack overflow 提供, 点击上面的

可以查看英文原文，
原文链接

- sparc_spread · Accepted Answer

使用pandas 0.16.2和Python 3，我能够通过以下方式获得正确的结果：

x.stack().reset_index().groupby(['level_0','level_1']).sum()

这将产生：

                    0
level_0 level_1 
     11       x     2
              y     6
     12       x     6
              y     10

您可以使用 reindex() 和 columns 将索引和列名更改为更理想的名称。

根据我的研究，我同意原始方法失败似乎是一个 bug。我认为错误出现在 Series 上，这就是 x.stack() 生成的内容。我的解决方法是通过 reset_index() 将 Series 转换为 DataFrame。在这种情况下，DataFrame 不再具有 MultiIndex - 我只是在标记列上进行分组。

为了确保在具有 MultiIndex 的 DataFrame 上进行分组和求和有效，您可以尝试以下操作以获得相同的正确输出：

x.stack().reset_index().set_index(['level_0','level_1'],drop=True).\
groupby(level=[0,1]).sum()

任何一种解决方法都可以解决问题，直到该错误被解决。我想知道这个错误是否与在Series和DataFrame上创建的MultiIndex实例有关。例如：

In[1]: obj = x.stack()
       type(obj)
Out[1]: pandas.core.series.Series

In[2]: obj.index
Out[2]: MultiIndex(levels=[[11, 11, 12, 12], ['x', 'y']],
           labels=[[0, 0, 1, 1, 2, 2, 3, 3], [0, 1, 0, 1, 0, 1, 0, 1]])

对比。

In[3]: obj = x.stack().reset_index().set_index(['level_0','level_1'],drop=True)
       type(obj)
Out[3]: pandas.core.frame.DataFrame

In[4]: obj.index
Out[4]: MultiIndex(levels=[[11, 12], ['x', 'y']],
           labels=[[0, 0, 0, 0, 1, 1, 1, 1], [0, 1, 0, 1, 0, 1, 0, 1]],
           names=['level_0', 'level_1'])

请注意，DataFrame 上的 MultiIndex 更正确地描述了层级。