Pandas按组计数非空值的百分比

Question

给定这个数据集，我想计算缺失值和NaN值：

df = pd.DataFrame({'A' : [1, np.nan, 2 , 55, 6, np.nan, -17, np.nan],
                   'Team' : ['one', 'one', 'two', 'three','two', 'two', 'one', 'three'],
                   'C' : [4, 14, 3 , 8, 8, 7, np.nan, 11],
                   'D' : [np.nan, np.nan, -12 , 12, 12, -12, np.nan, np.nan]})

我想特别统计“团队”列中每个组的百分比。我可以通过以下代码获得原始计数：

df.groupby('Team').count()

这将得到非缺失数字的数量。我想要做的是创建一个百分比，所以不是得到原始数字，而是得到每个组中总条目数的百分比（我不知道这些组的大小都是不相等的）。我尝试使用 .agg()，但似乎无法获得我想要的结果。我该如何操作？

- J. Paul

Answer 1

你可以对布尔型DataFrame使用mean函数，计算非空值(notnull)的平均值：

In [11]: df.notnull()
Out[11]:
       A      C      D  Team
0   True   True  False  True
1  False   True  False  True
2   True   True   True  True
3   True   True   True  True
4   True   True   True  True
5  False   True   True  True
6   True  False  False  True
7  False   True  False  True

In [12]: df.notnull().mean()
Out[12]:
A       0.625
C       0.875
D       0.500
Team    1.000
dtype: float64

并且使用groupby：

In [13]: df.groupby("Team").apply(lambda x: x.notnull().mean())
Out[13]:
              A         C    D  Team
Team
one    0.666667  0.666667  0.0   1.0
three  0.500000  1.000000  0.5   1.0
two    0.666667  1.000000  1.0   1.0

使用set_index首先设置索引可能更快:

In [14]: df.set_index("Team").notnull().groupby(level=0).mean()
Out[14]:
              A         C    D
Team
one    0.666667  0.666667  0.0
three  0.500000  1.000000  0.5
two    0.666667  1.000000  1.0

- Andy Hayden

Answer 2

基于你自己的代码添加 div(df.groupby('Team').size(),0)。

df.groupby('Team').count().div(df.groupby('Team').size(),0)
Out[190]: 
              A         C    D
Team                          
one    0.666667  0.666667  0.0
three  0.500000  1.000000  0.5
two    0.666667  1.000000  1.0

- BENY