是否有一种方法可以检查pandas数据帧中当前行的所有列值是否均小于先前行的相应列值(遍历整个数据帧),并相应地创建一个新列,其值为1或0?
df
。np.random.seed([3,1415])
df = pd.DataFrame(np.random.rand(10, 4), columns=list('ABCD'))
A B C D
0 0.444939 0.407554 0.460148 0.465239
1 0.462691 0.016545 0.850445 0.817744
2 0.777962 0.757983 0.934829 0.831104
3 0.879891 0.926879 0.721535 0.117642
4 0.145906 0.199844 0.437564 0.100702
5 0.278735 0.609862 0.085823 0.836997
6 0.739635 0.866059 0.691271 0.377185
7 0.225146 0.435280 0.700900 0.700946
8 0.796487 0.018688 0.700566 0.900749
9 0.764869 0.253200 0.548054 0.778883
shift
键df.assign(New=(df < df.shift()).all(1).astype(int))
A B C D New
0 0.444939 0.407554 0.460148 0.465239 0
1 0.462691 0.016545 0.850445 0.817744 0
2 0.777962 0.757983 0.934829 0.831104 0
3 0.879891 0.926879 0.721535 0.117642 0
4 0.145906 0.199844 0.437564 0.100702 1
5 0.278735 0.609862 0.085823 0.836997 0
6 0.739635 0.866059 0.691271 0.377185 0
7 0.225146 0.435280 0.700900 0.700946 0
8 0.796487 0.018688 0.700566 0.900749 0
9 0.764869 0.253200 0.548054 0.778883 0
选项 2
numpy
与选项 1 相同的概念
v = df.values
df.assign(New=np.append(False, (v[1:] < v[:-1]).all(1).astype(int)))
A B C D New
0 0.444939 0.407554 0.460148 0.465239 0
1 0.462691 0.016545 0.850445 0.817744 0
2 0.777962 0.757983 0.934829 0.831104 0
3 0.879891 0.926879 0.721535 0.117642 0
4 0.145906 0.199844 0.437564 0.100702 1
5 0.278735 0.609862 0.085823 0.836997 0
6 0.739635 0.866059 0.691271 0.377185 0
7 0.225146 0.435280 0.700900 0.700946 0
8 0.796487 0.018688 0.700566 0.900749 0
9 0.764869 0.253200 0.548054 0.778883 0
选项三
diff
使用 diff
比较每一行与下一行,看看它是否小于零。然后使用 all
判断整行是否为 True
。
df.assign(New=df.diff().lt(0).all(1).astype(int))
A B C D New
0 0.444939 0.407554 0.460148 0.465239 0
1 0.462691 0.016545 0.850445 0.817744 0
2 0.777962 0.757983 0.934829 0.831104 0
3 0.879891 0.926879 0.721535 0.117642 0
4 0.145906 0.199844 0.437564 0.100702 1
5 0.278735 0.609862 0.085823 0.836997 0
6 0.739635 0.866059 0.691271 0.377185 0
7 0.225146 0.435280 0.700900 0.700946 0
8 0.796487 0.018688 0.700566 0.900749 0
9 0.764869 0.253200 0.548054 0.778883 0
时间控制
%timeit df.assign(New=df.diff().lt(0).all(1).astype(int))
%timeit df.assign(New=(df < df.shift()).all(1).astype(int))
1000 loops, best of 3: 579 µs per loop
1000 loops, best of 3: 1.56 ms per loop
%%timeit
v = df.values
df.assign(New=np.append(False, (v[1:] < v[:-1]).all(1).astype(int)))
1000 loops, best of 3: 322 µs per loop
如何使用 diff
检查当前行所有列的值是否小于前一行对应列的值
这正是我使用 diff
的原因。 pandas.DataFrame.diff
默认计算每一列的差异数组,也就是说,对于每一行,我们都有相对于前一行的差异。 对于 OP 给出的条件为真,我们需要这个差异小于零。
df.diff()
A B C D
0 NaN NaN NaN NaN
1 0.017752 -0.391009 0.390297 0.352505
2 0.315271 0.741438 0.084384 0.013360
3 0.101929 0.168895 -0.213294 -0.713463
4 -0.733985 -0.727035 -0.283971 -0.016940
5 0.132829 0.410018 -0.351741 0.736296
6 0.460900 0.256197 0.605448 -0.459812
7 -0.514489 -0.430779 0.009629 0.323761
8 0.571340 -0.416592 -0.000334 0.199803
9 -0.031618 0.234512 -0.152512 -0.121866
那么
df.diff() < 0
A B C D
0 False False False False
1 False True False False
2 False False False False
3 False False True True
4 True True True True
5 False False True False
6 False False False True
7 True True False False
8 False True True False
9 True False True True
那么
(df.diff() < 0).all(1)
0 False
1 False
2 False
3 False
4 True
5 False
6 False
7 False
8 False
9 False
dtype: bool
df.assign(New=df[mycols].diff().lt(0).all(1).astype(int))
来对数据框进行子集操作,其中mycols
是您想要评估的列的列表,从而轻松修改此逻辑。或者,您可以使用iloc
通过位置限制列,从第二列开始限制它,如下所示:df.assign(New=df.iloc[:, 1:].diff().lt(0).all(1).astype(int))
。 - piRSquared