我正在按照以下方式从csv文件创建DataFrame:
stock = pd.read_csv('data_in/' + filename + '.csv', skipinitialspace=True)
这个数据框包含一个日期列。是否有方法可以创建一个新的数据框(或仅覆盖现有的数据框),其中只包含落在指定日期范围内或两个指定日期值之间的日期值所在的行?
有两个可能的解决方案:
df.loc[mask]
df[start_date : end_date]
使用布尔掩码:
确保df['date']
是dtype为datetime64[ns]
的Series:
df['date'] = pd.to_datetime(df['date'])
创建一个布尔掩码。 start_date
和 end_date
可以是 datetime.datetime
、np.datetime64
、pd.Timestamp
或者日期时间字符串:
#greater than the start date and smaller than the end date
mask = (df['date'] > start_date) & (df['date'] <= end_date)
选择子数据框:
df.loc[mask]
或重新分配给df
df = df.loc[mask]
例如,
import numpy as np
import pandas as pd
df = pd.DataFrame(np.random.random((200,3)))
df['date'] = pd.date_range('2000-1-1', periods=200, freq='D')
mask = (df['date'] > '2000-6-1') & (df['date'] <= '2000-6-10')
print(df.loc[mask])
产出,得出。 0 1 2 date
153 0.208875 0.727656 0.037787 2000-06-02
154 0.750800 0.776498 0.237716 2000-06-03
155 0.812008 0.127338 0.397240 2000-06-04
156 0.639937 0.207359 0.533527 2000-06-05
157 0.416998 0.845658 0.872826 2000-06-06
158 0.440069 0.338690 0.847545 2000-06-07
159 0.202354 0.624833 0.740254 2000-06-08
160 0.465746 0.080888 0.155452 2000-06-09
161 0.858232 0.190321 0.432574 2000-06-10
如果您需要根据日期进行大量筛选,将date
列首先设置为索引可能更快。然后,您可以使用df.loc[start_date:end_date]
按日期选择行。
import numpy as np
import pandas as pd
df = pd.DataFrame(np.random.random((200,3)))
df['date'] = pd.date_range('2000-1-1', periods=200, freq='D')
df = df.set_index(['date'])
print(df.loc['2000-6-1':'2000-6-10'])
产生的结果 0 1 2
date
2000-06-01 0.040457 0.326594 0.492136 # <- includes start_date
2000-06-02 0.279323 0.877446 0.464523
2000-06-03 0.328068 0.837669 0.608559
2000-06-04 0.107959 0.678297 0.517435
2000-06-05 0.131555 0.418380 0.025725
2000-06-06 0.999961 0.619517 0.206108
2000-06-07 0.129270 0.024533 0.154769
2000-06-08 0.441010 0.741781 0.470402
2000-06-09 0.682101 0.375660 0.009916
2000-06-10 0.754488 0.352293 0.339337
当使用Python列表索引时,例如seq[start:end]
,包括start
但不包括end
。相比之下,Pandas的df.loc[start_date : end_date]
如果它们在索引中,则结果将包括两个端点。但是,start_date
和end_date
都不一定要在索引中。
另外注意,pd.read_csv
有一个parse_dates
参数,你可以使用它将date
列解析为datetime64
类型。因此,如果你使用了parse_dates
,你就不需要使用df['date'] = pd.to_datetime(df['date'])
了。
我认为最好的选择是使用直接检索而不是使用loc函数:
df = df[(df['date'] > '2000-6-1') & (df['date'] <= '2000-6-10')]
对我而言,它有效。
使用切片的 loc 函数的一个主要问题是,限制应该存在于实际值中,如果不存在,则会导致 KeyError 错误。
loc
使用切片非常好。而且,正如unutbu所说,“start_date”和“end_date”都不必在索引中。 - nealmcb你也可以使用between
:
df[df.some_date.between(start_date, end_date)]
between_time
:http://pandas.pydata.org/pandas-docs/version/0.20.3/generated/pandas.DataFrame.between_time.html - Anton Tarasenko你可以在date
列上使用isin
方法,如下所示:df[df["date"].isin(pd.date_range(start_date, end_date))]
注意:这仅适用于日期(正如问题所要求的)而不是时间戳。
示例:
import numpy as np
import pandas as pd
# Make a DataFrame with dates and random numbers
df = pd.DataFrame(np.random.random((30, 3)))
df['date'] = pd.date_range('2017-1-1', periods=30, freq='D')
# Select the rows between two dates
in_range_df = df[df["date"].isin(pd.date_range("2017-01-15", "2017-01-20"))]
print(in_range_df) # print result
提供
0 1 2 date
14 0.960974 0.144271 0.839593 2017-01-15
15 0.814376 0.723757 0.047840 2017-01-16
16 0.911854 0.123130 0.120995 2017-01-17
17 0.505804 0.416935 0.928514 2017-01-18
18 0.204869 0.708258 0.170792 2017-01-19
19 0.014389 0.214510 0.045201 2017-01-20
pd.date_range
接受四个参数,但你只需要设置最多3个参数。由于其中两个参数是可选的,有时只需指定2个参数即可。然而,如果没有看到你的代码,我无法告诉你如何修复它。 - Jonny Brookspandas
0.22 版本拥有 between()
函数,这使得回答这个问题更加容易且代码更易读。
# create a single column DataFrame with dates going from Jan 1st 2018 to Jan 1st 2019
df = pd.DataFrame({'dates':pd.date_range('2018-01-01','2019-01-01')})
假设你想获取2018年11月27日至2019年1月15日期间的数据:
# use the between statement to get a boolean mask
df['dates'].between('2018-11-27','2019-01-15', inclusive=False)
0 False
1 False
2 False
3 False
4 False
# you can pass this boolean mask straight to loc
df.loc[df['dates'].between('2018-11-27','2019-01-15', inclusive=False)]
dates
331 2018-11-28
332 2018-11-29
333 2018-11-30
334 2018-12-01
335 2018-12-02
注意 inclusive
参数。当你想明确你的范围时,这个参数非常有帮助。请注意,当设置为 True 时,我们还会返回 2018 年 11 月 27 日:
df.loc[df['dates'].between('2018-11-27','2019-01-15', inclusive=True)]
dates
330 2018-11-27
331 2018-11-28
332 2018-11-29
333 2018-11-30
334 2018-12-01
这种方法也比之前提到的 isin
方法更快:
%%timeit -n 5
df.loc[df['dates'].between('2018-11-27','2019-01-15', inclusive=True)]
868 µs ± 164 µs per loop (mean ± std. dev. of 7 runs, 5 loops each)
%%timeit -n 5
df.loc[df['dates'].isin(pd.date_range('2018-01-01','2019-01-01'))]
1.53 ms ± 305 µs per loop (mean ± std. dev. of 7 runs, 5 loops each)
然而,只有当掩码 已经被创建 时,它才不比由 unutbu 提供的当前接受答案更快。但是,如果掩码是动态的并且需要反复重新分配,则我的方法可能更有效:
# already create the mask THEN time the function
start_date = dt.datetime(2018,11,27)
end_date = dt.datetime(2019,1,15)
mask = (df['dates'] > start_date) & (df['dates'] <= end_date)
%%timeit -n 5
df.loc[mask]
191 µs ± 28.5 µs per loop (mean ± std. dev. of 7 runs, 5 loops each)
df.loc[df['dates'].between('2018-11-27','2019-01-15', inclusive=True)]
返回的是2018-11-27的包含日期,但不包括2019-01-15。 - mdkb为了保持简单且符合Python风格,我建议您尝试以下方法。
如果您经常进行这项操作,最好的解决方案是先将日期列设置为索引,这将把该列转换为DateTimeIndex,并使用以下条件来切片任何日期范围。
import pandas as pd
data_frame = data_frame.set_index('date')
df = data_frame[(data_frame.index > '2017-08-10') & (data_frame.index <= '2017-08-15')]
另一种实现这个目标的方法是使用 pandas.DataFrame.query()
方法。下面让我用名为 df
的数据框举个例子。
>>> df = pd.DataFrame(np.random.random((5, 1)), columns=['col_1'])
>>> df['date'] = pd.date_range('2020-1-1', periods=5, freq='D')
>>> print(df)
col_1 date
0 0.015198 2020-01-01
1 0.638600 2020-01-02
2 0.348485 2020-01-03
3 0.247583 2020-01-04
4 0.581835 2020-01-05
作为一个参数,使用以下方式过滤条件:
>>> start_date, end_date = '2020-01-02', '2020-01-04'
>>> print(df.query('date >= @start_date and date <= @end_date'))
col_1 date
1 0.244104 2020-01-02
2 0.374775 2020-01-03
3 0.510053 2020-01-04
>>> print(df.query('date > @start_date and date < @end_date'))
col_1 date
2 0.374775 2020-01-03
强烈建议将日期列转换为索引。 这样做可以提供许多便利。其中之一是轻松选择两个日期之间的行,可以参考以下示例:
import numpy as np
import pandas as pd
# Dataframe with monthly data between 2016 - 2020
df = pd.DataFrame(np.random.random((60, 3)))
df['date'] = pd.date_range('2016-1-1', periods=60, freq='M')
2017-01-01
到 2019-01-01
之间的行,您只需要将 date
列转换为一个 index
:df.set_index('date', inplace=True)
然后只有切片:
df.loc['2017':'2019']
你可以在直接读取csv文件时选择日期列作为索引,而不是使用df.set_index()
方法:
df = pd.read_csv('file_name.csv',index_col='date')
import pandas as pd
technologies = ({
'Courses':["Spark","PySpark","Hadoop","Python","Pandas","Hadoop","Spark"],
'Fee' :[22000,25000,23000,24000,26000,25000,25000],
'Duration':['30days','50days','55days','40days','60days','35days','55days'],
'Discount':[1000,2300,1000,1200,2500,1300,1400],
'InsertedDates':["2021-11-14","2021-11-15","2021-11-16","2021-11-17","2021-11-18","2021-11-19","2021-11-20"]
})
df = pd.DataFrame(technologies)
print(df)
mask = (df['InsertedDates'] > start_date) & (df['InsertedDates'] <= end_date)
df2 = df.loc[mask]
print(df2)
start_date = '2021-11-15'
end_date = '2021-11-19'
after_start_date = df["InsertedDates"] >= start_date
before_end_date = df["InsertedDates"] <= end_date
between_two_dates = after_start_date & before_end_date
df2 = df.loc[between_two_dates]
print(df2)
start_date = '2021-11-15'
end_date = '2021-11-18'
df2 = df.query('InsertedDates >= @start_date and InsertedDates <= @end_date')
print(df2)
start_date = '2021-11-15'
end_date = '2021-11-18'
df2 = df.query('InsertedDates > @start_date and InsertedDates < @end_date')
print(df2)
df2 = df.loc[df["InsertedDates"].between("2021-11-16", "2021-11-18")]
print(df2)
df2 = df[df["InsertedDates"].isin(pd.date_range("2021-11-15", "2021-11-17"))]
print(df2)
dates = pd.date_range('2016-01-01', '2016-01-06', freq='d')
df = pd.DataFrame(index=dates, data={'A': 1})
A
2016-01-01 1
2016-01-02 1
2016-01-03 1
2016-01-04 1
2016-01-05 1
2016-01-06 1
选择两个日期之间的数据:
df.truncate(before=pd.Timestamp('2016-01-02'),
after=pd.Timestamp('2016-01-4'))
输出:
A
2016-01-02 1
2016-01-03 1
2016-01-04 1
df = df.set_index(['date'])
之后,我发现索引也需要排序(通过df.sort_index(inplace=True, ascending=True)
),否则您可能会从df.loc['2000-6-1':'2000-6-10']
中获得不完整甚至为空的DataFrame结果。如果使用ascending=False
,即使您使用df.loc['2000-6-10':'2000-6-1']
颠倒顺序,它也无法工作。 - bgoodrdatetime.date
才能进行关系运算。否则会抛出TypeError
异常。例如,pd.to_datetime("2000-6-1").date()
对我来说可以工作。 - rambalachandran