如何在NumPy中将CSV数据读入记录数组？

Question

是否有一种直接的方法可以将CSV文件的内容导入记录数组中，就像R语言的 read.table()、read.delim() 和 read.csv() 将数据导入到R数据框中那样？

或者我应该使用csv.reader()然后再应用numpy.core.records.fromrecords()吗？

- hatmatrix

Answer 1

通过将delimiter参数设置为逗号，使用numpy.genfromtxt()：

from numpy import genfromtxt
my_data = genfromtxt('my_file.csv', delimiter=',')

- Andrew

---

如果你需要不同类型的东西，比如字符串和整数，该怎么办？ - CGTheLegend

使用np.genfromtxt('myfile.csv',delimiter=',',dtype=None)函数从'myfile.csv'文件中读取数据，其中','作为分隔符，数据类型为None。 - chickensoup

numpy.loadtxt 对我也很有效。 - Yibo Yang

我尝试了这个，但是我只得到了 nan 值，为什么？同时使用 loadtxt 函数时，我遇到了 UnicodeDecodeError: 'ascii' codec can't decode byte 0xc3 in position 155: ordinal not in range(128) 的错误。我的输入数据中包含像 ä 和 ö 这样的字符。 - hhh

尝试添加 encoding="utf8" 参数。Python 是少数几个经常引起文本编码问题的现代软件之一，这些问题让人感觉像来自过去的事情。 - kolen

Answer 2

使用 pandas.read_csv：

import pandas as pd
df = pd.read_csv('myfile.csv', sep=',', header=None)
print(df.values)

array([[ 1. ,  2. ,  3. ],
       [ 4. ,  5.5,  6. ]])

这将得到一个pandas DataFrame，它提供了许多有用的数据操作函数，这些函数在numpy记录数组中不直接可用。

DataFrame是一个二维标记数据结构，其列可能具有不同的类型。您可以将其视为电子表格或SQL表...

---

我建议使用numpy.genfromtxt。然而，由于问题要求一个record array，而不是普通的数组，需要在genfromtxt调用中添加dtype=None参数：

import numpy as np
np.genfromtxt('myfile.csv', delimiter=',')

对于以下的'myfile.csv'文件:

1.0, 2, 3
4, 5.5, 6

上面的代码给出了一个数组：

array([[ 1. ,  2. ,  3. ],
       [ 4. ,  5.5,  6. ]])

并且

np.genfromtxt('myfile.csv', delimiter=',', dtype=None)

返回一个记录数组：

array([(1.0, 2.0, 3), (4.0, 5.5, 6)], 
      dtype=[('f0', '<f8'), ('f1', '<f8'), ('f2', '<i4')])

这样做的好处是可以轻松导入包含多种数据类型（包括字符串）的文件。

- Lee

---

read_csv可以处理引号内的逗号。建议使用它而不是genfromtxt。 - Viet

如果您的文件有一行标题，请使用header=0来跳过值中的第一行。 - c-chavez

请注意，这将创建一个二维数组：例如 (1000, 1)。np.genfromtxt 不会这样做：例如 (1000,)。 - Newskooler

OP 正在询问 Numpy 数组，而不是 Pandas 数据帧对象。 - José L. Patiño

@JoséL.Patiño 这个问题的第二部分涉及到对 Numpy记录数组 的请求。答案的第一部分展示了 df.values，它提供了一个 DataFrame 的 Numpy 表示；这是我认为很方便的方法。 - Lee

Answer 3

我试过了：

from numpy import genfromtxt
genfromtxt(fname = dest_file, dtype = (<whatever options>))

对决:

import csv
import numpy as np
with open(dest_file,'r') as dest_f:
    data_iter = csv.reader(dest_f,
                           delimiter = delimiter,
                           quotechar = '"')
    data = [data for data in data_iter]
data_array = np.asarray(data, dtype = <whatever options>)

我对大约70列的460万行数据进行了测试，结果发现使用NumPy需要2分16秒，而使用csv列表推导方法只需要13秒。

我建议使用csv列表推导方法，因为它很有可能依赖于预编译的库，而不像NumPy那样严重依赖解释器。我怀疑使用pandas方法也会有类似的解释器开销。

- William komp

---

我曾使用类似的代码测试了一个包含260万行和8列的csv文件，其中numpy.recfromcsv()花费了约45秒钟，np.asarray(list(csv.reader()))花费了约7秒钟，而pandas.read_csv()只花费了大约2秒钟（！）。 （在所有情况下，该文件都已从磁盘读取，因此它已经在操作系统的文件缓存中。）我想我会选择pandas。 - Matthias Fripp

我刚刚注意到有关pandas快速csv解析器设计的一些注释，网址是http://wesmckinney.com/blog/a-new-high-performance-memory-efficient-file-parser-engine-for-pandas/。作者非常重视速度和内存需求。还可以使用as_recarray=True直接将结果作为Python记录数组而不是pandas数据帧来使用。 - Matthias Fripp

Answer 4

您还可以尝试使用recfromcsv()，该函数可以猜测数据类型并返回格式正确的记录数组。

- btel

---

如果你想在CSV中保持排序/列名，你可以使用以下方式调用：numpy.recfromcsv(fname, delimiter=',', filling_values=numpy.nan, case_sensitive=True, deletechars='', replace_space=' ')。关键参数是最后三个。 - eacousineau

Answer 5

我尝试使用NumPy和Pandas两种方式，但是使用Pandas有很多优点：

• 速度更快
• 占用更少的CPU资源
• 与NumPy genfromtxt相比，内存使用量只有1/3

这是我的测试代码：

$ for f in test_pandas.py test_numpy_csv.py ; do  /usr/bin/time python $f; done
2.94user 0.41system 0:03.05elapsed 109%CPU (0avgtext+0avgdata 502068maxresident)k
0inputs+24outputs (0major+107147minor)pagefaults 0swaps

23.29user 0.72system 0:23.72elapsed 101%CPU (0avgtext+0avgdata 1680888maxresident)k
0inputs+0outputs (0major+416145minor)pagefaults 0swaps

test_numpy_csv.py

from numpy import genfromtxt
train = genfromtxt('/home/hvn/me/notebook/train.csv', delimiter=',')

test_pandas.py

from pandas import read_csv
df = read_csv('/home/hvn/me/notebook/train.csv')

数据文件：

du -h ~/me/notebook/train.csv
 59M    /home/hvn/me/notebook/train.csv

使用NumPy和pandas在以下版本:

$ pip freeze | egrep -i 'pandas|numpy'
numpy==1.13.3
pandas==0.20.2

- HVNSweeting

Answer 6

使用numpy.loadtxt是一种非常简单的方法。但是需要注意所有元素都必须是浮点数（整数等不行）。

import numpy as np 
data = np.loadtxt('c:\\1.csv',delimiter=',',skiprows=0)  

- Xiaojian Chen

---

还可以使用以下代码：data2 = np.genfromtxt('c:\\1.csv', delimiter=',') - Konstantin F

Answer 7

你可以使用以下代码将CSV文件数据发送到数组中：

import numpy as np
csv = np.genfromtxt('test.csv', delimiter=",")
print(csv)

- chamzz.dot

Answer 8

这个东西像魔法一样有效...

import csv
with open("data.csv", 'r') as f:
    data = list(csv.reader(f, delimiter=";"))

import numpy as np
data = np.array(data, dtype=np.float)

- Nihal Sargaiya

Answer 9

我建议使用 tables (pip3 install tables)。使用 pandas (pip3 install pandas)，您可以将 .csv 文件保存为 .h5。

import pandas as pd
data = pd.read_csv("dataset.csv")
store = pd.HDFStore('dataset.h5')
store['mydata'] = data
store.close()

你甚至可以在处理大量数据时，更加轻松、更少的时间内，将数据加载到一个NumPy数组中。

import pandas as pd
store = pd.HDFStore('dataset.h5')
data = store['mydata']
store.close()

# Data in NumPy format
data = data.values

- Jatin Mandav

Answer 10

这是最简单的方法：

import csv
with open('testfile.csv', newline='') as csvfile:
    data = list(csv.reader(csvfile))

现在，data中的每个条目都是一个记录，表示为数组。因此，您有一个二维数组。这节省了我很多时间。

- matthewpark319

---

为什么我们要费力地使用Pandas，而这些工具的功能却更少、更简洁？ - Chris