用NA值填充字典以便转换为pandas数据框

Question

我有一个字典，其中包含不同时间滞后的计算值，这意味着它们始于不同的日期。例如，我拥有的数据可能看起来像以下内容：

Date      col1    col2    col3    col4    col5
01-01-15  5       12      1      -15      10
01-02-15  7       0       9       11      7
01-03-15          6       1       2       18
01-04-15          9       8       10
01-05-15         -4               7
01-06-15         -11             -1
01-07-15          6               

每个标题都是键，每列值都是该键的值（我使用了defaultdict(list)）。当我尝试运行pd.DataFrame.from_dict(d)时，我可以理解地得到一个错误，指出所有数组的长度必须相同。有没有一种简单/琐碎的方法来填充或填补数字，以便输出最终成为以下数据框？

Date      col1    col2    col3    col4    col5
01-01-15  5       12      1      -15      10
01-02-15  7       0       9       11      7
01-03-15  NaN     6       1       2       18
01-04-15  NaN     9       8       10      NaN
01-05-15  NaN    -4       NaN     7       NaN
01-06-15  NaN    -11      NaN    -1       NaN
01-07-15  NaN     6       NaN     NaN     NaN

我需要手动处理每个列表吗？

以下是重新创建字典的代码：

import pandas as pd
from collections import defaultdict

d = defaultdict(list)
d["Date"].extend([
    "01-01-15", 
    "01-02-15", 
    "01-03-15", 
    "01-04-15", 
    "01-05-15",
    "01-06-15",
    "01-07-15"
]
d["col1"].extend([5, 7])
d["col2"].extend([12, 0, 6, 9, -4, -11, 6])
d["col3"].extend([1, 9, 1, 8])
d["col4"].extend([-15, 11, 2, 10, 7, -1])
d["col5"].extend([10, 7, 18])

- weskpga

---

你能添加代码来重新创建示例字典吗？此外，通过N/A，您是否意味着NaN？ - Divakar

如果您能够花点功夫并分享@Divakar所提到的代码，我们中的任何一个都可以轻松地为您提供答案。 - piRSquared

刚刚添加了。是的，我指的是NaN。抱歉，我在Excel里花了太多时间。 - weskpga

Answer 1

另一个选项是使用from_dict 与 orient='index'，然后进行转置：

my_dict = {'a' : [1, 2, 3, 4, 5], 'b': [1, 2, 3]}
df = pd.DataFrame.from_dict(my_dict, orient='index').T

请注意，如果您的列具有不同的类型，例如一个列中是浮点数，另一个列中是字符串，则可能会遇到dtype问题。

生成的输出如下：

     a    b
0  1.0  1.0
1  2.0  2.0
2  3.0  3.0
3  4.0  NaN
4  5.0  NaN

- root

---

这里有一些很棒的答案，但我认为这个是最好的。 - weskpga

关于这个问题的后续，是否有一种简单的方法可以在末尾添加NaN之前进行添加呢？ - weskpga

Answer 2

#dictionary of different lengths...
my_dict = {'a' : [1, 2, 3, 4, 5], 'b': [1, 2, 3]}
pd.DataFrame(dict([(col_name,pd.Series(values)) for col_name,values in my_dict.items() ]))

输出 -

   a    b
0  1  1.0
1  2  2.0
2  3  3.0
3  4  NaN
4  5  NaN

- hashcode55

Answer 3

这里介绍一种使用掩码的方法 -

K = d.keys()
V = d.values()

mask = ~np.in1d(K,'Date')
K1 = [K[i] for i,item in enumerate(V) if mask[i]]
V1 = [V[i] for i,item in enumerate(V) if mask[i]]

lens = np.array([len(item) for item in V1])
mask = lens[:,None] > np.arange(lens.max())

out_arr = np.full(mask.shape,np.nan)
out_arr[mask] = np.concatenate(V1)
df = pd.DataFrame(out_arr.T,columns=K1,index=d['Date'])

样例执行 -

In [612]: d.keys()
Out[612]: ['col4', 'col5', 'col2', 'col3', 'col1', 'Date']

In [613]: d.values()
Out[613]: 
[[-15, 11, 2, 10, 7, -1],
 [10, 7, 18],
 [12, 0, 6, 9, -4, -11, 6],
 [1, 9, 1, 8],
 [5, 7],
 ['01-01-15',
  '01-02-15',
  '01-03-15',
  '01-04-15',
  '01-05-15',
  '01-06-15',
  '01-07-15']]

In [614]: df
Out[614]: 
          col4  col5  col2  col3  col1
01-01-15   -15    10    12     1     5
01-02-15    11     7     0     9     7
01-03-15     2    18     6     1   NaN
01-04-15    10   NaN     9     8   NaN
01-05-15     7   NaN    -4   NaN   NaN
01-06-15    -1   NaN   -11   NaN   NaN
01-07-15   NaN   NaN     6   NaN   NaN

- Divakar

---

@hashcode55，是的，根据最初发布的示例，列表中嵌入了一个更深层次的值。现在必须更新为新发布的示例，谢谢！ - Divakar

Answer 4

使用itertools (Python 3):

import itertools
pd.DataFrame(list(itertools.zip_longest(*d.values())), columns=d.keys()).sort_index(axis=1)
Out[728]: 
   col1  col2  col3  col4  col5
0   5.0    12   1.0 -15.0  10.0
1   7.0     0   9.0  11.0   7.0
2   NaN     6   1.0   2.0  18.0
3   NaN     9   8.0  10.0   NaN
4   NaN    -4   NaN   7.0   NaN
5   NaN   -11   NaN  -1.0   NaN
6   NaN     6   NaN   NaN   NaN

- ayhan