logo标签列表

Pyspark: 合并（外连接）两个数据框

pythonapache-sparkpysparkapache-spark-sql
20

我有以下两个数据框：

DF1:

    Id | field_A | field_B | field_C | field_D
     1 |   cat   |  12     |   black | 11
     2 |   dog   | 128     |   white | 19
     3 |   dog   |  35     |  yellow | 20
     4 |   dog   |  21     |   brown |  4
     5 |  bird   |  10     |    blue |  7
     6 |   cow   |  99     |   brown | 34

和

DF2:

    Id | field_B | field_C | field_D | field_E
     3 |  35     |  yellow | 20      |   123   
     5 |  10     |    blue |  7      |   454   
     6 |  99     |   brown | 34      |   398

我希望能得到新的数据框new_DF

    Id | field_A | field_B | field_C | field_D | field_E
     1 |   cat   |  12     |   black | 11      |
     2 |   dog   | 128     |   white | 19      |
     3 |   dog   |  35     |  yellow | 20      |  123
     4 |   dog   |  21     |   brown |  4      |  
     5 |  bird   |  10     |    blue |  7      |  454
     6 |   cow   |  99     |   brown | 34      |  398
这是否可以通过数据框操作实现？谢谢！
1个回答
36

试试这个：

new_df = df1.join(df2, on=['field_B', 'field_C', 'field_D'], how='left_outer')
如果您需要根据ID连接DF1和DF2，并从两个数据框中选择A或B字段，则代码会是什么样子？ - BI Dude
网页内容由stack overflow 提供, 点击上面的
可以查看英文原文，
原文链接