AWSGlueJob中的InnerJoin语法如何写?
创始人
2024-09-25 15:31:26
0

在 AWS Glue Job 中使用 Inner Join,可以使用 Dataframe API 或 Spark SQL 语法。以下是两种语法的代码示例:

  1. 使用 Dataframe API 语法
from pyspark.sql.functions import *
from pyspark.sql.types import *

# 读取两个数据源的数据
df1 = spark.read.format("json").load("s3://path/to/dataset1/")
df2 = spark.read.format("json").load("s3://path/to/dataset2/")

# 设定 join 条件
join_cond = [df1["id"] == df2["id"]]

# 使用 Inner Join 进行 join 操作
join_df = df1.join(df2, join_cond, "inner")

# 展示 join 后的 dataframe
join_df.show()
  1. 使用 Spark SQL 语法
from pyspark.sql.functions import *
from pyspark.sql.types import *

# 读取两个数据源的数据
df1 = spark.read.format("json").load("s3://path/to/dataset1/")
df2 = spark.read.format("json").load("s3://path/to/dataset2/")

# 将两个 dataframe 注册为临时表
df1.createOrReplaceTempView("table1")
df2.createOrReplaceTempView("table2")

# 使用 Inner Join 进行 join 操作
join_df = spark.sql("""SELECT * FROM table1 
                        INNER JOIN table2 
                        ON table1.id = table2.id""")

# 展示 join 后的 dataframe
join_df.show()

相关内容

热门资讯

五分钟辅助!德州透视hhpok... 五分钟辅助!德州透视hhpoker,wepoker透视器免费,绝活儿教程(揭秘有挂)1、wepoke...
第八分钟辅助!aa poker... 第八分钟辅助!aa poker辅助包,hhpoker脚本,模块教程(果真有挂)1、首先打开aa po...
3分钟辅助!epoker底牌透... 3分钟辅助!epoker底牌透视,德普之星透视,策略教程(有挂细节)1)德普之星透视辅助插件:进一步...
2分钟辅助!wepoker手机... 2分钟辅助!wepoker手机助手,pokermaster辅助器,法子教程(有挂工具)亲,关键说明,...
第五分钟辅助!pokemmo辅... 第五分钟辅助!pokemmo辅助器手机版下载,拱趴大菠萝怎么开挂,教材教程(有挂功能)1、玩家可以在...
五分钟辅助!hhpoker是真... 五分钟辅助!hhpoker是真的还是假的,哈糖大菠萝有挂吗,积累教程(有挂详情)1、每一步都需要思考...
八分钟辅助!epoker免费透... 八分钟辅助!epoker免费透视脚本,hhpoker辅助器,手段教程(有挂透明挂)1、每一步都需要思...
第二分钟辅助!we-poker... 第二分钟辅助!we-poker正规吗,hhpoker一直输有挂吗,总结教程(的确有挂)1、hhpok...
八分钟辅助!pokermast... 八分钟辅助!pokermaster辅助器,wpk透视插件,策略教程(有挂方法)1、pokermast...
2分钟辅助!拱趴大菠萝有什么挂... 2分钟辅助!拱趴大菠萝有什么挂,hhpoker必备开挂,烘培教程(有挂秘籍)1、拱趴大菠萝有什么挂公...