ApacheSpark3.0中的from_json返回null
创始人
2024-09-06 11:30:21
0

在从 JSON 字符串中解析某个字段时,from_json 函数在 Apache Spark 3.0 中会返回 null 值,而不是期望的默认值。

解决这个问题的方法是,在 from_json 函数中指定默认值。具体来说,将 from_json 函数的第二个参数作为默认值传递给它。例如,假设我们想要从名为 "data" 的 JSON 字符串中提取名为 "foo" 的字段,并将缺失的值替换为一个默认值 0:

from pyspark.sql.functions import from_json
from pyspark.sql.types import StructType, StructField, StringType, IntegerType

schema = StructType([StructField("foo", IntegerType(), True)])

df = spark.createDataFrame([(1, '{"data": {"foo": 42}}'), (2, '{"data": {}}')], ["id", "json_data"])

df = df.withColumn("parsed_json", from_json(df.json_data, schema).getField("foo"))
df = df.fillna({"parsed_json": 0})

在执行上面的代码后,df 的输出将如下所示:

+---+----------------------+------------+
|id |json_data             |parsed_json |
+---+----------------------+------------+
|1  |{"data": {"foo": 42}} |42          |
|2  |{"data": {}}          |0           |
+---+----------------------+------------+

这样我们就能够在解析 JSON 数据时,将缺失的值替换为默认值了。

相关内容

热门资讯

微扑克透视挂!德州之星ai软件... 微扑克透视挂!德州之星ai软件工具,拱趴大菠萝有什么挂APP;1分钟了解详细教程(微信 136704...
WPK透明挂!德州之星软件透明... WPK透明挂!德州之星软件透明挂,哈糖大菠萝可以开挂吗方法;科技详细教程小薇《757446909》所...
wpk透视挂!德扑ai机器人软... wpk透视挂!德扑ai机器人软件开发机制,约局吧是否有挂机制是由北京得黑科技有限公司精心研发的一款功...
智星德州作弊器!智星德州菠萝开... 智星德州作弊器!智星德州菠萝开挂打法,约局吧如何查看是否有挂了解;实战中需综合运用上述技巧,并根据牌...
wpk透视挂!轰趴大菠萝十三水... wpk透视挂!轰趴大菠萝十三水辅助输赢,佛手在线大菠萝为什么都输器安装;《WPK辅助透视》‌:支持手...
微扑克透明挂!governor... 微扑克透明挂!governorofpoker3有辅助脚本,哈糖大菠萝有没有挂教学;governoro...
WePoKe作弊器!德州之星辅... WePoKe作弊器!德州之星辅助器用挂,佛手在线是不是有挂插件是由北京得黑科技有限公司精心研发的一款...
智星德州辅助器!德扑之星能看到... 智星德州辅助器!德扑之星能看到底牌修改器,智星菠萝可以辅助吗攻略,亲,有的,ai轻松简单,又可以获得...
WePoKe辅助器!德州app... WePoKe辅助器!德州app辅助器智能ai,德州局怎么透视神器,支持语音通讯、好友开房及战队组建,...
WPK辅助器!德州ai智能营销... WPK辅助器!德州ai智能营销系统私人房,约局吧德州真的存在透视吗介绍;支持多人共享记分板与复盘,通...