程序问答   发布时间:2022-06-01  发布网站:大佬教程  code.js-code.com
大佬教程收集整理的这篇文章主要介绍了Databricks - 将 Spark 数据帧转换为表:它是相同的数据源吗?大佬教程大佬觉得挺不错的,现在分享给大家,也给大家做个参考。

如何解决Databricks - 将 Spark 数据帧转换为表:它是相同的数据源吗??

开发过程中遇到Databricks - 将 Spark 数据帧转换为表:它是相同的数据源吗?的问题如何解决?下面主要结合日常开发的经验,给出你关于Databricks - 将 Spark 数据帧转换为表:它是相同的数据源吗?的解决方法建议,希望对你解决Databricks - 将 Spark 数据帧转换为表:它是相同的数据源吗?有所启发或帮助;

您需要从源数据帧、Spark 表中执行相当多的计算,不是吗?或者 dataframe 和 table 都是指向相同数据的指针(即在创建表时您没有创建重复数据)?

我想我想弄清楚的是,您是否可以从 Spark 数据帧“打开关闭”到表,或者这样做是否(非常)计算成本高(毕竟它是大数据...... )

解决方法

Dataframe 和 table 都在 spark 中不同。

Dataframe 是一个不可变的分布式数据集合。

表是具有元数据的表,元数据指向必须读取数据的物理位置形式。

当您将 spark 数据帧转换为表格时,您实际上是在将数据写入磁盘,这可能是 hdfs、S3、Azure 容器等。一旦将数据保存为表格,您就可以从任何地方读取它,例如不同的 Spark 作业或通过任何其他工作流程。

现在谈论数据帧,它仅对您创建该数据帧的特定火花会话有效,一旦关闭火花会话,您将无法读取该数据帧或访问它的值。 Dataframe 没有任何特定的内存位置或保存它的物理路径。数据框只是您从任何特定位置读取的数据的表示。

大佬总结

以上是大佬教程为你收集整理的Databricks - 将 Spark 数据帧转换为表:它是相同的数据源吗?全部内容,希望文章能够帮你解决Databricks - 将 Spark 数据帧转换为表:它是相同的数据源吗?所遇到的程序开发问题。

如果觉得大佬教程网站内容还不错,欢迎将大佬教程推荐给程序员好友。

本图文内容来源于网友网络收集整理提供,作为学习参考使用,版权属于原作者。
如您有任何意见或建议可联系处理。小编QQ:384754419,请注明来意。