程序问答   发布时间:2022-06-02  发布网站:大佬教程  code.js-code.com
大佬教程收集整理的这篇文章主要介绍了如何在非分区列上使用过滤器优化 spark sql select 查询?大佬教程大佬觉得挺不错的,现在分享给大家,也给大家做个参考。
@H_772_0@如何解决如何在非分区列上使用过滤器优化 spark sql SELEct 查询?? 开发过程中遇到如何在非分区列上使用过滤器优化 spark sql SELEct 查询?的问题如何解决?下面主要结合日常开发的经验,给出你关于如何在非分区列上使用过滤器优化 spark sql SELEct 查询?的解决方法建议,希望对你解决如何在非分区列上使用过滤器优化 spark sql SELEct 查询?有所启发或帮助;

我们@R_498_6752@,比如 A 列、B 列。 这个表也有一个时间戳列,比如“上次修改时间”

在我们处理数据的管道中,我们只想获取在一小时前最后一个管道运行后更改的数据。因此,我们执行类似 -

的查询
SELEct * FROM table where timestampcolumn > '<timestamp one hour ago>'

这个过滤器需要很多时间,因为过滤后的列不是分区列的一部分。 我们如何优化它?

@H_772_0@解决方法

暂无找到可以解决该程序问题的有效方法,小编努力寻找整理中!

如果你已经找到好的解决方法,欢迎将解决方案带上本链接一起发送给小编。

小编邮箱:dio#foxmail.com (将#修改为@)

大佬总结

以上是大佬教程为你收集整理的如何在非分区列上使用过滤器优化 spark sql select 查询?全部内容,希望文章能够帮你解决如何在非分区列上使用过滤器优化 spark sql select 查询?所遇到的程序开发问题。

如果觉得大佬教程网站内容还不错,欢迎将大佬教程推荐给程序员好友。

本图文内容来源于网友网络收集整理提供,作为学习参考使用,版权属于原作者。
如您有任何意见或建议可联系处理。小编QQ:384754419,请注明来意。