189 8069 5689

大数据查询引擎Presto的示例分析

这篇文章给大家分享的是有关大数据查询引擎Presto的示例分析的内容。小编觉得挺实用的,因此分享给大家做个参考,一起跟随小编过来看看吧。

成都创新互联是专业的宜昌网站建设公司,宜昌接单;提供成都网站建设、做网站,网页设计,网站设计,建网站,PHP网站建设等专业做网站服务;采用PHP框架,可快速的进行宜昌网站开发网页制作和功能扩展;专业做搜索引擎喜爱的网站,专业的做网站团队,希望更多企业前来合作!

Presto设计精巧,可以处理海量数据,最大化地利用硬件性能,计算全部在内存中完成,很好的利用高速网络来进行数据调度。性能基本上是Hive的10倍。

支持直接使用presto-jdbc驱动完成Java应用程序开发。

Presto集群中的数据传输、节点通信、心跳感应、计算监控、计算调度和计算分布全部都是基于RESTful服务实现的,因此Presto中的RESTful服务就是Presto所有服务的基石。

Presto客户端对查询语句的提交流程:

1、从指定文件、命令行参数或者Cli窗口中获取需要执行的SQL语句

2、将得到的SQL语句组装成一个RESTful请求,发送给Coordinator,并处理返回的response。

3、Cli 会不停地循环分批读取查询结果并在屏幕进行动态显示,直到查询结果完全显示完毕。

向Presto集群提交一个查询,其整个过程会经历4个阶段:

1、提交查询:客户端向Coordinator提供的RESTful服务提交SQL语句

2、生成查询执行计划:Coordinator根据传递的SQL语句生成响应的查询执行计划

3、查询调度:Coordinator根据生成的查询执行计划,依次进行Stage和Task调度。

4、查询执行:最终Coordinator会调度最空闲的Worker执行相应的Task进行实际计算任务。

Presto队列是用于控制查询并发量和可接收的SQL数量,可针对用户、提交来源、Session等信息进行个性化配置。

Presto支持众多数据源Connector,最常用的为Hive Connector。

Hive Connector 使用Hive的元数据,Coordinator节点通过Hive Metastore加载元数据,Presto的计算节点读取Hive表对应的HDFS数据。

Kafka Connector 支持Apache Kafka 0.8及以上版本,将Apache Kafka 中的topics 当作表进行处理,topics中每条消息在Presto中被解析为表中的一行数据。

感谢各位的阅读!关于“大数据查询引擎Presto的示例分析”这篇文章就分享到这里了,希望以上内容可以对大家有一定的帮助,让大家可以学到更多知识,如果觉得文章不错,可以把它分享出去让更多的人看到吧!


分享文章:大数据查询引擎Presto的示例分析
本文网址:http://cdxtjz.cn/article/ppceis.html

其他资讯