Impala和Oozie视频教程下载
Impala介绍:
Impala是Cloudera公司主导开发的新型查询系统,它提供SQL语义,能查询存储在Hadoop的HDFS和HBase中的PB级大数据。已有的Hive系统虽然也提供了SQL语义,但由于Hive底层执行使用的是MapReduce引擎,仍然是一个批处理过程,难以满足查询的交互性。相比之下,Impala的最大特点也是最大卖点就是它的快速。
Oozie介绍:
Oozie是一种Java Web应用程序,它运行在Java servlet容器——即Tomcat——中,并使用数据库来存储以下内容:
- 工作流定义
- 当前运行的工作流实例,包括实例的状态和变量
Impala的优点:
1、Impala不需要把中间结果写入磁盘,省掉了大量的I/O开销。
2、省掉了MapReduce作业启动的开销。MapReduce启动task的速度很慢(默认每个心跳间隔是3秒钟),Impala直接通过相应的服务进程来进行作业调度,速度快了很多。
3、Impala完全抛弃了MapReduce这个不太适合做SQL查询的范式,而是像Dremel一样借鉴了MPP并行数据库的思想另起炉灶,因此可做更多的查询优化,从而省掉不必要的shuffle、sort等开销。
4、通过使用LLVM来统一编译运行时代码,避免了为支持通用编译而带来的不必要开销。
5、用C++实现,做了很多有针对性的硬件优化,例如使用SSE指令。
6、使用了支持Data locality的I/O调度机制,尽可能地将数据和计算分配在同一台机器上进行,减少了网络开销。
Impala和Oozie视频教程介绍:
本套视频教程详细介绍了Impala和Oozie,侧重实用性,塑造由点及面的学习路径。需要了解的同学可以看看。具体目录如下:
01.impala简介 2讲
02.impala架构、外部shell_3 3讲
03.impala内部shell、存储、sql 3讲
04.oozie简介 3讲
05.oozie视频 5讲
Impala和Oozie视频教程部分截图展示: