乐鱼电竞

教育行业A股IPO第一股（股票代码 003032）

全国咨询/投诉热线：400-618-4000

ORC和Parquet存储的优点有哪些？

更新时间:2021年05月27日17时33分 来源: 浏览次数:

乐鱼电竞-一样的教育，不一样的品质

ORC和Parquet都是高性能的存储方式，这两种存储格式总会带来存储和性能上的提升。

1.Parquet

（1）Parquet支持嵌套的数据模型，类似于Protocol Buffers，每一个数据模型的schema包含多个字段，每一个字段有三个属性：重复次数、数据类型和字段名，重复次数可以是以下三种：required(只出现1次)，repeated(出现0次或多次)，optional(出现0次或1次)。每一个字段的数据类型可以分成两种： group(复杂类型)和primitive(基本类型)。

（2）Parquet中没有Map、Array这样的复杂数据结构，但是可以通过repeated和group组合来实现的。

（3）由于Parquet支持的数据模型比较松散，可能一条记录中存在比较深的嵌套关系，如果为每一条记录都维护一个类似的树状结可能会占用较大的存储空间，因此Dremel论文中提出了一种高效的对于嵌套数据格式的压缩算法：Striping/Assembly算法。通过Striping/Assembly算法，parquet可以使用较少的存储空间表示复杂的嵌套格式，并且通常Repetition level和Definition level都是较小的整数值，可以通过RLE算法对其进行压缩，进一步降低存储空间。

Parquet文件是以二进制方式存储的，是不可以直接读取和修改的，Parquet文件是自解析的，文件中包括该文件的数据和元数据。

2.ORC

（1）ORC文件是自描述的，它的元数据使用Protocol Buffers序列化，并且文件中的数据尽可能的压缩以降低存储空间的消耗；

（2）和Parquet类似，ORC文件也是以二进制方式存储的，所以是不可以直接读�。琌RC文件也是自解析的，它包含许多的元数据，这些元数据都是同构ProtoBuffer进行序列化的；

1622107663499_ORC和Parquet1.jpg

（3）ORC会尽可能合并多个离散的区间尽可能的减少I/O次数；

（4）ORC中使用了更加精确的索引信息，使得在读取数据时可以指定从任意一行开始读�。噶６鹊耐臣菩畔⑹沟枚寥RC文件跳过整个row group，ORC默认会对任何一块数据和索引信息使用ZLIB压缩，因此ORC文件占用的存储空间也更�。�

（5）在新版本的ORC中也加入了对Bloom Filter的支持，它可以进一步提升谓词下推的效率，在Hive 1.2.0版本以后也加入了对此的支持。




猜你喜欢：

大数据之Hive视频教程[大数据培训教程

怎样安装Hive？本地和远程操作安装区别在哪里

Redis、传统数据库、HBase以及Hive的区别

Spark SQL如何实现Hive数据仓库的操作？

乐鱼电竞Python+大数据开发培训

0 分享到：
和我们在线交谈！
【网站地图】【sitemap】