0%

大数据存储

分类





查询性能
关系数据库 高,支持SQL查询语言,关联查询和索引加速,对复杂条件过滤查询和检索支持较弱。
高速缓存 极高 极高,满足高速Key-Value形式结果数据查询,或者是高速的内存数据交换通道。
搜索引擎 高,对复杂条件过滤查询和检索支持较好,支持数据相关性排序,也支持轻量级数据分析。
非结构化 面向吞吐优化,为在线查询和离线计算都提供高吞吐的数据读取,提供极为出色的高吞吐数据写入能力。
结构化 首先满足数据高吞吐写入以及大规模存储,数据缓存和索引技术提供高并发低延迟的数据访问,面向离线计算也提供高吞吐的数据扫描。
分类 +数据访问特征 常见数据类型 典型产品 数据结构
关系数据库 强一致事务型访问,关联查询 交易、账单、应用元数据等关系数据 MySQL +面向行
索引 B+tree
高速缓存 低延迟Key-Value随机查询 复杂结果集数据,或者是需要通过内存高速交换的数据。 Redis Key-Value
搜索引擎 多字段联合条件过滤,全文检索 面向搜索查询的数据 Elasticsearch 逆向索引
非结构化 读取单个数据文件,或者是大批量扫描文件集 图片和视频数据,数据库归档数据 OSS,HDFS 块、对象、文件
结构化 单行随机访问,或者是大批量范围扫描 1.作为关系数据库的补充,存储历史归档数据。
2.非关系模型数据,例如时序、日志等。
HBase,Cassandra,
Tablestore
+ 面向列
Ordered Key-Value(列族)
索引 LSM-tree
[3][4]
云计算中的大数据产品
服务类别 AWS aliyun阿里云 Azure
大数据计算 EMR E-MapReduce,
MaxCompute
HDInsight
大数据存储 S3(EMRFS) OSS,JindoFS Blob Storage,
Data Lake Storage Gen2
分析型数据库 Redshift AnalyticDB for MySQL/PostgreSQL SQL Data Warehouse(Synapse Analytics)
无服务器查询 serverless Athena Data Lake Analytics Azure Data Lake Analytics

参考:#

  1. 数据中台之结构化大数据存储设计
  2. NoSQL总结 self
  3. 日志结构的合并树 The Log-Structured Merge-Tree
  4. 【Paper笔记】The Log structured Merge-Tree(LSM-Tree)
  5. 深入浅出云计算 - 13 | 云上大数据:云计算遇上大数据,为什么堪称天作之合? 何恺铎