京公网安备 11010802034615号
经营许可证编号:京B2-20210330
Kudu是由Todd Lipcon@Cloudera带头开发出存储系统,整体应用模式与HBase很相似,也就是能够支持行级别的随机读写,对于批量顺序检索功能也能支持。
一、Kudu的必要性
大家不禁要问了?既然与HBase相似,那为什么有了HBase,还需要Kudu呢?
Kudu的定位是 「Fast Analytics on Fast Data」,也就是在更新更及时的基础上实现更快的数据分析。
目前数据存储有了HDFS和Hbase,但两者都存在这明显的缺点,这才需要Kudu。
HDFS:使用列式存储格式Apache Parquet,Apache ORC,适合离线分析,不支持单条纪录级别的update操作,无法进行随机读写
HBASE:可以进行高效随机读写,却并不适用于基于SQL的数据分析方向,不适用于批量数据分析的场景。
二、Kudu整体架构
Table(表):一张table是数据存储在kudu的位置。Table具有schema和全局有序的primary key(主键)。Table被分为很多段,也就是tablets.
Tablet (段):一个tablet是一张table连续的segment,与其他数据存储引擎或关系型数据的partition类似。Tablet存在副本机制,其中一个副本为leader tablet。任何副本都能够对服务读取,而且写入时需要在所有副本对应的tablet server之间达成一致性。
Tablet server:主要是存储tablet和为tablet向client提供服务。对于给定的tablet,一个tablet server充当leader,其他tablet server充当该tablet的follower副本。只有leader服务写请求,leader与follower为每个服务提供读请求。
Master:主要负责管理元数据(元数据存储在只有一个tablet的catalog table中),即tablet与表的基本信息,监听tserver的状态
Catalog Table: 元数据表,用来存储table(schema、locations、states)与tablet(现有的tablet列表,每个tablet及其副本所处tserver,tablet当前状态以及开始和结束键)的信息。
三、Kudu优缺点
1.优点:
1)一个table由多个tablet组成,能够很好地支持分区查看、扩容和数据高可用。
2)可以支持update和upsert操作。
3)与imapla集成或spark集成后(dataframe)可通过标准的sql操作,使用起来很便捷
4)可与spark系统集成
2.缺点:
1)只有主键可以设置range分区。
2)如果是pyspark连接kudu,则不能对kudu进行额外的操作。
3)kudu的shell客户端不提供表schema查看。
数据分析咨询请扫描二维码
若不方便扫码,搜微信号:CDAshujufenxi
“大学里需要考的证书”这个问题,最容易掉进的坑是把它当成一份标准答案清单。实际上,不存在人人必考的绝对清单。同样是四六级 ...
2026-11-03先说结论:不存在一张适合所有大学生的“含金量最高”证书。同一张证书,对目标岗位是运营的人可能是加分项,对准备考执业资格的 ...
2026-11-03大学毕业能考的证书,先按性质分成五类:职业资格准入类、专业技术资格(职称)类、职业技能等级类、行业与企业认证类、通用能力 ...
2026-11-03专科可以考的证书并不少,但“能报名”和“对求职有用”是两件事。比较稳妥的顺序是:先查当期官方报考简章里的学历、专业、工作 ...
2026-11-03先说结论:中年女性选证书,关键不是找一份“十大高薪证书”榜单,而是先判断自己属于哪一种处境——在职升级、待业转岗,还是育 ...
2026-11-03先把结论说清楚:国内并没有官方发布的“五大含金量最高证书”榜单。网上流传的版本,评选标准往往是薪资、通过率或广告投放,互 ...
2026-11-03手里有一张职业技能等级证书,想确认它是否真实有效,最直接的做法不是在网上搜“证书查询”,而是先确认这张证书由哪类机构发放 ...
2026-11-03“有用且好考”这个搜索词背后,藏着两个容易混淆的判断。很多人把“好考”理解成题目简单,把“有用”理解成拿证就能找到工作, ...
2026-11-03想考证但没方向,最容易踩的坑是打开搜索框直接看“十大含金量证书”,结果越看越乱。更稳妥的顺序是反过来的:先弄清证书按用途 ...
2026-11-03土木工程专业的学生来问证书,通常不是想收集一张清单,而是想弄清一件事:在校这几年,哪些证值得花时间,哪些必须等毕业以后再 ...
2026-11-03“适合大学生考的计算机专业证书”没有通用榜单。想做后端开发、云运维、网络安全或数据分析,该考的证书并不相同;更关键的是, ...
2026-11-03上班族考什么证书比较好,答案不在“含金量排行榜”里,而在你自己的目标岗位上。更实用的做法是:先明确考证要解决什么问题—— ...
2026-11-03“全国认可”这四个字,在证书宣传里出现频率极高,含义却经常被混用。有人把它理解成“国家职业资格”,有人理解成“全国通用、 ...
2026-11-03“女人应该考些什么证”这个问题,很难有一张统一榜单。女性在不同年龄、学历、专业和职业阶段,能报考的证书、需要解决的问题差 ...
2026-11-03“女孩子考什么证书比较吃香”背后往往藏着两层焦虑:证书信息太杂,不知道哪个真有用;又怕被“适合女生”的说法带进窄赛道。先 ...
2026-11-03“含金量高”的证书,从来不是一个统一榜单。同一张证书,对想进医院的人、想进律所的人、想转数据分析的人,价值完全不同。所以 ...
2026-11-03“男的考什么证好找工作”这个问题,真正要解决的不是“哪张证最有用”,而是“你想去的岗位,招人时到底看什么”。证书的价值来 ...
2026-11-03“目前考什么证书比较好且有用”,很难有一份通用榜单。证书的价值不取决于它本身多热门,而取决于你拿它去解决什么问题:让简历 ...
2026-11-03金融专业没有一个“含金量最高”的统一答案。同样是证书,证券从业资格解决的是入行门槛,CPA解决的是执业签字权,CFA对应投研与 ...
2026-11-03直接回答:不是所有证书都值得考,也不是“考得越多越好”。在校期间要不要投入一张证书,先看三件事——目标岗位是否真的需要它 ...
2026-11-03