当前位置: 首页 > news >正文

数据仓库的分层

整体思路:原始数据→洗干净→按主题整理→按维度汇总→面向业务做宽表

第一层:ODS(贴源层)

全称:Operational Data Store

干什么:将源数据存到数仓里,几乎不改动,最多添加日期分区方便按天查。

什么时候用:数据出了问题想回溯原始记录时。

第二层:DWD(明细层/整合层)

全称:Data Warehouse Detail

干什么:ODS数据做清洗+标准化+主题整合。这是数仓最核心的一层。

具体做了什么事:去重、字段统一、空值处理、多源合并、关联建立

这一层做完的标志:数据干净、编码统一、表与表之间能关联,业务方可以直接用。

第三层:DWS(汇总层)

全称:Data Warehouse Summary

干什么:DWD明细数据按常用维度做轻度聚合。提前算好,报表直接查,不用每次从几亿行明细重算。

什么时候用它:写日报、周报、月度分析时,从DWS取不用写复杂聚合。

第四层:ADS(应用层/数据集市)

全称:Application Data Service

干什么:面向具体业务场景的宽表,直接给报表工具、BI看板、数据接口用。

这一层特点:字段多、表宽、面向特定人群,市场部一张表、财务部一张表,互不干扰。

问题1:为什么不能从ODS直接取数?

答案:脏、乱、格式不统一、多源不关联

问题2:为什么不从DWD直接做报表?

答案:太慢,每次从几亿条明细算

问题3:为什么还要单独做ADS?

答案:DWS是通用的,市场部和财务部需求不同,各做各的ADS互不干扰

补充:什么是宽表?

宽表:把多张表里有关联的字段横向拼成一张大表。本来分散在用户表、订单表、产品表的信息,全部摊在一行里。

eg:假设要分析“张三昨天用手机号13800138000花了多少钱”。

窄表(DWD层的存法,多张表各管各的)

用户表、手机号表、账单表

三张表,查一次问题要JOIN两次

好处:省存储、不改结构。

宽表(ADS层的存法,一张表全有)

一张表,字段横向铺开,查任何东西不用JOIN,直接SELECT...WHERE。

好处:查的快、不用连表——代价是字段多、有冗余(每个字段值在每行都存一遍)。

http://www.jsqmd.com/news/1240007/

相关文章:

  • C++高性能对象池设计:无锁栈与分块内存管理实践
  • EMIFA与NAND Flash硬核对接:从引脚映射、ECC到EDMA高效传输
  • MySQL InnoDB索引与Redis缓存优化实战
  • 智慧校园系统是什么?有何作用?
  • 2026甄选:重庆到晋中出行服务公司深度解析 - 甄选服务推荐
  • 2026年7月最新欧米茄昆明晋宁吾悦广场维修保养服务电话 - 欧米茄官方服务中心
  • HikariCP数据库连接池重连机制深度解析与优化
  • 乐山火锅哪家好? - 中媒介
  • Il2CppDumper常见错误排查指南:3分钟快速定位与解决
  • 敏感数据泄露如何防范?聊聊前端常见的数据防泄漏技术方案
  • HikariCP连接池重连机制优化与生产实践
  • 2026年7月最新爱彼盐城射阳吾悦广场维修保养服务电话 - 爱彼中国官方服务中心
  • 奇迹MU剑与翼:下载安装与跨服战场攻略
  • 多变量时序预测:CEEMDAN+VMD与深度学习混合方案
  • 长沙侧移车库门哪家专业? - 中媒介
  • Agent Hub日报解析:多智能体系统与开源工具实战
  • OpenClaw AI开发平台安装与部署全指南
  • 从Maven到SpringBoot:Java项目现代化改造实践
  • 找矿山尾矿干排滤板模具质量好的厂家 - 中媒介
  • 西安爱彼回收价格查询与各大平台实测**2026年7月最新数据) - 尊奢回收二奢平台
  • I2C总线协议详解:从原理到寄存器配置与调试实践
  • base环境绘图常用包
  • 软考高项进度管理:核心考点与实战技巧解析
  • UE5中MetaHuman光照迁移:从HDR环境到Lumen渲染的完整指南
  • 2025届毕业生必备:10款AI写作助手深度测评与推荐
  • C++实现三次样条插值:从原理到工程实践
  • iOS性能优化:Instruments工具深度解析与实践
  • 基于CNN的智能垃圾分类系统设计与实现
  • 苹果M6芯片前瞻:3nm工艺与性能飞跃解析
  • 郑州求推荐办家宴菜新鲜的酒店 - 中媒介