大数据平台的3个核心功能

▲数据架构示意图

01 原始数据清洗

操作数据存储（Operational Data Store，ODS），又被称为贴源层，是原始数据经过ETL（Extract-Transform-Load）清洗后存储的位置。ODS通常有如下几个作用。

• 在业务系统和数据仓库之间做了隔离，将业务系统产生的原始数据备份的同时，保证了两个系统之间数据的一致性。

• 存储了业务侧的明细数据，方便后续的查询和加工以及报表的产出。

• 完成数据仓库中不能实现的一些功能，相比于DW和DM层通常使用Hive查询，ODS一般利用更底层的编程语言加工而成，可以实现一些更复杂和更高效的ETL操作。

此外，ODS层保留了大量的历史明细数据，通常约定只能增加不能修改，利用时间分区的方式进行区分。

02 数据仓库管理

数据仓库（Data Warehouse，DW）是企业级数据集中汇总的位置。DW层最大的特点是面向主题，根据不同的主题设计表的结构和内容，这样做的好处是排除了与主题无关的冗余数据，提高了特定主题下的查询和加工效率。

另一方面，数据仓库作为连接原始数据和标签之间的中间层，必须保证数据质量，包括唯一性、权威性、准确性等。

以风控主题为例，DW层中通常会包括授信、支用、还款、催收等一系列数据，方便后期相关标签的计算。另外，还会有一些公用的维度表被存在与DW层平行的DIM层中，这些表通常是一些城市、日期类的字典数据，贯穿多个主题数据。

03 数据标签应用

整个数据平台的最上层是数据集市（Data Market，DM），也是与风控人员联系最紧密的一层。顾名思义，数据集市就是将数据仓库中的主题数据根据不同的业务需要挑选出来，构成特定的业务场景标签。

例如想构建与客户逾期表现相关的标签，只需要将DW层中与还款相关的表抽取出来加工即可，这样不仅结构清晰，还保证了标签计算的效率。

由于DM层的数据标签与业务联系较为紧密，建议在DM层逻辑设计的初期，让更多的业务人员参与进来，这样才能避免后期技术与业务在标签计算口径上不统一的问题。

最后想补充说明的是，由于大数据平台的计算链条较长，且充斥着大量的数据处理步骤，在实际生产中平台的监控和预警机制至关重要，例如对于上下游依赖关系的判断、每个时间分区数据量的监控、邮件和短信报警等，都是把控数据准确性和时效性的必要手段。