jjzjj

数字化转型系列主题:数据中台知识体系

当前,大部分企业不再建设从源数据采集到分析应用的烟囱式系统,更倾向于数据集中采集、存储,并应用分层建设。这种方式一方面有利于应用系统的快速部署,另一方面也保证了数据的集中管理与运营,体现数据的资产、资源属性。笔者根据个人数据中台的工作实践和学习以及思考总结,撰写成本文数据中台知识体系。一.数据中台是什么01定义    数据中台是一套可持续“让企业的数据用起来”的机制,是一种战略选择和组织形式,是依据企业特有的业务模式和组织架构,通过有形的产品和实施方法论支撑,构建的一套持续不断把数据变成资产并服务于业务的机制    数据中台是处于业务前台和技术后台的中间层,是对业务提供的数据能力的抽象和共享的

小米数据中台建设实践赋能业务增长!

一、销售数仓介绍首先介绍下小米销售数仓,包括发展历程、销售数仓定义、数据获取使用、销售数仓的内容和规模。在2019年前,小米的中国区、国际部等业务数据团队在进行独立的数仓建设,这个时期是烟囱式的开发。随着业务飞速发展,在集团技术委ABC(AI、Bigdata、Cloud)策略的指导下,开始建设统一的销售数仓。在2020年,完成了离线销售数仓的建设,同时在筹备实时数仓的建设。2021年,实时数仓建设完毕,随着后续的业务和技术升级,进入了迭代优化和数据应用阶段。小米的销售数仓整体上就是存放整个公司销售数据的仓库,包括了订单数据、物流数据、门店数据、用户行为数据及商品数据,并按照维度建模和规范进行建

二蛋赠书七期:《云原生数据中台:架构、方法论与实践》

前言大家好!我是二蛋,一个热爱技术、乐于分享的工程师。在过去的几年里,我一直通过各种渠道与大家分享技术知识和经验。我深知,每一位技术人员都对自己的技能提升和职业发展有着热切的期待。因此,我非常感激大家一直以来对我的关注和支持。为了回馈大家的厚爱,我决定启动一项特别的赠书活动。我希望通过这个活动,能够让更多的读者获得有价值的技术支持,并提高自己的技能水平。在这个活动中,我将不定期向大家赠送一本技术相关书籍。这些书籍涵盖了各种技术领域,包括编程、人工智能、大数据等等。每一本书都是经过我精心挑选,力求为大家带来最有价值的内容。同时,为了更好地满足读者的需求,我在每期的赠送活动中都会开展投票。大家可以

数据库、数据中台、数据仓库、数据湖区别

        数据时代,各行业的企业都已经开始通过数据库来沉淀数据,但是真的论起数据库、数据仓库、数据中台,还是新出现的数据湖,它们的概念和区别,可能知道的人就比较少了,今天我们详细来比较了解一下。一、数据仓库是什么        事实上,很多人在看到数据仓库的第一眼,就把数据仓库当成了数据库。当然这也很正常,毕竟从名字来看这两者确实区别不大,真正区分两者的是定位、作用等更深一层的东西。不过在这里还是先解释数据仓库的概念,不同之处后边会进行详细讲解。        数据仓库是一个面向主题的、集成的、随时间变化但信息本身相对稳定的数据集合,用于支持管理决策过程。其本质就是完成从面向业务过程数据

大数据数据中台之数据采集

文章目录前言一、数据采集是什么?二、使用步骤1.创建任务2.发布规则配置3.任务安全机制总结前言需要支持三十几种异构数据源之间的数据同步,能够零开发实现任意数据源、任意条件、任何复杂网络环境下的高效数据互联互通。支持高并发下的处理数据采集,支持数据的批量、全量、增量同步。一、数据采集是什么?数据仓库的重要数据来源就是业务数据,业务数据有结构化的例如:商品,厂家,交易订单等等,还有非结构化的访问日志等,我们需要每日定时从业务数据中抽取数据,传输到数据仓库中,之后再对数据进行分析统计。为保证统计结果的正确性,需要保证数据仓库中的数据与业务数据是同步的,离线数仓的计算周期通常为天,周,月,一次性,特

架构师之路:数据中台平台建设

作者:禅与计算机程序设计艺术1.简介2021年1月2日,在北京召开了“2021数字经济开发者峰会”。EETOP作为首个参会嘉宾参加了峰会并发布了“十三五”数据驱动力度报告。其中数据中台平台建设为主题。本次报告由EETOP副总裁李亦航、高能云集CTO邱创伟主持,以及首批5家企业参与了分享。“数据中台”(DataMart)是近几年随着互联网、移动互联网、物联网等新技术革命而崛起的一个新名词,它与“数据湖”(DataLake)相对应,是指数据仓库内部的数据集成点。2020年,华为正式在全球率先建立了以华为为核心的数十家数据中心,提供“数十亿条超宽带流量、上百万座4K监控摄像头、十万级数据存储空间、百

数据中台选型前必读(七):解读数据服务的四大关键技术

在前面的文章中,我们介绍了“数据服务”对于“数据中台”的重要性,并讲解了数据服务解决的问题及其核心功能,在这个系列的最终篇我们展开聊聊数据服务的四大关键技术,然后总结一下数据服务架构的三大关键点,希望对大家有所帮助。为了使数据中台具备快速响应前端业务需求的能力,主流的数据中台均采用了云原生技术来构建数据服务层,实现数据服务的快速开发、有序落地。云原生是一种构建和运行应用程序的方法,是一套技术体系和方法论,因此在这里先不展开云原生的具体架构。我们重点关注在数据中台领域,基于云原生的关键技术应用。在数据中台领域,应用云原生的核心优势在于每个服务至少有两个副本,实现了服务的高可用;同时,根据访问量大

数据中台的OneID-主数据

到OneID的本质就是主数据,只是用的不是传统的主数据管理技术。这篇文章发布后,很多读者朋友给我留言,告诉我OneID和主数据不是一回事,但没有一个人给我讲清楚这两个概念为什么不是一回事。今天我们好好捋一下这个问题!—01—OneID和主数据到底是不是一回事?在阿里巴巴OneData体系中,OneID指统一数据萃取,是一套解决数据孤岛问题的思想和方法。如果单看这个定义,你一定也会和我一样懵逼,啥是数据萃取?解决数据孤岛问题,主数据不也是干这个事情的吗?别急,我们慢慢分解,先来看OneID到底是干啥的。OneID也叫ID-Mapping,就是将设备ID(例如手机MAC、IMEI、IMSI等),手

企业中台设计与实践

作者:禅与计算机程序设计艺术1.简介互联网公司正在经历从传统企业向数字化转型的过程中,如何实现企业内部资源共享、协同工作的呢?所谓企业中台(EnterpriseITArchitecture)就是企业在分布式架构中所围绕的技术平台,是企业IT架构的重要组成部分。企业中台设计并不是一蹴而就的,它还涉及到许多领域的知识和技能,比如业务架构设计、技术选型、开发管理体系、集成测试、部署运维、持续交付和监控管理等。如何设计企业中台,能够有效提升企业的效率、降低重复投入、降低运营风险,这些都是企业中台设计必备要素。本文试图通过对企业中台设计过程进行详尽的阐述,将中台的整体设计思路进行梳理,指导企业成功打造自

收藏:不错的数据中台建设方法论

数据中台建设方法论体系,需要从组织、保障、准则、内容、步骤5个层面全面考虑,以确保数据中台建设和实施能如期完成。1种战略行动,把用数据中台驱动业务发展定位为企业级战略,全局谋划2项保障条件,通过宣贯统一组织间的数据认知,通过流程加速组织变革3条目标准则,将数据的可见、可用、可运营3个核心准则始终贯穿与中台建设的全过程,保证建设始终位于正确的轨道上4套建设内容,通过技术体系、数据体系、服务体系、运营体系建设保证中台建设的全面性和可持续性5个关键步骤,通过理现状、立架构、建资产、用数据、做运营5个关键行动控制众泰建设关键节点的质量一、1种战略行动数据中台要求整个企业共用一个数据技术平台、共建数据体