-
架构迭代无法一蹴而就 做开源亦是这样
所属栏目:[大数据] 日期:2022-09-01 热度:71
Apache DolphinScheduler是基于Apache开源社区理念打造的知名DataOps 领域开源项目。作为一个分布式去中心化,易扩展的可视化工作流任务调度平台,Apache DolphinScheduler目前已累计在1000多家公司生产环境中作为企业的核心调度系统。在近日的【TTalk】系[详细]
-
10亿+ 秒 看阿里如何达成实时数仓高吞吐实时写入与更新
所属栏目:[大数据] 日期:2022-09-01 热度:169
数据实时入仓所面临的挑战:高性能、可更新、大规模 大数据场景下,实时数据如何写入实时数仓永远是一个比较大的话题,根据业务场景需求,常见的写入类型有: Append only:传统日志类数据(日志、埋点等)中,记录(Record)和记录之间没有关联性,因此新[详细]
-
善用企业数据策略 无惧混合云和多云环境挑战
所属栏目:[大数据] 日期:2022-09-01 热度:55
混合云和多云架构具有高度的可控性、易扩展性和成本效益,因此企业可以自由选择独立的云产品,以满足几乎任何业务需求。员工可以通过混合云轻松分享和访问数据,推动发展以数据驱动的文化并帮助企业更快地获得洞察。通过混合数据平台,企业能够访问和分析[详细]
-
Python 取得旅游景点信息及评论并作词云 数据可视化
所属栏目:[大数据] 日期:2022-09-01 热度:172
今天将手把手教你使用线程池爬取同程旅行的景点信息及评论数据并做词云、数据可视化!!!带你了解各个城市的游玩景点信息。 首先新建一个线程并开启线程后线程进入就绪状态,就绪状态的线程不会马上运行,要获得CPU资源才会进入运行状态,在进入运行状态[详细]
-
万字详解大数据平台异地多机房架构践行
所属栏目:[大数据] 日期:2022-09-01 热度:101
随着B站业务的高速发展,业务数据的生产速度变得越来越快,离线集群规模快速膨胀,既有机房内的机位急剧消耗,在可预见的不久的将来会达到机房容量上限,阻塞业务的发展。因此,如何解决单机房容量瓶颈成为了我们亟待解决的问题。 目前,针对机房容量问题[详细]
-
抽丝剥茧 深入的数据分析咋整
所属栏目:[大数据] 日期:2022-09-01 热度:180
很多同学总觉数据分析做得不深入,到底该怎么做?今天结合一个具体的例子,分享下如何做一个深入的数据分析项目。 深入级别:0级 某天,你收到一个需求:看下我司APP新增的A功能,过去5天内累计使用1+次的人有多少(去重)。这问题太简单了,直接跑个数丢[详细]
-
如何使用大数据驱动业务增长
所属栏目:[大数据] 日期:2022-09-01 热度:175
大数据在商业中的作用日趋凸显,数据驱动已经成为企业发展的核心竞争力。 在领导的推动下,很快成立了跨部门的融合增长团队,下面和大家分享这段融合团队的工作经历,一同洞察数据在业务增长方面的实践。 一.切入点 当时融合团队的切入点选得很不错,增加[详细]
-
DataOps 是现代数据堆栈的将来吗
所属栏目:[大数据] 日期:2022-09-01 热度:91
在DevOps掀起软件工程风暴之前,一旦他们的应用程序开始运行,开发人员就被蒙在鼓里。工程师们不是在第一时间知道故障发生,而是在客户或利益相关者抱怨 网站滞后 或503页面太多时才会发现。 不幸的是,这会导致了同样的错误反复发生,因为开发人员缺乏对[详细]
-
数据管理的几个奥秘
所属栏目:[大数据] 日期:2022-09-01 热度:111
有人称数据为新石油,也有人称其为新黄金。抛去这些比喻的合理性不论,毫无疑问,对于任何希望兑现数据驱动决策承诺的企业来说,组织和分析数据都是一项至关重要的工作。 1、非结构化数据难以分析 企业中有80%-90%的数据为非结构化数据,随着数字化转型逐[详细]
-
终于有人把Hadoop大数据系统架构讲清楚了
所属栏目:[大数据] 日期:2022-08-24 热度:99
传统的系统已无法处理结构多变的大数据,而高性能硬件和专用服务器价格昂贵且不灵活,Hadoop因此应运而生。Hadoop使用互连的廉价商业硬件,通过数百甚至数千个低成本服务器协同工作,可有效存储和处理大量数据。 1.Hadoop生态体系 Google通过三篇重量级论[详细]
-
交通领域的物联网如何使大数据之于企业产生价值
所属栏目:[大数据] 日期:2022-08-24 热度:72
全球物流市场不断增长,科技正成为发展的主要触发器。 企业正在寻找用于运输的物联网解决方案,以帮助他们提高供应链的可见性、改善物流各个阶段的运营并节省资源。 这可以通过使用物联网设备收集有关物流过程的数据并将其转换为有价值的业务信息来实现。[详细]
-
怎样用好数据科学
所属栏目:[大数据] 日期:2022-08-23 热度:112
很长一段时间以来,数据科学一直被视为科技和商业领域的下一次重大革命。最近几年增加了不少使用数据科学应用的企业。根据Statista的数据,截至2021年,近60%的公司在其团队中拥有至少50名数据科学家。 然而,如果客观地看待,数据科学提供的结果与它的期[详细]
-
浅析大数据的数据灾备建设
所属栏目:[大数据] 日期:2022-08-23 热度:101
大数据时代,数据呈爆炸趋势增长,很多企业都从大数据中获得了利益,推动各自的业务上升了一个台阶。通过大数据技术的完善尤其是大数据和云容器技术相结合,各个企业已经把自己的重要业务迁移到了大数据平台。与此同时企业对数据可靠性和业务连续性保证的[详细]
-
未来已来 Cloudera拥抱混合数据年代
所属栏目:[大数据] 日期:2022-08-23 热度:126
我们生活在一个混合数据的世界中。在过去十年间,世界创建、捕获、复制和使用的结构化数据量已从2011年的不到 1ZB 增长到 2020 年的近 14ZB,这已经很惊人了,但还有另外更巨大的 50ZB数据非结构化数据、云数据和机器数据。 对于Cloudera来说,这是一个回[详细]
-
如何策划数据可视化平台
所属栏目:[大数据] 日期:2022-08-23 热度:132
最近在项目上常常听到这样的话:我想要一个酷炫的数据大屏,设计一定要有科技感,这个可视化设计没有重点每当听到这些需求,作为设计师一般都是欲哭无泪的。到底什么叫酷炫有科技感?客户理解的数据大屏什么样?是数据还是可视化出了问题?? 这篇文章将会[详细]
-
Python实行数据可视化 你会用什么库来做呢
所属栏目:[大数据] 日期:2022-08-23 热度:200
用Python进行数据可视化你会用什么库来做呢? 今天就来和大家分享Python数据可视化库中的一员猛将Altair! 借助Altair,我们可以将更多的精力和时间放在理解数据本身及数据意义上,从复杂的数据可视化过程中解脱出来。 简单来说,Altair是一种可视化语法,[详细]
-
一文看清楚 数据指标体系的几大类别
所属栏目:[大数据] 日期:2022-08-23 热度:185
很多同学问:有没有普遍的、一般的指标体系梳理方法?网上常见的指标体系分享,大多是互联网的AARRR一类,现实中情况却很复杂。普遍的方法当然有,就是基于业务逻辑,梳理指标体系。从本质上看,数据指标体系有4大类型,针对四个不同的业务逻辑。今天来系[详细]
-
两种主流大数据系统架构的差异 终于有人讲明白了
所属栏目:[大数据] 日期:2022-08-23 热度:171
同样都可以处理大规模数据的MPP数据库架构与Hadoop体系架构属于不同的技术体系,二者没有直接的相关性,却常常被放在一起进行比较。特别是在企业数据仓库建设中,MPP架构与Hadoop架构代表两类典型的技术路线选型,事实上,在2015年左右甚至有人认为基于Had[详细]
-
从0到1创建智能灰度数据体系 以vivo游戏中心为例
所属栏目:[大数据] 日期:2022-08-23 热度:195
本文介绍了vivo游戏中心在灰度数据分析体系上的实践经验,从实验思想-数学方法-数据模型-产品方案四个层面提供了一套较为完整的智能灰度数据解决方案,以保障版本评估的科学性、项目进度以及灰度验证环节的快速闭环。该方案的亮点在于,指标异动根因分析方[详细]
-
怎样改善数据供应链的成果
所属栏目:[大数据] 日期:2022-08-23 热度:103
如今,企业拥有比以往任何时候都要多的数据,数据架构师、分析师和数据科学家在所有业务职能部门中变得越来越普遍。然而,随着企业招募经验丰富的分析师以利用数据做出更好的决策,他们往往无法改善数据供应链和由此产生的数据质量。如果没有可靠的数据供[详细]
-
总做描述性统计 深入的数据分析到底咋办
所属栏目:[大数据] 日期:2022-08-23 热度:109
经常有同学抱怨:感觉平时做的都是描述性统计,同比、环比,深入的数据分析到底怎么做?今天系统地讲解一下。 举个简单的例子,让分析:为啥业绩下降了。很多同学的做法,就是拿本月和上月做对比,然后分产品、地区、分公司等维度做交叉。最后发现:A产品[详细]
-
数据解析如何赋能销售
所属栏目:[大数据] 日期:2022-08-23 热度:52
数据助力业务大号口喊了很多年,可一提到数据分析,人们习惯性的依然讲的是:excel,python,sql,依然是数据清洗、数据计算、可视化。到底业务部门需要啥样的数据分析,很少有人认真讨论。今天我们就拿销售举个例子,具体看看到底啥样的数据分析有用。 1.[详细]
-
2022大数据十大关键词 重磅公布
所属栏目:[大数据] 日期:2022-08-23 热度:164
大数据几大关键词是基于我们长期对于产业的研究观察,以及与一线专家的研讨交流完成。如图所示,本年度十大关键词涉及数据从计算机语言到成为生产要素的全生命周期,包括 【数据资源化】,即数据从计算机语言到成为可被人类识别的信息 【数据治理】,即将[详细]
-
为什么完善数据供应链是一种责任
所属栏目:[大数据] 日期:2022-08-23 热度:67
如今,企业拥有比以往任何时候都要多的数据,数据架构师、分析师和数据科学家在所有业务职能部门中变得越来越普遍。然而,随着企业招募经验丰富的分析师以利用数据做出更好的决策,他们往往无法改善数据供应链和由此产生的数据质量。如果没有可靠的数据供[详细]
-
大数据项目可能出错的几种方案
所属栏目:[大数据] 日期:2022-08-23 热度:81
大数据项目的低成功率是过去10年中一个持续存在的问题,与之类似的是:人工智能项目中也出现了相同类型的问题。虽然100%的成功率不是一个可以实现的目标,但用户可以进行一些调整以从数据投资中获得更多收益。 一个重要原因是缺乏数据集中化,这抑制了公司[详细]