-
10亿+ 秒 看阿里如何达成实时数仓高吞吐实时写入与更新
所属栏目:[大数据] 日期:2022-09-04 热度:101
数据实时入仓所面临的挑战:高性能、可更新、大规模 大数据场景下,实时数据如何写入实时数仓永远是一个比较大的话题,根据业务场景需求,常见的写入类型有: Append only:传统日志类数据(日志、埋点等)中,记录(Record)和记录之间没有关联性,因此新来[详细]
-
善用企业数据策略 无惧混合云和多云环境挑战
所属栏目:[大数据] 日期:2022-09-04 热度:52
混合云和多云架构具有高度的可控性、易扩展性和成本效益,因此企业可以自由选择独立的云产品,以满足几乎任何业务需求。员工可以通过混合云轻松分享和访问数据,推动发展以数据驱动的文化并帮助企业更快地获得洞察。通过混合数据平台,企业能够访问和分析位[详细]
-
Python 取得旅游景点信息及评论并作词云 数据可视化
所属栏目:[大数据] 日期:2022-09-04 热度:134
今天将手把手教你使用线程池爬取同程旅行的景点信息及评论数据并做词云、数据可视化!!!带你了解各个城市的游玩景点信息。 首先新建一个线程并开启线程后线程进入就绪状态,就绪状态的线程不会马上运行,要获得CPU资源才会进入运行状态,在进入运行状态后[详细]
-
万字详解大数据平台异地多机房架构践行
所属栏目:[大数据] 日期:2022-09-04 热度:155
随着B站业务的高速发展,业务数据的生产速度变得越来越快,离线集群规模快速膨胀,既有机房内的机位急剧消耗,在可预见的不久的将来会达到机房容量上限,阻塞业务的发展。因此,如何解决单机房容量瓶颈成为了我们亟待解决的问题。 目前,针对机房容量问题的[详细]
-
抽丝剥茧 深入的数据分析咋整
所属栏目:[大数据] 日期:2022-09-04 热度:165
很多同学总觉数据分析做得不深入,到底该怎么做?今天结合一个具体的例子,分享下如何做一个深入的数据分析项目。 深入级别:0级 某天,你收到一个需求:看下我司APP新增的A功能,过去5天内累计使用1+次的人有多少(去重)。这问题太简单了,直接跑个数丢过[详细]
-
如何使用大数据驱动业务增长
所属栏目:[大数据] 日期:2022-09-04 热度:121
大数据在商业中的作用日趋凸显,数据驱动已经成为企业发展的核心竞争力。 在领导的推动下,很快成立了跨部门的融合增长团队,下面和大家分享这段融合团队的工作经历,一同洞察数据在业务增长方面的实践。 一.切入点 当时融合团队的切入点选得很不错,增加贷[详细]
-
从eBay出发,浅谈大数据时代下的电子商务
所属栏目:[大数据] 日期:2022-08-25 热度:50
大数据是指基于社会进步、经济快速发展和技术进步,对人们生产生活中产生的大量数据信息进行有效、及时的处理和分析的技术。大数据具有四大特点:数据量大、数据种类繁多、价值密度高、处理速度快。近年来,大数据在经济领域得到广泛应用,目前已成为社会发[详细]
-
大数据让我们接受不准确的存在?事实证明是这样
所属栏目:[大数据] 日期:2022-08-25 热度:111
在收集样本的时候,统计学家会用一整套的策略来减少错误发生的概率。在结果公布之前,他们也会测试样本是否存在潜在的系统性偏差。这些策略包括根据协议或通过受过专门训练的专家来采集样本。 但是,即使只是少量的数据,这些规避错误的策略实施起来还是耗费[详细]
-
具备可视化的数据不仅可以节流,还可以开源
所属栏目:[大数据] 日期:2022-08-25 热度:130
导读 当数据团队在谈论具备可视化的数据和数据质量高的好处时,通常只会涉及数据不完整带来的负面影响:决策不力、收入流失,甚至降低客户的信任度。 Gartner预测,糟糕的数据质量使企业每年损失1290万美元,因此具备可视化的数据成为非常重要的选择。 如果[详细]
-
用 Spark SQL 进行结构化数据处理
所属栏目:[大数据] 日期:2022-08-25 热度:153
Spark SQL 是 Spark 生态系统中处理结构化格式数据的模块。它在内部使用 Spark Core API 进行处理,但对用户的使用进行了抽象。这篇文章深入浅出地告诉你 Spark SQL 3.x 的新内容。 有了 Spark SQL,用户可以编写 SQL 风格的查询。这对于精通结构化查询语言[详细]
-
如何避免淹没在云原生可观测性数据中
所属栏目:[大数据] 日期:2022-08-25 热度:185
传统的应用程序性能监视(APM)在新的云原生堆栈中并不总是能发挥作用,两者在规模和数据量方面存在根本差异。此外,当一切都在容器中运行时,必须围绕数据的临时性设计和优化监视。 了解云原生性能可以更好地为站点可靠性工程师(SRE)和平台工程师提供实时洞察[详细]
-
实施合理的数据收集策略的重要性
所属栏目:[大数据] 日期:2022-08-25 热度:155
数据已经成为企业最宝贵的资产之一,而一些企业仍然否认它的重要性,但他们对接受它的犹豫正在消退。一项民意调查发现,36%的企业认为大数据对他们的成功至关重要。 然而,许多企业仍在努力制定持久的数据战略。最主要的一个问题是他们没有可靠的数据收集方[详细]
-
大数据技术的成功案例及趋势
所属栏目:[大数据] 日期:2022-08-25 热度:108
通过大数据技术和工具进行数据管理已经成为企业乃至国家层面的一个热门话题。如今,主要是大型企业在使用大数据技术(约占市场的60%)。然而,使用这种技术的中小企业数量每年都在增长。特别是在人工智能技术发展的今天,我们能够更加充分利用数据的价值。 到2[详细]
-
大数据能为建筑能源管理做些什么
所属栏目:[大数据] 日期:2022-08-25 热度:120
近年来,对降低碳排放水平和提高能源效率的兴趣导致智能建筑技术呈指数级增长。 最重要的是,物联网扩大了互连设备和建筑管理系统的可能性,以实现更好的能源管理。然而,真正实现其潜力需要组织和分析楼宇自动化系统生成的大型数据集。 实时管理和维护大数[详细]
-
为什么不能忽视建筑物中的数据分析?
所属栏目:[大数据] 日期:2022-08-25 热度:120
想象一栋建筑,其中创新的管理系统不断提供有关内部情况的简单而有意义的信息。 这些数据可用于提高效率、开发更智能的设备维护协议、创建更健康的建筑环境,并最终让使用者更快乐。 现在,考虑一个没有用于监控其系统的分析的建筑物。设备出现故障,存在空[详细]
-
大数据时代网络恐怖主义国际治理的问题与对策
所属栏目:[大数据] 日期:2022-08-25 热度:148
大数据、人工智能和云计算等新兴技术的发展,在为网络反恐力量提供有力支持的同时,也成为被恐怖组织或恐怖分子利用的资源,成为其搜集情报、培训技能、组织策划的工具。网络恐怖组织和个人由此获得的资源更多、隐匿性更强、影响范围更广。相关技术的加持使[详细]
-
终于有人把Hadoop大数据系统架构讲清楚了
所属栏目:[大数据] 日期:2022-08-24 热度:150
传统的系统已无法处理结构多变的大数据,而高性能硬件和专用服务器价格昂贵且不灵活,Hadoop因此应运而生。Hadoop使用互连的廉价商业硬件,通过数百甚至数千个低成本服务器协同工作,可有效存储和处理大量数据。 1.Hadoop生态体系 Google通过三篇重量级论文[详细]
-
交通领域的物联网如何使大数据之于企业产生价值
所属栏目:[大数据] 日期:2022-08-24 热度:121
全球物流市场不断增长,科技正成为发展的主要触发器。 企业正在寻找用于运输的物联网解决方案,以帮助他们提高供应链的可见性、改善物流各个阶段的运营并节省资源。 这可以通过使用物联网设备收集有关物流过程的数据并将其转换为有价值的业务信息来实现。 让[详细]
-
怎样用好数据科学
所属栏目:[大数据] 日期:2022-08-24 热度:147
很长一段时间以来,数据科学一直被视为科技和商业领域的下一次重大革命。最近几年增加了不少使用数据科学应用的企业。根据Statista的数据,截至2021年,近60%的公司在其团队中拥有至少50名数据科学家。 然而,如果客观地看待,数据科学提供的结果与它的期望[详细]
-
浅析大数据的数据灾备建设
所属栏目:[大数据] 日期:2022-08-24 热度:147
大数据时代,数据呈爆炸趋势增长,很多企业都从大数据中获得了利益,推动各自的业务上升了一个台阶。通过大数据技术的完善尤其是大数据和云容器技术相结合,各个企业已经把自己的重要业务迁移到了大数据平台。与此同时企业对数据可靠性和业务连续性保证的诉[详细]
-
未来已来 Cloudera拥抱混合数据年代
所属栏目:[大数据] 日期:2022-08-24 热度:155
我们生活在一个混合数据的世界中。在过去十年间,世界创建、捕获、复制和使用的结构化数据量已从2011年的不到 1ZB 增长到 2020 年的近 14ZB,这已经很惊人了,但还有另外更巨大的 50ZB数据非结构化数据、云数据和机器数据。 对于Cloudera来说,这是一个回到[详细]
-
如何策划数据可视化平台
所属栏目:[大数据] 日期:2022-08-24 热度:196
最近在项目上常常听到这样的话:我想要一个酷炫的数据大屏,设计一定要有科技感,这个可视化设计没有重点每当听到这些需求,作为设计师一般都是欲哭无泪的。到底什么叫酷炫有科技感?客户理解的数据大屏什么样?是数据还是可视化出了问题?? 这篇文章将会结[详细]
-
Python实行数据可视化 你会用什么库来做呢
所属栏目:[大数据] 日期:2022-08-24 热度:95
用Python进行数据可视化你会用什么库来做呢? 今天就来和大家分享Python数据可视化库中的一员猛将Altair! 借助Altair,我们可以将更多的精力和时间放在理解数据本身及数据意义上,从复杂的数据可视化过程中解脱出来。 简单来说,Altair是一种可视化语法,也[详细]
-
一文看清楚 数据指标体系的几大类别
所属栏目:[大数据] 日期:2022-08-24 热度:146
很多同学问:有没有普遍的、一般的指标体系梳理方法?网上常见的指标体系分享,大多是互联网的AARRR一类,现实中情况却很复杂。普遍的方法当然有,就是基于业务逻辑,梳理指标体系。从本质上看,数据指标体系有4大类型,针对四个不同的业务逻辑。今天来系统[详细]
-
两种主流大数据系统架构的差异 终于有人讲明白了
所属栏目:[大数据] 日期:2022-08-24 热度:110
同样都可以处理大规模数据的MPP数据库架构与Hadoop体系架构属于不同的技术体系,二者没有直接的相关性,却常常被放在一起进行比较。特别是在企业数据仓库建设中,MPP架构与Hadoop架构代表两类典型的技术路线选型,事实上,在2015年左右甚至有人认为基于Hadoo[详细]
