
大数据解决方案的实施让很多的IT部门面临困境。大数据应用程序并不需要如支持团队做应用程序一样的基础架构。随着企业接受大数据,管理层会假设员工规模会减少。
而那些非必要的技术人员应该做什么呢?一个答案就是:将其转换为技术顾问,与业务部门进行协作。换句话说,就是给予他们面向客户的角色。
大数据之后信息技术的状态
大数据革命已然过去,这让信息技术(IT)企业不同程度的采用了新技术。有些完全接受了大数据存储和复杂分析的概念,并采用了最佳实践和成熟的项目管理方法。结果是:形成了关于产品,销售,订单及最重要的客户的分析宝库。
而其他的用户则没有如此幸运。可能他们所购买的特定供应商的解决方案并不包含完整的规划,或是可能中层管理人员并没有准备好为成功的解决方案投入必要的成熟资源。结果便是:半组织化的信息集合,少数分析解决方案,并且这种想法会在某天以某种方式让其付出代价。
与此同时,数据库管理员、系统程序员,以及其他技术专家和主题专家处在一个后大数据时代。软硬件安装及配置已经完成,概念验证和试点程序已交付给最先的内部客户。大多数软硬件混合大数据解决方案都不要求内部调优:分析查询执行非常快,而且业务分析师正对探索和调查寻找有用信息翘首以待。还剩下什么留给技术人员去做呢?
当前的基础架构团队
首先,我们来考虑多面手。新手DBA和系统程序员在这个类别起步,只是发展专业技能并在他们之后的职业生涯中加深知识。他们最好的角色往往是明确定义好的,标准化的流程。这些包括:
管理数据库备份和恢复流程;
监视并检测灾难恢复准备;
实施自我分析和自我调优流程(有时称之为自治);
SQL查询调优,包括Explains和访问路径分析;
数据库性能调优;
测试生产对象和数据迁移;
监视数据库日志以发现错误和问题。
在新环境中,很多这些流程是多余的或不必要的。鉴于大数据分析解决方案的速度,SQL查询调优在大多数情况下可能是不必要的。对于数据库性能调优同样如此,因为很多供应商的软硬件混合解决方案(有时称之为设备)是在没有任何内部性能调优的功能条件下交付的。这就使得辅助人员更加容易的完成工作。
结果就是:在后大数据时代的IT企业中不再需要多面手。
接下来,让我们考虑专家专门负责的处理复杂工作:
系统和网络性能调优;
软件安装和版本迁移;
为关键任务应用程序做首要技术支持;
协助和管理数据架构变更;
对潜在供应商工具执行基准测试。
随着IT企业接受大数据分析,需要专家做的事会更少,这意味着专家需求量会减少。
在后大数据时代的基础架构支持
IT专家和多面手必须将他们的注意力转移到内部用户上来,他们会面临许多的技术问题。以下是他们最为紧迫的一些问题。
大数据性能
随着大数据应用程序价值的增长,业务分析师对分析的使用会剧增。更多的查询会产生可操作的结果,生成常规报表。用户会要求时间跨度更大,地理区域更大的更多数据。最终,大量用户和查询会压垮你的大数据应用程序。
专家应该注意增加内部用户应用程序的知识。他们需要什么数据,他们什么时候需要,以及谁会使用这些结果?专家会在一些应用程序领域变为主题专家,作为内部顾问,以及会在诸如查询效率和类似数据集之类的高级分析方法提供问题咨询,进而提升他们的价值。
多面手可以在他们的环境中通过收集性能数据和使用统计信息来提供有价值的服务。这些数据可能会用于对查询类别进行优先级的划分。例如,当资源利用较低时,低优先级查询会推迟处理。
企业数据模型
随着存储了越来越多的数据,拥有一个有组织的数据字典和数据模型变得尤为重要。试问如果不知道拥有什么样的数据,又如何有效的进行查询呢?
专家,特别是数据库管理员,应该已经意识到数据建模概念并且应该拥有多重应用程序和系统的知识。现在可以利用这些知识来协助业务分析师进行最初的分析定义和查询构建。
多面手可以作为应用程序调查员来提供服务,给出数据元素的清单并进行分类和确认数据属性和来源。
大数据技术
大数据并不只是关于用户姓名,账号,以及存款等。虽然这些常见的业务数据可以包括在大数据解决方案中,但是还有更为有趣的数据元素和数据类型可以探索:
还有诸如大型对象(LOBs)之类的新型复杂数据类型
诸如可扩展标记语言(XML)的自我描述型数据正变为内部应用程序数据传输事实上的标准。很多文档和数据记录都以XML格式存储,因为它们可以通过多种跨平台应用程序进行读取。
多重结构数据在捕获用户网站行为的时候是很常见的。所谓的点击流为追踪网站访问者做了什么和他们访问了什么数据,以及他们的偏好数据提供了方法。
这些新数据类型中的有些会让业务分析师感到困惑。专家和多面手都可以为参考和回答问题以及为新数据类型的展示和如何对它们进行最佳利用等提供服务
对过渡进行管理
支持经理应该找到相对简便的方法为他们的员工在过渡上提供帮助。
一些多面手会在最初服务于特定的内部用户,以在数据需求定义上为他们提供服务。然后这可以扩展到更多的技术角色上来,包括分析执行或是结果分析等。甚至将多面手转移至业务线也是值得考虑的。
很多专家会继续处理技术相关的问题,诸如性能和调优。一些会在高级分析选项,方法和分析新数据类型等方面提供内部咨询。管理层必须让这些专家在工作中保持主动,否则就要承受他们流失去其他类似企业的风险。
总结
基础架构支持团队成功地经受了大数据的洗礼,并且最有可能负责了许多应用程序的成功实施。但是,这一结果就导致对于IT支持人员需求不可避免的减少。
专家和多面手必须通过学习内部业务线和让他们自己熟悉当前的业务数据需求来扩展他们的技能。假设一个面向用户的角色可能是他们仅有的长期职业生涯选择。
数据分析咨询请扫描二维码
若不方便扫码,搜微信号:CDAshujufenxi
随机森林算法的核心特点:原理、优势与应用解析 在机器学习领域,随机森林(Random Forest)作为集成学习(Ensemble Learning) ...
2025-09-05Excel 区域名定义:从基础到进阶的高效应用指南 在 Excel 数据处理中,频繁引用单元格区域(如A2:A100、B3:D20)不仅容易出错, ...
2025-09-05CDA 数据分析师:以六大分析方法构建数据驱动业务的核心能力 在数据驱动决策成为企业共识的当下,CDA(Certified Data Analyst) ...
2025-09-05SQL 日期截取:从基础方法到业务实战的全维度解析 在数据处理与业务分析中,日期数据是连接 “业务行为” 与 “时间维度” 的核 ...
2025-09-04在卷积神经网络(CNN)的发展历程中,解决 “梯度消失”“特征复用不足”“模型参数冗余” 一直是核心命题。2017 年提出的密集连 ...
2025-09-04CDA 数据分析师:驾驭数据范式,释放数据价值 在数字化转型浪潮席卷全球的当下,数据已成为企业核心生产要素。而 CDA(Certified ...
2025-09-04K-Means 聚类:无监督学习中数据分群的核心算法 在数据分析领域,当我们面对海量无标签数据(如用户行为记录、商品属性数据、图 ...
2025-09-03特征值、特征向量与主成分:数据降维背后的线性代数逻辑 在机器学习、数据分析与信号处理领域,“降维” 是破解高维数据复杂性的 ...
2025-09-03CDA 数据分析师与数据分析:解锁数据价值的关键 在数字经济高速发展的今天,数据已成为企业核心资产与社会发展的重要驱动力。无 ...
2025-09-03解析 loss.backward ():深度学习中梯度汇总与同步的自动触发核心 在深度学习模型训练流程中,loss.backward()是连接 “前向计算 ...
2025-09-02要解答 “画 K-S 图时横轴是等距还是等频” 的问题,需先明确 K-S 图的核心用途(检验样本分布与理论分布的一致性),再结合横轴 ...
2025-09-02CDA 数据分析师:助力企业破解数据需求与数据分析需求难题 在数字化浪潮席卷全球的当下,数据已成为企业核心战略资产。无论是市 ...
2025-09-02Power BI 度量值实战:基于每月收入与税金占比计算累计税金分摊金额 在企业财务分析中,税金分摊是成本核算与利润统计的核心环节 ...
2025-09-01巧用 ALTER TABLE rent ADD INDEX:租房系统数据库性能优化实践 在租房管理系统中,rent表是核心业务表之一,通常存储租赁订单信 ...
2025-09-01CDA 数据分析师:企业数字化转型的核心引擎 —— 从能力落地到价值跃迁 当数字化转型从 “选择题” 变为企业生存的 “必答题”, ...
2025-09-01数据清洗工具全景指南:从入门到进阶的实操路径 在数据驱动决策的链条中,“数据清洗” 是决定后续分析与建模有效性的 “第一道 ...
2025-08-29机器学习中的参数优化:以预测结果为核心的闭环调优路径 在机器学习模型落地中,“参数” 是连接 “数据” 与 “预测结果” 的关 ...
2025-08-29CDA 数据分析与量化策略分析流程:协同落地数据驱动价值 在数据驱动决策的实践中,“流程” 是确保价值落地的核心骨架 ——CDA ...
2025-08-29CDA含金量分析 在数字经济与人工智能深度融合的时代,数据驱动决策已成为企业核心竞争力的关键要素。CDA(Certified Data Analys ...
2025-08-28CDA认证:数据时代的职业通行证 当海通证券的交易大厅里闪烁的屏幕实时跳动着市场数据,当苏州银行的数字金融部连夜部署新的风控 ...
2025-08-28