今天，我们一起安装、配置spark集群环境，方便后期继续学习研究。spark项目是由scala语言编写的，因此需提前配置Scala环境才能运行Spark程序。
我们安装spark2.1.2版本与之对应的环境要求可以在spark官网可以得到。 如下图所示：
从上图可一看到安装Spark2.1.2我们需要安装scala2.11.x版，在scala官网可以找到与之对应的是2.11.12。scala运行对java虚拟机也是有要求的，从下图可以看到2.11.12要求java1.8的环境。大家还记得我们虚拟机中安装的java版本吗？
我们可以使用命令查看一下，如下图所示：你们安装的就是1.8(最后一位小版本号之间差异不大，一般可以忽略)。所以我们只需下载scala2.11.12即可。
下载scala2.11.12.tgz的方法：可以在官网选择下图所示的文件下载
首先通过WinSCP将下载的scala压缩文件上传至master用户主目录下Downloads目录下，使用命令 tar –zxvf scala2.11.12.tgz 解压scala2.11.12.tgz至用户主目录下，解压后的文件夹名为scala-2.11.12
将解压后的文件夹名由scala-2.11.12改为scala，可使用下图所示操作命令
编辑用户主目录下的.bashrc文件，命令如下图所示
在文件末尾添加如下内容
保存并退出，重新导入配置文件.bashrc然后终端中使用命令scala -version查看scala安装配置是否成功。操作过程如下图所示：
在master节点操作成功后为了简便可以将scala文件目录和./.bashrc复制到slave1、slave2。复制文件到其他节点使用scp命令：
scp -r ./scala hduser@slave1:~/
scp ./.bashrc hduser@slave1:~/
scp -r ./scala hduser@slave2:~/
scp ./.bashrc hduser@slave2:~/
通过以上命令slave1和slave2节点上都有scala及其配置文件了。我们可以通过重新导入配置文件查看每个节点是否安装成功，操作如下面两图所示：
到这里集群中scala环境就配置好了，下篇文章介绍spark的安装。
数据分析咨询请扫描二维码
若不方便扫码，搜微信号：CDAshujufenxi
在神经网络模型搭建中，“最后一层是否添加激活函数”是新手常困惑的关键问题——有人照搬中间层的ReLU激活，导致回归任务输出异 ...
2025-12-05在机器学习落地过程中，“模型准确率高但不可解释”“面对数据噪声就失效”是两大核心痛点——金融风控模型若无法解释决策依据， ...
2025-12-05在CDA（Certified Data Analyst）数据分析师的能力模型中，“指标计算”是基础技能，而“指标体系搭建”则是区分新手与资深分析 ...
2025-12-05在回归分析的结果解读中，R方（决定系数）是衡量模型拟合效果的核心指标——它代表因变量的变异中能被自变量解释的比例，取值通 ...
2025-12-04在城市规划、物流配送、文旅分析等场景中，经纬度热力图是解读空间数据的核心工具——它能将零散的GPS坐标（如外卖订单地址、景 ...
2025-12-04在CDA（Certified Data Analyst）数据分析师的指标体系中，“通用指标”与“场景指标”并非相互割裂的两个部分，而是支撑业务分 ...
2025-12-04每到“双十一”，电商平台的销售额会迎来爆发式增长；每逢冬季，北方的天然气消耗量会显著上升；每月的10号左右，工资发放会带动 ...
2025-12-03随着数字化转型的深入，企业面临的数据量呈指数级增长——电商的用户行为日志、物联网的传感器数据、社交平台的图文视频等，这些 ...
2025-12-03在CDA（Certified Data Analyst）数据分析师的工作体系中，“指标”是贯穿始终的核心载体——从“销售额环比增长15%”的业务结论 ...
2025-12-03在神经网络训练中，损失函数的数值变化常被视为模型训练效果的“核心仪表盘”——初学者盯着屏幕上不断下降的损失值满心欢喜，却 ...
2025-12-02在CDA（Certified Data Analyst）数据分析师的日常工作中，“用部分数据推断整体情况”是高频需求——从10万条订单样本中判断全 ...
2025-12-02在数据预处理的纲量统一环节，标准化是消除量纲影响的核心手段——它将不同量级的特征（如“用户年龄”“消费金额”）转化为同一 ...
2025-12-02在数据驱动决策成为企业核心竞争力的今天，A/B测试已从“可选优化工具”升级为“必选验证体系”。它通过控制变量法构建“平行实 ...
2025-12-01在时间序列预测任务中，LSTM（长短期记忆网络）凭借对时序依赖关系的捕捉能力成为主流模型。但很多开发者在实操中会遇到困惑：用 ...
2025-12-01引言：数据时代的“透视镜”与“掘金者” 在数字经济浪潮下，数据已成为企业决策的核心资产，而CDA数据分析师正是挖掘数据价值的 ...
2025-12-01数据分析师的日常，常始于一堆“毫无章法”的数据点：电商后台导出的零散订单记录、APP埋点收集的无序用户行为日志、传感器实时 ...
2025-11-28在MySQL数据库运维中，“query end”是查询执行生命周期的收尾阶段，理论上耗时极短——主要完成结果集封装、资源释放、事务状态 ...
2025-11-28在CDA（Certified Data Analyst）数据分析师的工具包中，透视分析方法是处理表结构数据的“瑞士军刀”——无需复杂代码，仅通过 ...
2025-11-28在统计分析中，数据的分布形态是决定“用什么方法分析、信什么结果”的底层逻辑——它如同数据的“性格”，直接影响着描述统计的 ...
2025-11-27在电商订单查询、用户信息导出等业务场景中，技术人员常面临一个选择：是一次性查询500条数据，还是分5次每次查询100条？这个问 ...
2025-11-27
京公网安备 11010802034615号
经营许可证编号：京B2-20210330
