在centos系统中设置hdfs（hadoop分布式文件系统）通常需要执行以下几个步骤：
-
安装Java：Hadoop依赖于Java环境，因此确保你的centos系统已安装Java。可以使用以下命令安装OpenJDK：
sudo yum install java-1.8.0-openjdk-devel
-
下载并解压Hadoop：从apache Hadoop官方网站下载最新的Hadoop版本，并将其解压到你选择的目录中。
wget https://www.apache.org/dyn/closer.cgi/hadoop/common/hadoop-3.3.1/hadoop-3.3.1.tar.gz tar -xzvf hadoop-3.3.1.tar.gz -C /usr/local/
-
设置Hadoop环境变量：编辑/etc/profile.d/hadoop.sh文件，添加Hadoop的环境变量。
export JAVA_HOME=/usr/lib/jvm/java-1.8.0-openjdk export HADOOP_HOME=/usr/local/hadoop-3.3.1 export PATH=$PATH:$HADOOP_HOME/bin:$HADOOP_HOME/sbin
然后使环境变量生效：
source /etc/profile.d/hadoop.sh
-
配置Hadoop：编辑Hadoop配置文件，这些文件位于$HADOOP_HOME/etc/hadoop目录下。
-
core-site.xml：配置Hadoop的核心属性，例如文件系统的默认名称。
<configuration><property><name>fs.defaultFS</name><value>hdfs://localhost:9000</value></property></configuration>
-
hdfs-site.xml：配置HDFS的属性，例如副本数和数据节点的存储路径。
<configuration><property><name>dfs.replication</name><value>1</value></property><property><name>dfs.namenode.name.dir</name><value>/usr/local/hadoop-3.3.1/data/namenode</value></property><property><name>dfs.datanode.data.dir</name><value>/usr/local/hadoop-3.3.1/data/datanode</value></property></configuration>
-
mapred-site.xml：配置MapReduce的属性。
<configuration><property><name>mapreduce.framework.name</name><value>yarn</value></property></configuration>
-
-
格式化HDFS：在首次启动HDFS之前，需要对NameNode进行格式化。
hdfs namenode -format
-
启动Hadoop集群：启动HDFS和YARN服务。
start-dfs.sh start-yarn.sh
-
检查集群状态：使用以下命令检查HDFS和YARN的状态。
jps
你应该能看到NameNode、DataNode、SecondaryNameNode、ResourceManager和NodeManager等进程。
-
访问Web界面：你可以通过浏览器访问HDFS和YARN的Web界面来监控集群状态。
- HDFS Web界面：http://
:50070 - YARN Web界面：http://
:8088
- HDFS Web界面：http://
通过上述步骤，你可以在CentOS系统中成功设置并启动HDFS。
© 版权声明
文章版权归作者所有，未经允许请勿转载。
THE END
