IDEA配置Hadoop3遠程調試環境

freeshow 2021-08-15 22:34:26 阅读数:386

本文一共[544]字,预计阅读时长:1分钟~
idea 配置 hadoop3 hadoop

遠程 hadoop版本:Hadoop 3.0.0+cdh6.3.2

一、設置本地hadoop環境

1、下載hadoop

下載 hadoop-3.0.0.tar.gz ,並解壓到 D:\BigData\ 並重命名為 hadoop,如下圖所示:

2、配置環境變量

2.1 HADOOP_HOME

配置 HADOOP_HOME 環境變量:

2.2 HADOOP_USER_NAME

2.2.1 更改Winows用戶名

設置windows用戶,只是能在 Big Data Tools中有權限可視化操作HDFS文件

HDFS 程序操作HDFS時,是根據配置的HADOOP_USER_NAME環境變量中配置的用戶操作HDFS的

2.2.2 設置HADOOP_USER_NAME環境變量

HADOOP_USER_NAME 本地操作遠程HDFS的用戶,不設置默認使用Windows的用戶,當操作HDFS時會出現沒有訪問權限

或者在Java代碼中設置變量:

System.setProperty("HADOOP_USER_NAME""song");

優先級:Windows系統變量 > Java環境變量設置

3、winutils

從https://github.com/steveloughran/winutils下載針對Windows環境的Hadoop修正程序winutils(Hadoop-3.0.0對應路徑https://github.com/steveloughran /winutils /tree /master/hadoop-3.0.0 )替換本地hadoop的bin目錄;

二、Intelj IDEA配置

1、安裝 Big Data Tools

2、下載 HDFS 客戶端配置

解壓並存放於D:\BigData\hadoop\hadoop-conf;

3、配置 Big Data Tools

3.1 選擇 HDFS

3.2 選擇 HDFS 配置路徑

3.3 驗證

版权声明:本文为[freeshow]所创,转载请带上原文链接,感谢。 https://gsmany.com/2021/08/20210815223358042e.html