大數據之hadoop的環境變量及客戶端測試

HDFS客戶端環境準備

–1.下載好hadoop3.0.0

–2配置好環境變量

測試安裝

–cmd
winutils有反應的話,就是可以的

寫個demo

**1用idea創建一個maven項目,添加如下依賴:

 <dependencies>
 <dependency>
    <groupId>junit</groupId>
    <artifactId>junit</artifactId>
    <version>4.12</version>
</dependency>
<dependency>
    <groupId>org.apache.logging.log4j</groupId>
    <artifactId>log4j-slf4j-impl</artifactId>
    <version>2.12.0</version>
</dependency>
<dependency>
    <groupId>org.apache.hadoop</groupId>
    <artifactId>hadoop-client</artifactId>
    <version>3.1.3</version>
</dependency>

**2 在項目的src/main/resources目錄下，新建一個文件，命名爲“log4j2.xml”，在文件中填

<?xml version="1.0" encoding="UTF-8"?>
<`Configuration` status="error" strict="true" name="XMLConfig">
    <Appenders>
        <!-- 類型名爲Console，名稱爲必須屬性 -->
        <Appender type="Console" name="STDOUT">
            <!-- 佈局爲PatternLayout的方式，
            輸出樣式爲[INFO] [2018-01-22 17:34:01][org.test.Console]I'm here -->
            <Layout type="PatternLayout"
                    pattern="[%p] [%d{yyyy-MM-dd HH:mm:ss}][%c{10}]%m%n" />
        </Appender>

    </Appenders>

    <Loggers>
        <!-- 可加性爲false -->
        <Logger name="test" level="info" additivity="false">
            <AppenderRef ref="STDOUT" />
        </Logger>

        <!-- root loggerConfig設置 -->
        <Root level="info">
            <AppenderRef ref="STDOUT" />
        </Root>
    </Loggers>
</Configuration>

**3 創建類測試下

public class HdfsClient{	
@Test
public void testMkdirs() throws IOException, InterruptedException, URISyntaxException{
		
		// 1 獲取文件系統
		Configuration configuration = new Configuration();
		// 配置在集羣上運行
		// configuration.set("fs.defaultFS", "hdfs://hadoop01:1020");
		// FileSystem fs = FileSystem.get(configuration);

		FileSystem fs = FileSystem.get(new URI("hdfs://hadoop01:1020"), configuration, "jinmei");
		
		// 2 創建目錄
		fs.mkdirs(new Path("/shanxi/xian"));
		
		// 3 關閉資源
		fs.close();
	}
}