暢購商城 02

上一篇 暢購商城項目搭建

第2章 分佈式文件存儲FastDFS

1 FastDFS

1.1 FastDFS簡介

1.1.1 FastDFS體系結構

FastDFS是一個開源的輕量級分佈式文件系統，它對文件進行管理，功能包括：文件存儲、文件同步、文件訪問（文件上傳、文件下載）等，解決了大容量存儲和負載均衡的問題。特別適合以文件爲載體的在線服務，如相冊網站、視頻網站等等。

FastDFS爲互聯網量身定製，充分考慮了冗餘備份、負載均衡、線性擴容等機制，並注重高可用、高性能等指標，使用FastDFS很容易搭建一套高性能的文件服務器集羣提供文件上傳、下載等服務。

FastDFS 架構包括Tracker Server和Storage Server。客戶端請求Tracker Server 進行文件上傳、下載，通過Tracker Server調度最終由Storage Server完成文件上傳和下載。

Tracker Server 作用是負載均衡和調度，通過Tracker Server在文件上傳時可以根據一些策略找到Storage Server提供文件上傳服務。可以將Tracker稱爲追蹤服務器或調度服務器。

Storage Server作用是文件存儲，負責文件上傳、下載、修改和刪除等功能。客戶端上傳的文件最終存儲在Storage服務器上，Storage Server沒有實現自己的文件系統而是利用操作系統的文件系統來管理文件。可以將Storage稱爲存儲服務器。

1.1.2 上傳流程

1、Storage服務器定時向Tracker服務器發送上傳信息
2、客服端向Tracker發送上傳請求
3、Tracker服務器查詢可用的Storage
4、Tracker服務器向客戶端返回Storage服務器的ip和端口
5、客戶端向Storage服務器上傳文件
6、Storage服務器生成file_id
7、Storage服務器將上傳內容寫入磁盤
8、Storage服務器向客戶端返回file_id
9、客戶端存儲文件信息
其中file_id用於以後訪問該文件的索引信息。文件索引信息包括：組名，虛擬磁盤路徑，數據兩級目錄，文件名。

1.1.3 FastDFS路徑說明

group1/M00/00/00/rBGdZl5ak4yAHTNeAAxv6ziU5pA742.png

組名(/group1)：文件上傳後所在的Storage組名稱。在文件上傳成功後由Storage 服務器返回，需要客戶端自行保存。

虛擬磁盤路徑(/M00)：Storage配置的虛擬路徑，指向Storage組中某個節點的硬盤地址。與磁盤選項store_path*對應。如果配置了store_path0則是M00，如果配置了store_path1 則是M01，以此類推。

數據兩級目錄(/00/00)：Storage服務器在每個虛擬磁盤路徑下創建的兩級目錄，用於存儲數據。該數值採用算法計算得出

文件名：與文件上傳時的文件名稱不同。是由存儲服務器根據特定信息生成，文件名包含：源存儲服務器IP地址、文件創建時間戳、文件大小、隨機數和文件拓展名等信息。

1.2 FastDFS搭建

1.2.1 安裝FastDFS鏡像

本文采用Docker容器進行FastDFS的環境搭建。

1、查詢FastDFS鏡像

docker search fastdfs

2、拉取鏡像

docker pull morunchang/fastdfs

3、運行tracker

docker run -d --name tracker --net=host morunchang/fastdfs sh tracker.sh

4、運行storage

docker run -d --name storage --net=host -e TRACKER_IP=你的IP(阿里雲使用公網IP):22122 -e GROUP_NAME=group1 morunchang/fastdfs sh storage.sh

• -d 後臺運行
• –name 別名。–name 空格 別名 --name=別名
• 使用的網絡模式是–net=host, 告訴容器使用主機網絡堆棧
• -e添加到環境變量中
• group1是組名，即Storage的組
• 如果想要增加新的Storage服務器，再次運行該命令，注意更換新組名

1.2.2 配置Nginx

Nginx在這裏主要提供對FastDFS圖片訪問的支持，Docker容器中已經集成了Nginx，我們需要修改nginx的配置,進入storage的容器內部，修改nginx.conf
1、進入FastDFS Storage中

docker exec -it storage  /bin/bash

2、修改配置
①修改etc目錄下的nginx.conf

vi /etc/nginx/conf/nginx.conf

添加以下內容

location ~ /M00 {
     root /data/fast_data/data;
     ngx_fastdfs_module;
}

②修改data目錄下的nginx.conf

vi /data/nginx/conf/nginx.conf

添加以下內容

#修改nginx的內容，防止攔截請求 可選填
location /group1/M00 {
     proxy_next_upstream http_502 http_504 error timeout invalid_header;
     proxy_cache http-cache;
     proxy_cache_valid  200 304 12h;
     proxy_cache_key $uri$is_args$args;
     proxy_pass http://fdfs_group1;
     expires 30d;
 }

③修改storage.conf

vi /etc/fdfs/storage.conf

修改以下內容

http.server_port=8888 #推薦與Nignx配置的端口相同

4、退出容器

exit

5、重啓storage容器

docker restart storage

6、查看啓動的容器

`docker ps`

7、開啓啓動設置

docker update --restart=always tracker
docker update --restart=always storage

8、注意事項
使用阿里雲進行部署時，需要在安全組中開放8080、23000、22122端口，否則會造成無法訪問。

1.3 文件存儲微服務

創建文件管理微服務changgou-service-file，該工程主要用於實現文件上傳以及文件刪除等功能。

1.3.1 pom.xml依賴

修改pom.xml，引入依賴

<?xml version="1.0" encoding="UTF-8"?>
<project xmlns="http://maven.apache.org/POM/4.0.0"
         xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance"
         xsi:schemaLocation="http://maven.apache.org/POM/4.0.0 http://maven.apache.org/xsd/maven-4.0.0.xsd">
    <parent>
        <artifactId>changgou-service</artifactId>
        <groupId>com.changgou</groupId>
        <version>1.0-SNAPSHOT</version>
    </parent>
    <modelVersion>4.0.0</modelVersion>
    <artifactId>changgou-service-file</artifactId>
    <description>文件上傳工程</description>

    <!--依賴包-->
    <dependencies>
        <dependency>
            <groupId>net.oschina.zcx7878</groupId>
            <artifactId>fastdfs-client-java</artifactId>
            <version>1.27.0.0</version>
        </dependency>
        <dependency>
            <groupId>com.changgou</groupId>
            <artifactId>changgou-common</artifactId>
            <version>1.0-SNAPSHOT</version>
        </dependency>
    </dependencies>
</project>

1.3.2 FastDFS配置

在resources文件夾下創建fasfDFS的配置文件fdfs_client.conf

# 連接超時時間，單位爲秒
connect_timeout=20
# 通信超時時間，單位爲秒。發送或接收數據時。假設在超時時間後還不能發送或接收數據，則本次網絡通信失敗
network_timeout=20
# 字符集
charset=UTF-8
# tracker的HTTP端口  nginx的端口號/etc/nginx/conf/nginx.conf
http.tracker_http_port=8080
# trackerTCP端口 
tracker_server=公網IP:22122

1.3.3 application.yml配置

在resources文件夾下創建application.yml

spring:
  servlet:
    multipart:
      # 單個文件大小
      max-file-size: 10MB
      # 總上傳的數據大小
      max-request-size: 10MB
  application:
    name: file
server:
  port: 10101
eureka:
  client:
    service-url:
      defaultZone: http://127.0.0.1:8761/eureka
  instance:
    prefer-ip-address: true
feign:
  hystrix:
    enabled: true

1.3.4 啓動類

創建com.changgou包，創建啓動類FileApplication

@SpringBootApplication(exclude={DataSourceAutoConfiguration.class})
@EnableEurekaClient
public class FileApplication {

    public static void main(String[] args) {
        SpringApplication.run(FileApplication.class);
    }
}

這裏需要禁止數據庫自動加載。因爲在引用common的時候，有數據庫的jar包引入，Spring會認爲你可能要進行連接數據庫，但是在配置文件中沒有配置數據源信息，所以在啓動的時候會發生錯誤

1.4 文件上傳

1.4.1 文件信息封裝

文件上傳一般都有文件的名字、文件的內容、文件的擴展名、文件的MD5值、文件的作者等相關屬性，所以創建對象封裝這些屬性

public class FastDFSFile implements Serializable {
        /**
     * 文件名字
     */
    private String name;
    /**
     * 文件內容
     */
    private byte[] content;
    /**
     * 文件擴展名
     */
    private String ext;
    /**
     * 文件MD5摘要值
     */
    private String md5;
    /**
     * 文件創建作者
     */
    private String author;

    public FastDFSFile(String name, byte[] content, String ext, String md5, String author) {
        this.name = name;
        this.content = content;
        this.ext = ext;
        this.md5 = md5;
        this.author = author;
    }

    public FastDFSFile(String name, byte[] content, String ext) {
        this.name = name;
        this.content = content;
        this.ext = ext;
    }

    public FastDFSFile() {
    }
    
    //..get..set..toString
}

1.4.2 文件操作

創建com.changgou.util.FastDFSClient類,在該類中實現FastDFS信息獲取以及文件的相關操作，代碼如下：

(1)初始化Tracker信息

/***
 * 初始化tracker信息
 */
static {
    try {
        //獲取tracker的配置文件fdfs_client.conf的位置
        String filePath = new ClassPathResource("fdfs_client.conf").getPath();
        //加載tracker配置信息
        ClientGlobal.init(filePath);
    } catch (Exception e) {
        e.printStackTrace();
    }
}

(2)文件上傳

public static String[] upload(FastDFSFile file) {
    try {
        //創建TrackerClient客戶端對象
        TrackerClient trackerClient = new TrackerClient();
        //通過TrackerClient對象獲取TrackerServer信息
        TrackerServer trackerServer = trackerClient.getConnection();
        //獲取StorageClient對象
        StorageClient storageClient = new StorageClient(trackerServer, null);
        //參數1 字節數組
        //參數2 擴展名
        //參數3 元數據(文件的大小,文件的作者,文件的創建時間戳)
        NameValuePair[] meta_list = new NameValuePair[]{new NameValuePair(file.getAuthor()), new NameValuePair(file.getName())};
        String[] strings = storageClient.upload_file(file.getContent(), file.getExt(), meta_list);
        return strings;
    } catch (Exception e) {
        e.printStackTrace();
    }
    return null;
}

(3)獲取文件信息

public static FileInfo getFile(String groupName,String remoteFileName){
    try {
        //創建TrackerClient對象
        TrackerClient trackerClient = new TrackerClient();
        //通過TrackerClient獲得TrackerServer信息
        TrackerServer trackerServer =trackerClient.getConnection();
        //通過TrackerServer獲取StorageClient對象
        StorageClient storageClient = new StorageClient(trackerServer,null);
        //獲取文件信息
        return storageClient.get_file_info(groupName,remoteFileName);
    } catch (Exception e) {
        e.printStackTrace();
    }
    return null;
}

(4)文件下載

public static InputStream downFile(String groupName,String remoteFileName){
    try {
        //創建TrackerClient對象
        TrackerClient trackerClient = new TrackerClient();
        //通過TrackerClient對象創建TrackerServer
        TrackerServer trackerServer = trackerClient.getConnection();
        //通過TrackerServer創建StorageClient
        StorageClient storageClient = new StorageClient(trackerServer,null);
        //通過StorageClient下載文件
        byte[] fileByte = storageClient.download_file(groupName, remoteFileName);
        //將字節數組轉換成字節輸入流
        return new ByteArrayInputStream(fileByte);
    } catch (Exception e) {
        e.printStackTrace();
    }
    return null;
}

(5)文件刪除實現

public static void deleteFile(String groupName,String remoteFileName){
    try {
        //創建TrackerClient對象
        TrackerClient trackerClient = new TrackerClient();
        //通過TrackerClient獲取TrackerServer對象
        TrackerServer trackerServer = trackerClient.getConnection();
        //通過TrackerServer創建StorageClient
        StorageClient storageClient = new StorageClient(trackerServer,null);
        //通過StorageClient刪除文件
        storageClient.delete_file(groupName,remoteFileName);
    } catch (Exception e) {
        e.printStackTrace();
    }
}

(6)獲取組信息

public static StorageServer getStorages(String groupName){
    try {
        //創建TrackerClient對象
        TrackerClient trackerClient = new TrackerClient();
        //通過TrackerClient獲取TrackerServer對象
        TrackerServer trackerServer = trackerClient.getConnection();
        //通過trackerClient獲取Storage組信息
        return trackerClient.getStoreStorage(trackerServer,groupName);
    } catch (Exception e) {
        e.printStackTrace();
    }
    return null;
}

(7)根據文件組名和文件存儲路徑獲取Storage服務的IP、端口信息

public static ServerInfo[] getServerInfo(String groupName, String remoteFileName){
    try {
        //創建TrackerClient對象
        TrackerClient trackerClient = new TrackerClient();
        //通過TrackerClient獲取TrackerServer對象
        TrackerServer trackerServer = trackerClient.getConnection();
        //獲取服務信息
        return trackerClient.getFetchStorages(trackerServer,groupName,remoteFileName);
    } catch (Exception e) {
        e.printStackTrace();
    }
    return null;
}

(8)獲取Tracker服務地址

public static String getTrackerUrl(){
    try {
        //創建TrackerClient對象
        TrackerClient trackerClient = new TrackerClient();
        //通過TrackerClient獲取TrackerServer對象
        TrackerServer trackerServer = trackerClient.getConnection();
        //獲取Tracker地址
        return "http://"+trackerServer.getInetSocketAddress().getHostString()+":"+ClientGlobal.getG_tracker_http_port();
    } catch (IOException e) {
        e.printStackTrace();
    }
    return null;
}

完整代碼如下：

/**
 * FastDFS文件上傳
 *
 * @author Thankson
 * @date 2020年3月1日
 */
public class FastDFSClient {

    static {
        //獲取FastDFS的配置文件路徑
        String path = new ClassPathResource("fdfs_client.conf").getPath();
        try {
            //加載tracker配置信息
            ClientGlobal.init(path);
        } catch (Exception e) {
            e.printStackTrace();
        }
    }

    /**
     * 獲取StorageClient對象
     *
     * @return
     * @throws IOException
     * @author Thankson
     * @date 2020年3月1日
     */
    private static StorageClient getStorageClient() throws IOException {
        //創建TrackerClient客戶端對象
        TrackerClient trackerClient = new TrackerClient();
        //通過TrackerClient對象獲取TrackerServer信息
        TrackerServer trackerServer = trackerClient.getConnection();
        //獲取StorageClient對象
        return new StorageClient(trackerServer, null);
    }

    /**
     * 圖片上傳
     *
     * @param file 圖片信息
     * @return String
     * @author Thankson
     * @date 2020年3月1日
     */
    public static String upload(FastDFSFile file) {
        //文件信息
        NameValuePair[] meta_list = new NameValuePair[]{
                new NameValuePair(file.getAuthor()),
                new NameValuePair(file.getName()),
        };
        try {
            /*
             * 文件上傳後的返回值
             * uploadResults[0]:文件上傳所存儲的組名，例如:group1
             * uploadResults[1]:文件存儲路徑,例如：M00/00/00/wKjThF0DBzaAP23MAAXz2mMp9oM26.jpeg
             */

            String[] uploadResults = getStorageClient().upload_file(file.getContent(), file.getExt(), meta_list);
            if(CollectionUtils.isEmpty(uploadResults)){
                return null;
            }
            return getTrackerUrl()+"/"+uploadResults[0]+"/"+uploadResults[1];
        } catch (Exception e) {
            e.printStackTrace();
        }
        return null;
    }



    /**
     * 文件下載
     *
     * @param groupName      Storage組
     * @param remoteFileName 文件存儲完整名
     * @return InputStream
     * @author Thankson
     * @date 2020年3月1日
     */
    public static InputStream downFile(String groupName, String remoteFileName) {
        ByteArrayInputStream byteArrayInputStream = null;
        try {
            //通過StorageClient下載文件
            byte[] bytes = getStorageClient().download_file(groupName, remoteFileName);
            //將字節數組轉換成字節輸入流
            byteArrayInputStream = new ByteArrayInputStream(bytes);
            return byteArrayInputStream;
        } catch (Exception e) {
            e.printStackTrace();
        } finally {
            //關閉流
            try {
                if (byteArrayInputStream != null) {
                    byteArrayInputStream.close();
                }
            } catch (IOException e) {
                e.printStackTrace();
            }
        }
        return null;
    }

    /**
     * 刪除圖片
     *
     * @param groupName      Storage組
     * @param remoteFileName 文件存儲完整名
     * @return boolean
     * @author Thankson
     * @date 2020年3月1日
     */
    public static boolean deleteFile(String groupName, String remoteFileName) {
        try {
            int result = getStorageClient().delete_file(groupName, remoteFileName);
            if (result == 0) {
                return true;
            }
        } catch (Exception e) {
            e.printStackTrace();
        }
        return false;
    }

    /**
     * 獲取組信息
     *
     * @param groupName 組名
     * @return StorageServer
     * @author Thankson
     * @date 2020年3月1日
     */
    public static StorageServer getStorage(String groupName) {
        try {
            //創建TrackerClient對象
            TrackerClient trackerClient = new TrackerClient();
            //通過TrackerClient獲取TrackerServer對象
            TrackerServer trackerServer = trackerClient.getConnection();
            //通過trackerClient獲取Storage組信息
            return trackerClient.getStoreStorage(trackerServer, groupName);
        } catch (IOException e) {
            e.printStackTrace();
        }
        return null;
    }

    /**
     * 根據文件名和組名獲取文件的信息
     *
     * @param groupName      組名
     * @param remoteFileName 文件存儲完整名
     * @return FileInfo
     * @author Thankson
     * @date 2020年3月1日
     */
    public static FileInfo getFile(String groupName, String remoteFileName) {
        try {
            //獲取服務信息
            return getStorageClient().get_file_info(groupName, remoteFileName);
        } catch (Exception e) {
            e.printStackTrace();
        }
        return null;
    }

    /**
     * 根據文件組名和文件存儲路徑獲取Storage服務的IP、端口信息
     *
     * @param groupName      :組名
     * @param remoteFileName ：文件存儲完整名
     * @return ServerInfo[]
     * @author Thankson
     * @date 2020年3月1日
     */
    public static ServerInfo[] getServerInfo(String groupName, String remoteFileName) {
        try {
            //創建TrackerClient對象
            TrackerClient trackerClient = new TrackerClient();
            //通過TrackerClient獲取TrackerServer對象
            TrackerServer trackerServer = trackerClient.getConnection();
            //獲取服務信息
            return trackerClient.getFetchStorages(trackerServer, groupName, remoteFileName);
        } catch (IOException e) {
            e.printStackTrace();
        }
        return null;

    }

    /**
     * 獲取Tracker服務地址
     *
     * @return String
     * @author Thankson
     * @date 2020年3月1日
     */
    public static String getTrackerUrl() {
        try {
            //創建TrackerClient對象
            TrackerClient trackerClient = new TrackerClient();
            //通過TrackerClient獲取TrackerServer對象
            TrackerServer trackerServer = trackerClient.getConnection();
            //獲取Tracker地址
            String hostString = trackerServer.getInetSocketAddress().getHostString();
            int g_tracker_http_port = ClientGlobal.getG_tracker_http_port();
            return "http://" + hostString + ":" + g_tracker_http_port;
        } catch (IOException e) {
            e.printStackTrace();
        }
        return null;
    }
}

1.4.3 文件上傳

創建一個FileController，在該控制器中實現文件上傳操作，代碼如下：

@RestController
@CrossOrigin
public class FileController {

    /***
     * 文件上傳
     * @return
     */
    @PostMapping(value = "/upload")
    public String upload(@RequestParam("file")MultipartFile file) throws Exception {
        //封裝一個FastDFSFile
        FastDFSFile fastDFSFile = new FastDFSFile(
                file.getOriginalFilename(), //文件名字
                file.getBytes(),            //文件字節數組
                StringUtils.getFilenameExtension(file.getOriginalFilename()));//文件擴展名

        //文件上傳
        String[] uploads = FastDFSClient.upload(fastDFSFile);
        //組裝文件上傳地址
        return FastDFSClient.getTrackerUrl()+"/"+uploads[0]+"/"+uploads[1];
    }
}

1.5 Postman測試文件上傳

步驟：

1、選擇post請求方式，http://localhost:10010/upload

2、填寫Headers

Key：Content-Type
Value：multipart/form-data

3、填寫body

選擇form-data 然後選擇文件file 點擊添加文件，最後發送即可。

4、訪問
http://39.105.162.100:8888/group1/M00/00/00/rBGdZl5ap6-ADXFMAAxv6ziU5pA907.png
如下圖
再次強調，這裏每次訪問的端口是8080端口，訪問的端口其實是storage容器的nginx端口，如果想修改該端口可以直接進入到storage容器，然後修改即可。

docker exec -it storage  /bin/bash
vi /etc/nginx/conf/nginx.conf

修改後重啓storage即可根據自己修改的端口訪問圖片了。