上一篇 畅购商城项目搭建
第2章 分布式文件存储FastDFS
1 FastDFS
1.1 FastDFS简介
1.1.1 FastDFS体系结构
FastDFS是一个开源的轻量级分布式文件系统,它对文件进行管理,功能包括:文件存储、文件同步、文件访问(文件上传、文件下载)等,解决了大容量存储和负载均衡的问题。特别适合以文件为载体的在线服务,如相册网站、视频网站等等。
FastDFS为互联网量身定制,充分考虑了冗余备份、负载均衡、线性扩容等机制,并注重高可用、高性能等指标,使用FastDFS很容易搭建一套高性能的文件服务器集群提供文件上传、下载等服务。
FastDFS 架构包括Tracker Server和Storage Server。客户端请求Tracker Server 进行文件上传、下载,通过Tracker Server调度最终由Storage Server完成文件上传和下载。
Tracker Server 作用是负载均衡和调度,通过Tracker Server在文件上传时可以根据一些策略找到Storage Server提供文件上传服务。可以将Tracker称为追踪服务器或调度服务器。
Storage Server作用是文件存储,负责文件上传、下载、修改和删除等功能。客户端上传的文件最终存储在Storage服务器上,Storage Server没有实现自己的文件系统而是利用操作系统的文件系统来管理文件。可以将Storage称为存储服务器。
1.1.2 上传流程
1、Storage服务器定时向Tracker服务器发送上传信息
2、客服端向Tracker发送上传请求
3、Tracker服务器查询可用的Storage
4、Tracker服务器向客户端返回Storage服务器的ip和端口
5、客户端向Storage服务器上传文件
6、Storage服务器生成file_id
7、Storage服务器将上传内容写入磁盘
8、Storage服务器向客户端返回file_id
9、客户端存储文件信息
其中file_id用于以后访问该文件的索引信息。文件索引信息包括:组名,虚拟磁盘路径,数据两级目录,文件名。
1.1.3 FastDFS路径说明
group1/M00/00/00/rBGdZl5ak4yAHTNeAAxv6ziU5pA742.png
组名(/group1):文件上传后所在的Storage组名称。在文件上传成功后由Storage 服务器返回,需要客户端自行保存。
虚拟磁盘路径(/M00):Storage配置的虚拟路径,指向Storage组中某个节点的硬盘地址。与磁盘选项store_path*对应。如果配置了store_path0则是M00,如果配置了store_path1 则是M01,以此类推。
数据两级目录(/00/00):Storage服务器在每个虚拟磁盘路径下创建的两级目录,用于存储数据。该数值采用算法计算得出
文件名:与文件上传时的文件名称不同。是由存储服务器根据特定信息生成,文件名包含:源存储服务器IP地址、文件创建时间戳、文件大小、随机数和文件拓展名等信息。
1.2 FastDFS搭建
1.2.1 安装FastDFS镜像
本文采用Docker容器进行FastDFS的环境搭建。
1、查询FastDFS镜像
docker search fastdfs
2、拉取镜像
docker pull morunchang/fastdfs
3、运行tracker
docker run -d --name tracker --net=host morunchang/fastdfs sh tracker.sh
4、运行storage
docker run -d --name storage --net=host -e TRACKER_IP=你的IP(阿里云使用公网IP):22122 -e GROUP_NAME=group1 morunchang/fastdfs sh storage.sh
- -d 后台运行
- –name 别名。–name 空格 别名 --name=别名
- 使用的网络模式是–net=host, 告诉容器使用主机网络堆栈
- -e添加到环境变量中
- group1是组名,即Storage的组
- 如果想要增加新的Storage服务器,再次运行该命令,注意更换新组名
1.2.2 配置Nginx
Nginx在这里主要提供对FastDFS图片访问的支持,Docker容器中已经集成了Nginx,我们需要修改nginx的配置,进入storage的容器内部,修改nginx.conf
1、进入FastDFS Storage中
docker exec -it storage /bin/bash
2、修改配置
①修改etc目录下的nginx.conf
vi /etc/nginx/conf/nginx.conf
添加以下内容
location ~ /M00 {
root /data/fast_data/data;
ngx_fastdfs_module;
}
②修改data目录下的nginx.conf
vi /data/nginx/conf/nginx.conf
添加以下内容
#修改nginx的内容,防止拦截请求 可选填
location /group1/M00 {
proxy_next_upstream http_502 http_504 error timeout invalid_header;
proxy_cache http-cache;
proxy_cache_valid 200 304 12h;
proxy_cache_key $uri$is_args$args;
proxy_pass http://fdfs_group1;
expires 30d;
}
③修改storage.conf
vi /etc/fdfs/storage.conf
修改以下内容
http.server_port=8888 #推荐与Nignx配置的端口相同
4、退出容器
exit
5、重启storage容器
docker restart storage
6、查看启动的容器
`docker ps`
7、开启启动设置
docker update --restart=always tracker
docker update --restart=always storage
8、注意事项
使用阿里云进行部署时,需要在安全组中开放8080、23000、22122端口,否则会造成无法访问。
1.3 文件存储微服务
创建文件管理微服务changgou-service-file,该工程主要用于实现文件上传以及文件删除等功能。
1.3.1 pom.xml依赖
修改pom.xml,引入依赖
<?xml version="1.0" encoding="UTF-8"?>
<project xmlns="http://maven.apache.org/POM/4.0.0"
xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance"
xsi:schemaLocation="http://maven.apache.org/POM/4.0.0 http://maven.apache.org/xsd/maven-4.0.0.xsd">
<parent>
<artifactId>changgou-service</artifactId>
<groupId>com.changgou</groupId>
<version>1.0-SNAPSHOT</version>
</parent>
<modelVersion>4.0.0</modelVersion>
<artifactId>changgou-service-file</artifactId>
<description>文件上传工程</description>
<!--依赖包-->
<dependencies>
<dependency>
<groupId>net.oschina.zcx7878</groupId>
<artifactId>fastdfs-client-java</artifactId>
<version>1.27.0.0</version>
</dependency>
<dependency>
<groupId>com.changgou</groupId>
<artifactId>changgou-common</artifactId>
<version>1.0-SNAPSHOT</version>
</dependency>
</dependencies>
</project>
1.3.2 FastDFS配置
在resources文件夹下创建fasfDFS的配置文件fdfs_client.conf
# 连接超时时间,单位为秒
connect_timeout=20
# 通信超时时间,单位为秒。发送或接收数据时。假设在超时时间后还不能发送或接收数据,则本次网络通信失败
network_timeout=20
# 字符集
charset=UTF-8
# tracker的HTTP端口 nginx的端口号/etc/nginx/conf/nginx.conf
http.tracker_http_port=8080
# trackerTCP端口
tracker_server=公网IP:22122
1.3.3 application.yml配置
在resources文件夹下创建application.yml
spring:
servlet:
multipart:
# 单个文件大小
max-file-size: 10MB
# 总上传的数据大小
max-request-size: 10MB
application:
name: file
server:
port: 10101
eureka:
client:
service-url:
defaultZone: http://127.0.0.1:8761/eureka
instance:
prefer-ip-address: true
feign:
hystrix:
enabled: true
1.3.4 启动类
创建com.changgou包,创建启动类FileApplication
@SpringBootApplication(exclude={DataSourceAutoConfiguration.class})
@EnableEurekaClient
public class FileApplication {
public static void main(String[] args) {
SpringApplication.run(FileApplication.class);
}
}
这里需要禁止数据库自动加载。因为在引用common的时候,有数据库的jar包引入,Spring会认为你可能要进行连接数据库,但是在配置文件中没有配置数据源信息,所以在启动的时候会发生错误
1.4 文件上传
1.4.1 文件信息封装
文件上传一般都有文件的名字、文件的内容、文件的扩展名、文件的MD5值、文件的作者等相关属性,所以创建对象封装这些属性
public class FastDFSFile implements Serializable {
/**
* 文件名字
*/
private String name;
/**
* 文件内容
*/
private byte[] content;
/**
* 文件扩展名
*/
private String ext;
/**
* 文件MD5摘要值
*/
private String md5;
/**
* 文件创建作者
*/
private String author;
public FastDFSFile(String name, byte[] content, String ext, String md5, String author) {
this.name = name;
this.content = content;
this.ext = ext;
this.md5 = md5;
this.author = author;
}
public FastDFSFile(String name, byte[] content, String ext) {
this.name = name;
this.content = content;
this.ext = ext;
}
public FastDFSFile() {
}
//..get..set..toString
}
1.4.2 文件操作
创建com.changgou.util.FastDFSClient类,在该类中实现FastDFS信息获取以及文件的相关操作,代码如下:
(1)初始化Tracker信息
/***
* 初始化tracker信息
*/
static {
try {
//获取tracker的配置文件fdfs_client.conf的位置
String filePath = new ClassPathResource("fdfs_client.conf").getPath();
//加载tracker配置信息
ClientGlobal.init(filePath);
} catch (Exception e) {
e.printStackTrace();
}
}
(2)文件上传
public static String[] upload(FastDFSFile file) {
try {
//创建TrackerClient客户端对象
TrackerClient trackerClient = new TrackerClient();
//通过TrackerClient对象获取TrackerServer信息
TrackerServer trackerServer = trackerClient.getConnection();
//获取StorageClient对象
StorageClient storageClient = new StorageClient(trackerServer, null);
//参数1 字节数组
//参数2 扩展名
//参数3 元数据(文件的大小,文件的作者,文件的创建时间戳)
NameValuePair[] meta_list = new NameValuePair[]{new NameValuePair(file.getAuthor()), new NameValuePair(file.getName())};
String[] strings = storageClient.upload_file(file.getContent(), file.getExt(), meta_list);
return strings;
} catch (Exception e) {
e.printStackTrace();
}
return null;
}
(3)获取文件信息
public static FileInfo getFile(String groupName,String remoteFileName){
try {
//创建TrackerClient对象
TrackerClient trackerClient = new TrackerClient();
//通过TrackerClient获得TrackerServer信息
TrackerServer trackerServer =trackerClient.getConnection();
//通过TrackerServer获取StorageClient对象
StorageClient storageClient = new StorageClient(trackerServer,null);
//获取文件信息
return storageClient.get_file_info(groupName,remoteFileName);
} catch (Exception e) {
e.printStackTrace();
}
return null;
}
(4)文件下载
public static InputStream downFile(String groupName,String remoteFileName){
try {
//创建TrackerClient对象
TrackerClient trackerClient = new TrackerClient();
//通过TrackerClient对象创建TrackerServer
TrackerServer trackerServer = trackerClient.getConnection();
//通过TrackerServer创建StorageClient
StorageClient storageClient = new StorageClient(trackerServer,null);
//通过StorageClient下载文件
byte[] fileByte = storageClient.download_file(groupName, remoteFileName);
//将字节数组转换成字节输入流
return new ByteArrayInputStream(fileByte);
} catch (Exception e) {
e.printStackTrace();
}
return null;
}
(5)文件删除实现
public static void deleteFile(String groupName,String remoteFileName){
try {
//创建TrackerClient对象
TrackerClient trackerClient = new TrackerClient();
//通过TrackerClient获取TrackerServer对象
TrackerServer trackerServer = trackerClient.getConnection();
//通过TrackerServer创建StorageClient
StorageClient storageClient = new StorageClient(trackerServer,null);
//通过StorageClient删除文件
storageClient.delete_file(groupName,remoteFileName);
} catch (Exception e) {
e.printStackTrace();
}
}
(6)获取组信息
public static StorageServer getStorages(String groupName){
try {
//创建TrackerClient对象
TrackerClient trackerClient = new TrackerClient();
//通过TrackerClient获取TrackerServer对象
TrackerServer trackerServer = trackerClient.getConnection();
//通过trackerClient获取Storage组信息
return trackerClient.getStoreStorage(trackerServer,groupName);
} catch (Exception e) {
e.printStackTrace();
}
return null;
}
(7)根据文件组名和文件存储路径获取Storage服务的IP、端口信息
public static ServerInfo[] getServerInfo(String groupName, String remoteFileName){
try {
//创建TrackerClient对象
TrackerClient trackerClient = new TrackerClient();
//通过TrackerClient获取TrackerServer对象
TrackerServer trackerServer = trackerClient.getConnection();
//获取服务信息
return trackerClient.getFetchStorages(trackerServer,groupName,remoteFileName);
} catch (Exception e) {
e.printStackTrace();
}
return null;
}
(8)获取Tracker服务地址
public static String getTrackerUrl(){
try {
//创建TrackerClient对象
TrackerClient trackerClient = new TrackerClient();
//通过TrackerClient获取TrackerServer对象
TrackerServer trackerServer = trackerClient.getConnection();
//获取Tracker地址
return "http://"+trackerServer.getInetSocketAddress().getHostString()+":"+ClientGlobal.getG_tracker_http_port();
} catch (IOException e) {
e.printStackTrace();
}
return null;
}
完整代码如下:
/**
* FastDFS文件上传
*
* @author Thankson
* @date 2020年3月1日
*/
public class FastDFSClient {
static {
//获取FastDFS的配置文件路径
String path = new ClassPathResource("fdfs_client.conf").getPath();
try {
//加载tracker配置信息
ClientGlobal.init(path);
} catch (Exception e) {
e.printStackTrace();
}
}
/**
* 获取StorageClient对象
*
* @return
* @throws IOException
* @author Thankson
* @date 2020年3月1日
*/
private static StorageClient getStorageClient() throws IOException {
//创建TrackerClient客户端对象
TrackerClient trackerClient = new TrackerClient();
//通过TrackerClient对象获取TrackerServer信息
TrackerServer trackerServer = trackerClient.getConnection();
//获取StorageClient对象
return new StorageClient(trackerServer, null);
}
/**
* 图片上传
*
* @param file 图片信息
* @return String
* @author Thankson
* @date 2020年3月1日
*/
public static String upload(FastDFSFile file) {
//文件信息
NameValuePair[] meta_list = new NameValuePair[]{
new NameValuePair(file.getAuthor()),
new NameValuePair(file.getName()),
};
try {
/*
* 文件上传后的返回值
* uploadResults[0]:文件上传所存储的组名,例如:group1
* uploadResults[1]:文件存储路径,例如:M00/00/00/wKjThF0DBzaAP23MAAXz2mMp9oM26.jpeg
*/
String[] uploadResults = getStorageClient().upload_file(file.getContent(), file.getExt(), meta_list);
if(CollectionUtils.isEmpty(uploadResults)){
return null;
}
return getTrackerUrl()+"/"+uploadResults[0]+"/"+uploadResults[1];
} catch (Exception e) {
e.printStackTrace();
}
return null;
}
/**
* 文件下载
*
* @param groupName Storage组
* @param remoteFileName 文件存储完整名
* @return InputStream
* @author Thankson
* @date 2020年3月1日
*/
public static InputStream downFile(String groupName, String remoteFileName) {
ByteArrayInputStream byteArrayInputStream = null;
try {
//通过StorageClient下载文件
byte[] bytes = getStorageClient().download_file(groupName, remoteFileName);
//将字节数组转换成字节输入流
byteArrayInputStream = new ByteArrayInputStream(bytes);
return byteArrayInputStream;
} catch (Exception e) {
e.printStackTrace();
} finally {
//关闭流
try {
if (byteArrayInputStream != null) {
byteArrayInputStream.close();
}
} catch (IOException e) {
e.printStackTrace();
}
}
return null;
}
/**
* 删除图片
*
* @param groupName Storage组
* @param remoteFileName 文件存储完整名
* @return boolean
* @author Thankson
* @date 2020年3月1日
*/
public static boolean deleteFile(String groupName, String remoteFileName) {
try {
int result = getStorageClient().delete_file(groupName, remoteFileName);
if (result == 0) {
return true;
}
} catch (Exception e) {
e.printStackTrace();
}
return false;
}
/**
* 获取组信息
*
* @param groupName 组名
* @return StorageServer
* @author Thankson
* @date 2020年3月1日
*/
public static StorageServer getStorage(String groupName) {
try {
//创建TrackerClient对象
TrackerClient trackerClient = new TrackerClient();
//通过TrackerClient获取TrackerServer对象
TrackerServer trackerServer = trackerClient.getConnection();
//通过trackerClient获取Storage组信息
return trackerClient.getStoreStorage(trackerServer, groupName);
} catch (IOException e) {
e.printStackTrace();
}
return null;
}
/**
* 根据文件名和组名获取文件的信息
*
* @param groupName 组名
* @param remoteFileName 文件存储完整名
* @return FileInfo
* @author Thankson
* @date 2020年3月1日
*/
public static FileInfo getFile(String groupName, String remoteFileName) {
try {
//获取服务信息
return getStorageClient().get_file_info(groupName, remoteFileName);
} catch (Exception e) {
e.printStackTrace();
}
return null;
}
/**
* 根据文件组名和文件存储路径获取Storage服务的IP、端口信息
*
* @param groupName :组名
* @param remoteFileName :文件存储完整名
* @return ServerInfo[]
* @author Thankson
* @date 2020年3月1日
*/
public static ServerInfo[] getServerInfo(String groupName, String remoteFileName) {
try {
//创建TrackerClient对象
TrackerClient trackerClient = new TrackerClient();
//通过TrackerClient获取TrackerServer对象
TrackerServer trackerServer = trackerClient.getConnection();
//获取服务信息
return trackerClient.getFetchStorages(trackerServer, groupName, remoteFileName);
} catch (IOException e) {
e.printStackTrace();
}
return null;
}
/**
* 获取Tracker服务地址
*
* @return String
* @author Thankson
* @date 2020年3月1日
*/
public static String getTrackerUrl() {
try {
//创建TrackerClient对象
TrackerClient trackerClient = new TrackerClient();
//通过TrackerClient获取TrackerServer对象
TrackerServer trackerServer = trackerClient.getConnection();
//获取Tracker地址
String hostString = trackerServer.getInetSocketAddress().getHostString();
int g_tracker_http_port = ClientGlobal.getG_tracker_http_port();
return "http://" + hostString + ":" + g_tracker_http_port;
} catch (IOException e) {
e.printStackTrace();
}
return null;
}
}
1.4.3 文件上传
创建一个FileController,在该控制器中实现文件上传操作,代码如下:
@RestController
@CrossOrigin
public class FileController {
/***
* 文件上传
* @return
*/
@PostMapping(value = "/upload")
public String upload(@RequestParam("file")MultipartFile file) throws Exception {
//封装一个FastDFSFile
FastDFSFile fastDFSFile = new FastDFSFile(
file.getOriginalFilename(), //文件名字
file.getBytes(), //文件字节数组
StringUtils.getFilenameExtension(file.getOriginalFilename()));//文件扩展名
//文件上传
String[] uploads = FastDFSClient.upload(fastDFSFile);
//组装文件上传地址
return FastDFSClient.getTrackerUrl()+"/"+uploads[0]+"/"+uploads[1];
}
}
1.5 Postman测试文件上传
步骤:
1、选择post请求方式,http://localhost:10010/upload
2、填写Headers
Key:Content-Type
Value:multipart/form-data
3、填写body
选择form-data 然后选择文件file 点击添加文件,最后发送即可。
4、访问
http://39.105.162.100:8888/group1/M00/00/00/rBGdZl5ap6-ADXFMAAxv6ziU5pA907.png
如下图
再次强调,这里每次访问的端口是8080端口,访问的端口其实是storage容器的nginx端口,如果想修改该端口可以直接进入到storage容器,然后修改即可。
docker exec -it storage /bin/bash
vi /etc/nginx/conf/nginx.conf
修改后重启storage即可根据自己修改的端口访问图片了。