关于分布式文件服务器FastDFS
简介
FastDFS是阿里用 C 语言编写的一款开源的分布式文件系统。
上图可以看出他的架构包括Tracker server 和 Storage server。客户端请求 Tracker server 进行文件上传、下载,通过 Tracker server 调度最终由 Storage server 完成文件上传和下载。
Tracker server:调度服务器,负载均衡和调度,通过 Tracker server 在文件上传时可以根据一些策略找到 Storage server 提供文件上传服务。
Storage server:存储服务器,文件存储,客户端上传的文件最终存储在 Storage 服务器上。
服务端两个角色:
Tracker:管理集群,tracker 也可以实现集群。每个 tracker 节点地位平等。收集 Storage 集群的状态。
Storage:实际保存文件 Storage 分为多个组,每个组之间保存的文件是不同的。每个组内部可以有多个成员,组成员内部保存的内容是一样的,组成员的地位是一致的,没有主从的概念。
文件上传流程
客户端上传文件后存储服务器将文件 ID 返回给客户端,此文件 ID 用于以后访问该文件的索引信息。文件索引信息包括:组名,虚拟磁盘路径,数据两级目录,文件名。
组名:文件上传后所在的 storage 组名称:group1。
虚拟磁盘路径:storage 配置的虚拟路径,与磁盘选项 store_path对应。如果配置了store_path0 则是 M00,如果配置了 store_path1 则是 M01
数据两级目录:storage 服务器在每个虚拟磁盘路径下创建的两级目录,用于存储数据文件。:/02/44
文件名:与文件上传时不同。是由存储服务器根据特定信息生成,文件名包含:源存储服务器 IP 地址、文件创建时间戳、文件大小、随机数和文件拓展名等信息。(后面一长串)
文件下载流程
电商概念
SPU(标准产品单位):iphone7就是一个SPU,与商家,与颜色、款式、套餐都无关,属性值、特性相同的商品就可以称为一个SPU。
SKU(库存量单位):纺织品中一个SKU通常表示:规格、颜色、款式,物理上不可分割的最小存货单元。
demo
1:手动引入jar包到maven本地仓库
2:pom文件中引入
<dependencies> <dependency> <groupId>org.csource.fastdfs</groupId> <artifactId>fastdfs</artifactId> <version>1.2</version> </dependency> </dependencies>
3:配置文件fdfs_client.conf (可以更改服务器地址)
# connect timeout in seconds # default value is 30s connect_timeout=30 # network timeout in seconds # default value is 30s network_timeout=60 # the base path to store log files base_path=/home/fastdfs # tracker_server can ocur more than once, and tracker_server format is # "host:port", host can be hostname or ip address tracker_server=192.168.25.133:22122 #standard log level as syslog, case insensitive, value list: ### emerg for emergency ### alert ### crit for critical ### error ### warn for warning ### notice ### info ### debug log_level=info # if use connection pool # default value is false # since V4.05 use_connection_pool = false # connections whose the idle time exceeds this time will be closed # unit: second # default value is 3600 # since V4.05 connection_pool_max_idle_time = 3600 # if load FastDFS parameters from tracker server # since V4.05 # default value is false load_fdfs_parameters_from_tracker=false # if use storage ID instead of IP address # same as tracker.conf # valid only when load_fdfs_parameters_from_tracker is false # default value is false # since V4.05 use_storage_id = false # specify storage ids filename, can use relative or absolute path # same as tracker.conf # valid only when load_fdfs_parameters_from_tracker is false # since V4.05 storage_ids_filename = storage_ids.conf #HTTP settings http.tracker_server_port=80 #use "#include" directive to include HTTP other settiongs ##include http.conf
4:测试类(参考文件上传步骤理解)
public class Test { public static void main(String[] args) throws FileNotFoundException, IOException, Exception { //1. 加载配置文件 ClientGlobal.init("C:\\study\\Java\\fastDFSdemo\\src\\main\\resources\\fdfs_client.conf"); //2. 构建一个管理者客户端 TrackerClient client = new TrackerClient(); //3. 连接管理者服务端 TrackerServer trackerServer = client.getConnection(); //4. 声明存储服务端 StorageServer storageServer = null; //5. 获取存储服务器的客户端对象 StorageClient storageClient = new StorageClient(trackerServer, storageServer); //6. 上传文件(文件位置,文件扩展名,文件详细信息) String[] strings = storageClient.upload_file("C:\\study\\文字.jpg", "jpg", null); //7. 显示上传结果 file_id for (String str : strings) { System.out.println(str); } } }
5:结果(组名和图片路径)
6:在浏览器中测试