FastDFS FAQ
這是搬運作者的,有許多問題的集合,大部隊都寫到了
定位問題首先要看日誌文件。出現問題時,先檢查返回的錯誤號和錯誤信息。然後查看服務器端日誌,相信可以定位到問題所在。
- FastDFS適用的場景以及不適用的場景?
FastDFS是爲互聯網應用量身定做的一套分佈式文件存儲系統,非常適合用來存儲用戶圖片、視頻、文檔等文件。對於互聯網應用,和其他分佈式文件系統相比,優勢非常明顯。具體情況大家可以看相關的介紹文檔,包括FastDFS介紹PPT等等。
出於簡潔考慮,FastDFS沒有對文件做分塊存儲,因此不太適合分佈式計算場景。 - FastDFS需要的編譯和運行環境是怎樣的?
FastDFS Server僅支持unix系統,在Linux和FreeBSD測試通過。在Solaris系統下網絡通信方面有些問題。
編譯需要的其他庫文件有pthread,V5.0以前的版本依賴libevent;V5.0以後,不再依賴libevent。
v5.04開始依賴libfastcommon,github地址:https://github.com/happyfish100/libfastcommon
v5版本從v5.05開始纔是穩定版本,請使用v5版本的同學儘快升級到v5.05或更新的版本,建議升級到v5.08。
pthread使用系統自帶的即可。
對libevent的版本要求爲1.4.x,建議使用最新的stable版本,如1.4.14b。
注意,千萬不要使用libevent 2.0非stable版本。
測試了一下,libevent 2.0.10是可以正常工作的。
在64位系統下,可能需要自己在/usr/lib64下創建libevent.so的符號鏈接。比如:
ln -s /usr/lib/libevent.so /usr/lib64/libevent.so
在ubuntu 11及後續版本,可能會出現找不到動態庫pthread庫,解決方法參見:http://bbs.chinaunix.net/thread-2324388-1-2.html
若出現libfastcommon版本不匹配問題,請執行如下命令:/bin/rm -rf /usr/local/lib/libfastcommon.so /usr/local/include/fastcommon - 有人在生產環境中使用FastDFS嗎?
答案是肯定的。據我所知,截止2012年底至少有25家公司在使用FastDFS,其中有好幾家是做網盤的公司。
其中存儲量最大的一家,集羣中存儲group數有400個,存儲服務器超過800臺,存儲容量達到6PB,文件數超過1億,Group持續增長中。。。
以下是使用FastDFS的用戶列表:
某大型網盤(因對方要求對公司名保密,就不提供名字了。有400個group,存儲容量達到了6PB,文件數超過1億)
UC (http://www.uc.cn/,存儲容量超過10TB)
支付寶(http://www.alipay.com/)
京東商城(http://www.360buy.com/)
淘淘搜(http://www.taotaosou.com/)
飛信(http://feixin.1008**/)
趕集網(http://www.ganji.com/)
淘米網(http://www.61.com/)
迅雷(http://www.xunlei.com/)
螞蜂窩(http://www.mafengwo.cn/)
丫丫網(http://www.iyaya.com/)
虹網(http://3g.ahong.com)
5173(http://www.5173.com/)
華夏原創網(http://www.yuanchuang.com/)
華師京城教育雲平臺(http://www.hsjdy.com.cn/)
視友網(http://www.cuctv.com/)
搜道網(http://www.sodao.com/)
58同城(http://www.58.com/)
商務聯盟網(http://www.biz72.com/)
中青網(http://www.youth.cn/)
繽麗網 (http://www.binliy.com/)
飛視雲視頻(http://www.freeovp.com/)
夢芭莎(http://www.moonbasa.com/)
活動幫(www.eventsboom.com)
51CTO(http://www.51cto.com/)
搜房網(http://www.soufun.com/) - 啓動storage server時,一直處於僵死狀態。
A:啓動storage server,storage將連接tracker server,如果連不上,將一直重試。直到連接成功,啓動纔算真正完成。
出現這樣情況,請檢查連接不上tracker server的原因。
友情提示:從V2.03以後,多tracker server在啓動時會做時間上的檢測,判斷是否需要從別的tracker server同步4個系統文件。
觸發時機是第一個storage server連接上tracker server後,併發起join請求。
如果集羣中有2臺tracker server,而其中一臺tracker沒有啓動,可能會導致storage server一直處於僵死狀態。
注:這個問題v5.07解決了。 - 執行fdfs_test或fdfs_test1上傳文件時,服務器返回錯誤號2
錯誤號表示沒有ACTIVE狀態的storage server。可以執行fdfs_monitor查看服務器狀態。 - 如何讓server進程退出運行?
直接kill即可讓server進程正常退出,可以使用killall命令,例如:
killall fdfs_trackerd
killall fdfs_storaged
也可以使用如下命令:
/usr/bin/fdfs_trackerd /etc/fdfs/tracker.conf stop
/usr/bin/fdfs_storaged /etc/fdfs/storage.conf stop
千萬不要使用-9參數強殺,否則可能會導致binlog數據丟失的問題。 - 如何重啓server進程?
直接使用:
/usr/bin/fdfs_trackerd /etc/fdfs/tracker.conf restart
/usr/bin/fdfs_storaged /etc/fdfs/storage.conf restart - 跨運營商通信異常問題
比如電信和網通機房相互通信,可能會存在異常,有兩種表現:
1)不能建立連接,這個比較直接,肯定是網絡連接的問題
2)可以正常建立連接,但接收和發送數據失敗,這個問題比較隱蔽,正常網絡環境下,不應該出現此類問題。
還有人碰到過從一個方向建立連接可以正常通信,但從另外一個方向就不能正常通信的情況。
解決辦法:
嘗試將服務端口改小,建議將端口修改爲1024以下。比如將storage服務端口由23000修改爲873等,也可以試試修改爲8080
如果問題還不能解決,請聯繫你的網絡(機房)服務商。 - fdfs_test和fdfs_test1是做什麼用的?
這兩個是FastDFS自帶的測試程序,會對一個文件上傳兩次,分別作爲主文件和從文件。返回的文件ID也是兩個。
並且會上傳文件附加屬性,storage server上會生成4個文件。
這兩個程序僅用於測試目的,請不要用作實際用途。
V2.05提供了比較正式的三個小工具:
上傳文件:/usr/bin/fdfs_upload_file
下載文件:/usr/bin/fdfs_download_file [local_filename]
刪除文件:/usr/bin/fdfs_delete_file 什麼是主從文件?
主從文件是指文件ID有關聯的文件,一個主文件可以對應多個從文件。
主文件ID = 主文件名 + 主文件擴展名
從文件ID = 主文件名 + 從文件後綴名 + 從文件擴展名
使用主從文件的一個典型例子:以圖片爲例,主文件爲原始圖片,從文件爲該圖片的一張或多張縮略圖。
FastDFS中的主從文件只是在文件ID上有聯繫。FastDFS server端沒有記錄主從文件對應關係,因此刪除主文件,FastDFS不會自動刪除從文件。
刪除主文件後,從文件的級聯刪除,需要由應用端來實現。
主文件及其從文件均存放到同一個group中。
主從文件的生成順序:
1)先上傳主文件(如原文件),得到主文件ID
2)然後上傳從文件(如縮略圖),指定主文件ID和從文件後綴名(當然還可以同時指定從文件擴展名),得到從文件ID。如何刪除無效的storage server?
可以使用fdfs_monitor來刪除。命令行如下:
/usr/bin/fdfs_monitor delete
例如:
/usr/bin/fdfs_monitor /etc/fdfs/client.conf delete group1 192.168.0.100
注意:如果被刪除的storage server的狀態是ACTIVE,也就是該storage server還在線上服務的情況下,是無法刪除掉的。
storage_id參數:如果使用默認的ip方式,填寫storage server IP地址,否則使用對應的server id。- FastDFS擴展模塊升級到V1.06及以上版本的注意事項
apache和nginx擴展模塊版本v1.06及以上版本,需要在配置文件/etc/fdfs/fastdfs_mod.conf中設置storage server的存儲路徑信息。
一個示例如下所示:
store_path_count=1
store_path0=/home/yuqing/fastdfs
store_path_count和store_path#均需要正確設置,必須和storage.conf中的相應配置完全一致,否則將導致文件不能正確下載! - nginx和apache擴展模塊與FastDFS server版本對應關係
擴展模塊1.05: 針對FastDFs server v2.x,要求server版本大於等於v2.09
擴展模塊1.07及以上版本: 針對FastDFs server v3.x
具體的版本匹配情況,參閱擴展模塊源碼下的HISTORY文件 - FastDFS有QQ技術交流羣嗎?
有的。羣號:164684842,歡迎大家加入交流。 - 上傳文件失敗,返回錯誤碼28,這是怎麼回事?
返回錯誤碼28,表示磁盤空間不足。注意FastDFS中有預留空間的概念,在tracker.conf中設置,配置項爲:reserved_storage_space,缺省值爲4GB,即預留4GB的空間。
請酌情設置reserved_storage_space這個參數,比如可以設置爲磁盤總空間的20%左右。 - fdfs_trackerd或者fdfs_storaged的日誌中出現:malloc task buff failed字樣的錯誤,這是怎麼回事?
出現此類信息表示已經達到最大連接數。server端支持的最大連接數可以通過max_connections這個參數來設置。
出現這樣的問題,需要排查一下是否客戶端使用不當導致的,比如客戶端沒有及時關閉無用的連接。 - FastDFS的文件ID中可以反解出哪些字段?
文件ID中除了包含group name和存儲路徑外,文件名中可以反解出如下幾個字段:
1)文件創建時間(unix時間戳,32位整數)
2)文件大小
3)上傳到的源storage server IP地址(32位整數)
4)文件crc32校驗碼
5)隨機數(這個字段用來避免文件重名) - 爲什麼生成的token驗證無法通過?
出現這樣的問題,請進行如下兩項檢查:
1)確認調用token生成函數,傳遞的文件ID中沒有包含group name。傳遞的文件ID格式形如:M00/00/1B/wKgnVE84utyOG9hEAAATz5-S0SI99.java
2)確認服務器時間基本是一致的,注意服務器時間不能相差太多,不要相差到分鐘級別。 - 最新程序包的下載地址是什麼?
因google code不支持上傳程序包,最新的程序包可以在sourceforge上下載,下載地址:https://sourceforge.net/projects/fastdfs/files/ - FastDFS支持斷點續傳嗎?
可以支持。先上傳appender類型的文件,然後使用apend函數。