生信-使用gdc-client下載數據

正八經的官網: https://gdc.cancer.gov/access-data/gdc-data-transfer-tool

image.png

注:windows、redhat、ubuntu、mac的都可以下載使用

windows用戶安裝使用

windows用戶,下載的是一個gdc-client.exe文件

1.存放exe與txt

例如,我隨便找一個文件夾,文件夾地址是:E:\workspace\gdc,我把源文件(txt)與客戶端exe放在如下:
[外鏈圖片轉存失敗,源站可能有防盜鏈機制,建議將圖片保存下來直接上傳(img-lx9PaauX-1576686013751)(https://upload-images.jianshu.io/upload_images/6004445-bfca9eef5e86975c.png?imageMogr2/auto-orient/strip%7CimageView2/2/w/1240)]

2. 打開命令行

可以使用快捷鍵,ctrl+r,輸入cmd進入;或者點左下角,查找或者輸入一下運行
查找運行
ctrl+r 輸入cmd
進入控制檯 / 命令行

3.正片開始

# cd表示進入這個文件夾
cd E:\workspace\gdc
# windows就是囉嗦,如果不是c盤,還要額外輸入磁盤標識
cd E
# 接着執行下載指令
gdc-client.exe download -m gdc_manifest.txt

參考截圖
緩慢下載中。。 估計是因爲GDC是國外服務器,距離遠,下載速度會慢很多,耐心點,掛一夜估計就好了(10分鐘可能才下3mb左右)


我是分割線:2019年12月18日01:38:02


性能優化

研究了一下下載工具,詳細看了使用文檔,寫了配置文件做了改良。

1.痛點

發現下載也會斷,而且很卡,如果掛一夜,突然在還沒入夜就斷了那其實也達不到想要目的。。可靠性太低
吐槽:很多用戶、博主只是吐槽慢,老是斷,很多時候沒有往下想,開發者是不是早就想到這些問題,已經做好了預測,做了很多騷操作,滿足大家的需要,只不過很多人都不會深入理解。
所以利用官方文檔的幫助,利用他提供的配置文件的方式進行下載配置。

2.默認配置

(可以輸入命令gdc-client.exe settings download)

[download]
no_auto_retry = False
no_file_md5sum = False
save_interval = 1073741824
retry_amount = 1
n_processes = 4
no_annotations = False
no_related_files = False
http_chunk_size = 1048576
no_segment_md5sum = False
server = https://api.gdc.cancer.gov
wait_time = 5.0
no_verify = False
dir = .

如圖

3.改良後的配方

[download]
no_auto_retry = False
no_file_md5sum = False
save_interval = 1073741824
retry_amount = 6
n_processes = 4
no_annotations = False
no_related_files = False
http_chunk_size = 4096
no_segment_md5sum = False
server = https://api.gdc.cancer.gov
wait_time = 25.0
no_verify = True
dir = .    

其實很簡單,看了配置文件,用邏輯分析一下就知道怎麼配置了,主要可以配置的是http_chunk_size、wait_time、retry_amount、no_verify、n_processes
解釋一下(個人理解,可能有出入,專業的看官網):
1. http_chunk_size:這是每一次http請求的數據塊大小,如果越大,等待時間越長,可能就會超時,就pa斷了,所以爲了保證每一次請求數據塊都能順利到達本地,就調小一點(這一步相當關鍵了)
2. wait_time:http請求的等待時間,如果超過這個等待時間,也會pa斷了,所以這一步就可以調大一丟丟
3. retry_amount:重試次數,比如說超過等待時間,就會再重新嘗試訪問,嘗試訪問次數超過,pa斷了,所以這一步也可以調大一丟丟
4. no_verify:不做校驗,(不知道它底層用什麼做校驗的),爲了求速度,不做校驗(想保證數據完整性就不要改這個啦)
5. n_processes:配置和CPU大小一致就行了

4.啓動命令

制定dtt配置文件:將改良後的配方保存到txt與exe同級目錄,命名爲gdc-client.dtt
制定dtt配置文件
同級目錄

注意:這裏dtt作爲後綴沒什麼特殊的,官網只是建議,這裏也跟着這麼定義罷了。

在控制檯輸入

gdc-client.exe download --config gdc-client.dtt -m gdc_manifest.txt

經過上面的配方,就會發現這個工具還是挺好用滴~ 而且下載後的數據更快、更穩定~
卡頓?不存在的。

image.png

next:有了這些gdc原始數據,我們還需要進行加工,轉化爲能夠方便處理數據的格式,詳見使用R語言將gdc數據轉化爲基因表達矩陣

發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章