linux下載檔案命令wget

來源:互聯網
上載者:User

wget是linux最常用的下載命令, 一般的使用方法是: wget + 空格 + 要下載檔案的url路徑

  例如: # wget linuxsense.org/xxxx/xxx.tar.gz">http://www.linuxsense.org/xxxx/xxx.tar.gz

  簡單說一下-c參數, 這個也非常常見, 可以斷點續傳, 如果不小心終止了, 可以繼續使用命令接著下載

  例如: # wget -c http://www.linuxsense.org/xxxx/xxx.tar.gz

  下面詳細闡述wget的用法:

  wget是一個從網路上自動下載檔案的自由工具。它支援HTTP,HTTPS和FTP協議,可以使用HTTP代理.

  所謂的自動下載是指,wget可以在使用者退出系統的之後在後台執行。這意味這你可以登入系統,啟動一個wget下載任務,然後退出系統,wget將在後台執行直到任務完成,相對於其它大部分瀏覽器在下載大量資料時需要使用者一直的參與,這省去了極大的麻煩。

  wget可以跟蹤HTML頁面上的連結依次下載來建立遠程伺服器的本地版本,完全重建原始網站的目錄結構。這又常被稱作”遞迴下載”。在遞迴下載的時候,wget遵循Robot Exclusion標準(/robots.txt). wget可以在下載的同時,將連結轉換成指向本地檔案,以方便離線瀏覽。

  wget非常穩定,它在頻寬很窄的情況下和不穩定網路中有很強的適應性.如果是由於網路的原因下載失敗,wget會不斷的嘗試,直到整個檔案下載完畢。如果是伺服器打斷下載過程,它會再次聯到伺服器上從停止的地方繼續下載。這對從那些限定了連結時間的伺服器上下載大檔案非常有用。

  wget的常見用法

  wget的使用格式

  Usage: wget [OPTION]… [URL]…

  * 用wget做網站鏡像:

  wget -r -p -np -k http://dsec.pku.edu.cn/~usr_name/

  # 或者

  wget -m http://www.tldp.org/LDP/abs/html/

  * 在不穩定的網路上下載一個部分下載的檔案,以及在空閑時段下載

  wget -t 0 -w 31 -c http://dsec.pku.edu.cn/BBC.avi -o down.log &

  # 或者從filelist讀入要下載的檔案清單

  wget -t 0 -w 31 -c -B ftp://dsec.pku.edu.cn/linuxsoft -i filelist.txt -o down.log &

  上面的代碼還可以用來在網路比較閒置時段進行下載。我的用法是:在mozilla中將不方便當時下載的URL連結拷貝到記憶體中然後粘貼到檔案filelist.txt中,在晚上要出去系統前執行上面代碼的第二條。

  * 使用代理下載

  wget -Y on -p -k https://sourceforge.net/projects/wvware/

  代理可以在環境變數或wgetrc檔案中設定

  # 在環境變數中設定代理

  export PROXY=http://211.90.168.94:8080/

  # 在~/.wgetrc中設定代理

  http_proxy = http://proxy.yoyodyne.com:18023/

  ftp_proxy = http://proxy.yoyodyne.com:18023/

  wget各種選項分類列表

  * 啟動

  -V, –version           顯示wget的版本後退出

  -h, –help              列印文法協助

  -b, –background        啟動後轉入後台執行

  -e, –execute=COMMAND   執行`.wgetrc’格式的命令,wgetrc格式參見/etc/wgetrc或~/.wgetrc

  * 記錄和輸入檔案

  -o, –output-file=FILE     把記錄寫到FILE檔案中

  -a, –append-output=FILE   把記錄追加到FILE檔案中

  -d, –debug                列印調試輸出

  -q, –quiet                安靜模式(沒有輸出)

  -v, –verbose              冗長模式(這是預設設定)

  -nv, –non-verbose          關掉冗長模式,但不是安靜模式

  -i, –input-file=FILE      下載在FILE檔案中出現的URLs

  -F, –force-html           把輸入檔案當作HTML格式檔案對待

  -B, –base=URL             將URL作為在-F -i參數指定的檔案中出現的相對連結的首碼

  –sslcertfile=FILE     可選用戶端認證

  –sslcertkey=KEYFILE   可選用戶端認證的KEYFILE

  –egd-file=FILE        指定EGD socket的檔案名稱

* 下載

  –bind-address=ADDRESS   指定本地使用地址(主機名稱或IP,當本地有多個IP或名字時使用)

  -t, –tries=NUMBER           設定最大嘗試連結次數(0 表示無限制).

  -O   –output-document=FILE   把文檔寫到FILE檔案中

  -nc, –no-clobber             不要覆蓋存在的檔案或使用.#首碼

  -c, –continue               接著下載沒下載完的檔案

  –progress=TYPE          設定進程條標記

  -N, –timestamping           不要重新下載檔案除非比本地檔案新

  -S, –server-response        列印伺服器的回應

  –spider                 不下載任何東西

  -T, –timeout=SECONDS        設定響應逾時的秒數

  -w, –wait=SECONDS           兩次嘗試之間間隔SECONDS秒

  –waitretry=SECONDS      在重新連結之間等待1…SECONDS秒

  –random-wait            在下載之間等待0…2*WAIT秒

  -Y, –proxy=on/off           開啟或關閉代理

  -Q, –quota=NUMBER           設定下載的容量限制

  –limit-rate=RATE        限定下載輸率

  * 目錄

  -nd –no-directories            不建立目錄

  -x, –force-directories         強制建立目錄

  -nH, –no-host-directories       不建立主機目錄

  -P, –directory-prefix=PREFIX   將檔案儲存到目錄 PREFIX/…

  –cut-dirs=NUMBER           忽略 NUMBER層遠程目錄

  * HTTP 選項

  –http-user=USER      設定HTTP使用者名稱為 USER.

  –http-passwd=PASS    設定http密碼為 PASS.

  -C, –cache=on/off        允許/不允許伺服器端的資料緩衝 (一般情況下允許).

  -E, –html-extension      將所有text/html文檔以.html副檔名儲存

  –ignore-length       忽略 `Content-Length’頭域

  –header=STRING       在headers中插入字串 STRING

  –proxy-user=USER     設定代理的使用者名稱為 USER

  –proxy-passwd=PASS   設定代理的密碼為 PASS

  –referer=URL         在HTTP請求中包含 `Referer: URL’頭

  -s, –save-headers        儲存HTTP頭到檔案

  -U, –user-agent=AGENT    設定代理的名稱為 AGENT而不是 Wget/VERSION.

  –no-http-keep-alive 關閉 HTTP活動連結 (永遠連結).

  –cookies=off         不使用 cookies.

  –load-cookies=FILE   在開始會話前從檔案 FILE中載入cookie

  –save-cookies=FILE   在會話結束後將 cookies儲存到 FILE檔案中

  * FTP 選項

  -nr, –dont-remove-listing   不移走 `.listing’檔案

  -g, –glob=on/off           開啟或關閉檔案名稱的 globbing機制

  –passive-ftp           使用被動傳輸模式 (預設值).

  –active-ftp            使用主動傳輸模式

  –retr-symlinks         在遞迴的時候,將連結指向檔案(而不是目錄)

  * 遞迴下載

  -r, –recursive          遞迴下載--慎用!

  -l, –level=NUMBER       最大遞迴深度 (inf 或 0 代表無窮).

  –delete-after       在現在完畢後局部刪除檔案

  -k, –convert-links      轉換非相對連結為相對連結

  -K, –backup-converted   在轉換檔X之前,將之備份為 X.orig

  -m, –mirror             等價於 -r -N -l inf -nr.

  -p, –page-requisites    下載顯示HTML檔案的所有圖片

  * 遞迴下載中的包含和不包含(accept/reject)

  -A, –accept=LIST                分號分隔的被接受副檔名的列表

  -R, –reject=LIST                分號分隔的不被接受的副檔名的列表

  -D, –domains=LIST               分號分隔的被接受域的列表

  –exclude-domains=LIST       分號分隔的不被公認的網域的列表

  –follow-ftp                 跟蹤HTML文檔中的FTP連結

  –follow-tags=LIST           分號分隔的被跟蹤的HTML標籤的列表

  -G, –ignore-tags=LIST           分號分隔的被忽略的HTML標籤的列表

  -H, –span-hosts                 當遞迴時轉到外部主機

  -L, –relative                   僅僅跟蹤相對連結

  -I, –include-directories=LIST   允許目錄的列表

  -X, –exclude-directories=LIST   不被包含目錄的列表

  -np, –no-parent                  不要追溯到父目錄

  問題

  在遞迴下載的時候,遇到目錄中有中文的時候,wget建立的本地目錄名會用URL編碼規則處理。如”天網防火牆”會被存為”%CC%EC%CD%F8%B7%C0%BB%F0%C7%BD”,這造成閱讀上的極大不方便。

相關文章

聯繫我們

該頁面正文內容均來源於網絡整理,並不代表阿里雲官方的觀點,該頁面所提到的產品和服務也與阿里云無關,如果該頁面內容對您造成了困擾,歡迎寫郵件給我們,收到郵件我們將在5個工作日內處理。

如果您發現本社區中有涉嫌抄襲的內容,歡迎發送郵件至: info-contact@alibabacloud.com 進行舉報並提供相關證據,工作人員會在 5 個工作天內聯絡您,一經查實,本站將立刻刪除涉嫌侵權內容。

A Free Trial That Lets You Build Big!

Start building with 50+ products and up to 12 months usage for Elastic Compute Service

  • Sales Support

    1 on 1 presale consultation

  • After-Sales Support

    24/7 Technical Support 6 Free Tickets per Quarter Faster Response

  • Alibaba Cloud offers highly flexible support services tailored to meet your exact needs.