wget

 

wget的几种典型用法(介绍典型的)

Wget可以下载http和ftp网站文件，小命令但功能强，它的参数很多，但常用的不多。

一. 最简单的用法
wget http://download.xxx.com/soft/software.tar.gz

二. 下载整个网站

wget --mirror [--convert-links] http://www.xxxx.org/
或短写参数：
wget -m [-k] http://www.xxxx.org

-m / --mirror：镜像整个网站，它与“-r -l inf -N”这三个参数一起用效果相同
-r / --recursive：以递归方式抓取
-l depth / --level=depth：递归的深度，缺省最大值为5，0或inf表示无限多
-N / --timestamping：时间戳，不知道有什么用
-k / --convert-links：在全部下载完成之后，修改已下载页面中的链接，如果链接所指向的文件也下在本地了，就指向这个文件，否则，就指向http上原来的文件

三. 下载特定类型的文件

下载图片：
wget -m -p -np -nd --accept=jpg,jpeg,png http://www.xxx.com/top/page.html

-np / --no-parent：不下载指向上层的链接
--reject=avi,rmvb：不下载'.avi'，'.rmvb'类型的文件
--accept=jpg,jpeg：只下载'.jpg'，'.jpeg'类型的文件

四. 下载MP3

无人看守下载：
把文件的URL，如在百度搜的mp3的URL，存成一个文件，如songs，执行：
wget --input-file=songs --continue --timeout=20 --tries=5
即逐个下载songs中的URL，断点续传，对每个文件20秒超时重试5次

即时并行下载MP3 (后台执行)：
写一脚本实现更好的功能：
echo 'Usage:'
echo '    Enter "URL filename" for each file to download.'
echo '    Enter "bye" to exit.'
while read -p '> ' url name; [ "$url" != "bye" ]
do
    if [ "$name" != "" ]
        then OUT="-O $name.${url##*.}"
        else OUT=""
    fi
    if [ "${url##*.}" == "$url" ]
        then echo "\"$url\" is an unexpected URL."
        else wget --continue --timeout=20 --tries=5 --background --output-file=/dev/null $url $OUT
    fi
done
echo ' enjoy!'
存为文件“downsong”，并赋之予可执行权限。
用法：
./downsong
> http://music.xxx.com/zyfx.mp3 自由飞翔
> http://music.xxx.com/qtbhl.wma 秋天不回来
> http://music.xxx.com/zgh.mp3
......
输完敲“bye”退出，wget会在后台同时下载各个文件，这种方法比较快，用“ps aux | grep wget”查看进程。

五. 其它有用的参数说明

--tries=number / -t number：指定连接失败时重试次数，0或inf表示无限重试，缺省值为20。但如果遇到“连接被拒绝”或“文件没找到(404)”之类的错误，则不重试

--timeout=seconds / -T seconds：指定seconds秒连接超时

--input-file=file / -i file：读取file中的URL下载，如果用‘-’代替file，则从标准输入读取URL

--output-document=file / -O file：指定输出文件名为file

--no-clobber / -nc：通常在遇到下下来的文件重名，wget将为后下的文件加上‘.1’，‘.2’等加以区分。如果用了这个参数，则一旦后下的文件将与先下的同名，将不再下载后下的文件而保留先下的不变

--no-directories / -nd：保存文件时，即使原来不在一起的文件，也不创建文件夹，所有文件全放在当前目录下

--page-requisites / -p：下载html文件时，把与它有关的图片，声音，脚本等相关文件一同下下来

--continue / -c：启用断点续传

--background / -b：在后台下载，不占用命令行。此时若没用‘-o’指定把输出信息送到哪个文件，会自动把输出信息送入当前目录下的wget-log中

--output-file=logfile / -o logfile：指定输出信息送入logfile

--quiet / -q：关闭输出信息

# 参考资料：wget manpage.

长选项必须用的参数在使用短选项时也是必须的。

启动：
-V, --version 显示 Wget 的版本并且退出。
-h, --help 打印此帮助。
-b, -background 启动后进入后台操作。
-e, -execute=COMMAND 运行‘.wgetrc’形式的命令。

日志记录及输入文件：
-o, --output-file=文件 将日志消息写入到指定文件中。
-a, --append-output=文件 将日志消息追加到指定文件的末端。
-d, --debug 打印调试输出。
-q, --quiet 安静模式(不输出信息)。
-v, --verbose 详细输出模式(默认)。
-nv, --non-verbose 关闭详细输出模式，但不进入安静模式。
-i, --input-file=文件 下载从指定文件中找到的 URL。
-F, --force-html 以 HTML 方式处理输入文件。
-B, --base=URL 使用 -F -i 文件选项时，在相对链接前添加指定的 URL 。

下载：
-t, --tries=次数 配置重试次数（0 表示无限）。
--retry-connrefused 即使拒绝连接也重试。
-O --output-document=文件 将数据写入此文件中。
-nc, --no-clobber 不更改已经存在的文件，也不使用在文件名后
添加 .#（# 为数字）的方法写入新的文件。
-c, --continue 继续接收已下载了一部分的文件。
--progress=方式 选择下载进度的表示方式。
-N, --timestamping 除非远程文件较新，否则不再取回。
-S, --server-response 显示服务器回应消息。
--spider 不下载任何数据。
-T, --timeout=秒数 配置读取数据的超时时间 (秒数)。
-w, --wait=秒数 接收不同文件之间等待的秒数。
--waitretry=秒数 在每次重试之间稍等一段时间 (由 1 秒至指定的 秒数 不等)。
--random-wait 接收不同文件之间稍等一段时间(由 0 秒至 2*WAIT 秒不等)。
-Y, --proxy=on/off 打开或关闭代理服务器。
-Q, --quota=大小 配置接收数据的限额大小。
--bind-address=地址 使用本机的指定地址 (主机名称或 IP) 进行连接。
--limit-rate=速率 限制下载的速率。
--dns-cache=off 禁止查找存于高速缓存中的 DNS。
--restrict-file-names=OS 限制文件名中的字符为指定的 OS (操作系统) 所允许 的字符。

目录：
-nd --no-directories 不创建目录。
-x, --force-directories 强制创建目录。
-nH, --no-host-directories 不创建含有远程主机名称的目录。
-P, --directory-prefix=名称 保存文件前先创建指定名称的目录。
--cut-dirs=数目 忽略远程目录中指定数目的目录层。

HTTP 选项：
--http-user=用户 配置 http 用户名。
--http-passwd=密码 配置 http 用户密码。
-C, --cache=on/off (不)使用服务器中的高速缓存中的数据 (默认是使用的)。
-E, --html-extension 将所有 MIME 类型为 text/html 的文件都加上 .html 扩 展文件名。
--ignore-length 忽略“Content-Length”文件头字段。
--header=字符串 在文件头中添加指定字符串。
--proxy-user=用户 配置代理服务器用户名。
--proxy-passwd=密码 配置代理服务器用户密码。
--referer=URL 在 HTTP 请求中包含“Referer：URL”头。
-s, --save-headers 将 HTTP 头存入文件。
-U, --user-agent=AGENT 标志为 AGENT 而不是 Wget/VERSION。
--no-http-keep-alive 禁用 HTTP keep-alive（持久性连接）。
--cookies=off 禁用 cookie。
--load-cookies=文件 会话开始前由指定文件载入 cookie。
--save-cookies=文件 会话结束后将 cookie 保存至指定文件。
--post-data=字符串 使用 POST 方法，发送指定字符串。
--post-file=文件 使用 POST 方法，发送指定文件中的内容。

HTTPS (SSL) 选项：
--sslcertfile=文件 可选的客户段端证书。
--sslcertkey=密钥文件 对此证书可选的“密钥文件”。
--egd-file=文件 EGD socket 文件名。
--sslcadir=目录 CA 散列表所在的目录。
--sslcafile=文件 包含 CA 的文件。
--sslcerttype=0/1 Client-Cert 类型 0=PEM (默认) / 1=ASN1 (DER)
--sslcheckcert=0/1 根据提供的 CA 检查服务器的证书
--sslprotocol=0-3 选择 SSL 协议；0=自动选择，
1=SSLv2 2=SSLv3 3=TLSv1

FTP 选项：
-nr, --dont-remove-listing 不删除“.listing”文件。
-g, --glob=on/off 设置是否展开有通配符的文件名。
--passive-ftp 使用“被动”传输模式。
--retr-symlinks 在递归模式中，下载链接所指示的文件(连至目录
则例外）。
递归下载：
-r, --recursive 递归下载。
-l, --level=数字 最大递归深度(inf 或 0 表示无限)。
--delete-after 删除下载后的文件。
-k, --convert-links 将绝对链接转换为相对链接。
-K, --backup-converted 转换文件 X 前先将其备份为 X.orig。
-m, --mirror 等效于 -r -N -l inf -nr 的选项。
-p, --page-requisites 下载所有显示完整网页所需的文件，例如图像。
--strict-comments 打开对 HTML 备注的严格(SGML)处理选项。

递归下载时有关接受/拒绝的选项：
-A, --accept=列表 接受的文件样式列表，以逗号分隔。
-R, --reject=列表 排除的文件样式列表，以逗号分隔。
-D, --domains=列表 接受的域列表，以逗号分隔。
--exclude-domains=列表 排除的域列表，以逗号分隔。
--follow-ftp 跟随 HTML 文件中的 FTP 链接。
--follow-tags=列表 要跟随的 HTML 标记，以逗号分隔。
-G, --ignore-tags=列表 要忽略的 HTML 标记，以逗号分隔。
-H, --span-hosts 递归时可进入其它主机。
-L, --relative 只跟随相对链接。
-I, --include-directories=列表 要下载的目录列表。
-X, --exclude-directories=列表 要排除的目录列表。
-np, --no-parent 不搜索上层目录。

请将错误报告或建议寄给 <[e-mail]>。