CURL命令
生成一个ca证书
openssl pkcs12 -in test.p12 -out test.crt
使用证书访问
curl --cert test.p12:****** --cert-type P12 --cacert test.crt
--header content-type:'Mozilla/5.0 (compatible; MSIE 9.0; Windows NT
6.1; WOW64; Trident/5.0)' https://url
linux curl是一个利用URL规则在命令行下工作的文件传输工具。它支持文件的上传和下载,所以是综合传输工具,但按传统,习惯称url为下载工具。
一,curl命令参数。
-a/--append 上传文件时,附加到目标文件
-A/--user-agent<string>设置用户代理发送给服务器
-anyauth可以使用“任何”身份验证方法
-b/--cookie<name=string/file>cookie字符串或文件读取位置
-basic使用HTTP基本验证
-B/--use-ascii使用ASCII/文本传输
-c/--cookie-jar<file>操作结束后把cookie写入到这个文件中
-C/--continue-at<offset>断点续转
-d/--data<data>HTTPPOST方式传送数据
--data-ascii<data>以ascii的方式post数据
--data-binary<data>以二进制的方式post数据
--negotiate使用HTTP身份验证
--digest使用数字身份验证
--disable-eprt禁止使用EPRT或LPRT
--disable-epsv禁止使用EPSV
-D/--dump-header<file>把header信息写入到该文件中
--egd-file<file>为随机数据(SSL)设置EGDsocket路径
--tcp-nodelay使用TCP_NODELAY选项
-e/--referer来源网址
-E/--cert<cert[:passwd]>客户端证书文件和密码(SSL)
--cert-type<type>证书文件类型(DER/PEM/ENG)(SSL)
--key<key>私钥文件名(SSL)
--key-type<type>私钥文件类型(DER/PEM/ENG)(SSL)
--pass<pass>私钥密码(SSL)
--engine<eng>加密引擎使用(SSL)."--enginelist"forlist
--cacert<file>CA证书(SSL)
--capath<directory>CA目录(madeusingc_rehash)toverifypeeragainst(SSL)
--ciphers<list>SSL密码
--compressed要求返回是压缩的形势(usingdeflateorgzip)
--connect-timeout<seconds>设置最大请求时间
--create-dirs建立本地目录的目录层次结构
--crlf上传是把LF转变成CRLF
-f/--fail连接失败时不显示http错误
--ftp-create-dirs如果远程目录不存在,创建远程目录
--ftp-method[multicwd/nocwd/singlecwd]控制CWD的使用
--ftp-pasv使用PASV/EPSV代替端口
--ftp-skip-pasv-ip使用PASV的时候,忽略该IP地址
--ftp-ssl尝试用SSL/TLS来进行ftp数据传输
--ftp-ssl-reqd要求用SSL/TLS来进行ftp数据传输
-F/--form<name=content>模拟http表单提交数据
-form-string<name=string>模拟http表单提交数据
-g/--globoff禁用网址序列和范围使用{}和[]
-G/--get以get的方式来发送数据
-h/--help帮助
-H/--header<line>自定义头信息传递给服务器
--ignore-content-length忽略的HTTP头信息的长度
-i/--include输出时包括protocol头信息
-I/--head只显示文档信息
从文件中读取-j/--junk-session-cookies忽略会话Cookie
-界面<interface>指定网络接口/地址使用
-krb4<级别>启用与指定的安全级别krb4
-j/--junk-session-cookies读取文件进忽略sessioncookie
--interface<interface>使用指定网络接口/地址
--krb4<level>使用指定安全级别的krb4
-k/--insecure允许不使用证书到SSL站点
-K/--config指定的配置文件读取
-l/--list-only列出ftp目录下的文件名称
--limit-rate<rate>设置传输速度
--local-port<NUM>强制使用本地端口号
-m/--max-time<seconds>设置最大传输时间
--max-redirs<num>设置最大读取的目录数
--max-filesize<bytes>设置最大下载的文件总量
-M/--manual显示全手动
-n/--netrc从netrc文件中读取用户名和密码
--netrc-optional使用.netrc或者URL来覆盖-n
--ntlm使用HTTPNTLM身份验证
-N/--no-buffer禁用缓冲输出
-o/--output把输出写到该文件中
-O/--remote-name把输出写到该文件中,保留远程文件的文件名
-p/--proxytunnel使用HTTP代理
--proxy-anyauth选择任一代理身份验证方法
--proxy-basic在代理上使用基本身份验证
--proxy-digest在代理上使用数字身份验证
--proxy-ntlm在代理上使用ntlm身份验证
-P/--ftp-port<address>使用端口地址,而不是使用PASV
-Q/--quote<cmd>文件传输前,发送命令到服务器
-r/--range<range>检索来自HTTP/1.1或FTP服务器字节范围
--range-file读取(SSL)的随机文件
-R/--remote-time在本地生成文件时,保留远程文件时间
--retry<num>传输出现问题时,重试的次数
--retry-delay<seconds>传输出现问题时,设置重试间隔时间
--retry-max-time<seconds>传输出现问题时,设置最大重试时间
-s/--silent静音模式。不输出任何东西
-S/--show-error显示错误
--socks4<host[:port]>用socks4代理给定主机和端口
--socks5<host[:port]>用socks5代理给定主机和端口
--stderr<file>
-t/--telnet-option<OPT=val>Telnet选项设置
--trace<file>对指定文件进行debug
--trace-ascii<file>Like--跟踪但没有hex输出
--trace-time跟踪/详细输出时,添加时间戳
-T/--upload-file<file>上传文件
--url<URL>SpetURLtoworkwith
-u/--user<user[:password]>设置服务器的用户和密码
-U/--proxy-user<user[:password]>设置代理用户名和密码
-v/--verbose
-V/--version显示版本信息
-w/--write-out[format]什么输出完成后
-x/--proxy<host[:port]>在给定的端口上使用HTTP代理
-X/--request<command>指定什么命令
-y/--speed-time放弃限速所要的时间。默认为30
-Y/--speed-limit停止传输速度的限制,速度时间'秒
-z/--time-cond传送时间设置
-0/--http1.0使用HTTP1.0
-1/--tlsv1使用TLSv1(SSL)
-2/--sslv2使用SSLv2的(SSL)
-3/--sslv3使用的SSLv3(SSL)
--3p-quotelike-QforthesourceURLfor3rdpartytransfer
--3p-url使用url,进行第三方传送
--3p-user使用用户名和密码,进行第三方传送
-4/--ipv4使用IP4
-6/--ipv6使用IP6
-#/--progress-bar 用进度条显示当前的传送状态
二,常用curl实例1,抓取页面内容到一个文件中
curl -o home.html http://www.mmcat.cn
2,用-O(大写的),后面的url要具体到某个文件,不然抓不下来。我们还可以用正则来抓取东西
curl -O http://www.mmcat.cn/wp-content/uploads/2010/09/compare_varnish.jpg
curl -O http://www.mmcat.cn/wp-content/uploads/2010/[0-9][0-9]/aaaaa.jpg
3,模拟表单信息,模拟登录,保存cookie信息
curl -c ./cookie_c.txt -F log=aaaa -F pwd=****** http://www.mmcat.cn/wp-login.php
4,模拟表单信息,模拟登录,保存头信息
curl -D ./cookie_D.txt -F log=aaaa -F pwd=****** http://www.mmcat.cn/wp-login.php
-c(小写)产生的cookie和-D里面的cookie是不一样的。
5,使用cookie文件curl -b ./cookie_c.txt http://www.mmcat.cn/wp-admin
6,断点续传,-C(大写的)
curl -C -O http://www.mmcat.cn/wp-content/uploads/2010/09/compare_varnish.jpg
7,传送数据,最好用登录页面测试,因为你传值过去后,curl回抓数据,你可以看到你传值有没有成功
curl -d log=aaaa http://www.mmcat.cn/wp-login.php
8,显示抓取错误,下面这个例子,很清楚的表明了。
curl -f http://www.mmcat.cn/asdf
curl:(22)TherequestedURLreturnederror:404
curl http://www.mmcat.cn/asdf
<HTML><HEAD><TITLE>404,not found</TITLE>。。。。。。。。。。。。
9,伪造来源地址,有的网站会判断,请求来源地址。curl -e http://localhost http://www.mmcat.cn/wp-login.php
10,当我们经常用curl去搞人家东西的时候,人家会把你的IP给屏蔽掉的,这个时候,我们可以用代理
curl -x 24.10.28.84:32779 -o home.html http://www.mmcat.cn
11,比较大的东西,我们可以分段下载
curl-r0-100-oimg.part1http://www.mmcat.cn/wp-content/uploads/2010/09/compare_varnish.jpg
%Total%Received%XferdAverageSpeedTimeTimeTimeCurrent
DloadUploadTotalSpentLeftSpeed
100101100101001050--:--:----:--:----:--:--0
curl-r100-200-oimg.part2http://www.mmcat.cn/wp-content/uploads/2010/09/compare_varnish.jpg
%Total%Received%XferdAverageSpeedTimeTimeTimeCurrent
DloadUploadTotalSpentLeftSpeed
100101100101005700:00:010:00:01--:--:--0
curl-r200--oimg.part3http://www.mmcat.cn/wp-content/uploads/2010/09/compare_varnish.jpg
%Total%Received%XferdAverageSpeedTimeTimeTimeCurrent
DloadUploadTotalSpentLeftSpeed
100104k100104k005279300:00:020:00:02--:--:--88961
ls|greppart|xargsdu-sh
4.0Kone.part1
112Kthree.part3
4.0Ktwo.part2
用的时候,把他们cat一下就OK了,cat img.part* >img.jpgcurl -s -o aaa.jpg http://www.mmcat.cn/wp-content/uploads/2010/09/compare_varnish.jpg
13,显示下载进度条
curl -# -O http://www.mmcat.cn/wp-content/uploads/2010/09/compare_varnish.jpg
########################################################################100.0%
14,通过ftp下载文件curl -u 用户名:密码 -O http://www.mmcat.cn/demo/curtain/bbstudy_files/style.css
%Total%Received%XferdAverageSpeedTimeTimeTimeCurrent
DloadUploadTotalSpentLeftSpeed
101 1934 101 1934 0 0 3184 0 --:--:-- --:--:-- --:--:-- 7136
或者用下面的方式
curl-Oftp://用户名:密码@ip:port/demo/curtain/bbstudy_files/style.css
15,通过ftp上传
curl-Oftp://用户名:密码@ip:port/demo/curtain/bbstudy_files/style.css
12,不会显示下载进度信息
curl-Ttest.sqlftp://用户名:密码@ip:port/demo/curtain/bbstudy_files