curl初探

2017-09-15
摘录自curl百度百科

curl是利用URL语法在命令行方式下工作的开源文件传输工具。它被广泛应用于Unix、多种Linux发行版中,并且有DOS和Win32、Win64下的移植版本。

设计方法

获得页面

使用命令: curl http://curl.haxx.se
该命令可以获得 http://curl.haxx.se 指向的页面。如果这里的URL指向的是一个文件或者一幅图片,都可以被直接下载到本地。如果下载的是HTML文档,那么缺省的将不显示文件头部,即HTML文档的header。如果要全部显示,请加参数 -i 。任何时候,可以使用-v命令查看curl是怎样工作的,它向服务器发送的所有命令都会显示出来。为了断点续传,可以使用 -r 参数来指定传输范围。

获取表单

在Web页面设计中,form是很重要的元素。Form通常被用来收集并向网站提交信息。提交信息的方法有两种,GET方法和POST方法。
先讨论GET方法,例如在页面中有这样一个表单:

<form method="GET" action="junk.cgi">
    <input type=text name="birthyear">
    <input type=submit name = press value="OK">
</form>

那么浏览器将会显示一个文本框和一个标为“OK”的按钮。按下这个按钮,表单就会用GET方法向服务器提交文本框的数据。
例如原始页面是在www.hotmail.com/when/birth.html看到的,如果在文本框输入1995,然后按OK按钮,浏览器的URL现在应该是:www.hotmail.com/when/junk.cgi?birthyear=1995&press=OK
对于这种网页,curl可以直接处理,例如想获取上面的网页,只要输入:
curl "www.hotmail.com/when/junk.cgi?birthyear=1905&press=OK"

表单用来提交信息的第二种方法叫做POST方法
POST方法和GET方法的区别在于GET方法在使用的时候,浏览器中会产生目标URL,而POST不会。

<form method="POST" action="junk.cgi">
    <input type=text name="birthyear">
    <input type=submit name = press value="OK">
</form>

点击按钮,表单就会用POST方法向服务器提交数据。但此时的URL是看不到的,因此需要使用特殊的方法抓取页面:
curl -d "birthyear=1995&press=OK" www.hotmail.com/when/junk.cgi

1995年末,RFC 1867定义了一种新的POST方法用于上传文件。
主要用于把本地文件上传到服务器。此时页面是这样的:

<form method="POST" enctype='multipart/form-data' action="upload.cgi">
    <input type=text name="birthyear">
    <input type=submit name = press value="OK">
</form>

对于这种页面,curl的用法如下:
curl -F upload=@localfilename -F press=OK URL

使用PUT

HTTP协议文件上传的标准方法是使用PUT,此时curl命令使用-T参数:
curl -T uploadfile www.uploadhttp.com/receive.cgi

有关认证

curl可以处理各种情况的认证页面,例如下载用户名/密码认证方式的页面(在IE中通常是出现一个输入用户名和密码的输入框):
curl -u name:password www.secret.com
如果网络是通过http代理服务器出去的,而代理服务器需要用户名和密码,那么输入:
curl - U proxyuser:proxypassword http://curl.haxx.se
任何需要输入用户名和密码的时候,在参数中指定用户名而空着密码,curl可以交互地让用户输入密码。

引用

有些网络资源访问的时候必须经过另外一个网络地址跳转过去,这用术语来说就是:referer,引用。
对于这种地址的资源,curl也可以进行下载:
curl -e http://curl.haxx.se daniel.haxx.se

指定客户端

有些网络资源首先判断用户使用的是什么浏览器,符合标准才能够下载或者浏览。此时curl可以把自己“伪装”成任何其他浏览器:
curl -A "Mozilla/4.0 (compatible; MSIE 5.01; Windows NT 5.0) URL
这个指令表示curl伪装成IE5.0,用户平台是Windows 2000。(对方服务器是根据这个字符串来判断客户端的类型)

COOKIES

Cookie是服务器经常使用的一种记忆客户端信息的方法。如果cookie被记录在了文件中,那么使用命令:
curl -b stored_cookies_in_file www.cookiesite.com
curl可以根据旧的cookie写出新的cookie并发送给网站:
curl -b cookies.txt -c newcookiesite.com

注意事项

curl非常博大,用户想要使用好这个工具,出了详细学习参数外,还需要深刻理解http的各种协议与URL的各个语法。

Linux curl命令

省略

PHP curl函数

PHP支持的有Daniel Stenberg创建的libcurl库允许你与各种的服务器使用各种类型的协议进行连接和通讯。
libcurl支持http、https、ftp、gopher、telnet、dict、file和ldap协议。libcurl同时也支持HTTPS认证、HTTP POST、HTTP PUT、 FTP上传(这个也能通过PHP的FTP扩展完成)、HTTP基于表单的上传、代理、cookies和用户名+密码的认证。
PHP中使用cURL实现GET和POST请求的方法。
这些函数在PHP4.0.2中被引入。
以下包含了PHP cURL函数列表:

函数 说明
curl_close() 关闭一个cURL会话
curl_copy_handle() 复制一个cURL句柄和它的所有选项
curl_errno() 返回最后一次的错误号
curl_error() 返回一个保护当前会话最后一次错误的字符串
curl_eacape() 返回转义字符串,给指定的字符串进行URL编码
curl_exec() 执行一个cURL会话
curl_file_create() 创建一个cURLFile对象
curl_getinfo() 获取一个cURL连接资源句柄的信息
curl_init() 初始化一个cURL会话
curl_multi_add_handle() 向curl批处理会话中添加单独的curl句柄
curl_multi_close() 关闭一组cURL句柄
curl_multi_exec() 运行当前cURL句柄的子连接
curl_multi_getcontent() 如果设置了CURLOPT_RETURNTANSFER则返回获取的输出的文本流
curl_multi_info_read() 获取当前解析的cURL的相关传输信息
curl_multi_init() 返回一个新cURL批处理句柄
curl_multi_remove_handle() 移除curl批处理句柄资源中的某个句柄资源
curl_multi_select() 等待所有cURL批处理中的活动连接
curl_multi_setopt() 设置一个批处理cURL传输选项
curl_multi_strerror() 返回描述错误码的字符串文本
curl_pause() 暂停及恢复连接
curl_reset() 重置libcurl的会话句柄的所有选项
curl_setopt_array() 为cURL传输会话批量设置选项
curl_setopt() 设置一个cURL传输选项
curl_share_close() 关闭cURL共享句柄
curl_share_init() 初始化cURL共享句柄
curl_share_setopt() 设置一个共享句柄的cURL传输选项
curl_strerror() 返回错误代码的字符串描述
curl_unescape() 解码URL编码后的字符串
curl_version() 获取cURL版本信息
最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 205,132评论 6 478
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 87,802评论 2 381
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 151,566评论 0 338
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 54,858评论 1 277
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 63,867评论 5 368
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 48,695评论 1 282
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 38,064评论 3 399
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 36,705评论 0 258
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 42,915评论 1 300
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 35,677评论 2 323
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 37,796评论 1 333
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 33,432评论 4 322
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 39,041评论 3 307
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 29,992评论 0 19
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 31,223评论 1 260
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 45,185评论 2 352
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 42,535评论 2 343

推荐阅读更多精彩内容

  • Spring Cloud为开发人员提供了快速构建分布式系统中一些常见模式的工具(例如配置管理,服务发现,断路器,智...
    卡卡罗2017阅读 134,598评论 18 139
  • 转载自:http://www.cnblogs.com/txw1958/archive/2013/01/19/286...
    php_bruce阅读 2,259评论 1 5
  • cURL是一个利用URL语法规定来传输文件和数据的工具,支持很多协议和选项,如HTTP、FTP、TELNET等,能...
    司马东阳阅读 1,430评论 0 6
  • 原文地址:PHPcURL库函数抓取页面内容(转)作者:巴克 cURL是一个利用URL语法规定来传输文件和数据的工具...
    司马东阳阅读 1,172评论 0 3
  • 我在高中的时候住过学校的宿舍,但仅仅只是中午那短短几个小时,所以我融入不进她们的小世界,而大学,我终于可以好好感受...
    随小忆阅读 373评论 0 0