get_file_content 和curl的比较,谁更好?
来源:互联网 发布:算法竞赛网站 编辑:程序博客网 时间:2024/05/17 01:25
最近在写公司的抓取百度快照的时候,用到了这两个函数 。
一开始用的是网上搜的获取快照的代码,看了下思路就写了get_file_content。
把逻辑写完,开始用php artisan console 开始跑,跑到几十条数据,就开始停住,不过还好时不时的还会动一下,深感欣慰,虽然数据库里面几万条数据,算了下8个小时就能跑完了,就把命令放旁边跑了,继续干别的事情。
结果跑到3820条时候,报了个错误。
file_get_contents(XXXXXXXXXXXXXXXXX) :fail to open stream:HTTP request failed!
google了一下,在StackOverflow上看到别人说用curl。抱着试试看的心态换了curl 。
然后又跑了一下。
三个字。
起飞了。
后来统计了一下:
file_get_content
17:06 0-3820 15:48 78分钟 0.02/min 1.13秒每条
curl
17:20之后 改用curl 3820开始 17:37 7611 《7935》《8225》1min 300 0.2S每条 17:53 10000 6180 33 0.3S
这差距,惊呆了好吗。
搜了下原理:
主要是curl 会做dns缓存 其他的不重要 也记不住
1 0
- get_file_content 和curl的比较,谁更好?
- curl 和 Wget 的比较
- Xen 和 KVM的比较,那个更好呢?
- Xen 和 KVM的比较,那个更好呢?
- file_get_contents与curl的比较
- curl与file_get_contents的比较
- file_get_contents与curl的比较
- c3p0、dbcp和proxool比较 据说TOMCAT 7之后的 JDBC 性能更好
- 的风格和的风格规划就更好就更好
- HtmlParser和NekoHtml谁更好?
- Java SE 6 — 更好的 JPA、更好的 JAXB 和更好的批注处理
- 帮助页面示例(比较丑,有更好的再更新)
- CURL的学习和应用
- CURL的学习和应用
- jsoncpp和curl的使用
- linux的curl和wget
- curl和php Curl
- CURL异步调用和遇到的CURL内部问题
- ubuntu14.04通过dante搭建匿名socks5代理
- UICollectionview cell 行间距、列间距
- 【Android】Adroid开发之判断一个自己的apk是否已经签名
- Kali Linux 网络扫描秘籍 第二章 探索扫描(二)
- 3D数学基础
- get_file_content 和curl的比较,谁更好?
- Unity5.x制作合金弹头(三)-敌人AI逻辑
- 用ToggleButton开、关(即选中、未选中)的两种状态,来实现密码明文或密文显示
- 前端开发工具---FIS使用总结
- 基于开源项目OpenCV的人脸识别Demo版整理(不仅可以识别人脸,还可以识别眼睛鼻子嘴等)【模式识别中的翘楚】
- 由STL map调用clear后,内存不返还给操作系统的问题出发,探讨glibc malloc/free行为
- selinux学习
- Spring AOP 通过XML方式配置各种通知
- show processlist 输出ID 和 information_schema.PROCESSLIST 的id,information_schema.innodb_trx的TRX_MYSQL_T