[VB.NET]用WebRequest,WebResponse,获取网页源代码,还可以更快吗?
来源:互联网 发布:linux 查看网络端口 编辑:程序博客网 时间:2024/06/05 19:41
<script type="text/javascript"><!--google_ad_client = "pub-8333940862668978";/* 728x90, 创建于 08-11-30 */google_ad_slot = "4485230109";google_ad_width = 728;google_ad_height = 90;//--></script><script type="text/javascript"src="http://pagead2.googlesyndication.com/pagead/show_ads.js"></script>
用WebRequest,WebResponse,获取网页源代码,还可以更快吗?
批量的网址,用的如下的代码获取网页源代码:
Dim tempStr As String
Dim request As WebRequest = WebRequest.Create( http://www.163.com )
Dim response As WebResponse = request.GetResponse()
Dim stream As Stream = response.GetResponseStream()
Dim sr As StreamReader = New StreamReader(stream, Encoding.GetEncoding( gb2312 ))
tempStr = sr.ReadToEnd
获取网页源代码的最大速度大概是每秒2.5个。。还能更快吗?
__________________________________________________________________________
想更快,增加线程.....
__________________________________________________________________________
呵呵 也许应该有更快的 但我不知道!!!
__________________________________________________________________________
现在试过了开多个窗口同时用这段代码,但是速度还是2.5个,把电脑拿到同学家去组了个局域网试了一下,两台机器分别开,结果每台机器的获取速度都降了一倍。
现在感觉好像是和网速有直接关系,按每个页面50K左右算,2.5个页面,就是125K左右。这在1M宽带下应该是极限了。。
线程没有具体用过,用的话,真的能更快吗??谁有一个准确可靠的答案,或是其它的方法告诉我呢?现在的获取速度实在是太慢了,三千个页面,大概要花近十几分钟。
__________________________________________________________________________
用异步的方法
__________________________________________________________________________
你想做搜索么?
__________________________________________________________________________
异步的方法,线程的方法,哪种可靠呢?有谁做过类似的功能,批量提取网页中数据,谁能告诉我让他更快不是个梦想?
__________________________________________________________________________
关注中,我也遇到同样问题
__________________________________________________________________________
up!!
__________________________________________________________________________
用WebRequest,WebResponse,获取网页源代码,还可以更快吗?
批量的网址,用的如下的代码获取网页源代码:
Dim tempStr As String
Dim request As WebRequest = WebRequest.Create( http://www.163.com )
Dim response As WebResponse = request.GetResponse()
Dim stream As Stream = response.GetResponseStream()
Dim sr As StreamReader = New StreamReader(stream, Encoding.GetEncoding( gb2312 ))
tempStr = sr.ReadToEnd
获取网页源代码的最大速度大概是每秒2.5个。。还能更快吗?
__________________________________________________________________________
想更快,增加线程.....
__________________________________________________________________________
呵呵 也许应该有更快的 但我不知道!!!
__________________________________________________________________________
现在试过了开多个窗口同时用这段代码,但是速度还是2.5个,把电脑拿到同学家去组了个局域网试了一下,两台机器分别开,结果每台机器的获取速度都降了一倍。
现在感觉好像是和网速有直接关系,按每个页面50K左右算,2.5个页面,就是125K左右。这在1M宽带下应该是极限了。。
线程没有具体用过,用的话,真的能更快吗??谁有一个准确可靠的答案,或是其它的方法告诉我呢?现在的获取速度实在是太慢了,三千个页面,大概要花近十几分钟。
__________________________________________________________________________
用异步的方法
__________________________________________________________________________
你想做搜索么?
__________________________________________________________________________
异步的方法,线程的方法,哪种可靠呢?有谁做过类似的功能,批量提取网页中数据,谁能告诉我让他更快不是个梦想?
__________________________________________________________________________
关注中,我也遇到同样问题
__________________________________________________________________________
up!!
__________________________________________________________________________
- [VB.NET]用WebRequest,WebResponse,获取网页源代码,还可以更快吗?
- .Net 下用 WebRequest、WebResponse组件 GET、POST 收发网页
- VB获取网页源代码
- WebRequest 创建 WebResponse 实例....取得别站网页内容。 (ZZ)
- c#利用WebClient和WebRequest获取网页源代码的比较
- c#利用WebClient和WebRequest获取网页源代码的比较
- c#利用WebClient和WebRequest获取网页源代码的比较
- c#利用WebClient和WebRequest获取网页源代码
- c#利用WebClient和WebRequest获取网页源代码的比较
- 彻底解决VB.NET获取网页源代码的问题
- webrequest and webresponse(转载)
- WebRequest WebResponse WebClient 实例
- .NET获取网页源代码
- WebResponse获取网页跳转后的地址
- 用asp.net c# 获取网页源代码
- 用asp.net c# 获取网页源代码
- WebRequest类和WebResponse类
- WebRequest 类和 WebResponse 类
- [VB.NET]TabControl与DataGridView能并用吗 求助
- [VB.NET]送分问题!!!我在窗体上利用鼠标动态的画矩形,就像QQ截图的矩形选框那样.可是怎么清除之前画的矩形留下的痕迹?
- 微软虚拟机Server 2008 Hyper-V
- ARM920T协处理器(CP15)指令表
- [VB.NET]菜鸟求助:运行代码错误?
- [VB.NET]用WebRequest,WebResponse,获取网页源代码,还可以更快吗?
- [VB.NET]如何解决类似VFP宏替换的问题?
- java Date总结
- [VB.NET]请问,如何暂停socket的异步接收?
- shell linux if
- ORACLE8的分区管理(zt)
- [VB.NET]帮助文件为何总在最上显示!
- [VB.NET]oracle中date字段如何查询
- [VB.NET]如何把.TXT的文件内容传到DATAGRID里面