VB快速查找大型文件中包含的字符串

来源:互联网 发布:java 最大公约数 编辑:程序博客网 时间:2024/05/20 19:48


关于查找大型文件中包含的字符串,一般都把文件内容读入到内存,然后在内存里进行比较,却不知这种办法有一个致命的弱点,那就是由于大量的内存申请和释放导致的内存颠簸,会使系统性能下降,严重影响了查找的速度。特别是在递归中对多个文件进行查找时,这个问题会更加突出,有时甚至会导致VB程序挂掉。为避免这种情况,同时加快大型文件中字符串的查找速度,俺基于内存影射文件和VB模拟指针技术,编写了一个通用字符串查找函数。

    首先,先看一个普通的查找函数:

[vb] view plain copy
  1. '使用普通方式查找文件中包含的字符串(返回字符位置)  
  2. Private Function FindText(ByVal strFileName As StringByVal strText As StringAs Long  
  3.     Dim fn As Integer  
  4.     Dim strFileText As String  
  5.       
  6.     Dim MyString, MyNumber  
  7.     Dim S As String  
  8.       
  9.     fn = FreeFile()  
  10.     Open strFileName For Binary As #fn   ' 打开输入文件。  
  11.     strFileText = Input(LOF(fn), fn)  
  12.     Close #fn  
  13.     FindText = InStr(strFileText, strText)  
  14. End Function  

    用一个400K的文本进行测试,测试次数为20次,测试代码如下:

[vb] view plain copy
  1. Sub Main()  
  2.     Dim lStartTime As Long  
  3.   
  4.     '比较两个方式的运行速度  
  5.     lStartTime = GetTickCount  
  6.     Call FindText("G:/Inst/小说/沧海凤歌.txt""打打秋风"'此返回值为字符位置  
  7.     Debug.Print GetTickCount - lStartTime  
  8. End Sub  

    根据测试结果,最大耗时为2050ms,最小耗时为890ms,平均在950ms左右。

 

    然后,我看再看一下基于内存影射和模拟指针的查找函数,代码如下:

[vb] view plain copy
  1. Option Explicit  
  2.   
  3. Private Declare Sub CopyMemory Lib "kernel32" Alias "RtlMoveMemory" (Destination As Any, Source As Any, ByVal Length As Long)  
  4. Private Declare Function CreateFile Lib "kernel32" Alias "CreateFileA" (ByVal lpFileName As StringByVal dwDesiredAccess As LongByVal dwShareMode As LongByVal lpSecurityAttributes As LongByVal dwCreationDisposition As LongByVal dwFlagsAndAttributes As LongByVal hTemplateFile As LongAs Long  
  5. Private Declare Function CloseHandle Lib "kernel32" (ByVal hObject As LongAs Long  
  6. Private Declare Function GetFileSize Lib "kernel32" (ByVal hFile As Long, lpFileSizeHigh As LongAs Long  
  7. Private Const GENERIC_READ = &H80000000  
  8. Private Const GENERIC_WRITE = &H40000000  
  9. Private Const OPEN_EXISTING = 3  
  10. Private Const FILE_SHARE_READ = &H1  
  11. Private Const FILE_SHARE_WRITE = &H2  
  12. Private Const FILE_ATTRIBUTE_NORMAL = &H80  
  13. Private Const FILE_ATTRIBUTE_ARCHIVE = &H20  
  14. Private Const FILE_ATTRIBUTE_READONLY = &H1  
  15. Private Const FILE_ATTRIBUTE_HIDDEN = &H2  
  16. Private Const FILE_ATTRIBUTE_SYSTEM = &H4  
  17.   
  18. Private Declare Function CreateFileMapping Lib "kernel32" Alias "CreateFileMappingA" (ByVal hFile As LongByVal lpFileMappigAttributes As LongByVal flProtect As LongByVal dwMaximumSizeHigh As LongByVal dwMaximumSizeLow As LongByVal lpName As StringAs Long  
  19. Private Declare Function MapViewOfFile Lib "kernel32" (ByVal hFileMappingObject As LongByVal dwDesiredAccess As LongByVal dwFileOffsetHigh As LongByVal dwFileOffsetLow As LongByVal dwNumberOfBytesToMap As LongAs Long  
  20. Private Declare Function UnmapViewOfFile Lib "kernel32" (lpBaseAddress As Any) As Long  
  21. Private Const PAGE_READWRITE = &H4  
  22. Private Const FILE_MAP_READ = &H4  
  23.   
  24. Private Declare Function VarPtrArray Lib "msvbvm60.dll" Alias "VarPtr" (Ptr() As Any) As Long  
  25. Private Type SAFEARRAYBOUND  
  26.     cElements As Long  
  27.     lLbound As Long  
  28. End Type  
  29. Private Type SAFEARRAY1D  
  30.     cDims As Integer  
  31.     fFeatures As Integer  
  32.     cbElements As Long  
  33.     clocks As Long  
  34.     pvData As Long  
  35.     rgsabound(0) As SAFEARRAYBOUND  
  36. End Type  
  37.   
  38. '使用内存映射方式查找大型文件中包含的字符串  
  39. Function FindTextInFile(ByVal strFileName As StringByVal strText As StringAs Long  
  40.     Dim hFile As Long, hFileMap As Long  
  41.     Dim nFileSize As Long, lpszFileText As Long, pbFileText() As Byte  
  42.     Dim ppSA As Long, pSA As Long  
  43.     Dim tagNewSA As SAFEARRAY1D, tagOldSA As SAFEARRAY1D  
  44.   
  45.     hFile = CreateFile(strFileName, _  
  46.             GENERIC_READ Or GENERIC_WRITE, _  
  47.             FILE_SHARE_READ Or FILE_SHARE_WRITE, _  
  48.             0, _  
  49.             OPEN_EXISTING, _  
  50.             FILE_ATTRIBUTE_NORMAL Or FILE_ATTRIBUTE_ARCHIVE Or FILE_ATTRIBUTE_READONLY Or _  
  51.             FILE_ATTRIBUTE_HIDDEN Or FILE_ATTRIBUTE_SYSTEM, _  
  52.             0) '打开文件  
  53.     If hFile <> 0 Then  
  54.         nFileSize = GetFileSize(hFile, ByVal 0&) '获得文件大小  
  55.         hFileMap = CreateFileMapping(hFile, 0, PAGE_READWRITE, 0, 0, vbNullString) '创建文件映射对象  
  56.         lpszFileText = MapViewOfFile(hFileMap, FILE_MAP_READ, 0, 0, 0) '将映射对象映射到进程内部的地址空间  
  57.           
  58.         ReDim pbFileText(0) '初始化数组  
  59.         ppSA = VarPtrArray(pbFileText) '获得指向SAFEARRAY的指针的指针  
  60.         CopyMemory pSA, ByVal ppSA, 4 '获得指向SAFEARRAY的指针  
  61.         CopyMemory tagOldSA, ByVal pSA, Len(tagOldSA) '保存原来的SAFEARRAY成员信息  
  62.         CopyMemory tagNewSA, tagOldSA, Len(tagNewSA) '复制SAFEARRAY成员信息  
  63.         tagNewSA.rgsabound(0).cElements = nFileSize '修改数组元素个数  
  64.         tagNewSA.pvData = lpszFileText '修改数组数据地址  
  65.         CopyMemory ByVal pSA, tagNewSA, Len(tagNewSA) '将映射后的数据地址绑定至数组  
  66.           
  67.         FindTextInFile = InStr(pbFileText, StrConv(strText, vbFromUnicode)) '查找子字符串位置  
  68.           
  69.         CopyMemory ByVal pSA, tagOldSA, Len(tagOldSA) '恢复数组的SAFEARRAY结构成员信息  
  70.         Erase pbFileText '删除数组  
  71.           
  72.         UnmapViewOfFile lpszFileText '取消地址映射  
  73.         CloseHandle hFileMap '关闭文件映射对象的句柄  
  74.     End If  
  75.     CloseHandle hFile '关闭文件  
  76. End Function  

    这个函数明显比上一个函数复杂得到,按理说,它运行速度肯定相应的要慢一些,咱们先不下定论,还是经过测试后再说吧,测试代码如下:

    调用代码如下:

[vb] view plain copy
  1. Sub Main()  
  2.     lStartTime = GetTickCount  
  3.     Call FindTextInFile("G:/Inst/小说/沧海凤歌.txt""打打秋风"'此返回值为字节位置  
  4.     Debug.Print GetTickCount - lStartTime  
  5. End Sub  

    使用了同一个文本文件,同样测试了20次,嘿,第二个函数最大耗时为17ms,最小耗时为0ms,平均不超过1ms,这进一步验证了我的设计初衷。

    如果你有更好的思路和建议,恳请告诉俺,俺在此表示感谢了!


原文链接 :http://blog.csdn.net/lyserver/article/details/4106290

原创粉丝点击