龟速的malloc和神速的FastMM

由于在Delphi项目中，要频繁创建和释放大量小对象，因此担心有效率问题，于是打于GetMem.inc看看，发现FastMM对于小块内存作了很多工作，它预置了一组不同大小的内存池，当要创建一块内存时，FastMM找到大小最相近的内存池分配之，内存释放后回收到池中。这样的做法虽有小量内存浪费，但效率却是大大提高。

我决定做一个测试，看看效率研究如何：

  const    cSize: Integer = 100;    cNum: Integer = 10000;  var    N, I: Integer;    P: array [0..9999] of Pointer;    Fre: Int64;    Count1, Count2: Int64;    Time: Double;  begin    QueryPerformanceFrequency(Fre);    QueryPerformanceCounter(Count1);    for I := 0 to 1000 - 1 do    begin      for N := 0 to cNum - 1 do        GetMem(P[N], cSize);      for N := 0 to cNum - 1 do        FreeMem(P[N]);    end;    QueryPerformanceCounter(Count2);    Time := (Count2 - Count1) / Fre;    Writeln(Format('Delphi2007 Release: %f', [Time]));  end.

上面例子中，循环1000次，每次循环分别创建和释放10000个100字节的内存块，运行结果如下：

  Delphi2007 Release: 0.14
结果非常好，这下我可以尽情使用小对象来替换记录的工作了。

我想起C++的Malloc，不知其效率如何，于是我又将Delphi的测试代码转换成C++，代码如下：

  LARGE_INTEGER fre;  LARGE_INTEGER count1, count2;  double time;  QueryPerformanceFrequency(&fre);  const int cSize = 100;  const int cNum = 10000;  void* p[cNum];  QueryPerformanceCounter(&count1);  for (int i = 0; i < 1000; ++i)  {      for (int n = 0; n < cNum; ++n)          p[n] = malloc(cSize);      for (int n = 0; n < cNum; ++n)          free(p[n]);  }  QueryPerformanceCounter(&count2);  time = (count2.QuadPart - count1.QuadPart) / (double)fre.QuadPart;  printf("VC2008 Release: %f\n", time);

运行结果使我震惊，这真是龟速的malloc:
  VC2008 Release: 3.854
看来malloc并没有对小内存作任何优化，所以在C++中要大量使用动态对象，是必须要小心的，否则很容易引起性能问题。找了一些替换的内存管理器，始终没有办法达到FastMM的水平，最快的也只是其一半的速度。
最后我用自己实现的一个受限的内存管理器测试，该管理器只能创建固定大小的内存块，也是用池的方式缓存内存块，代码如下：

  LARGE_INTEGER fre;  LARGE_INTEGER count1, count2;  double time;  QueryPerformanceFrequency(&fre);  const int cSize = 100;  const int cNum = 10000;  void* p[cNum];  FixedAlloc myAlloc(cSize);  QueryPerformanceCounter(&count1);  for (int i = 0; i < 1000; ++i)  {      for (int n = 0; n < cNum; ++n)      {             //p[n] = malloc(cSize);          p[n] = myAlloc.Alloc();      }      for (int n = 0; n < cNum; ++n)      {          //free(p[n]);          myAlloc.Free(p[n]);      }  }  QueryPerformanceCounter(&count2);  time = (count2.QuadPart - count1.QuadPart) / (double)fre.QuadPart;  printf("VC2008 Release: %f\n", time);

这次的结果很让我满意：
  VC2008 Release: 0.0806
速度比FastMM快了近一倍，但这并不表示它比FastMM好，因为FastMM更加通用，且处理了很多其他的逻辑，如果FixedAlloc做得更完善一些，或许会和FastMM接近的。因此可见，对效率很敏感的程序，使用特有的内存管理器是必须的，否则让龟速的malloc来处理，一切都是龟速。
进一步想，如果打开多线程判断，FastMM的效率不知如何，于是又有下面的测试代码：

  IsMultiThread := True;  QueryPerformanceCounter(Count1);  for I := 0 to 1000 - 1 do  begin    for N := 0 to cNum - 1 do      GetMem(P[N], cSize);    for N := 0 to cNum - 1 do      FreeMem(P[N]);  end;  QueryPerformanceCounter(Count2);  Time := (Count2 - Count1) / Fre;  Writeln(Format('Delphi2007 Release：%f', [Time]));

仅仅是把IsMultiThread打开，效果非常明显：
  Delphi2007 Release：0.41 
足足比单线程模式慢了3倍，但是如果我自己来处理多线程的情况呢，结果又是如何呢：

  IsMultiThread := False;  InitializeCriticalSection(CS);  QueryPerformanceCounter(Count1);  for I := 0 to 1000 - 1 do  begin    for N := 0 to cNum - 1 do    begin      EnterCriticalSection(CS);      GetMem(P[N], cSize);      LeaveCriticalSection(CS);    end;    for N := 0 to cNum - 1 do    begin      EnterCriticalSection(CS);      FreeMem(P[N]);      LeaveCriticalSection(CS);    end;  end;  QueryPerformanceCounter(Count2);  Time := (Count2 - Count1) / Fre;  Writeln(Format('Delphi2007 Release：%f', [Time]));  DeleteCriticalSection(CS);

结果很糟糕：
  Delphi2007 Release：0.71 
FastMM并不像Delphi7那样，用临界区来实现多线程安全，因此效率要比那个方案更高一些，FastMM确实不失为一个顶级的内存管理器。