STL源码：空间配置器（三）内存的配置和释放、SGI的两级适配器

空间的配置与释放std::alloc

        之前了解了内存配置后的对象构造和内存释放前的对象析构行为，现在分析内存配置和释放。

对象构造前的空间配置和对象析构后的空间释放，由<stl_alloc.h>负责，SGI对此的设计哲学如下：

        1. 向 system heap 要求空间。

        2. 考虑多线程（multi-threads）状态。

        3. 考虑内存不足时的应变措施。

        4. 考虑过多“小型区块”可能造成的内存碎片（fragment）问题。

        考虑到小型区块所可能造成的内存破碎问题，SGI设计了双层级配置器，第一级配置器直接使用 malloc() 和 free() ,第二级配置器则视情况采用不同的策略：当配置区块超过 128 bytes时，视之为“足够大”，便调用第一级配置器；当配置区块小于 128 bytes时，视之为“过小”，为了降低额外负担，便采用复杂的 memory pool 整理方式，而不再求助于第一级配置器。

        在SGI的整个设计究竟只开放第一级配置器，或是同时开放第二级配置器，取决于 __USE_MALLOC 是否被定义。

#ifdef  __USE_MALLOC...typedef __malloc_alloc_template<0>  malloc_alloc;typedef malloc_alloc  alloc;  // 令 alloc 为第一级配置器#else...// 令 alloc 为第二级配置器typedef __default_alloc_template<__NODE_ALLOCATOR_THREADS, 0>  alloc;#endif /* ! __USE_MALLOC */

         __malloc_alloc_template 就是第一级配置器，__default_alloc_template 就是第二级配置器。SGI STL并未定义 __USE_MALLOC,所以SGI使用第二级配置器。

        无论alloc被定义为第一级或第二级配置器， SGI 还为 alloc 包装了一个接口如下，使配置器的接口能够符合 STL 规格，其内部四个成员函数其实都是单纯的转调用，调用传递给配置器的成员函数。SGI STL容器全部使用这个 simple_alloc 接口：

template<class T, class Alloc>class simple_alloc {public:    static T *allocate(size_t n)                { return 0 == n? 0 : (T*) Alloc::allocate(n * sizeof (T)); }    static T *allocate(void)                { return (T*) Alloc::allocate(sizeof (T)); }    static void deallocate(T *p, size_t n)                { if (0 != n) Alloc::deallocate(p, n * sizeof (T)); }    static void deallocate(T *p)                { Alloc::deallocate(p, sizeof (T)); }};

        SGI STL容器全部使用这个simple_alloc接口，例如：

template <class T, class Alloc = alloc>    //缺省使用alloc为配置器class vector {   protected:        //专属之空间配置器，每次配置一个元素大小        typedef simple_alloc<value_type, Alloc> data_allocator;         void deallocate() {            if (...)                 data_allocator::deallocate(start, end_of_storate - start);         }    ...};

第一级配置器__malloc_alloc_template

// 注意，无"template型别参数"。至于"非型别参数"inst，则完全没派上用场template <int inst>class __malloc_alloc_template {private:// 函数指针，以下函数将用来处理内存不足的情况//用于设置__malloc_alloc_oom_handler情况下循环分配内存，知道成功为止// oom : out of memorystatic void *oom_malloc(size_t);static void *oom_realloc(void *, size_t);//如果编译器支持模板静态成员，则使用错误处理函数，//类似C++的set_new_handler()，默认值为0，//如果不设置，则内存分配失败直接__THROW_BAD_ALLOC #ifndef __STL_STATIC_TEMPLATE_MEMBER_BUG    static void (* __malloc_alloc_oom_handler)();#endifpublic://分配指定大小的内存，如果分配失败，进入循环分配阶段//循环分配前提是保证正确设置了__malloc_alloc_oom_handlerstatic void * allocate(size_t n){    void *result = malloc(n); // 第一级配置器直接使用 malloc()    // 以下无法满足需求时，改用 oom_malloc()    if (0 == result) result = oom_malloc(n);    return result;}//后面的size_t是为了兼容operator deletestatic void deallocate(void *p, size_t /* n */){    free(p); // 第一级配置器直接使用 free()}//重新分配内存大小，第二个参数是为了兼容operator newstatic void * reallocate(void *p, size_t /* old_sz */, size_t new_sz){    void * result = realloc(p, new_sz); // 第一级配置器直接使用 realloc()    // 以下无法满足需求时，改用 oom_realloc()    if (0 == result) result = oom_realloc(p, new_sz);    return result;}// 以下仿真C++的 set_new_handler()。换句话说，可以通过它// 指定你自己的 out-of-memory handler//设置错误处理函数，返回原来函数指针，不是C++标准规定的接口static void (* set_malloc_handler(void (*f)()))(){    void (* old)() = __malloc_alloc_oom_handler;    __malloc_alloc_oom_handler = f;    return(old);}};// malloc_alloc out-of-memory handling#ifndef __STL_STATIC_TEMPLATE_MEMBER_BUG// 初值为 0。有待客端设定template <int inst>void (* __malloc_alloc_template<inst>::__malloc_alloc_oom_handler)() = 0;#endif<pre><span style="color:#008000;"> </span>//如果设置了__malloc_alloc_oom_handler,则首先执行错误处理，然后循环分配直到成功//如果未设置，__THROW_BAD_ALLOCtemplate <int inst>void * __malloc_alloc_template<inst>::oom_malloc(size_t n){    void (* my_malloc_handler)();    void *result;    for (;;) { // 不断尝试释放、配置、再释放、再配置...        my_malloc_handler = __malloc_alloc_oom_handler;        if (0 == my_malloc_handler) { __THROW_BAD_ALLOC; }        (*my_malloc_handler)(); // 调用处理例程，企图释放内存        result = malloc(n);     // 再次尝试配置内存        if (result) return(result);    }}template <int inst>void * __malloc_alloc_template<inst>::oom_realloc(void *p, size_t n){    void (* my_malloc_handler)();    void *result;    for (;;) { // 不断尝试释放、配置、再释放、再配置...        my_malloc_handler = __malloc_alloc_oom_handler;        if (0 == my_malloc_handler) { __THROW_BAD_ALLOC; }        (*my_malloc_handler)(); // 调用处理例程，企图释放内存        result = realloc(p, n); // 再次尝试配置内存        if (result) return(result);    }}// 注意，以下直接将参数 inst 指定为 0typedef __malloc_alloc_template<0> malloc_alloc;

        第一级配置器以 malloc()，free()，realloc()等 C 函数执行实际的内存配置、释放、重配置操作，并实现出类似 C++ new-handler 的机制。（所谓C++ new handler 机制是，你可以要求系统在内存配置需求无法被满足时，调用一个你所指定的函数。换句话说，一旦 ::operator new 无法完成任务，在丢出 std::bad_alloc 异常状态之前，会先调用由客端指定的处理例程。）

        使用“类似C++ new-handler机制”而不是直接运用该机制，因为它并非使用::operator new 来配置内存。

        SGI第一级配置器的allocate()和realloc()都是在调用malloc()和realloc()不成功后，改调用oom_malloc() 和oom_realloc()。后两者都有内循环，不断调用“内存不足处理例程”，期望某次调用后，获得足够的内存而圆满完成任务。

第二级配置器 __default_alloc_template

         第二级配置器多了一些机制，避免太多小额区块造成内存的碎片。小额区块带来的其实不仅是内存碎片，配置时的额外负担也是一个大问题。额外负担永远无法避免，毕竟系统要靠这多出来的空间来管理内存。但是区块越小，额外负担所占的比例越大，越显得浪费。如下图。

        SGI第二级配置器做法是，如果区块够大，超过128bytes时，将移交第一级配置器处理。当小于128bytes，则以内存池管理，此法又称为次级配置：每次配置一大块内存，并维护对应之自由链表free-lists。下次若有相同大小的内存需求，直接从free-lists中拨出。如果客端释放小额块区，就由配置器回收到free-lists中——是的，别忘了，配置器除了负责配置，还负责回收。为了方便管理，SGI第二级配置器主动将任何小额块区的内存需求量上调至8的倍数（如，客端要求30bytes，则自动调整为32bytes），并维护16个free-lists，各自分别管理大小为8、16、24、32、……、120、128bytes的小额块区。

这种做法有两个优点：        (1)小对象的快速分配。小对象是从内存池分配的，这个内存池是系统调用一次malloc分配一块足够大的区域给程序备用，当内存池耗尽时再向系统申请一块新的区域，整个过程类似于批发和零售，起先是由allocator向总经商批发一定量的货物，然后零售给用户，与每次都总经商要一个货物再零售给用户的过程相比，显然是快捷了。当然，这里的一个问题时，内存池会带来一些内存的浪费，比如当只需分配一个小对象时，为了这个小对象可能要申请一大块的内存池，但这个浪费还是值得的，况且这种情况在实际应用中也并不多见。        (2)避免了内存碎片的生成。程序中的小对象的分配极易造成内存碎片，给操作系统的内存管理带来了很大压力，系统中碎片的增多不但会影响内存分配的速度，而且会极大地降低内存的利用率。以内存池组织小对象的内存，从系统的角度看，只是一大块内存池，看不到小对象内存的分配和释放。

        free-lists的节点结构如下：

  union obj {        union obj * free_list_link;        char client_data[1];    /* The client sees this. */  };

注意：

        为了维护链表，每个节点需要额外的指针指向下一个节点，这不就造成了额外负担吗？

        答：使得，但是注意上述obj所用的是union，由于union之故，从其第一个字段观之，obj可被视为一个指针，指向相同形式的另一个obj；从其第二字段观之，obj可被视为一个指针，指向实际区块。一物二用的结果是，不会为了维护链表所必须的指针而造成内存的另一种浪费。该技巧在强型语言如java中行不通，但在非强型语言如C++中很普遍。

// 以下是第二级配置器// 注意，无"template型别参数"，且第二参数完全没派上用场// 第一参数用于多线程环境template <bool threads, int inst>class __default_alloc_template {private:  // Really we should use static const int x = N  // instead of enum { x = N }, but few compilers accept the former.# ifndef __SUNPRO_CC    enum {__ALIGN = 8};                          // 小型区块的上调边界    enum {__MAX_BYTES = 128};                    // 小型区块的上限    enum {__NFREELISTS = __MAX_BYTES/__ALIGN};   // free-lists 个数# endif// ROUND_UP()将 bytes 上调至 8 的倍数// 向上舍入操作  // 解释一下, __ALIGN - 1指明的是实际内存对齐的粒度  // 例如__ALIGN = 8时, 我们只需要7就可以实际表示8个数(0~7)  // 那么~(__ALIGN - 1)就是进行舍入的粒度  // 我们将(bytes) + __ALIGN-1)就是先进行进位, 然后截断  // 这就保证了我是向上舍入的  // 例如byte = 100, __ALIGN = 8的情况  // ~(__ALIGN - 1) = (1 000)B  // ((bytes) + __ALIGN-1) = (1 101 011)B  // (((bytes) + __ALIGN-1) & ~(__ALIGN - 1)) = (1 101 000 )B = (104)D  // 104 / 8 = 13, 这就实现了向上舍入  // 对于byte刚好满足内存对齐的情况下, 结果保持byte大小不变  // 记得《Hacker's Delight》上面有相关的计算  // 这个表达式与下面给出的等价  // ((((bytes) + _ALIGN - 1) * _ALIGN) / _ALIGN)  // 但是SGI STL使用的方法效率非常高   static size_t ROUND_UP(size_t bytes) {        return (((bytes) + __ALIGN-1) & ~(__ALIGN - 1));  }__PRIVATE:// 管理内存链表用   // 为了尽最大可能减少内存的使用, 这里使用一个union  // 如果使用第一个成员, 则指向另一个相同的union obj  // 而如果使用第二个成员, 则指向实际的内存区域  // 这样就实现了链表结点只使用一个指针的大小空间, 却能同时做索引和指向内存区域  // 这个技巧性非常强, 值得学习    union obj { // free-lists的节点构造        union obj * free_list_link;        char client_data[1];    /* The client sees this. */  };private:# ifdef __SUNPRO_CC    static obj * __VOLATILE free_list[];         // Specifying a size results in duplicate def for 4.1# else// 16个free-lists，对应的内存链容量为8、16、24、……、128    static obj * __VOLATILE free_list[__NFREELISTS]; # endif// 以下函数根据区块大小，决定使用第 n 号free-list。n从0起算static  size_t FREELIST_INDEX(size_t bytes) {return (((bytes) + __ALIGN-1)/__ALIGN - 1);}// 返回一个大小为 n 的对象，并可能加入大小为 n 的其他区块到 free list  static void *refill(size_t n);// 配置一大块空间，可容纳 nobjs 个大小为"size"的区块// 如果配置 nobjs 个区块有所不便，nobjs可能会降低static char *chunk_alloc(size_t size, int &nobjs);  // Chunk allocation state.  static char *start_free; // 内存池起始位置。只在 chunk_alloc() 中变化  static char *end_free;   // 内存池结束位置。只在 chunk_alloc() 中变化  static size_t heap_size; //已经在堆上分配的空间大小// 下面三个条件编译给多线程条件下使用锁提供必要支持# ifdef __STL_SGI_THREADS    static volatile unsigned long __node_allocator_lock;    static void __lock(volatile unsigned long *);     static inline void __unlock(volatile unsigned long *);# endif# ifdef __STL_PTHREADS    static pthread_mutex_t __node_allocator_lock;# endif# ifdef __STL_WIN32THREADS    static CRITICAL_SECTION __node_allocator_lock;    static bool __node_allocator_lock_initialized;  public:    __default_alloc_template() {// This assumes the first constructor is called before threads// are started.        if (!__node_allocator_lock_initialized) {            InitializeCriticalSection(&__node_allocator_lock);            __node_allocator_lock_initialized = true;        }    }  private:# endif    // 用于多线程环境下锁定操作    class lock {        public:            lock() { __NODE_ALLOCATOR_LOCK; }            ~lock() { __NODE_ALLOCATOR_UNLOCK; }    };    friend class lock;public:  static void * allocate(size_t n);  static void deallocate(void *p, size_t n);  static void * reallocate(void *p, size_t old_sz, size_t new_sz);} ;// 以下是 static data member 的定义与初值设定template <bool threads, int inst>char *__default_alloc_template<threads, inst>::start_free = 0;template <bool threads, int inst>char *__default_alloc_template<threads, inst>::end_free = 0;template <bool threads, int inst>size_t __default_alloc_template<threads, inst>::heap_size = 0;template <bool threads, int inst>__default_alloc_template<threads, inst>::obj * __VOLATILE__default_alloc_template<threads, inst> ::free_list[# ifdef __SUNPRO_CC    __NFREELISTS# else    __default_alloc_template<threads, inst>::__NFREELISTS# endif] = {0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, };

空间配置函数 allocate()

        此函数首先判断区块大小，大于 128 bytes 就调用第一级配置器，小于 128 bytes 就检查对应的 free list。如果 free list 之内有可用的区块，就直接拿来用，如果没有可用区块，就将区块大小上调至 8 倍数边界，然后调用 refill()，准备为 free list 重新填充空间。

 /* n must be > 0 */static void * allocate(size_t n){    obj * __VOLATILE * my_free_list;    obj * __RESTRICT result;    // 大于128 就调用第一级配置器    if (n > (size_t) __MAX_BYTES) {        return(malloc_alloc::allocate(n));    }    // 寻找 16 个free lists中适当的一个    my_free_list = free_list + FREELIST_INDEX(n);    // Acquire the lock here with a constructor call.    // This ensures that it is released in exit or during stack    // unwinding.    #ifndef _NOTHREADS    /*REFERENCED*/    lock lock_instance;    #endif    result = *my_free_list;    if (result == 0) {        // 没找到可用的 free list，准备重新填充 free list        void *r = refill(ROUND_UP(n));        return r;    }    // 调整 free list    *my_free_list = result -> free_list_link;    return (result);};

空间释放函数deallocate()

该函数首先判断区块大小，大于 128 bytes 就调用第一级配置器，小于 128 bytes 就找出对应的 free list，将区块回收。

  /* p 不可以是 0 */static void deallocate(void *p, size_t n){obj *q = (obj *)p;    obj * __VOLATILE * my_free_list;// 大于 128 就调用第一级配置器     if (n > (size_t) __MAX_BYTES) {                malloc_alloc::deallocate(p, n);        return;    }// 寻找对应的 free list    my_free_list = free_list + FREELIST_INDEX(n);    // acquire lock        #ifndef _NOTHREADS        /*REFERENCED*/        lock lock_instance;        #endif /* _NOTHREADS */// 调整 free list，回收区块    q -> free_list_link = *my_free_list;    *my_free_list = q;    // lock is released here}

重新填充 free lists

          前面的 allocate()，当它发现 free list 中没有可用区块时，就调用 refille()，准备为 free list 重新填充空间。新的空间将取自内存池（经由 chunk_alloc()完成）。缺省取得 20 个新节点（新区块），但万一内存池空间不足，获得的节点数（区块数）可能小于 20。

// 返回一个大小为 n 的对象，并且有时候会为适当的 free list 增加节点// 假设 n 已经适当上调至 8 的倍数/* We hold the allocation lock. */template <bool threads, int inst>void* __default_alloc_template<threads, inst>::refill(size_t n){    int nobjs = 20;    // 调用 chunk_alloc()，尝试取得 nobjs 个区块作为 free list 的新节点    // 注意参数 nobjs 是 pass by reference    char * chunk = chunk_alloc(n, nobjs);    obj * __VOLATILE * my_free_list;    obj * result;    obj * current_obj, * next_obj;    int i;    // 如果只获得一个区块，这个区块就分配给调用者用，free list无新节点    if (1 == nobjs) return(chunk);    // 否则准备调整 free list，纳入新节点    my_free_list = free_list + FREELIST_INDEX(n);    // 以下在 chunk 空间内建立 free list    result = (obj *)chunk; // 这一块准备返回给客户端    // 以下导引 free list 指向新配置的空间(取自内存池)    *my_free_list = next_obj = (obj *)(chunk + n);    // 以下将 free list的各节点串接起来    for (i = 1; ; i++) { // 从 1 开始，因为第 0 个将返回给客端        current_obj = next_obj;        next_obj = (obj *)((char *)next_obj + n);        if (nobjs - 1 == i) {            current_obj -> free_list_link = 0;            break;        } else {            current_obj -> free_list_link = next_obj;        }}    return(result);}

内存池

          从内存池中取空间给 free list使用，是chunk_alloc()的工作：

// 假设 size 已经适当上调至 8 的倍数// 注意参数 nobjs 是 pass by referencetemplate <bool threads, int inst>char*__default_alloc_template<threads, inst>::chunk_alloc(size_t size, int& nobjs){    char * result;    size_t total_bytes = size * nobjs;    size_t bytes_left = end_free - start_free; // 内存池剩余空间    if (bytes_left >= total_bytes) {// 内存池剩余空间完全满足需求量        result = start_free;        start_free += total_bytes;        return(result);    } else if (bytes_left >= size) {    // 内存池剩余空间不能完全满足需求量，但足够供应一个(含)以上的区块        nobjs = bytes_left/size;        total_bytes = size * nobjs;        result = start_free;        start_free += total_bytes;        return(result);    } else {    // 内存池剩余空间连一个区块的大小都无法提供        size_t bytes_to_get = 2 * total_bytes + ROUND_UP(heap_size >> 4);        // 以下试着让内存池中的残余零头还有利用价值(零头也应该是 8 的倍数)        if (bytes_left > 0) {// 内存池内还有一些零头，先配给适当的free list// 首先寻找适当的 free list            obj * __VOLATILE * my_free_list =                        free_list + FREELIST_INDEX(bytes_left);// 调整 free list，将内存池中的残余空间编入            ((obj *)start_free) -> free_list_link = *my_free_list;            *my_free_list = (obj *)start_free;        }// 配置 heap 空间，用来补充内存池        start_free = (char *)malloc(bytes_to_get);        if (0 == start_free) {// heap空间不足，malloc()失败            int i;            obj * __VOLATILE * my_free_list, *p;            // Try to make do with what we have.  That can't            // hurt.  We do not try smaller requests, since that tends            // to result in disaster on multi-process machines.            // 试着检视我们手上拥有的东西。这不会造成伤害。我们不打算尝试配置            // 较小的区块，因为那在多进程(multi-process)机器上容易导致灾难            // 以下搜寻适当的 free list            // 所谓适当是指"尚有未用区块，且区块够大"之 free list            for (i = size; i <= __MAX_BYTES; i += __ALIGN) {                my_free_list = free_list + FREELIST_INDEX(i);                p = *my_free_list;                if (0 != p) { // free list内尚有未用区块                // 调整free list以释出未用区块                    *my_free_list = p -> free_list_link;                    start_free = (char *)p;                    end_free = start_free + i;    // 递归调用自己，为了修正 nobjs                    return(chunk_alloc(size, nobjs));    // 注意，任何残余零头终将被编入适当的free-list中备用                }            }end_free = 0;// 如果出现意外，到处都没内存可用// 调用第一级配置器，看看 out-of-memory 机制能否尽点力start_free = (char *)malloc_alloc::allocate(bytes_to_get);        // 这会导致抛出异常(exception)，或内存不足的情况获得改善        }        heap_size += bytes_to_get;        end_free = start_free + bytes_to_get;// 递归调用自己，为了修正 nobjs        return(chunk_alloc(size, nobjs));    }}

        上述的chunk_alloc()函数以 end_free - start_free 来判断内存池的水量。如果水量充足，就直接调用 20 个区块返回给 free list。如果水量不足以提供 20 个区块，但还最后供应一个以上的区块，就拔出这不足 20 个区块的空间出去。这时候其 pass by reference的nobjs参数将被修改为实际能够供应的区块数。如果内存池连一个区块空间都无法供应，对客端显然无法交待，此时便需利用 malloc() 从head中配置内存，为内存池注入源头活水以应付需求。新水量的大小为需求量的两倍，再加上一个随着配置次数增加而愈来愈大的附加量。