深入体会__cdecl与__stdcall

在学习C++的过程中时常碰到WINAPI或者CALLBACK这样的调用约定，每每觉得十分迷惑。究竟这些东西有什么用？不用他们又会不会有问题？经过在网上的一番搜寻以及自己动手后，整理成以下的学习笔记。
1.WINAPI与CALLBACK

    其实这两者在Windows下是相同的，在windef.h中定义如下：
#ifdef _MAC
#define CALLBACK PASCAL
#define WINAPI CDECL
#define WINAPIV CDECL
#define APIENTRY WINAPI
#define APIPRIVATE CDECL
#ifdef _68K_
#define PASCAL __pascal
#else
#define PASCAL
#endif
#elif (_MSC_VER >= 800) || defined(_STDCALL_SUPPORTED)
#define CALLBACK __stdcall
#define WINAPI __stdcall
#define WINAPIV __cdecl
#define APIENTRY WINAPI
#define APIPRIVATE __stdcall
#define PASCAL __stdcall
#else
#define CALLBACK
#define WINAPI
#define WINAPIV
#define APIENTRY WINAPI
#define APIPRIVATE
#define PASCAL pascal
#endif

这里根据不同的系统版本选择不同的定义，Windows的话对应#elif (_MSC_VER >= 800) || defined(_STDCALL_SUPPORTED)后面的那一段，可以看得出都为__stdcall。至于为什么Windows要对应__stdcall可能与系统本身的内存处理方式有关。现在问题就在于__stdcall是什么？
2.__stdcall与__cdecl
    在网上找到的资料如下：
    1）采用__cdecl约定时，函数参数按照从右到左的顺序入栈，并且由调用函数者把参数弹出栈以清理堆栈。因此，实现可变参数的函数只能使用该调用约定。由于每一个使用__cdecl约定的函数都要包含清理堆栈的代码，所以产生的可执行文件大小会比较大。
      2）采用__stdcall约定时，函数参数按照从右到左的顺序入栈，被调用的函数在返回前清理传送参数的栈，函数参数个数固定。由于函数体本身知道传进来的参数个数，因此被调用的函数可以在返回前用一条ret n指令直接清理传递参数的堆栈。
   在看完这些描述后，有些问题必须解决的，首先什么是可变参数的函数，还有为什么__stdcall就不能调用可变参数的函数。
3.汇编详解__stdcall与__cdecl
    1）准备 VS2008下查看程序反汇编代码的方法
    首先创建一个可运行的工程，接着在程序中设置一个断点，debug一下程序。在代码区域的任意地方右键-->"转到反汇编"即可看到程序的反汇编代码。
    2）VS2008一些默认的设置
    在VS2008下，全局函数的约定是__cdecl，类的成员函数的约定是__stdcall。还有一般的Win32 API函数都是__stdcall。一般来说可以用__stdcall的就不会去使用__cdecl，这样有更好的封装性，因为入栈和清空栈的代码在同一块地方。至于为什么全局函数会是__cdecl，我还没想出来。
    3）__cdecl约定的反汇编分析
 1 --- stdcalltest.cpp -------------------
 2 // StdcallTest.cpp : 定义控制台应用程序的入口点。
 3 //
 4
 5 #include "stdafx.h"
 6
 7 int Add(int a, int b)
 8 {
 9 004113A0 push ebp
10 004113A1 mov ebp,esp
11 004113A3 sub esp,0C0h
12 004113A9 push ebx
13 004113AA push esi
14 004113AB push edi
15 004113AC lea edi,[ebp-0C0h]
16 004113B2 mov ecx,30h
17 004113B7 mov eax,0CCCCCCCCh
18 004113BC rep stos dword ptr es:[edi]
19 return a + b;
20 004113BE mov eax,dword ptr [a]
21 004113C1 add eax,dword ptr [b]
22 }
23 004113C4 pop edi
24 004113C5 pop esi
25 004113C6 pop ebx
26 004113C7 mov esp,ebp
27 004113C9 pop ebp
28 004113CA ret
29
30 --- stdcalltest.cpp -------------------
31
32 int _tmain(int argc, _TCHAR* argv[])
33 {
34 004113E0 push ebp
35 004113E1 mov ebp,esp
36 004113E3 sub esp,0CCh
37 004113E9 push ebx
38 004113EA push esi
39 004113EB push edi
40 004113EC lea edi,[ebp-0CCh]
41 004113F2 mov ecx,33h
42 004113F7 mov eax,0CCCCCCCCh
43 004113FC rep stos dword ptr es:[edi]
44 int sum = Add(1, 2);
45 004113FE push 2
46 00411400 push 1
47 00411402 call Add (41108Ch)
48 00411407 add esp,8
49 0041140A mov dword ptr [sum],eax
50 return 0;
51 0041140D xor eax,eax
52 }
53 0041140F pop edi
54 00411410 pop esi
55 00411411 pop ebx
56 00411412 add esp,0CCh
57 00411418 cmp ebp,esp
58 0041141A call @ILT+325(__RTC_CheckEsp) (41114Ah)
59 0041141F mov esp,ebp
60 00411421 pop ebp
61 00411422 ret

    这里实现的是int Add(int a, int b)，然后调用Add(1, 2)。从44行开始看，先push 2，再push 1，可见入栈是从右到左。接着call 41108Ch的内存，但在这段代码中是找不到这个内存的。在call处按F11，会看到如下代码：Add: 0041108C jmp Add (4113A0h) ，这里的4113A0h在上面代码就可以找到在第9行了。至于为什么要这样子？你可以认为VS在编译的时候把函数的地址放在一段内存中比较好管理。而事实上函数的地址也确实是这样子。为了更清楚，我把这段代码也展示一下。
 1 0041100F jmp wmain (4113E0h)
 2 00411014 jmp _RTC_GetErrDesc (411BE0h)
 3 00411019 jmp __p__fmode (412796h)
 4 0041101E jmp __security_check_cookie (4132F0h)
 5 00411023 jmp IsDebuggerPresent (4134AAh)
 6 00411028 jmp _RTC_Terminate (412760h)
 7 0041102D jmp WideCharToMultiByte (4134BCh)
 8 00411032 jmp _RTC_AllocaHelper (411550h)
 9 00411037 jmp _RTC_GetErrorFuncW (411CA0h)
10 0041103C jmp _RTC_NumErrors (411BD0h)
11 00411041 jmp __setusermatherr (412706h)
12 00411046 jmp Sleep (41349Eh)
13 0041104B jmp GetModuleFileNameW (413510h)
14 00411050 jmp __security_init_cookie (412930h)
15 00411055 jmp SetUnhandledExceptionFilter (4134DAh)
16 0041105A jmp _cexit (412A4Eh)
17 0041105F jmp _CrtDbgReportW (412CD6h)
18 00411064 jmp VirtualQuery (413516h)
19 00411069 jmp atexit (4128F0h)
20 0041106E jmp MultiByteToWideChar (4134C2h)
21 00411073 jmp _RTC_SetErrorType (411C00h)
22 00411078 jmp wmainCRTStartup (4117E0h)
23 0041107D jmp _except_handler4 (412CF0h)
24 00411082 jmp _lock (413320h)
25 00411087 jmp GetProcAddress (4134CEh)
26 0041108C jmp Add (4113A0h)
27 00411091 jmp _RTC_CheckStackVars (4114D0h)
28 00411096 jmp __report_gsfailure (413340h)
29 0041109B jmp terminate (413302h)
30 004110A0 jmp _exit (412A42h)

   你会发现，在不知不觉中，编译器已经给你生成了这么多的函数，而Add仅仅在第26行出现过。看得出编译器对编程有多重要了。闲话少说，回到代码。在第二段代码展示的28行处的指令是ret，这里没有执行清栈。而在48行是add esp,8，这个操作将栈的指针修正到有参数入栈之前，这里的8就刚好是两个int的大小。
    4）__stdcall约定的反汇编分析
    这里只做一点点改动，将Add的定义改为int __stdcall Add(int a, int b)。在反汇编代码中不同的地方只有两处，一是add esp,8这条语句没有了，二是ret变为了ret 8。可见，清栈的工作变到了在函数里面。
    5）何为可变参数的函数
    我觉得必须先知道的是它的形式：type funcname(type para1, type para2, ...)。这里的"..."不是省略的意思，而是可变参数的函数必须这样声名。具体说明可参照http://hi.baidu.com/sunlit88/blog/item/272460da3f360f61d1164ea7.html。下面是我改了一些地方的代码。
 1 // StdcallTest.cpp : 定义控制台应用程序的入口点。
 2 //
 3
 4 #include "stdafx.h"
 5 #include <stdarg.h>
 6
 7 int Add(int a, )
 8 {
 9 int count = 0, sum = 0, i = a;
10 va_list marker;
11 va_start(marker, a); //初始化
12 while(i != -1)
13 {
14 sum += i; //先加第一个参数
15 ++count;
16 i = va_arg(marker, int);//取下一个参数
17 }
18 va_end(marker);
19 return sum;
20 }
21
22 int _tmain(int argc, _TCHAR* argv[])
23 {
24 int sum = Add(1, 2, 3, -1);
25 return 0;
26 }

    查看反汇编代码也可以看出清栈的操作是在Add(1, 2, 3, -1)后执行的。本来我想试试写成int __stdcall Add(int a, ...)会有什么后果的，谁知道VS在编译的时候硬是把__stdcall方式改成__cdecl方式，看来编译器也不笨啊，知道这种方式肯定会出问题，就把你的改过来了。不过这也是一个好的编译器所需要做的事情，有时候你会发现自己写的代码与实际运行会有点点差别，那可能就是编译器把自己觉得需要优化的东西优化后的结果。这时候我又想起了volatile这个关键字，它就是让编译器不要去优化的时候使用的。
    6）可变参函数为什么不能用__stdcall
    我觉得这个问题应该从编译时和运行时来说，因为函数的代码是在编译的时候就已经在内存中写好的，而当程序在编译的时候，可变参不能告知代码的ret n的n是多少。而add esp,n是在运行时执行的，所以知道n是多少。
4.写在后面
    相对__cdecl和__stdcall还有很多约定，这里就不细说了。以前学汇编没细学，现在才发现只有从最最低层的代码才能看到程序的原貌。C++那层有时候还看不出问题，中间还有个编译器在搞鬼。