如何在64位的linux系统上使用汇编和C语言混合编程

最近在看于渊的一个操作系统的实现，在第五章的时候汇编和C同时使用时碰到了问题：代码如下

foo.s

 

bar.c

编译和链接的时候使用的指令：（AMD处理器，64位操作系统）

 

编译链接指令

 

 

汇编语言用nasm编写并用nasm编译器编译，而C语言用的是gcc编译，这些都没有问题，但是在链接的时候出错了，提示如下：

 

ld: i386 architecture of input file `foo.o' is incompatible with i386:x86-64 output

 

 

google了一下，意思就是nasm编译产生的是32位的目标代码，gcc在64位平台上默认产生的是64位的目标代码，这两者在链接的时候出错，gcc在64位平台上默认以64位的方式链接。

 

 

这样在解决的时候就会有两种解决方案：

 

<1> 让gcc产生32位的代码，并在链接的时候以32位的方式进行链接

 

在这种情况下只需要修改编译和链接指令即可，具体如下：

 

32位的编译链接指令

 

 

具体的-m32和 -m elf_i386 请自行查阅gcc （man gcc）

 

参考地址：http://bbs.chinaunix.net/thread-2018497-1-1.html

如果你是高版本的gcc（可能是由于更新内核造成的），可能简单的使用-m32的时候会提示以下错误（使用别人的历程，自己未曾遇到）：

 

 

> In file included from /usr/include/stdio.h:28:0,> from test.c:1:> /usr/include/features.h:323:26: fatal error: bits/predefs.h: No such file or directory> compilation terminated.

 

 

这应该是缺少构建32 位可执行程序缺少的包，使用以下指令安装：sudo apt-get install libc6-dev-i386此时应该就没有什么问题了。

参考地址：http://aaronbonner.tumblr.com/post/14969163463/cross-compiling-to-32bit-with-gcc

<2> 让nasm以64位的方式编译产生目标代码，并让gcc的连接器以默认的方式链接

但是第二种方法并不是仅仅更改nasm的编译方式那么简单，因为64位平台跟32位平台有很大的不同，包括参数的传递，指令集等。所以如果怕麻烦的话完全可以使用第一种方法，让gcc产生32位的目标代码，因为32位的代码可以运行在64位的平台上，这应该就是所谓的向上兼容。不过64位将来应该会是主流，所以研究一下还是很有必要的。

首先对gcc 产生的32位与64位的汇编语言进行对比：

32位

 

 

movl 8(%ebp),%eax

 

cmpl 12(%ebp),%eax

 

jl .L2

 

movl $13,4(%esp)

 

movl $.LC0,(%esp)

上面只取了我们感兴趣的地方：ebp指向的是刚进入choose函数的堆栈栈顶指针，此时只想的是刚入栈的ebp的值，ebp+4指向的函数调用入栈的ip地址（这里应该是段内调用，具体原因不太清楚，因为两个文件之间调用函数属于段内还是段外，我真的不清楚，如果你知道，可以告诉我），ebp+8指向的是调用者压栈的第二个参数，也是从左边数第一个参数，ebp+12是调用者压栈的第一个参数，也就是从左边数第二个参数。这样我们知道了c语言的参数传递机制，就能编写相应的汇编程序调用C语言了，而C语言调用汇编函数则以此类推，先将第二个参数压栈，再将第一个参数压栈。不再赘述。

（

例： void fun(int a, int b)函数在调用fun时首先将参数b压栈，然后将参数 a压栈，这样fun函数在取参数的时候就能先取a了，然后再取b，因为堆栈是先入后出。如果这样你还不明白，建议你看一下赵迥老师的linux 0.11内核完全剖析的第三章。

）

(

注：rax:64位，eax：32位ax：16位

movl：移动32位，movq：移动64位，movd：移动16位，movb：移动8位

其他带标志的指令类似。

)

64位

 

 

movl %edi,-4(%rbp)

 

movl %esi,-8(%rbp)

 

movl -4(%rbp),%eax

 

cmpl -8(%rbp),%eax

 

jl .L2

 

movl $13,%esi

 

movl $.LC0,%edi

注意64位下的参数传递有了改变，而且寄存器也有了改变，不过我们既然使用了nasm汇编，对于64位寄存器的改变暂时不必操心，只需要先关心参数传递的格式。

可以看出参数传递不是用压栈的方式传递了，而是使用的寄存器来传递给被调用者，再由被调用者将其压栈使用。上述代码显示先将第一个参数给edi，然后由被调用者压入-4（%rbp），然后再将第二个参数给esi，由被调用者要入-8（%rbp），这一点倒是和32位下参数的入栈方式一致。

至于用寄存器传递函数参数取代用堆栈传递函数参数的原因，个人感觉是函数的调用者不用再操心入栈和释放栈了，完全由被调用者操心，至少我在函数的调用者里面经常是记得给函数参数入栈，但是函数调用完成后却忘记了把栈恢复。

这样我们就能根据上述规则来修改我们的foo.s,使其能够与64位的gcc产生的目标代码链接在一起。

64位模式下的foo.s

至于用寄存器传递函数参数的规则见以下参考资料：

==========================================

版权为 win_hate 所有, 转载请保留作者名字

我这段时间要把以前的一个 x86_32 的 linux 程序移植到 x86_64(AMD) 的 linux 环境里. 由于写的是数学算法, 64 与 32 位有很大不同, 代码实际上要重写. 看了点资料后, 觉得 AMD64 的扩展于以前 16 到 32 位的扩展很类似, e**, 扩展为 r**, 此外还多了8个通用寄存器 r8~r15.指令格式与32位的极为相似. 我觉得比较容易, 所以没再仔细看, 就开始动手写了.

我的程序由若干个汇编模块于与若干个c模块构成, 很多c模块要调用汇编模块. 作为试验, 我先写了个简单的汇编函数, 然后用c来调用. 结果算出来的值始终是错误的. 这令我很恼火, 因为函数很简单, 没有多少出错的余地. 后来我把程序反汇编出来, 错误马上浮现出来了, 函数的参数居然是通过寄存器来传递的. 我凭以前的经验, 从堆栈里取参数, 算出的结果当然不对了. 我以前不是没碰到过用寄存器传递参数的情况, 但所在的环境都不是 pc. 在 x86_32/linux 中, 即使用 -O3 优化选项, gcc 仍通过栈来传递参数的.

所以我们现在知道, 在 x86_64/linux/gcc3.2 中, 即使不打开优化选项, 函数的参数也会通过寄存器来传递, 这肯定是阔了的表现(通用寄存器多了).

我试验了多个参数的情况，发现一般规则为， 当参数少于7个时， 参数从左到右放入寄存器: rdi, rsi, rdx, rcx, r8, r9。当参数为 7 个以上时， 前 6 个与前面一样， 但后面的依次从 "右向左" 放入栈中。

例如：
CODE

(1) 参数个数少于7个:
f (a, b, c, d, e, f);
a->%rdi, b->%rsi, c->%rdx, d->%rcx, e->%r8, f->%r9

g (a, b)
a->%rdi, b->%rsi

有趣的是, 实际上将参数放入寄存器的语句是从右到左处理参数表的, 这点与32位的时候一致.

CODE

2) 参数个数大于 7 个的时候
H(a, b, c, d, e, f, g);
a->%rdi, b->%rsi, c->%rdx, d->%rcx, e->%rax
g->8(%esp)
f->(%esp)
call H

易失寄存器：
%rax, %rcx, %rdx, %rsi, %rdi, %r8, %r9 为易失寄存器， 被调用者不必恢复它们的值。
显然，这里出现的寄存器大多用于参数传递了， 值被改掉也无妨。而 %rax, %rdx 常用于
数值计算， %rcx 常用于循环计数，它们的值是经常改变的。其它的寄存器为非易失的，也
就是 rbp, rbx, rsp, r10~r15 的值如果在汇编模块中被改变了，在退出该模块时，必须将
其恢复。

教训:
用汇编写模块, 然后与 c 整合, 一定要搞清楚编译器的行为, 特别是参数传递的方式. 此外, 我现在比较担心的一点是, 将来如果要把程序移植到 WIN/VC 环境怎么办? 以前我用cygwin的gcc来处理汇编模块, 用vc来处理c模块, 只需要很少改动. 现在的问题是, 如果VC用不同的参数传递方式, 那我不就麻烦了?

补充:
前面的参数 a, b, c, d 等, 都是整数, 长整数, 或指针, 也就是说, 能放到寄存器里头的. 如果你要传递一个很大的结构, 我估计编译器也只能通过栈来传递了.

环境为 AMD Athlon64, Mandrak linux 9.2, GCC3.3.1

==============================

 

 

参考地址：http://hi.baidu.com/bluebanboom/blog/item/381959af65ff36fbfaed5068.html