VS2010中編寫x64彙編的具體方法

編寫涉及系統特性的一些底層程序，特別是ShellCode，不可避免地要採用直接編寫彙編代碼的方式。

在目標平臺爲x86模式時，可以直接使用內聯彙編，這個很多人都比較熟悉了，也非常地方便。

但是當目標平臺爲x64時，微軟不再允許直接內聯彙編了，這給我們編程造成了一些不便。

怎麼解決這個問題呢？一種辦法是改用Intel的編譯器，它仍然支持內聯彙編。

另一種辦法還是用VS了，但是不能內聯，需要把彙編部分單獨寫到一個asm文件裏，然後在其它源文件中引用。

我參考了一些網上的說明，在這裏把過程寫詳細些，方便自己，也方便他人。

主要過程：

一、在asm文件中單獨編寫功能函數

比如要實現一個64位的加法函數，原型如下：

ULONG64 myAdd(ULONG64 u1,ULONG64 u2);

那麼新建一個文件，寫入以下內容

.CODE

myAdd PROC
    add rcx,rdx
    mov rax,rcx
    ret
myAdd ENDP

END

將以上內容保存爲myadd.asm，然後加其加入到工程中。

在其它需要引用該函數的源文件中，添加以下聲明：

#include "stdafx.h"
#include <windows.h>

//聲明引用外部函數
EXTERN_C ULONG64 myAdd(ULONG64 u1,ULONG64 u2);

int _tmain(int argc, _TCHAR* argv[])
{
    ULONG64 result = myAdd(0x111111111,0x333333333);
    printf("result = 0x%I64X\n",result);
    return 0;
}

二、設置asm文件的生成方式

在asm文件上點擊右鍵，選擇“屬性”：

然後點擊左側的“常規”，“從生成中排除”選擇“否”，“項類型”選擇“自定義生成工具”，然後點擊應用。

此時在“常規”下面就會出現“自定義生成工具”的條目。

點擊它，設置“命令行”爲 ml64 /Fo $(IntDir)%(fileName).obj /c %(fileName).asm

如果是32位把ml64改成ml即可

設置輸出爲 $(IntDir)%(fileName).obj，該項必須配置，否則VS認爲該文件沒有設置輸出就會不處理它，同時它也告訴鏈接器到哪裏去找這個obj文件。

上面的 $(IntDir)是一個宏，表示當前生成配置的目錄，比如"x64\Debug"。

經過以上配置之後，asm文件編譯生成的obj文件就會自動生成到相應配置的目錄。

三、生成工程

全部配置完成以後，就可以愉快地生成工程了。正常的輸出結果如下：

1>------ 已啓動生成: 項目: testasm, 配置: Release x64 ------
1>生成啓動時間爲 2016/4/10 9:45:36。
1>InitializeBuildStatus:
1>  正在創建“x64\Release\testasm.unsuccessfulbuild”，因爲已指定“AlwaysCreate”。
1>CustomBuild:
1>  Performing Custom Build Tools
1>   Assembling: myAdd.asm
1>  Microsoft (R) Macro Assembler (x64) Version 10.00.40219.01
1>  Copyright (C) Microsoft Corporation.  All rights reserved.
1>  
1>ClCompile:
1>  stdafx.cpp
1>  testasm.cpp
1>Link:
1>  正在生成代碼
1>  已完成代碼的生成
1>  testasm.vcxproj -> F:\x64Program\testasm\x64\Release\testasm.exe
1>FinalizeBuildStatus:
1>  正在刪除文件“x64\Release\testasm.unsuccessfulbuild”。
1>  正在對“x64\Release\testasm.lastbuildstate”執行 Touch 任務。
1>
1>生成成功。
1>
1>已用時間 00:00:01.11
========== 生成: 成功 1 個，失敗 0 個，最新 0 個，跳過 0 個 ==========