开发文章

Windbg的gflags.exe调试堆栈溢出,访问越界等问题。

gflags.exe是Windbg下的一个小工具,非常好用,对于调试程序隐藏的bug很有帮助。

如:我在vs2015中遇到访问越界的问题,但程序不会在越界的地方发生崩溃中断,而是在一个不可能存在访问错误的地方发生了错误,以至于无法定位问题的位置。

所以在网上看到了Windbg的方法,一开始对Windbg不是很了解,熟悉之后发现Windbg很强大,虽然只用到了其中的一个小工具gflags.exe。

举个例子:

复制内容到剪贴板
  1. int main()     
  2.    {      
  3.        char *p = new char[10];    
  4.        for(int i = 0; i != 11; ++i)       
  5.            p[i] = i;      
  6.        return 0;      
  7.    }  

这是一个非常简单的越界程序,当i = 10时,访问越界了。但是如果不采用测试工具,这里是不会发生崩溃的。一般情况下,程序获取的空间是16字节对齐的,所以p[10]访问到的是对齐之后增加的空间,不会导致越界崩溃。但这是隐患,为了使隐患尽早被发现,使用工具是很好的选择。
gflags用来跟踪这个程序的执行,可以设置每一次new分配的堆空间都单独的占有一块空间,并且这个空间相邻的位置被设置为不可访问的,一旦访问越界立即触发访问无效错误,尽早的触发崩溃。

gflags.exe的作用:跟踪被调试的程序

方法:
1、下载Debugging Tools for Windows,使用其中的gflags.exe。
2、双击打开gflags.exe,选择Image File标签。前两个标签是对所有程序进行跟踪。
3、在Image栏里输入你希望调试的程序名。比如,mytest.exe。(按Tab刷新)。
4、勾选Debugger并输入vsjitdebugger.exe。
5、点击OK或者Apply。

注:用vc编译出release版本的可执行文件:mytest.exe。(注意:不是debug版本),gflags.exe工具跟踪被监控的程序一定要是release版本的,debug版本的跟踪的不会那么的准确。

gflags.exe工具.png

这个时候,已经把要监控的test.exe注册上了。程序会中断到发生错误的地方,有源代码更好查看,本人就是在源代码下进行调试。

最后、问题解决了记得关闭gflags,因为开启gflags,调试运行就慢了,最后会影响到程序的性能,亲测性能下降非常严重。
关闭方法;

HKEY_LOCAL_MACHINE/SOFTWARE/Microsoft/WindowsNT/CurrentVersion/Image File Execution Options/mytest.exe

网上看到是取消Debugger的勾选,但是无效,最后清除注册表后程序恢复原有速度。

已上传Debugging Tools for Windows,如有需要可在资源中下载,链接如下

http://download.csdn.net/download/bao_bei/9882877

 

文章信息

发布时间:2018-02-10

发布者:aquwcw

浏览次数: