系统相关
首页 > 系统相关> > ubuntu下使用gdb调试程序(栈溢出)

ubuntu下使用gdb调试程序(栈溢出)

作者:互联网

在linux下发生段错误时会生成core dump核心转储文件里面记录了发生段错误时的函数调用关系。
在ubuntu上默认的栈空间大小为8192kb应用程序的栈超过这个值就会发生段错误,可以通过命令ulimit -s来查看栈的大小。

//test1
#include <stdio.h>
#include <unistd.h>
#include <string.h>

void call_fault(void)
{
  char array[9 * 1024 * 1024];//超过了默认设置的栈的大小

  memset(array, 0, sizeof(array));
}

void call_test(void)
{
  int a;

  a = 1;
  call_fault();
}

int main()
{
  call_test();

  return 0;
}

参照下面的步骤来操作:

  1. 无论你是用Makefile来编译,还是直接在命令行手工输入命令来编译,都应该加上 -g 选项。
    gcc -g test1.c -o test1
  2. 一般来说,在默认情况下,在程序崩溃时,core文件是不生成的(很多Linux发行版在默认时禁止生成核心文件)。所以,必须修改这个默认选项,在命令行执行:
    ulimit -c unlimited 表示不限制生成的core文件的大小。
  3. 运行程序,会发生Segmentation Fault错误。
    ./test1
  4. 这时,会发现在程序同一目录下,生成了一个文件名为 core.*** 的文件,即核心文件。例如,“core.15667”这样的文件。(文件名也可能直接就是core)
  5. 用GDB调试它。假设可执行程序名为test1,则在命令行执行
    gdb test1 core
    给出了信息,在9行出现了问题,导致了段错误在这里插入图片描述
    backtrace(简写:bt) //显示程序的堆栈信息,可以由此分析出函数的调用关系
    在这里插入图片描述
    frame 3 //上面以#开头的行称为帧(frame),可以使用frame指定查看,比如这里指定查看第3帧
    在这里插入图片描述
    backtrace full (简写bt full) //full参数表示完全显示函数之间相互调用时传递的参数值和函数的内部变量值
    在这里插入图片描述
    这里可以看出来,具体产生栈溢出导致段错误的原因,由于请求的数组的大小已经大于了默认的栈的大小

标签:test1,core,文件,void,默认,gdb,call,调试程序,ubuntu
来源: https://blog.csdn.net/dtf_csy/article/details/111500636