Трассировка и защита памяти

• Хорошая книжка по отладке: https://en.wikibooks.org/wiki/Linux_Applications_Debugging_Techniques

Strace

https://strace.io

• Отслеживание системных вызовов с помощью ptrace

  • + вывод сопутствующей информации
• + у всех подпроцессов
• + фильтр на вызовы/группы

• + трассировка вызовов -k и показ параметров (-s###, -v)

• + вброс ошибок

ИРЛ:

• Какие файлы (не) открывает (в т. ч. все открываемые файлы)

  • -y

• Почему висит
• Куда полезло в сеть
• Что куда пишет/читает
• …
• Что сделает, если syscall обломается

• strace — руководство

• Две статьи на хабре: первая и вторая

Другие похожие инструменты

Файл с примером:

   1 #include <stdio.h>
   2 #include <string.h>
   3 #include <stdlib.h>
   4 
   5 int main(int argc, char *argv[]) {
   6         int i;
   7         char *s;
   8 
   9         s = strdup(argv[argc-1]);
  10         for(i=0; i<4; i++)
  11                 printf("%s: %d, %d\n", s, rand(), i*2+1);
  12 
  13         return 0;
  14 }

• ld.so — LD_PRELOAD, LD_LIBRARY_PATH и т. д.

  • LD_PRELOAD trick (another one)

  • ldd

• ltrace

• …

   1 #include<stdio.h>
   2 #define TELEPORT 12
   3 
   4 void f()
   5 {
   6     int j=20;
   7     int* a = &j;
   8     *(a+TELEPORT)+=7;
   9 }
  10 
  11 int main()
  12 {
  13     int i;
  14     i=20;
  15     printf("\n i = %d \n", i);
  16     f();
  17     printf("\n i = %d \n", i);
  18     return 0;
  19 }

• cc -fstack-protector-all

• cc -fsanitize=address

• (-fno-omit-frame-pointer)

Огороды памяти

• EFence/DUMA

     1 #include <malloc.h>
     2 void main() {
     3     int *pi = (int*)malloc(10*sizeof(int));
     4     int i;
     5     for(i=0; i<11; ++i)
     6         pi[i]=i;
     7 }
  

• *malloc проекты (gperftools, jmalloc, memalloc …)

• libmemleak и ему подобные

• …

Valgrind

https://valgrind.org

• Полный эмулятор
  • В т. ч. память
• ⇒ отслеживать память, стек и кучу, количество вызовов, кеш процессора, треды.

Утечка памяти не обязательно приводит к ошибке. Порча памяти, к сожалению, тоже.

•    1 #include <stdio.h>
     2 #include <stdlib.h>
     3 
     4 void main(void) {
     5         char *p;
     6         int i;
     7 
     8         for(i=0; i<3; i++)
     9                 p = malloc(20);
    10 }
  

• Статья Алекса Отта

• The Valgrind Quick Start Guide (и вообще сайт)

• Losing Your Memory

• Описание архитектуры в документации

• Примеры использования 1, 2, 3

Д/З

0. Прочитать про

   • strace / ltrace

   • errno

1. Создать в репозитории каталог 07_DebuggingTracing и положить туда решение следующей задачи:

   • Выяснить, какой функцией пользуется команда rm при удалении обычного файла

   • Написать LD_PRELOAD-враппер вокруг этой функции, который при попытке удалить файл с именем, содержащим подстроку FIX, возвращал бы ошибку EPERM

   • Написать как минимум Makefile (или любой другой сценарий) для
     • сборки библиотеки-враппера
     • тестирования библиотеки-враппера (без враппера два файла удаляются, с враппером удаляется только один, плюс можно ещё exit status проверить, если не лень)
     • удаления генератов

   • (необязательно) оформить это в виде autotools/CMake/… проекта

     • если делать всё по инструкции (читать так: 5.4.1, затем 5.3, затем 3.2, в котором написано, что библиотека откладывается в каталог .libs) вам понадобится установить libtool

     • У меня вышло как-то так: