Provision
—— XP

Практика: разбор access-лога

практика~25 минут+300 XP

Сайт стал отвечать медленно, а мониторинга нет. Зато есть access-лог веб-сервера — файл, куда записывается каждый запрос. По нему за пять минут отвечают на три вопроса, которые первыми задают при разборе: сколько было ошибок, какие запросы тормозили и не долбит ли сервер кто-то один.

Лог здесь короткий, чтобы ответы можно было сверить глазами. Команды те же, что на логе в миллион строк.

Шаг 1. Создать лог

Каталоги для лабораторных и сам лог. Блок копируется целиком: команда cat с <<'EOF' записывает в файл всё до строки EOF.

стенд · подготовкаскрипт подготовки, выполняется целиком
mkdir -p ~/devops-lab/logs ~/devops-lab/reports
cat > ~/devops-lab/logs/access.log <<'EOF'
10.0.0.14 09:00:01 GET /api/items 200 142
10.0.0.31 09:00:04 GET /api/items 200 88
10.0.0.14 09:00:09 POST /api/items 201 320
10.0.0.9 09:00:15 GET /api/health 200 12
10.0.0.14 09:00:21 GET /api/report 200 1840
10.0.0.31 09:00:28 GET /api/items 404 18
10.0.0.14 09:00:33 GET /api/report 500 3050
10.0.0.9 09:00:40 GET /api/items 200 95
10.0.0.14 09:00:47 GET /api/report 500 4120
10.0.0.31 09:00:52 GET /api/health 200 9
10.0.0.14 09:01:03 GET /api/report 500 2760
10.0.0.9 09:01:11 GET /api/items 200 500
10.0.0.14 09:01:19 GET /api/items 200 167
10.0.0.31 09:01:25 GET /api/report 200 1290
EOF

Поля: $1 адрес, $2 время, $3 метод, $4 путь, $5 код ответа, $6 время ответа в миллисекундах.

Шаг 2. Сколько всего запросов

Перейдём в каталог с логом, чтобы не писать длинные пути, и посчитаем строки.

ubuntu@stand:~$
cd ~/devops-lab/logs
wc -l access.log           # -l — посчитать строки
14 access.log

14 запросов. Это знаменатель для всех остальных чисел.

Шаг 3. Ловушка grep

Попробуем посчитать ошибки 500 «в лоб».

ubuntu@stand:~$
grep -c 500 access.log
4

Четыре — и это неверно. Посмотри на строку 10.0.0.9 09:01:11 GET /api/items 200 500: код 200, а 500 — это миллисекунды. grep ищет подстроку где угодно.

Шаг 4. Коды ответа по колонке

Правильно — взять пятое поле и сохранить в отдельный файл.

ubuntu@stand:~$
awk '{print $5}' access.log > codes.txt

Команда молчит: вывод ушёл в файл. Теперь сгруппируем одинаковые коды. sort ставит одинаковые строки рядом, uniq -c схлопывает их и пишет число.

ubuntu@stand:~$
sort codes.txt | uniq -c
      9 200
      1 201
      1 404
      3 500

Ошибок 500 — три, а не четыре. Первое число — сколько раз, второе — какой код.

Шаг 5. Медленные запросы

Отберём строки, где шестое поле больше 1000, и посчитаем их.

ubuntu@stand:~$
awk '$6 > 1000' access.log | wc -l
5

Пять медленных запросов. Посмотрим, куда они шли:

ubuntu@stand:~$
awk '$6 > 1000 {print $4}' access.log
/api/report
/api/report
/api/report
/api/report
/api/report

Все пять — на /api/report. Тормозит не сервер целиком, а одна ручка (так называют отдельный адрес API).

Шаг 6. Кто ходит чаще всех

Тот же приём, что с кодами: первое поле в файл, потом группировка.

ubuntu@stand:~$
awk '{print $1}' access.log > ips.txt
ubuntu@stand:~$
sort ips.txt | uniq -c
      7 10.0.0.14
      4 10.0.0.31
      3 10.0.0.9

Половина запросов — с 10.0.0.14, и по логу видно, что именно он дёргает /api/report.

Шаг 7. Собрать отчёт

Отчёт — это файл с результатами, а не с командами. Перейдём в каталог отчётов: > создаёт файл, >> дописывает в конец.

ubuntu@stand:~$
cd ~/devops-lab/reports
sort ../logs/codes.txt | uniq -c > access-report.txt
echo "медленных: 5" >> access-report.txt

Добавим счётчик адресов и одну строку вывода своими словами.

ubuntu@stand:~$
sort ../logs/ips.txt | uniq -c >> access-report.txt
echo "вывод: тормозит /api/report" >> access-report.txt
cat access-report.txt
      9 200
      1 201
      1 404
      3 500
медленных: 5
      7 10.0.0.14
      4 10.0.0.31
      3 10.0.0.9
вывод: тормозит /api/report

Шаг 8. Копия конфига для sed

Теперь вторая половина практики — замена в конфиге. Работаем с копией настоящего sshd_config в каталоге лабораторных, чтобы ничего не сломать.

ubuntu@stand:~$
cd ~/devops-lab
cp /etc/ssh/sshd_config sshd_config.copy
grep -n Port sshd_config.copy
15:# configuration must be re-generated after changing Port, AddressFamily, or
23:#Port 22
98:#GatewayPorts no

Слово Port нашлось трижды: в комментарии, в имени другой настройки GatewayPorts и в нужной строке 23. Номера у тебя могут отличаться на пару строк. Нужная строка закомментирована: решётка в начале значит, что действует значение по умолчанию — 22.

Шаг 9. Заменить через sed

Сначала без -i — только посмотреть, что получится.

ubuntu@stand:~$
sed 's/^#Port 22/Port 2222/' sshd_config.copy | grep '^Port'
Port 2222

Знак ^ в шаблоне значит «в начале строки» — и в sed, и в grep. Поэтому замена не задела комментарии, а grep показал одну строку вместо трёх. Результат верный — теперь записываем в файл флагом -i.

ubuntu@stand:~$
sed -i 's/^#Port 22/Port 2222/' sshd_config.copy

Шаг 10. Проверить правку

Команда sed -i молчит, поэтому проверяем глазами.

ubuntu@stand:~$
grep -n '^Port' sshd_config.copy
23:Port 2222

Настоящий /etc/ssh/sshd_config не тронут, менять порт на стенде не нужно. На настоящем сервере правкой файла дело бы не кончилось: в Ubuntu 24.04 порт слушает не сам sshd, а systemd через ssh.socket, и новый порт заработает только после daemon-reload и перезапуска ssh.socket. Об этом прямо написано в комментарии на строке 15 и подробно — в уроке про защиту сервера.

Что тут на самом деле произошло

Вывод «сервер тормозит» бесполезен. Вывод «тормозит /api/report, все три ошибки 500 на нём, и чаще всех его вызывает 10.0.0.14» — готовая задача для разработчика. Разница между этими формулировками и есть разница между плохим и хорошим разбором инцидента.

Что спросят на собеседовании

  • Как посчитать коды ответа в access-логе?
    awk '{print $5}' по колонке кода, затем sort | uniq -c. grep по подстроке ошибается: число может оказаться в другой колонке.
  • Зачем sort перед uniq -c?
    uniq схлопывает только соседние одинаковые строки. Без сортировки одинаковые значения в разных местах файла посчитаются отдельно.
  • Как безопасно поменять значение в конфиге через sed?
    Сначала прогнать без -i и посмотреть результат, потом с -i, потом проверить grep. На важном файле — сделать копию.
Практика 02+300 XP

Научиться отвечать на вопросы по логу короткими командами grep, awk и sort — и менять значение в конфиге через sed, не открывая редактор.

  • Посчитаны коды ответа: 200 встречается 9 раз
  • Код 500 встречается 3 раза, а не 4
  • Медленных запросов (дольше 1000 мс) — 5
  • Самый активный адрес — 10.0.0.14, 7 запросов
  • В копии конфига порт заменён на 2222
Команда сдачи — выполни на своей машине
команда
cat ~/devops-lab/reports/access-report.txt; grep '^Port' ~/devops-lab/sshd_config.copy

Нашёл ошибку или непонятное место? Наведи на абзац — слева появится «+», нажми и напиши, что не так. Замечание увидит автор курса.Нашёл ошибку или непонятное место? Нажми «+» справа от заголовка раздела и напиши, что не так. Замечание увидит автор курса.