Provision
—— XP

ИИ: что он умеет и где ошибается

теория~6 минут+100 XP

Ты приходишь в профессию в момент, когда модель за минуту пишет Dockerfile, манифест Kubernetes и конвейер CI. Закономерный вопрос: есть ли смысл учить то, что генерируется одной строкой запроса.

Ответ на него лозунгом не дать, поэтому разберём предметно — что модели действительно делают хорошо, где регулярно ошибаются и что в работе инженера от этого стало дороже.

Что модели делают хорошо

Начнём с честного списка — по тому, что подтверждается в ежедневной работе, а не по рекламе.

Сильные стороны
Черновик конфига
Dockerfile, манифест, конвейер, playbook по описанию задачи. Как стартовая точка — быстрее, чем искать пример и править под себя.
Объяснение чужого
Разобрать доставшийся конфиг или скрипт построчно. Экономит часы там, где раньше читали исходники инструмента.
Разбор ошибки
Дать сообщение об ошибке и получить список вероятных причин. Не готовый ответ, но хороший список версий для проверки.
Разовые скрипты
Перебрать файлы, переформатировать вывод, собрать статистику. Задачи, которые пишутся один раз и выбрасываются.
Перевод между форматами
Из docker-compose в манифесты, из bash в Python, из одного формата логов в другой.
Проверка на типовые ошибки
Попросить найти в конфиге опасные места. Модель заметит открытый порт или права 777, если её об этом спросить.

Список приличный, и половину из него ты будешь использовать ежедневно. Тем важнее понимать, где он заканчивается.

Где они ошибаются

Главная причина ошибок не в качестве модели, а в разнице между тем, что она видит, и тем, что есть у тебя.

Две колонки. Слева «что видит модель»: типовая задача из обучающих данных. Справа «что есть у тебя»: конкретный кластер версии 1.29, политики сети, чужие секреты, соглашения об именах и лимиты. Между нижними строками стоит оранжевый знак неравенства.
Слева усреднённое, справа ваше — и справа всегда подробнее. Знак неравенства стоит там, где сравниваются два ответа: правдоподобный по форме и верный для конкретной среды. Это разные вещи, и по виду ответа их не различить.

Разрыв между этими колонками и есть работа инженера. Из него вырастают все типовые ошибки.

Типовые ошибки сгенерированного
Не знает контекста
Имена, версии, сети, политики и соглашения вашей инфраструктуры модели неизвестны. Пробелы заполняются правдоподобными значениями — и конфиг выглядит рабочим.
Отстаёт по версиям
Флаги переименовывают, API объявляют устаревшими. Предложенное было верным год назад и молча не работает сейчас.
Уверенно ошибается в мелочах
Маска подсети, права на файл, срок хранения, единица измерения. Ровно те детали, где ошибка стоит дороже всего и незаметна при беглом чтении.
Не отвечает за результат
Команду выполняет человек, и последствия тоже его. Ссылка «так посоветовала модель» не работает ни на разборе инцидента, ни в резюме.
Недетерминированность
Одинаковый запрос даёт разные ответы. Для черновика это неважно, для автоматической проверки — недопустимо.

Все пять пунктов объединяет одно: ошибка выглядит как рабочий ответ. Но есть шестая, которая не выглядит вообще никак.

Отдельно про секреты

Есть ошибка, которая не приводит ни к одному сообщению об ошибке и потому остаётся незамеченной месяцами.

Разбирая проблему, легко вставить в чат конфиг целиком — вместе с паролем базы, токеном реестра или приватным ключом. Всё отправленное уходит третьей стороне и может там сохраняться. Для рабочих систем это утечка, причём такая, о которой ты узнаешь только постфактум.

Правило простое: заглушки вместо секретов до отправки. Суть вопроса от замены PASSWORD=hunter2 на PASSWORD=*** не меняется ни на грамм.

В этой платформе та же логика заложена в код: вывод, который ты вставляешь в блок проверки, проходит через маскировку распространённых форматов секретов до того, как куда-либо уходит. Но полагаться только на автоматику нельзя — своя машина всегда преподносит сюрпризы.

Что стало дороже

Итог короткий: написать черновик стало дёшево, проверить его — нет.

ЧтоРаньшеСейчас
Помнить синтаксисзаметная часть ценностипочти ничего не стоит
Найти примерпоиск, статьи, чужие репозиторииминута
Понять, почему система ведёт себя такценноценно так же
Проверить решение перед применениемценноценнее прежнего: проверять приходится чаще
Отвечать за продна человекена человеке

Отсюда практический вывод для того, кто учится: бессмысленно заучивать флаги и полезно разбираться в механизмах. Урок про права доступа во втором разделе объясняет не набор флагов, а устройство: у файла есть владелец, группа и все остальные, и каждому даётся своё «читать, писать, запускать». Поняв это, ты за секунду увидишь, почему сгенерированное «поставь права 777» открывает файл всем. Не поняв — примешь совет на веру.

Словарь урока

Правдоподобный ответ
Синтаксически корректный и похожий на правильный, но не проверенный в твоей среде. Основной вид ошибки при генерации конфигураций.
Недетерминированность
Когда на один и тот же запрос модель каждый раз отвечает по-разному. Поэтому ей нельзя доверять там, где результат обязан повторяться.
Маскировка секретов
Замена паролей и токенов заглушками до отправки текста наружу.

Что спросят на собеседовании

  • Пользуетесь ли вы ИИ в работе и как?
    Как генератором черновиков и объяснений. Ответ всегда проверяется по документации своей версии и безопасным режимом инструмента, потому что модель не знает контекста среды.
  • В чём главный риск сгенерированных конфигураций?
    Правдоподобность. Конфиг синтаксически корректен и похож на правильный, но не учитывает версии, имена и политики конкретной инфраструктуры.
  • Что нельзя отправлять в чат с моделью?
    Секреты в любом виде: пароли, токены, ключи, содержимое kubeconfig. Всё отправленное уходит третьей стороне и может сохраняться.

Что дальше

Ограничения понятны. Дальше — как с этим работать на практике: правила безопасного использования и то, что ИИ добавляет инженеру в виде новой нагрузки.

Проверь себя+100 XPдве попытки
1
Главное ограничение
Почему сгенерированный конфиг может быть правдоподобным и при этом неверным?
2
Версии
Чем опасно отставание модели по версиям инструментов?
3
Секреты
Что делать с паролями и токенами перед отправкой конфига в чат?
4
Что подорожало
Как изменилась ценность навыков с появлением моделей?
ответь на все вопросы, чтобы проверить

Нашёл ошибку или непонятное место? Наведи на абзац — слева появится «+», нажми и напиши, что не так. Замечание увидит автор курса.Нашёл ошибку или непонятное место? Нажми «+» справа от заголовка раздела и напиши, что не так. Замечание увидит автор курса.