Глубину разбора определяют последствия ошибки. Факты, расчёты и поведение кода подтверждаются разными способами.
Сначала определить цену ошибки
Проверка не обязана быть одинаковой для каждого ответа. В профиле рисков генеративного ИИ NIST предлагает учитывать конкретный сценарий, вероятность и тяжесть последствий, а ресурсы на управление риском соотносить с возможным вредом. Документ адресован организациям. Для личной практики я беру из него простой рабочий вопрос: что произойдёт, если этот результат окажется неверным?
До отправки ответьте ещё на три вопроса: сможет ли команда быстро отменить следующий шаг, затрагивает ли он данные или безопасность и кто вправе принять итоговое решение. Так черновик описания задачи и команда для изменения рабочей базы не окажутся в одной очереди на беглую проверку.
Три уровня проверки
Обратимый черновик. Это внутренняя заготовка, после которой никто ещё не принимает решение и не меняет систему. Сверьте её с исходной задачей, удалите вымышленные детали, обозначьте предположения. Проверьте, что в запрос не попали сведения, которые нельзя передавать выбранному инструменту.
Рабочее решение. Результат повлияет на оценку срока, приоритет, постановку задачи или действия нескольких людей. Для каждого существенного факта найдите основание: документ, данные, воспроизводимый тест или подтверждение владельца вопроса. Если ИИ предложил альтернативы, сравните их по заранее выбранным критериям, а не по убедительности формулировки.
Трудно обратимое действие. Изменение затрагивает рабочую среду, доступы, безопасность, внешнее обещание или персональные данные. В таких задачах руководствуйтесь правилами организации: согласуйте ответственного специалиста и разрешённый способ испытания. Если такой проверки нет, результат остаётся черновиком. Повторный вопрос той же модели может найти противоречие, но не становится независимым доказательством.
Эти три уровня - мой практический инструмент, а не классификация NIST или поставщика модели. Граница зависит от вашей роли, полномочий и внутренних регламентов.
Карточка передачи результата
Чтобы коллега видел не только итог, приложите короткую карточку из пяти полей:
- Задача: какой результат требовался.
- Роль ИИ: что именно он подготовил или проверил.
- Подтверждено: какие факты, расчёты и тесты вы сверили.
- Не проверено: где осталось предположение или ограничение.
- Следующий шаг: какое решение или действие нужно от получателя.
Учебный пример сообщения:
Подготовил черновик вариантов миграции с помощью ИИ. Требования и список зависимостей сверил с постановкой, расчёт срока пока не подтверждён командой. Нужен выбор допустимого окна остановки; после него обновлю оценку и план отката.
Такая формулировка не перекладывает ответственность на инструмент и не создаёт видимость завершённой проверки.
Проверять по типу результата
GitHub в документации о Copilot отдельно предупреждает, что ответы и код могут быть неточными или неполными, и рекомендует их проверять и тестировать. Для кода это означает запуск согласованных тестов, проверку граничных условий и требований безопасности. Для текста - сверку дат, имён, чисел и ссылок с первоисточниками. Для рекомендации - проверку исходных ограничений и критериев выбора.
Google Cloud также разделяет автоматическую оценку и человеческую проверку: метрики масштабируются, но могут потерять контекст. В обычной рабочей задаче из этого следует полезное ограничение: автоматическая проверка помогает найти часть ошибок, но не подтверждает, что результат подходит именно вашей ситуации.
Перед отправкой
Остановитесь на минуту и закончите три фразы: "ошибка здесь приведёт к...", "я проверил...", "получателю ещё нужно решить...". Если первая фраза описывает серьёзное или трудно обратимое последствие, добавьте независимую проверку до передачи результата дальше.
Этот подход отличается от проверки собственного обучения. Здесь вопрос не в том, сможете ли вы повторить работу без ИИ, а в том, достаточно ли оснований, чтобы другой человек действовал по вашему материалу.
Если хотите встроить такую проверку в свою рабочую задачу, рекомендую обратиться ко мне за наставничеством. Разберём результат, определим необходимый уровень проверки и составим план следующего шага. Наставничество помогает подготовить работу и разговор с командой, но не гарантирует карьерный или финансовый результат.
Запомнить
- Определите, где ошибка повлияет на решение коллег.
- Сопоставьте факты, вычисления и логику с исходниками.
- Передайте результат вместе с основаниями и существенными условиями.