Доступ только к разрешённым действиям
ИИ получает доступ только к разрешённым файлам и операциям проекта.
Контроль кода, созданного ИИ
Для ИИ задаются разрешённые действия и ожидаемый результат. Созданный код проходит тесты и независимое ревью.
ТребованиеОжидаемое поведение
ПраваРазрешённые файлы и операции
ПроверкиТесты и независимое ревью
РешениеОтветственный принимает изменение
Ситуация
Для принятия изменения нужны связанные требования, тесты, проверка безопасности и независимое ревью.
Как проходит работа
- 1Ограничить заданиеПередать утверждённую область, разрешённые действия, запреты и условия остановки.
- 2Зафиксировать источник измененияСвязать созданный код с заданием, требованиями, исполнителем и версией.
- 3Проверить отдельноЗапустить машинные проверки и независимое ревью, затем показать оставшиеся пробелы.
Результат
Результаты проверок отделены от ответа модели
Проверки возвращают структурированные результаты независимо от текста ответа модели.
Проще ревью изменений
Проверяющий видит требование, затронутую область и результаты независимых проверок.
Метрики и ответственные
- Изменения ИИ без связанного требования
- Доля изменений с независимой проверкой
- Число выходов за разрешённую область
- Открытые проблемы перед ревью
Разработчик принимает изменение в кодовую базу. Архитектор рассматривает влияние на систему. Владелец риска рассматривает исключения. Ответственный за выпуск принимает итоговое решение.
Разобрать изменение, созданное ИИ
На встрече проверим права ИИ, созданное изменение, тесты и ревью.