Выбирайте GigaChat как LLM-провайдер CodeGraph, если политика заказчика разрешает передавать промпты из контура CodeGraph в инфраструктуру Сбера. Здесь описано устойчивое поведение CodeGraph. Модели, квоты, цены и региональная доступность меняются отдельно — перед пилотом проверьте их в личном кабинете провайдера.
Какие данные передаются
GigaChatProvider.generate() и потоковые вызовы отправляют на настроенный endpoint
system_prompt, user_prompt и параметры генерации. При построении эмбеддингов передаётся
исходный текст. Удалённый провайдер не становится локальным контуром обработки.
Классифицируйте и редактируйте данные до вызова провайдера. Общие меры описаны в Безопасности LLM.
Настройка учётных данных
Храните секрет вне репозитория. Текущий CLI распознаёт GIGACHAT_AUTH_KEY; при разрешении
конфигурации провайдер также принимает GIGACHAT_CREDENTIALS.
$env:GIGACHAT_AUTH_KEY = '<secret-from-approved-store>'
В config.yaml оставьте только ссылку на окружение:
llm:
provider: gigachat
gigachat:
credentials: ${GIGACHAT_AUTH_KEY}
model: <approved-model-name>
scope: GIGACHAT_API_PERS
verify_ssl_certs: true
ca_bundle_file: ''
timeout: 60
По умолчанию verify_ssl_certs равен true. Если корпоративный TLS-прокси использует частный
центр сертификации, укажите одобренный ca_bundle_file вместо отключения проверки. Не коммитьте
разрешённый секрет и содержащий его .env.
Выбор модели и scope
Runtime проверяет модель по каталогу в src/llm/gigachat_provider.py. Это проверка совместимости
с установленной версией CodeGraph, а не обещание доступа со стороны провайдера. Сверьте модель,
scope, размер контекста, квоту и стоимость с текущей учётной записью.
Не копируйте таблицу моделей в операторские инструкции: она устаревает независимо от CodeGraph. Меняйте по одному параметру и заранее сохраните одобренное значение для отката.
Проверка интеграции
python -m src.cli llm providers
python -m src.cli llm test --provider gigachat --format json
Сейчас llm test подтверждает разрешение конфигурации и создание клиента. Запрос к модели не
отправляется, поэтому сквозной результат подтверждается отдельной проверкой. Выполните ограниченный
сценарий на несекретных данных и проверьте модель в ответе, задержку, обработку ошибок и запись у
провайдера.
Обработка сбоев
- Ошибка credentials или scope: проверьте одобренную учётную запись и ротируйте секрет без логов.
- Ошибка TLS: проверьте endpoint и цепочку CA, не отключая
verify_ssl_certs. - Ограничение запросов: снизьте параллелизм или запросите квоту; повтор не расширяет полномочия.
- Неизвестная модель: выберите вариант, доступный и в исходнике, и в учётной записи.
- Timeout: до увеличения
timeoutпроверьте сеть и размер запроса.
Для отката верните прежнего провайдера или модель, затем повторите создание клиента и ограниченный сквозной сценарий.
Источник истины
- Реализация провайдера:
src/llm/gigachat_provider.py - Фабрика провайдеров:
src/llm/factory.py - Проверка CLI:
src/cli/domain_suite/llm_commands.py - Настройка: Конфигурация