Перейти к основному содержимому

Интеграция с GigaChat

Настройка и проверка провайдера GigaChat без устаревающих каталогов моделей. Страница объясняет назначение, порядок применения и проверку результата.

Интеграции

Выбирайте GigaChat как LLM-провайдер CodeGraph, если политика заказчика разрешает передавать промпты из контура CodeGraph в инфраструктуру Сбера. Здесь описано устойчивое поведение CodeGraph. Модели, квоты, цены и региональная доступность меняются отдельно — перед пилотом проверьте их в личном кабинете провайдера.

Какие данные передаются

GigaChatProvider.generate() и потоковые вызовы отправляют на настроенный endpoint system_prompt, user_prompt и параметры генерации. При построении эмбеддингов передаётся исходный текст. Удалённый провайдер не становится локальным контуром обработки.

Классифицируйте и редактируйте данные до вызова провайдера. Общие меры описаны в Безопасности LLM.

Настройка учётных данных

Храните секрет вне репозитория. Текущий CLI распознаёт GIGACHAT_AUTH_KEY; при разрешении конфигурации провайдер также принимает GIGACHAT_CREDENTIALS.

$env:GIGACHAT_AUTH_KEY = '<secret-from-approved-store>'

В config.yaml оставьте только ссылку на окружение:

llm:
  provider: gigachat
  gigachat:
    credentials: ${GIGACHAT_AUTH_KEY}
    model: <approved-model-name>
    scope: GIGACHAT_API_PERS
    verify_ssl_certs: true
    ca_bundle_file: ''
    timeout: 60

По умолчанию verify_ssl_certs равен true. Если корпоративный TLS-прокси использует частный центр сертификации, укажите одобренный ca_bundle_file вместо отключения проверки. Не коммитьте разрешённый секрет и содержащий его .env.

Выбор модели и scope

Runtime проверяет модель по каталогу в src/llm/gigachat_provider.py. Это проверка совместимости с установленной версией CodeGraph, а не обещание доступа со стороны провайдера. Сверьте модель, scope, размер контекста, квоту и стоимость с текущей учётной записью.

Не копируйте таблицу моделей в операторские инструкции: она устаревает независимо от CodeGraph. Меняйте по одному параметру и заранее сохраните одобренное значение для отката.

Проверка интеграции

python -m src.cli llm providers
python -m src.cli llm test --provider gigachat --format json

Сейчас llm test подтверждает разрешение конфигурации и создание клиента. Запрос к модели не отправляется, поэтому сквозной результат подтверждается отдельной проверкой. Выполните ограниченный сценарий на несекретных данных и проверьте модель в ответе, задержку, обработку ошибок и запись у провайдера.

Обработка сбоев

  • Ошибка credentials или scope: проверьте одобренную учётную запись и ротируйте секрет без логов.
  • Ошибка TLS: проверьте endpoint и цепочку CA, не отключая verify_ssl_certs.
  • Ограничение запросов: снизьте параллелизм или запросите квоту; повтор не расширяет полномочия.
  • Неизвестная модель: выберите вариант, доступный и в исходнике, и в учётной записи.
  • Timeout: до увеличения timeout проверьте сеть и размер запроса.

Для отката верните прежнего провайдера или модель, затем повторите создание клиента и ограниченный сквозной сценарий.

Источник истины

  • Реализация провайдера: src/llm/gigachat_provider.py
  • Фабрика провайдеров: src/llm/factory.py
  • Проверка CLI: src/cli/domain_suite/llm_commands.py
  • Настройка: Конфигурация