Используйте провайдер, если CodeGraph разрешено передавать запросы LLM и эмбеддингов в одобренный каталог Yandex Cloud заказчика. Здесь описано устойчивое поведение CodeGraph. Каталог моделей, квоты, цены и облачные роли меняются на стороне провайдера — проверьте их перед пилотом.
Какие данные передаются
При генерации отправляются system_prompt, user_prompt и параметры. Для эмбеддингов передаются
исходные тексты. Запросы выходят из контура CodeGraph на настроенный endpoint Yandex.
Клиент устанавливает x-folder-id и x-data-logging-enabled: false. Второй заголовок запрашивает
отключение журналирования данных у провайдера. Обработку контролируют DLP, retention, контроль
доступа и договорные меры заказчика. См. Безопасность LLM.
Настройка учётных данных
Храните ключ в одобренном менеджере секретов, а CodeGraph передавайте только ссылки на окружение:
$env:YANDEX_API_KEY = '<secret-from-approved-store>'
$env:YANDEX_FOLDER_ID = '<approved-folder-id>'
llm:
provider: yandex
yandex:
api_key: ${YANDEX_API_KEY}
folder_id: ${YANDEX_FOLDER_ID}
model: <approved-model-name>
base_url: https://llm.api.cloud.yandex.net/v1
embedding_model: <approved-embedding-model>
timeout: 60
Провайдер формирует URI генерации как gpt://<folder_id>/<model>, а эмбеддингов — как
emb://<folder_id>/<model>. Политика IAM каталога должна разрешать только нужные пилоту операции.
Никогда не коммитьте разрешённый API-ключ.
Выбор моделей
Совместимые псевдонимы и значения по умолчанию находятся в src/llm/yandex_provider.py. Это факты
об установленной версии CodeGraph, а не текущий каталог Yandex. Проверьте доступность, срок жизни,
контекст, квоту, регион и цену модели в контуре провайдера.
Заранее одобрите модель для отката. Модели генерации и эмбеддингов меняйте отдельно, чтобы причина сбоя оставалась однозначной.
Проверка интеграции
python -m src.cli llm providers
python -m src.cli llm test --provider yandex --format json
Текущий llm test проверяет разрешение конфигурации и создание клиента, но не выполняет inference.
После него запустите ограниченную генерацию на несекретных данных и, если нужно, эмбеддинги.
Проверьте URI модели, каталог, задержку, учёт использования, аудит провайдера и обработку ошибок.
Обработка сбоев
- Ошибка аутентификации или каталога: проверьте права ключа и
YANDEX_FOLDER_ID, затем безопасно ротируйте ключ. - Недоступная модель: выберите вариант, одобренный и в исходнике, и у провайдера.
- Ограничение запросов: снизьте параллелизм или запросите квоту, не создавая бесконечный повтор.
- Timeout или сеть: до увеличения времени проверьте политику сети и размер запроса.
- Несовместимая политика данных: остановите удалённую обработку и выберите одобренный контур.
Для отката верните предыдущего провайдера или модель и повторите создание клиента и ограниченную сквозную проверку.
Источник истины
- Реализация провайдера:
src/llm/yandex_provider.py - Фабрика провайдеров:
src/llm/factory.py - Проверка CLI:
src/cli/domain_suite/llm_commands.py - Настройка: Конфигурация