Если вы пишете вызовы LLM в production-среде и привыкли жестко кодировать название модели в коде, то при каждой замене приходится вручную менять код и тестировать.

Можно попробовать запустить — это предлагает стратегический слой времени выполнения. Не требуется фиксировать модель в коде, а каждый запрос несет с собой стратегию.
Эта стратегия во время выполнения автоматически отфильтрует модели, не соответствующие правилам, отсортирует оставшиеся подходящие модели, может сортировать по цене. Если выбранная модель не сработает, автоматически переключится на следующий подходящий вариант.
Это аналогично передаче параметра температуры в вызове API: решение о маршрутизации больше не зашивается в коде, а становится частью запроса и динамически определяется во время выполнения в соответствии со стратегией. По сравнению с жестким кодированием модели в коде или статической настройкой в панели управления шлюза, такой подход обеспечивает большую гибкость и сокращает постоянное ручное обслуживание.