20 сентября вышел LiteLLM 1.103.0-rc.1. Проект предоставляет разработчикам и ML-платформенным командам единый интерфейс в формате OpenAI для обращения к моделям более чем 100 провайдеров. Новая версия пока имеет статус предварительной.

Расширение для VS Code позволяет использовать LiteLLM как поставщика языковых моделей прямо в редакторе. Для MCP-шлюза появилась панель активных сессий с привязкой к AI-клиенту и пользователю. Администраторы могут принудительно закрывать такие подключения и отзывать сохранённые учётные данные.

Релиз также расширяет работу со Speech API: добавлены сквозные маршруты для Amazon Transcribe и Azure AI Speech, потоковое распознавание через Deepgram и Vertex AI Chirp, а также транскрибация с помощью xAI Grok Voice.

Расширение для VS Code позволяет подключать модели через LiteLLM непосредственно в редакторе. Просмотр активных MCP-сессий по AI-клиентам и пользователям, их принудительное закрытие и отзыв сохранённых учётных данных упрощают централизованное управление подключениями.

Эти возможности ориентированы прежде всего на пользователей VS Code, администраторов MCP-шлюза и команды, работающие с речевыми сервисами. Для рабочих систем стоит учитывать статус RC: проект рекомендует использовать образы со стабильным тегом, прошедшие нагрузочное тестирование.