Локальный маршрутизатор навыков ставит офлайн-модели выше облачных по умолчанию

Разработчик опубликовал next-skill-router — маршрутизатор навыков для AI-агентов, который сначала выбирает локальные модели через Ollama, vLLM или LM Studio и только затем обращается к […]

Локальный маршрутизатор навыков ставит офлайн-модели выше облачных по умолчанию

Разработчик опубликовал next-skill-router — маршрутизатор навыков для AI-агентов, который сначала выбирает локальные модели через Ollama, vLLM или LM Studio и только затем обращается к облаку.

Что произошло

Проект описывает три уровня маршрутизации: локальный, бюджетный облачный и фронтирный. Для локального уровня заявлены работа без сети и отсутствие отправки данных наружу, а для облачных уровней задаются отдельные политики.

В манифесте навыков можно потребовать только локальное выполнение, офлайн-режим или ограничение провайдерами определённого региона. Сейчас проект находится на ранней фазе: основной механизм — лексический поиск, семантический слой заявлен следующим этапом.

Почему это важно

Для рабочих агентов выбор модели — это не только вопрос качества. Документы, медицинские и служебные данные могут вообще не покидать компьютер, а сложные запросы при необходимости можно направить в отдельный разрешённый контур.

Ранний статус проекта означает, что его политики ещё предстоит проверять на реальных цепочках: важно убедиться, что запасной маршрут не отправляет данные в облако вопреки ограничению.

Вывод

Идея локального уровня по умолчанию полезнее очередного универсального списка моделей: она превращает конфиденциальность в проверяемое правило маршрутизации, а не в обещание интерфейса.