«Если рабочий хочет хорошо выполнять свою работу, он должен сначала заточить свои инструменты» — Конфуций, «Аналитики Конфуция. Лу Лингун»
титульная страница > программирование > Семантический маршрутизатор - управление LLM

Семантический маршрутизатор - управление LLM

Опубликовано 27 августа 2024 г.
Просматривать:397

Semantic Router - Steer LLMs

Я хотел поделиться проектом SemRoute, над которым я работал, и мне хотелось бы получить ваши отзывы. SemRoute — это семантический маршрутизатор, который использует векторные внедрения для маршрутизации запросов на основе их семантического значения. Он спроектирован так, чтобы быть гибким и простым в использовании, без необходимости обучения классификаторов или использования больших языковых моделей.

Краткий обзор:

  • Поддержка нескольких моделей встраивания (OpenAI, MistralAI)
  • Поддержка пользовательских моделей внедрения
  • Предлагает динамическое и статическое определение порогов
  • Допускаются различные методы оценки (индивидуальное усреднение, центроид)

Вы можете проверить это на GitHub: https://github.com/HansalShah007/semroute. Я буду очень признателен за любые отзывы или предложения от этого сообщества о том, как его улучшить, или о случаях использования, для которых, по вашему мнению, оно может подойти.
Спасибо!

Заявление о выпуске Эта статья воспроизведена по адресу: https://dev.to/hansalshah/semantic-router-steer-llms-1l23?1. Если есть какие-либо нарушения, свяжитесь с [email protected], чтобы удалить их.
Последний учебник Более>

Изучайте китайский

Отказ от ответственности: Все предоставленные ресурсы частично взяты из Интернета. В случае нарушения ваших авторских прав или других прав и интересов, пожалуйста, объясните подробные причины и предоставьте доказательства авторских прав или прав и интересов, а затем отправьте их по электронной почте: [email protected]. Мы сделаем это за вас как можно скорее.

Copyright© 2022 湘ICP备2022001581号-3