"Si un trabajador quiere hacer bien su trabajo, primero debe afilar sus herramientas." - Confucio, "Las Analectas de Confucio. Lu Linggong"
Página delantera > Programación > Enrutador semántico - Steer LLM

Enrutador semántico - Steer LLM

Publicado el 2024-08-27
Navegar:636

Semantic Router - Steer LLMs

Quería compartir un proyecto en el que he estado trabajando llamado SemRoute y me encantaría recibir sus comentarios. SemRoute es un enrutador semántico que utiliza incrustaciones de vectores para enrutar consultas en función de su significado semántico. Está diseñado para ser flexible y fácil de usar, sin la necesidad de entrenar clasificadores ni utilizar grandes modelos de lenguaje.

Aquí hay una breve descripción general:

  • Admite múltiples modelos de incrustación (OpenAI, MistralAI)
  • Admite modelos de incrustación personalizados
  • Ofrece umbrales dinámicos y estáticos
  • Permite diferentes métodos de puntuación (promedio individual, centroide)

Puedes consultarlo en GitHub: https://github.com/HansalShah007/semroute. Realmente agradecería cualquier comentario o sugerencia de esta comunidad sobre cómo mejorarlo o casos de uso para los que crea que podría ser adecuado.
¡Gracias!

Declaración de liberación Este artículo se reproduce en: https://dev.to/hansalshah/semantic-router-steer-llms-1l23?1 Si hay alguna infracción, comuníquese con [email protected] para eliminarla.
Último tutorial Más>

Descargo de responsabilidad: Todos los recursos proporcionados provienen en parte de Internet. Si existe alguna infracción de sus derechos de autor u otros derechos e intereses, explique los motivos detallados y proporcione pruebas de los derechos de autor o derechos e intereses y luego envíelos al correo electrónico: [email protected]. Lo manejaremos por usted lo antes posible.

Copyright© 2022 湘ICP备2022001581号-3