"Se um trabalhador quiser fazer bem o seu trabalho, ele deve primeiro afiar suas ferramentas." - Confúcio, "Os Analectos de Confúcio. Lu Linggong"
Primeira página > Programação > Roteador Semântico - Orientar LLMs

Roteador Semântico - Orientar LLMs

Publicado em 2024-08-27
Navegar:877

Semantic Router - Steer LLMs

Queria compartilhar um projeto no qual estou trabalhando, chamado SemRoute, e adoraria receber seus comentários. SemRoute é um roteador semântico que usa incorporações de vetores para rotear consultas com base em seu significado semântico. Ele foi projetado para ser flexível e fácil de usar, sem a necessidade de treinar classificadores ou usar grandes modelos de linguagem.

Aqui está uma breve visão geral:

  • Suporta vários modelos de incorporação (OpenAI, MistralAI)
  • Suporta modelos de incorporação personalizados
  • Oferece limites dinâmicos e estáticos
  • Permite diferentes métodos de pontuação (média individual, centróide)

Você pode conferir no GitHub: https://github.com/HansalShah007/semroute. Eu realmente aprecio qualquer feedback ou sugestão desta comunidade sobre como melhorá-la ou casos de uso para os quais você acha que pode ser adequado.
Obrigado!

Declaração de lançamento Este artigo foi reproduzido em: https://dev.to/hansalshah/semantic-router-steer-llms-1l23?1 Se houver alguma violação, entre em contato com [email protected] para excluí-la
Tutorial mais recente Mais>

Isenção de responsabilidade: Todos os recursos fornecidos são parcialmente provenientes da Internet. Se houver qualquer violação de seus direitos autorais ou outros direitos e interesses, explique os motivos detalhados e forneça prova de direitos autorais ou direitos e interesses e envie-a para o e-mail: [email protected]. Nós cuidaremos disso para você o mais rápido possível.

Copyright© 2022 湘ICP备2022001581号-3