„Wenn ein Arbeiter seine Arbeit gut machen will, muss er zuerst seine Werkzeuge schärfen.“ – Konfuzius, „Die Gespräche des Konfuzius. Lu Linggong“
Titelseite > Programmierung > Semantischer Router – LLMs steuern

Semantischer Router – LLMs steuern

Veröffentlicht am 27.08.2024
Durchsuche:321

Semantic Router - Steer LLMs

Ich wollte ein Projekt namens SemRoute teilen, an dem ich gearbeitet habe, und würde mich über Ihr Feedback freuen. SemRoute ist ein semantischer Router, der Vektoreinbettungen verwendet, um Abfragen basierend auf ihrer semantischen Bedeutung weiterzuleiten. Es ist so konzipiert, dass es flexibel und einfach zu verwenden ist, ohne dass Klassifikatoren trainiert oder große Sprachmodelle verwendet werden müssen.

Hier ein kurzer Überblick:

  • Unterstützt mehrere Einbettungsmodelle (OpenAI, MistralAI)
  • Unterstützung benutzerdefinierter Einbettungsmodelle
  • Bietet dynamische und statische Schwellenwerte
  • Ermöglicht verschiedene Bewertungsmethoden (individuelle Mittelung, Schwerpunkt)

Sie können es sich auf GitHub ansehen: https://github.com/HansalShah007/semroute. Ich würde mich sehr über Feedback oder Vorschläge aus dieser Community zur Verbesserung oder zu Anwendungsfällen freuen, für die es Ihrer Meinung nach geeignet sein könnte.
Danke!

Freigabeerklärung Dieser Artikel ist abgedruckt unter: https://dev.to/hansalshah/semantic-router-steer-llms-1l23?1 Bei Verstößen wenden Sie sich bitte an [email protected], um ihn zu löschen
Neuestes Tutorial Mehr>

Haftungsausschluss: Alle bereitgestellten Ressourcen stammen teilweise aus dem Internet. Wenn eine Verletzung Ihres Urheberrechts oder anderer Rechte und Interessen vorliegt, erläutern Sie bitte die detaillierten Gründe und legen Sie einen Nachweis des Urheberrechts oder Ihrer Rechte und Interessen vor und senden Sie ihn dann an die E-Mail-Adresse: [email protected] Wir werden die Angelegenheit so schnell wie möglich für Sie erledigen.

Copyright© 2022 湘ICP备2022001581号-3