對於那些不熟悉llamafile 專案的人,Mozilla Ocho 團隊正在致力於透過結合llama.cpp 和Cosmopolitan Libc 來消除安裝LLM 的複雜性,兩者都使用C/ C程式設計語言. Llamafile 使用 llama.cpp 提供的 Meta 的 LLaMA 模型的推理,並將其與 Cosmopolitan Libc 的 C 的一次構建、隨處運行轉換配對。 Cosmopolitan Libc 還消除了在 Linux、Mac 和 Windows 機器上執行 C 語言所需的解釋器或虛擬機器。
llamafile 專案 Whisperfile 的最新新增內容在 Mozilla 的 Hugging Face 設定檔中進行了詳細介紹。根據他們的頁面,「Whisperfile 是由Mozilla Ocho 創建的OpenAI Whisper 的高性能實現,作為llamafile 項目的一部分,基於Georgi Gerganov 等人編寫的Whisper.cpp 軟體。」對於該項目,團隊將模型的所有必要權重打包到「whisperfiles」中,該檔案保留了Cosmopolitan Libc 中的功能,允許模型在大多數系統上運行。
「Whisperfile 入門」文件團隊的 GitHub 設定檔詳細介紹了一個簡單的安裝過程,僅包含三個步驟。用戶下載模型、建立軟體並運行程式後,他們可以從三種不同的模型中進行選擇來開始轉錄音訊。模型的範圍從小到大,在轉錄過程中以速度換取準確性。此外,Whisperfile 可以使用多語言模型和「--translate」標誌將不同的語言翻譯成英文。
有關 llamafile、Whisperfile 的資訊以及有關安裝過程的其他詳細信息,請訪問以下資源。
免責聲明: 提供的所有資源部分來自互聯網,如果有侵犯您的版權或其他權益,請說明詳細緣由並提供版權或權益證明然後發到郵箱:[email protected] 我們會在第一時間內為您處理。
Copyright© 2022 湘ICP备2022001581号-3