我最近的一個主要問題是 GPT-3.5 Turbo 的上下文視窗大小和 GPT-4o 的價格,我建立的應用程式每次對話使用 300k 令牌。再加上語音費用,就有點貴了。
另外,GPT-3.5 不是最聰明的模型,我發現 Claude Haiku 的結果更好。 Haiku 的問題是 API 限制較低和一些奇怪的穩定性問題。
不過,我別無選擇,因為考慮到我使用的代幣數量,GPT-4 對於我的用例來說太昂貴了。
嘗試了GPT-4o mini,印象深刻,它的推理比GPT-3.5 好得多,上下文窗口是128k - 這對於我的用例來說已經足夠了(...而且價格低廉也有幫助).
你用過mini了嗎?到目前為止你的想法和經驗是什麼?
免責聲明: 提供的所有資源部分來自互聯網,如果有侵犯您的版權或其他權益,請說明詳細緣由並提供版權或權益證明然後發到郵箱:[email protected] 我們會在第一時間內為您處理。
Copyright© 2022 湘ICP备2022001581号-3