我最近的一个主要问题是 GPT-3.5 Turbo 的上下文窗口大小和 GPT-4o 的价格,我构建的应用程序每次对话使用 300k 令牌。再加上语音费用,就有点贵了。
另外,GPT-3.5 不是最智能的模型,我发现 Claude Haiku 的结果更好。 Haiku 的问题是 API 限制较低和一些奇怪的稳定性问题。
不过,我别无选择,因为考虑到我使用的代币数量,GPT-4 对于我的用例来说太昂贵了。
尝试了 GPT-4o mini,印象深刻,它的推理比 GPT-3.5 好得多,上下文窗口是 128k - 这对于我的用例来说已经足够了(...而且价格低廉也有帮助).
你用过mini了吗?到目前为止你的想法和经验是什么?
免责声明: 提供的所有资源部分来自互联网,如果有侵犯您的版权或其他权益,请说明详细缘由并提供版权或权益证明然后发到邮箱:[email protected] 我们会第一时间内为您处理。
Copyright© 2022 湘ICP备2022001581号-3