最近の私の主な問題の 1 つは、GPT-3.5 Turbo のコンテキスト ウィンドウ サイズと GPT-4o の価格です。私が構築したアプリは会話ごとに 300,000 トークンを使用します。音声コストを考慮すると、少し高くなります。
さらに、GPT-3.5 は最もスマートなモデルではないため、Claude Haiku を使用するとより良い結果が得られました。 Haiku の問題は、API の制限が低いことと、奇妙な安定性の問題です。
ただし、使用するトークンの量を考慮すると、GPT-4 は私のユースケースには高すぎたため、選択の余地はありませんでした。
GPT-4o mini を試してみて、かなり感銘を受けました。その推論は GPT-3.5 よりもはるかに優れており、コンテキスト ウィンドウは 128k です。これは私のユースケースには十分です (...そして低価格も助かります) ).
mini をもう使用したことがありますか?これまでの感想や経験は何ですか?
免責事項: 提供されるすべてのリソースの一部はインターネットからのものです。お客様の著作権またはその他の権利および利益の侵害がある場合は、詳細な理由を説明し、著作権または権利および利益の証拠を提出して、電子メール [email protected] に送信してください。 できるだけ早く対応させていただきます。
Copyright© 2022 湘ICP备2022001581号-3