в этом руководстве я покажу вам, как использовать модели обнимающего лица в качестве API, с Meta Llama-3.2-3b-Instruct в качестве примера. Эта модель предназначена для автоматического заполнения на основе чата и может эффективно выполнять разговорные задачи ИИ. Давайте настроем API и начнем!

] Шаг 1: Выберите модель на обнимающемся лице

]
1. перейдите к моделям обнимающего лица и поиск meta llama-3.2-3b-instruct или любую другую модель, с которой вы хотели бы поэкспериментировать.
2. , один раз на странице модели, подтвердите, что она поддерживает API вывода , который позволяет использовать его в качестве конечной точки API.
]

] Шаг 2: Создайте токен API

, чтобы получить доступ к модельным API -интерфейсам Hugging Face, вам нужен токен API.

]
1. войдите в свою учетную запись обнимающего лица и перейдите к настройкам > access tokens .
]

2. создать read token, выбрав new Token . Это позволяет вам вызвать API для вывода без разрешений на изменение или управление ресурсами.

]

3. надежно сохранить свой токен, так как вам понадобится для аутентификации API.

]

] Шаг 3: Использование API вывода для вашей модели

обнимающееся лицо предоставляет без сервера API вывода для доступа к предварительно обученным моделям. Эта услуга доступна с ограничениями тарифов для бесплатных пользователей и расширенными квотами для учетных записей Pro.

]

1. на странице модели meta llama-3.2-3b-instruct , нажмите на вкладку API . Эта вкладка содержит примеры кода и дополнительную информацию об использовании API.

]

2. вы можете найти пример кода, чтобы начать. Вот как настроить базовый сценарий Python, чтобы вызвать API модели.

] Шаг 4: Ограничения по ставке обработки и преимущества счета PRO

для бесплатных счетов применяется предел ставки API, и превышение этого может привести к запрашиванию. Если вы планируете широко использовать API или потребовать более быстрых ответов, рассмотрите Pro Account . Более подробная информация доступна на странице ценообразования Hugging Face.

] Краткое содержание

, выполнив эти шаги, вы можете использовать meta llama-3.2-3b-instruct или любую другую модель обнимающего лица через API для таких задач, как автозаполнение чата, разговорное ИИ и многое другое. Эта настройка очень гибкая и позволяет интегрировать возможности ИИ непосредственно в ваши приложения, будь то экспериментальные или производственные цели.

теперь вы готовы исследовать и построить с мощными моделями обнимающего лица!