Язык: English · 简体中文 · 繁體中文 · Español · Português · Deutsch · Français · 日本語 · 한국어 · Русский · हिन्दी

Развёртывание DeepSeek-R1 в Azure: интеграция с AI Foundry и Chatbox

Автор:

DeepSeek-R1 — это высокопроизводительная модель ИИ, предназначенная для таких задач, как чат-боты, обобщение документов и творческое письмо. Для развёртывания этой модели требуются значительные вычислительные ресурсы, а Azure предоставляет идеальную платформу для масштабируемого, экономичного и безопасного развёртывания. В этой статье рассказывается, как развернуть DeepSeek-R1 с помощью Azure AI Foundry и интегрировать её с Chatbox для бесшовного взаимодействия на стороне клиента.

Зачем развёртывать DeepSeek-R1 в Azure?

Azure — идеальная платформа для развёртывания моделей ИИ, таких как DeepSeek-R1, благодаря расширенным функциям, гибкости и поддержке корпоративного уровня. Вот ключевые преимущества:

Ключевые преимущества развёртывания в Azure:

  1. Масштабируемость: автоматически регулирует вычислительные ресурсы при изменяющейся нагрузке, обеспечивая оптимальную производительность в пиковые периоды.
  2. Экономичность: платите только за используемые ресурсы, что делает её бюджетным вариантом для рабочих нагрузок ИИ.
  3. Простота развёртывания: минимальная настройка с мощными инструментами для разработчиков.

Развёртывание DeepSeek-R1 в Azure AI Foundry

Почему стоит выбрать Azure AI Foundry?

Azure AI Foundry упрощает развёртывание моделей ИИ, предоставляя мгновенный доступ к предварительно настроенным инструментам и ресурсам. Ключевые преимущества:

  • Мгновенный доступ к модели: без управления контейнерами — разверните DeepSeek-R1 за несколько кликов.
  • Безопасность корпоративного уровня: встроенные функции безопасности защищают ваши данные и обеспечивают соответствие требованиям.
  • Интеграция с API: легко подключайте DeepSeek-R1 к своим приложениям через конечные точки API.

Пошаговое развёртывание в Azure AI Foundry

Выполните следующие шаги, чтобы развернуть DeepSeek-R1 в Azure AI Foundry:

1. Доступ к Azure AI Foundry

  • Перейдите по ссылке Azure AI Foundry.
  • Найдите DeepSeek-R1 и откройте карточку модели.
  • Нажмите Просмотреть модель, чтобы начать процесс развёртывания.

2. Развёртывание модели

  • Выберите подписку Azure и предпочитаемый регион развёртывания.
  • Нажмите Развернуть и дождитесь завершения настройки.
  • Azure создаст конечную точку API и ключ для вашего приложения.

Совет: Во время развёртывания настройте параметры фильтра содержимого в соответствии с потребностями вашего приложения (например, включив или отключив фильтрацию).

Вы можете попробовать пообщаться с DeepSeek на площадке playground.

Цены на DeepSeek-R1

DeepSeek-R1 предлагает конкурентоспособное соотношение цены и производительности, что делает её отличным выбором для масштабирования рабочих нагрузок ИИ. Создаёте ли вы чат-ботов, инструменты обобщения документов или поисковые системы на базе ИИ — структура цен обеспечивает доступность без ущерба для качества.

Структура цен:

Артикул моделиЦена ввода (USD/1 тыс. токенов)Цена вывода (USD/1 тыс. токенов)
DeepSeek-R1 Global$0.00135$0.0054
DeepSeek-R1 Regional$0.001485$0.00594

Кроме того, учётная запись хранения и хранилище ключей по-прежнему оплачиваются исходя из использованной ёмкости.

Улучшение взаимодействия с пользователем благодаря интеграции с Chatbox

Для взаимодействия на стороне клиента вы можете использовать Chatbox для прямого взаимодействия с DeepSeek-R1. Chatbox предоставляет удобный интерфейс для тестирования и развёртывания приложений на базе ИИ.

Как настроить Chatbox:

  1. Скачайте Chatbox по ссылке Bin-Huang Chatbox.
  2. Установите Chatbox на свою машину.
  3. Настройте параметры API:
    • Откройте настройки Chatbox и нажмите Добавить пользовательского поставщика.
    • Введите конечную точку API, путь API и ключ API, полученные при развёртывании DeepSeek-R1.
    • Сохраните настройки.
    • 💡 Совет: используйте ключ API и конечную точку, созданные в процессе развёртывания в Azure AI Foundry.
  4. Сохраните настройки и начните взаимодействие с DeepSeek-R1.

Откройте настройки Chatbox и нажмите Добавить пользовательского поставщика.

Введите конечную точку API, путь API и ключ API, полученные при развёртывании DeepSeek-R1.

После настройки вы можете начать общение с DeepSeek-R1.

Вы можете видеть, что Chatbox включает “think progress”, показывающий в реальном времени ход обработки модели.

Заключение

DeepSeek-R1 в сочетании с мощной инфраструктурой Azure предлагает масштабируемое и экономичное решение для развёртывания моделей ИИ. Независимо от того, выберете ли вы Azure AI Foundry или интеграцию с Chatbox для взаимодействия на стороне клиента, инструменты и функции Azure упрощают процесс развёртывания и повышают производительность вашего приложения.

Оставить комментарий