Развёртывание Azure OpenAI GPT-4o и интеграция с клиентами NextChat или ChatBox: создайте личного ИИ-компаньона

Azure OpenAI GPT-4o — это мощная генеративная модель ИИ, позволяющая создавать интеллектуальные диалоговые приложения. Интеграция GPT-4o с NextChat или ChatBox позволяет превратить ваш ПК с Windows в шлюз для беспрепятственного взаимодействия с ИИ. Эти клиенты предоставляют отточенный и удобный интерфейс для общения с продвинутыми языковыми моделями, что делает их идеальными инструментами для продуктивности, развлечений и личного ассистирования.

Это руководство проведёт вас через развёртывание Azure OpenAI GPT-4o, настройку конечной точки Azure, ключа API и версии, а также использование NextChat или ChatBox в качестве вашего личного ИИ-компаньона. Можно добавить скриншоты, чтобы наглядно провести вас через каждый шаг, включая загрузку, установку, настройку и начало общения.

Содержание

Введение
Почему стоит выбрать клиенты NextChat и ChatBox?
Предварительные требования
Развёртывание Azure OpenAI GPT-4o
- Создание ресурса Azure OpenAI
- Развёртывание модели GPT-4o
Загрузка и установка клиента NextChat
Настройка конечной точки Azure и ключа API в клиенте NextChat
Начните общение с клиентом NextChat
Загрузка и установка клиента ChatBox
Настройка конечной точки Azure и ключа API в клиенте ChatBox
Начните общение с клиентом ChatBox
Справочник цен на модели Azure OpenAI
Заключение

Введение

Сочетание Azure OpenAI GPT-4o и чат-клиентов для Windows, таких как NextChat и ChatBox предоставляет пользователям личного ИИ-компаньона, который может помогать с задачами, отвечать на вопросы и оказывать диалоговую поддержку. Эти клиенты служат интерфейсом между вами и GPT-4o, предлагая отточенную и настраиваемую среду для взаимодействия с моделью ИИ.

Почему стоит выбрать клиенты NextChat и ChatBox?

NextChat и ChatBox разработаны для обеспечения богатого пользовательского опыта при взаимодействии с языковыми моделями ИИ. Эти настольные приложения для Windows отличаются современными интерфейсами, интуитивным дизайном и расширенной функциональностью, что делает их идеальными для пользователей, которым нужен отточенный опыт взаимодействия с ИИ.

Предварительные требования

Чтобы развернуть GPT-4o и интегрировать его с NextChat или ChatBox, убедитесь, что у вас есть следующее:

Учётная запись Azure: активная подписка Azure.
Доступ к ресурсам OpenAI: разрешение на развёртывание моделей OpenAI в вашей учётной записи Azure.
NextChat или ChatBox установлен на вашем компьютере с Windows.
Ключ API: действительный ключ API Azure OpenAI.
Конечная точка Azure и версия API: сведения, предоставляемые при развёртывании GPT-4o.

Развёртывание Azure OpenAI GPT-4o

1. Создание ресурса Azure OpenAI

Выполните следующие шаги, чтобы создать ресурс Azure OpenAI:

Войдите в Azure Portal.
Перейдите в раздел «Создать ресурс» > AI + Machine Learning > Azure OpenAI.

Укажите необходимые сведения:
- Подписка: выберите свою подписку Azure.
- Группа ресурсов: создайте группу ресурсов или выберите существующую.
- Регион: выберите регион, ближайший к вашим пользователям.
Нажмите «Просмотреть и создать» и завершите развёртывание.

2. Развёртывание модели GPT-4o

После создания ресурса Azure OpenAI:

Откройте Azure AI Foundry portal.

На вкладке «Развёртывания», выберите GPT-4o из доступных моделей.

Разверните модель, указав:
- Имя развёртывания: уникальное имя для развёртывания вашей модели. Обычно я использую напрямую имя модели. Можно выбрать GPT-4o или другие модели. В этой статье я показываю только пример развёртывания GPT-4o.

Можно настроить версию модели и ограничение скорости в токенах в минуту.

Запишите URL конечной точки, Ключ API и Версия API для настройки.

Загрузка и установка клиентов NextChat

Шаг 1. Загрузка клиентов

Посетите официальные сайты: NextChat:
- Загрузка клиента NextChat

Шаг 2. Установка клиента

Запустите установщик и следуйте инструкциям на экране.
Убедитесь, что процесс установки завершился успешно.

Чтобы установить NextChat на компьютер с Windows:

Разрешите загрузку в настройках браузера:

Затем устанавливайте до завершения:

Настройка конечной точки Azure и ключа API в клиенте NextChat

Клиенты NextChat позволяют настроить конечную точку Azure OpenAI, ключ API и версию API для подключения к GPT-4o.

Шаг 1. Найдите параметры конфигурации

Для NextChat: После открытия графического интерфейса нажмите на настройки в левом нижнем углу.

Выберите поставщика моделей — это Azure.

Выберите GPT-4o в разделе Azure.

Шаг 2. Введите сведения Azure OpenAI

Введите следующие сведения:

URL конечной точки: предоставляется при развёртывании GPT-4o (например, https://<your-endpoint>.openai.azure.com/openai).
Ключ API: ваш ключ API Azure OpenAI.
Версия API: версия API, которую вы используете (например, 2024-02-15-preview).

Шаг 3. Сохраните конфигурацию

Нажмите кнопку X; настройки сохранятся автоматически. Начните разговор — теперь вы можете общаться с GPT-4o.

Начните общение с клиентом NextChat

Начать новый сеанс:
- Откройте клиент NextChat.
- Нажмите «Новый чат» или «Начать разговор».
Введите сообщение:
- Введите сообщение в поле чата и нажмите «Ввод».
Наслаждайтесь общением:
- GPT-4o будет разумно отвечать на основе вашего ввода.
- Изучите его возможности, задавая вопросы, генерируя идеи или ведя непринуждённую беседу.

Загрузка и установка клиентов ChatBox

Шаг 1. Загрузка клиентов ChatBox

Посетите официальные сайты: ChatBox:
- Загрузка клиента ChatBox

Шаг 2. Установка клиента ChatBox

Запустите установщик и следуйте инструкциям на экране.
Убедитесь, что процесс установки завершился успешно.

Чтобы установить ChatBox.
Процесс аналогичен установке NextChat.

Настройка конечной точки Azure и ключа API в клиенте ChatBox

Найдите параметры конфигурации:
- Откройте меню настроек (доступно через значок шестерёнки в левом нижнем углу).

Выберите поставщика моделей:
- Выберите Azure OpenAI API в качестве поставщика и выберите GPT-4o в качестве модели.

Введите сведения Azure OpenAI:
- URL конечной точки: предоставляется при развёртывании GPT-4o (например, https://<your-endpoint>.openai.azure.com/openai).
- Ключ API: ваш ключ API Azure OpenAI.
- Версия API: версия API, которую вы используете (например, 2024-05-01-preview).

Сохраните конфигурацию:
- Нажмите кнопку «Сохранить», чтобы закрыть меню настроек.

Начните общение в клиенте ChatBox

Шаг 1. Начните новый сеанс

Откройте клиент ChatBox.
Нажмите «Новый чат».

Шаг 2. Введите сообщение

Введите сообщение в поле чата и нажмите «Ввод».

Шаг 3. Наслаждайтесь общением

GPT-4o будет разумно отвечать на основе вашего ввода.
Изучите его возможности, задавая вопросы, генерируя идеи или ведя непринуждённую беседу.

Справочник цен на модели Azure OpenAI

Обзор GPT-4o

GPT-4o — самая продвинутая мультимодальная модель, более быстрая и дешёвая, чем GPT-4 Turbo, с более сильными возможностями зрения. Модель поддерживает до контекстного окна в 128K и имеет границу знаний на октябрь 2023 года, что делает его идеальным для крупномасштабных приложений генеративного ИИ.

Ниже приведена подробная структура цен на GPT-4o для разных регионов развёртывания и конфигураций API.

Таблица цен GPT-4o

Модель	Цены (1 млн токенов)	Цены с Batch API (1 млн токенов)
GPT-4o-2024-1120 Global	Input: 2.50<br>CachedInput:2.50<br>CachedInput:1.25<br>Output: $10	Input: 1.25<br>Output:1.25<br>Output:5
GPT-4o-2024-1120 US/EU – Data Zones	Input: 2.75<br>CachedInput:2.75<br>CachedInput:1.375<br>Output: $11	Input: 1.375<br>Output:1.375<br>Output:5.50
GPT-4o-2024-1120 Regional	Input: 2.75<br>CachedInput:2.75<br>CachedInput:1.375<br>Output: $11	N/A
GPT-4o-2024-08-06 Global	Input: 2.50<br>CachedInput:2.50<br>CachedInput:1.25<br>Output: $10	Input: 1.25<br>Output:1.25<br>Output:5
GPT-4o-2024-08-06 US/EU – Data Zones	Input: 2.75<br>CachedInput:2.75<br>CachedInput:1.375<br>Output: $11	Input: 1.375<br>Output:1.375<br>Output:5.50
GPT-4o-2024-08-06 Regional	Input: 2.75<br>CachedInput:2.75<br>CachedInput:1.375<br>Output: $11	N/A
GPT-4o-2024-0513 Global	Input: 5<br>Output:5<br>Output:15	Input: 2.50<br>Output:2.50<br>Output:7.50
GPT-4o-2024-0513 US/EU – Data Zones	Input: 5<br>Output:5<br>Output:15	N/A
GPT-4o-2024-0513 Regional	Input: 5<br>Output:5<br>Output:15	N/A

Ключевые замечания

Входные токены: токены, отправляемые модели для обработки.
Кэшированные входные токены: токены, предварительно обработанные и кэшированные для более быстрой и дешёвой обработки.
Выходные токены: токены, генерируемые моделью в качестве ответа.
Цены Batch API: Batch API позволяет обрабатывать несколько запросов одновременно, значительно снижая затраты.

Планируйте с помощью калькулятора цен

Чтобы оценить затраты для вашего конкретного сценария, используйте официальный Azure Pricing Calculator:

Azure Pricing Calculator

Самые точные и актуальные сведения о ценах см. в официальной Azure OpenAI Pricing Documentation.

Заключение

Интеграция Azure OpenAI GPT-4o с NextChat или ChatBox позволяет создать личного ИИ-компаньона, сочетающего мощь генеративного ИИ с удобством отточенного программного интерфейса Windows. Эти клиенты упрощают настройку и взаимодействие с GPT-4o, обеспечивая богатый диалоговый опыт, повышающий продуктивность, креативность и развлечения.

Подробнее см. официальную Azure OpenAI documentation и документацию соответствующих клиентских фреймворков.