語言: English · 简体中文 · 繁體中文 · Español · Português · Deutsch · Français · 日本語 · 한국어 · Русский · हिन्दी

部署 Azure OpenAI GPT-4o 並與 NextChat 或 ChatBox 用戶端整合：打造你的個人 AI 助手

作者：

部署 Azure OpenAI GPT-4o 並與 NextChat 或 ChatBox 用戶端整合：打造你的個人 AI 助手

Azure OpenAI GPT-4o 是一款功能強大的生成式 AI 模型，可實現智慧對話應用。將 GPT-4o 與NextChat 用戶端或ChatBox 用戶端整合，你可以將 Windows 電腦變成與 AI 無縫互動的入口。這些用戶端提供了精美、使用者友善的介面，用於與先進的語言模型聊天，是提高生產力、娛樂和個人助理的理想工具。

本指南將帶你完成部署 Azure OpenAI GPT-4o、設定 Azure 端點、API 金鑰和版本，以及如何使用NextChat 用戶端或ChatBox 用戶端作為你的個人 AI 伴侶。可以新增螢幕截圖，直觀地引導你完成每個步驟，包括下載、安裝、設定和開始聊天。

目錄

  1. 簡介
  2. 為什麼選擇 NextChat 和 ChatBox 用戶端？
  3. 前提條件
  4. 部署 Azure OpenAI GPT-4o
    • 建立 Azure OpenAI 資源
    • 部署 GPT-4o 模型
  5. 下載和安裝 NextChat 用戶端
  6. 在 NextChat 用戶端上設定 Azure 端點和 API 金鑰
  7. 開始使用 NextChat 用戶端聊天
  8. 下載和安裝 ChatBox 用戶端
  9. 在 ChatBox 用戶端上設定 Azure 端點和 API 金鑰
  10. 開始使用 ChatBox 用戶端聊天
  11. Azure OpenAI 模型定價參考
  12. 結論

簡介

Azure OpenAI GPT-4o 與像NextChat 用戶端和ChatBox 用戶端這樣的基於 Windows 的聊天用戶端的組合，為使用者提供了一個個人 AI 伴侶，可以協助完成任務、回答問題並提供對話支援。這些用戶端充當你與 GPT-4o 之間的介面，提供了一個精美且可自訂的環境，用於與 AI 模型互動。

為什麼選擇 NextChat 和 ChatBox 用戶端？

NextChat 用戶端和ChatBox 用戶端都旨在為與 AI 語言模型的互動提供豐富的使用者體驗。這些 Windows 桌面應用程式具有現代化的介面、直觀的設計和先進的功能，非常適合尋求精美 AI 互動體驗的使用者。

前提條件

要部署 GPT-4o 並將其與 NextChat 或 ChatBox 整合，請確認你具備以下條件：

  1. Azure 帳戶：一個有效的 Azure 訂閱。
  2. OpenAI 資源存取權限：在你的 Azure 帳戶中部署 OpenAI 模型的權限。
  3. NextChat 用戶端或 ChatBox 用戶端已安裝在你的 Windows 電腦上。
  4. API 金鑰：一個有效的 Azure OpenAI API 金鑰。
  5. Azure 端點和 API 版本：在部署 GPT-4o 期間提供的資訊。

部署 Azure OpenAI GPT-4o

1. 建立 Azure OpenAI 資源

依照以下步驟建立 Azure OpenAI 資源：

  • 登入Azure Portal。
  • 導覽至建立資源 > AI + Machine Learning > Azure OpenAI。
  • 提供所需詳細資訊：
    • 訂閱：選擇你的 Azure 訂閱。
    • 資源群組：建立資源群組或選擇現有資源群組。
    • 區域：選擇離你的使用者最近的區域。
  • 點選檢視 + 建立並完成部署。

2. 部署 GPT-4o 模型

建立 Azure OpenAI 資源後：

  • 開啟Azure AI Foundry portal。
  • 在部署索引標籤中，從可用模型中選擇GPT-4o。
  • 透過指定以下內容來部署模型：
    • 部署名稱：模型部署的唯一名稱。我通常直接使用模型名稱。你可以選擇 GPT-4o 或其他模型。在本文中，我只向你展示部署 GPT-4o 的範例。

你可以自訂模型版本和每分鐘 Token 速率限制。

  • 記下端點 URL、API 金鑰和API 版本，以便設定。

下載和安裝 NextChat 用戶端

步驟 1：下載用戶端

步驟 2：安裝用戶端

  • 執行安裝程式並依照螢幕上的指示操作。
  • 確認安裝過程成功完成。

要在你的 Windows 電腦上安裝 NextChat：

請在瀏覽器設定中允許下載：

然後安裝，直到完成：


在 NextChat 用戶端上設定 Azure 端點和 API 金鑰

NextChat 用戶端允許你設定 Azure OpenAI 端點、API 金鑰和 API 版本，以連線到 GPT-4o。

步驟 1：找到設定

對於 NextChat：開啟 GUI 後，點選左下角的設定。

選擇你的模型提供者，是 Azure。

選擇 Azure 下的 GPT-4o。

步驟 2：輸入 Azure OpenAI 詳細資訊

輸入以下詳細資訊：

  • 端點 URL：在部署 GPT-4o 期間提供（例如https://<your-endpoint>.openai.azure.com/openai）。
  • API 金鑰：你的 Azure OpenAI API 金鑰。
  • API 版本：你正在使用的 API 的版本（例如2024-02-15-preview）。

步驟 3：儲存設定

點選 X 按鈕，設定將自動儲存，然後開始對話，你現在就可以與 GPT-4o 聊天了。

開始使用 NextChat 用戶端聊天

  1. 開始新工作階段：
    • 開啟 NextChat 用戶端。
    • 點選新增聊天或開始對話。
  2. 輸入你的訊息：
    • 在聊天框中輸入你的訊息，然後按Enter 鍵。
  3. 享受對話：
    • GPT-4o 將根據你的輸入智慧地作出回應。
    • 透過提問、腦力激盪或進行日常對話來探索它的功能。

下載和安裝 ChatBox 用戶端

步驟 1：下載 ChatBox 用戶端

步驟 2：安裝 ChatBox 用戶端

  • 執行安裝程式並依照螢幕上的指示操作。
  • 確認安裝過程成功完成。

安裝 ChatBox。
這與我們安裝 NextChat 的過程類似。

在 ChatBox 用戶端上設定 Azure 端點和 API 金鑰

  • 找到設定：
    • 開啟設定選單（可透過左下角的齒輪圖示存取）。
  • 選擇模型提供者：
    • 選擇Azure OpenAI API作為提供者，並選擇GPT-4o作為模型。
  • 輸入 Azure OpenAI 詳細資訊：
    • 端點 URL：在部署 GPT-4o 期間提供（例如https://<your-endpoint>.openai.azure.com/openai）。
    • API 金鑰：你的 Azure OpenAI API 金鑰。
    • API 版本：你正在使用的 API 的版本（例如2024-05-01-preview）。
  • 儲存設定：
    • 點選儲存按鈕以關閉設定選單。

在 ChatBox 用戶端內開始聊天

步驟 1：開始新工作階段

  • 開啟 ChatBox 用戶端。
  • 點選新增聊天。

步驟 2：輸入你的訊息

  • 在聊天框中輸入你的訊息，然後按Enter 鍵。

步驟 3：享受對話

  • GPT-4o 將根據你的輸入智慧地作出回應。
  • 透過提問、腦力激盪或進行日常對話來探索它的功能。

Azure OpenAI 模型定價參考

GPT-4o 概覽

GPT-4o是最先進的多模態模型，比 GPT-4 Turbo 更快、更便宜，並具有更強的視覺能力。該模型支援高達128K 上下文視窗，並具有2023 年 10 月的知識截止日期，使其成為大規模生成式 AI 應用的理想選擇。

以下是 GPT-4o 在不同部署區域和 API 設定下的詳細定價結構。

GPT-4o 定價表

模型定價（每 100 萬 token）Batch API 定價（每 100 萬 token）
GPT-4o-2024-1120 GlobalInput: 2.50<br>CachedInput:2.50<br>CachedInput:1.25<br>Output: $10Input: 1.25<br>Output:1.25<br>Output:5
GPT-4o-2024-1120 US/EU – Data ZonesInput: 2.75<br>CachedInput:2.75<br>CachedInput:1.375<br>Output: $11Input: 1.375<br>Output:1.375<br>Output:5.50
GPT-4o-2024-1120 RegionalInput: 2.75<br>CachedInput:2.75<br>CachedInput:1.375<br>Output: $11N/A
GPT-4o-2024-08-06 GlobalInput: 2.50<br>CachedInput:2.50<br>CachedInput:1.25<br>Output: $10Input: 1.25<br>Output:1.25<br>Output:5
GPT-4o-2024-08-06 US/EU – Data ZonesInput: 2.75<br>CachedInput:2.75<br>CachedInput:1.375<br>Output: $11Input: 1.375<br>Output:1.375<br>Output:5.50
GPT-4o-2024-08-06 RegionalInput: 2.75<br>CachedInput:2.75<br>CachedInput:1.375<br>Output: $11N/A
GPT-4o-2024-0513 GlobalInput: 5<br>Output:5<br>Output:15Input: 2.50<br>Output:2.50<br>Output:7.50
GPT-4o-2024-0513 US/EU – Data ZonesInput: 5<br>Output:5<br>Output:15N/A
GPT-4o-2024-0513 RegionalInput: 5<br>Output:5<br>Output:15N/A

要點說明

  1. 輸入 token：傳送給模型進行處理的 token。
  2. 快取的輸入 token：經過預處理並快取的 token，以便更快、更便宜地處理。
  3. 輸出 token：模型作為回應產生的 token。
  4. Batch API 定價：Batch API 允許同時處理多個請求，從而顯著降低成本。

使用定價計算器進行規劃

要估算你的具體使用案例的成本，請使用官方Azure Pricing Calculator：

有關最準確和最新的定價詳情，請參閱官方Azure OpenAI Pricing Documentation。

結論

將 Azure OpenAI GPT-4o 與NextChat 用戶端或ChatBox 用戶端整合，你可以打造一個個人 AI 伴侶，將生成式 AI 的強大功能與精美的 Windows 軟體介面的便利性相結合。這些用戶端讓設定 GPT-4o 並與之互動變得簡單，提供豐富的對話體驗，從而提高生產力、創造力和娛樂性。

更多詳情，請參閱官方Azure OpenAI documentation以及各用戶端框架的文件。

1 thought on “Deploy Azure OpenAI GPT-4o and Integrate with NextChat or ChatBox Clients: Build Your Personal AI Companion”

  1. Pingback: How to Create Custom Content Filters in Azure AI Foundry for Safer AI Applications - SysOSX: AI & Cloud

發表留言