Docs
Powered by

# "自訂義（OpenAI 協議）"功能說明與使用指南"

Published 2026-01-15

# 一、什麼是"自訂義（OpenAI 協議）"

“自訂義（OpenAI 協議）” 簡單來說，就是讓你可以接入自己選擇的AI模型，而不僅僅依賴OpenAI的官方服務。你可以通過這個功能接入自己本地部署的AI模型，或者第三方提供的兼容OpenAI格式的API服務。

  • 本地模型： 例如，你在自己的電腦上使用 llama.cpp 或 Oobabooga 這類AI模型，可以通過它們提供的接口與 Tavo 對話。
  • 第三方API服務： 例如，Cloudflare AI 或 DeepSeek 提供的兼容OpenAI的API，Tavo 也能輕鬆接入。

# 二、為什麼要使用"自訂義（OpenAI 協議）"？

  • 你可以靈活切換模型

你不再局限於OpenAI的官方模型，可以選擇自己喜歡的其他模型進行對話。

  • 本地運行節省費用

如果你在本地運行AI模型，就能避免向雲端付費，減少成本。

  • 保護隱私

你不需要將對話內容傳輸到外部服務器，保護自己的隱私。

  • 自定義優化

有些模型是針對特定任務做了優化的，使用這些模型可以獲得更好的結果。

# 示例場景：

假設你在自己的電腦上通過 llama.cpp 部署了一個AI模型，接口地址是 http://localhost:8080/v1。通過 Tavo 的"自訂義（OpenAI 協議）"功能，你可以直接與這個模型對話，而不需要用OpenAI的官方服務。

# 三、小白用戶快速上手指南

步驟1：準備好API服務

  • 本地部署： 你需要在自己的電腦上運行一個兼容OpenAI格式的AI模型（比如 llama.cpp）。確保服務已經啟動並能通過地址 http://localhost:1234/v1 訪問。
  • 第三方服務： 如果你使用的是第三方API（比如 DeepSeek 或 Cloudflare），你需要從服務提供商那裡獲取到API地址和API密鑰。 步骤2：在 Tavo 中配置

1.進入設置頁面

打開Tavo，點擊 左上角按鈕 → API連接 → 新建。

2.選擇 自訂義（OpenAI 協議）

在 模型平台 選擇框中，選中 自訂義（OpenAI 協議） 。

3.填寫API密鑰（如果需要）

如果你的服務需要密鑰認證，輸入相應的API密鑰；如果不需要，不用填寫。

4.填寫 API 基礎 URL

  • 輸入你要連接的API服務地址（例如 http://localhost:1234/v1）。
  • 注意：如果連接不成功，可以嘗試在URL末尾加上 /v1，並確保地址格式正確。

5.選擇模型名稱

根據服務的文檔，選擇你要使用的模型名稱，比如 gpt-4o 或 llama3-8b 等。

步骤3：測試與開始使用

1.發送測試訊息

將該 API 設置為默認，並與自己原有角色進行對話，看看是否能收到AI的回覆。

  • ✅ 成功示例： 收到AI的回覆內容
  • ❌ 失敗處理： 如果沒有返回結果，檢查下URL、端口、模型名是否正確，確保服務已啟動。

2.開始使用

配置成功後，你就可以像使用OpenAI一樣，在酒館AI中與自定義的AI模型進行對話了。

# 四、常見問題

◼️ 連接失敗怎麼辦

  • 確認API服務是否已經啟動（例如本地服務需要啟動）。
  • 檢查API地址格式是否正確，端口是否開放。
  • 查看服務日誌，查找可能的錯誤資訊。

◼️ 模型名不對怎麼辦？

  • 確保選擇的模型名稱與服務提供商的文檔一致。
  • 本地部署時，模型名通常與你加載的模型文件名稱一致。

◼️ 顯示"無連接"怎麼辦？

  • 確保你配置的API端點可用，或者重新檢查端點配置。

# 五、提示處理和兼容性

◼️ 兼容性說明

雖然 Tavo 支持與很多API端點兼容，但它不保證與所有API端點都能兼容。特別是一些本地端點，如 TabbyAPI、Oobabooga 或 Aphrodite，在連接時可能需要一些額外配置。你可能需要查看這些端點的文檔，確保它們的接口格式符合OpenAI的標準。

  • 小提示：如果連接不上，嘗試在URL末尾加 /v1，而不是 /chat/completions，這樣通常可以解決連接問題。

◼️ 提示格式限制

有些端點可能會對輸入的提示格式有要求，比如要求只有一條系統訊息，或者嚴格交替角色。Tavo 提供了內置的提示轉換器，幫助你滿足這些要求：

  • 合併同一角色的連續訊息（適用於鬆散的格式要求）
  • 只允許一條系統訊息（適用於半嚴格要求）
  • 只允許一個可選的系統訊息，並要求用戶角色是第一個（適用於嚴格要求）

# 六、示例配置

◼️ 本地部署llama.cpp

  • 自定義端點：http://localhost:8080/v1
  • 模型名：llama3-8b
  • API密鑰：無需填寫（本地服務通常不需要密鑰）。

◼️ 第三方服務（DeepSeek）

  • 自定義端點：https://api.deepseek.com/v1
  • 模型名：deepseek-chat
  • API密鑰：填寫服務提供的密鑰。