摘要
- 使用 POST /v1/chat/completions 向非限制模型發送文本請求,無需內容過濾器。
- 配置 100,000 token 的上下文窗口,以高效處理長對話或大型文件。
- 透過 SSE 實作串流以管理延遲並即時顯示部分回應。
- 僅為實際使用的 Token 付費,使用永不過期的預付信用額度,避免月費訂閱。
定義你的無審查用例
當您需要原始、未經過濾的輸出用於創意寫作、角色扮演或利基資料提取時,無審查模型表現優異。標準模型經常拒絕成人主題或爭議性話題,這可能會破壞您的應用程式邏輯。我們的無審查 LLM 提供合法的成人內容而不會突然拒絕,非常適合這些特定的用例。
考慮您是否需要嚴格遵循事實資料或追求創意自由。對於創意任務,模型會生成多樣化的回應,不過濾禮貌或標準敘事結構。這種自由允許在角色扮演場景中產生更真實的角色聲音。然而,除非您在提示詞中提供,否則模型並不知道您的特定領域上下文。您必須清楚地定義系統指示詞以引導模型的行為。
如果您的用例涉及生成長篇內容,請確保您的系統能夠處理多樣的輸出結構。模型將精確遵循您的指示,但除非特別指定,否則可能不會遵循外部風格指南。請使用幾種多樣化的提示詞進行測試,以驗證語調是否符合您的需求,然後再進行擴展。
設置 OpenAI 兼容客戶端
透過更新客戶端的基礎 URL 以指向我們的端點來連線至 API。這使您能夠使用熟悉的 SDK(如 OpenAI 的 Python 或 Node.js 函式庫)而無需重寫程式碼。只需更改 base_url 設定並提供您的 API 金鑰即可。
- 基礎 URL:HTTPS://api.unlimitedtokensai.com/v1
- 模型 ID:"uncensored"
- 驗證:Authorization 標頭中的 Bearer 權杖
此設定確保與現有工具相容。您可以透過傳遞新的基礎 URL 使用官方 OpenAI SDK。任何與 OpenAI 相容的客戶端只需進行少量調整即可運作。這大幅縮短了整合時間。您無需學習新的 API 格式或驗證方法。標準的 chat-completions 端點可處理所有請求。
透過發送簡單的 ping 請求來驗證您的連線。檢查回應是否包含模型 ID 和 token 用量。這確認了您的憑證正確且端點可達。確認無誤後,您可以繼續設定請求參數。
設定上下文視窗與 Token
設定上下文窗口以管理記憶體使用量與回應長度。我們的模型支援 100,000 token 的上下文窗口,包含提示與補全內容。這使得進行廣泛的對話或處理大型文件時不會遺失上下文。
注意最大輸出限制。每個請求最多可返回 16,000 個 token。如果您未設定 max_tokens 參數,預設值為 2,048 個 token。此預設值對於短回應已足夠,但可能會截斷較長的輸出。生成長內容時,請務必指定 max_tokens。
Token 計數對於成本管理至關重要。每個單詞通常包含約三個 Token。請相應地規劃預算。使用回應中的 Token 使用數據來追蹤消耗情況。這有助於您優化提示詞並避免意外費用。
處理串流與錯誤
啟用串流以即時接收回應。這透過顯示生成的部分文字來改善使用者體驗。使用伺服器發送事件(SSE)串流輸出。串流的最後一個區塊包含總 Token 用量,您應將其記錄用於計費目的。
通過檢查 HTTP 狀態碼來優雅地處理錯誤。常見錯誤包括速率限制、無效請求或服務器超時。為瞬態故障實施指數退避重試邏輯。這確保您的應用程序在負載變化時保持穩定。
不要假設每個請求都會成功。模型可能會拒絕違反內容政策的請求,例如涉及未成年人的內容。請檢查回應中的特定錯誤代碼或訊息。記錄這些事件以監控模型行為,並在必要時調整您的提示詞。這種主動方法可最大限度地減少停機時間並提高可靠性。
實施 Function Calling 以獲取結構化數據
使用函式呼叫從非結構化文字中提取結構化資料。在請求載荷中定義你的函式,模型將返回 JSON 格式的輸出。這對於解析回應、提取實體或生成結構化資料很有用。
將 response_format 指定為 json_object 以強制執行嚴格的 JSON 輸出。這確保模型返回您的應用程序可以直接解析的有效 JSON。使用 tool_choice 控制模型如何調用函數。您可以強制模型調用特定函數或允許其自行選擇。
徹底測試您的函式定義。確保結構與您預期的輸出格式相符。結構中的微小差異可能會導致解析錯誤。在進一步處理之前驗證 JSON 輸出。此步驟對於維持應用程式中的資料完整性至關重要。
監控速率限制與使用情況
追蹤您的 API 用量以保持在速率限制內。我們的 API 允許每個金鑰每分鐘 300 個請求,最多 8 個併發請求。超過這些限制將導致 429 Too Many Requests 錯誤。實施佇列或訊號量以有效管理併發請求。
監控 token 消耗以優化成本。使用回應中的 token 使用數據來追蹤支出。預付信用額根據實際使用情況收費,因此沒有隱藏費用。錯誤和拒絕是免費的,這減少了浪費。這種隨用隨付模式確保您只為實際使用的內容付費。
設定高使用量或異常活動的警報。這有助於您及早檢測異常並防止預算超支。定期檢視您的使用報告以識別模式並最佳化您的提示。這種持續監控可確保資源的有效利用。
測試內容拒絕
確認模型正確處理內容拒絕。雖然模型是無防護機制的,但它仍然對涉及未成年人的性內容執行硬性限制。包含此類內容的請求將被拒絕。通過發送包含相關關鍵字的範例請求來測試這一點。
檢查響應中的拒絕指示器。模型可能會返回特定的錯誤代碼或消息以指示拒絕。記錄這些事件以了解模型的行為。這有助於您調整提示詞或相應地過濾輸入。
確保您的應用程式能優雅地處理拒絕請求。不要假設每個請求都會成功。實作備用邏輯以處理被拒絕的請求。這能提高應用程式的整體可靠性。定期測試可確保您的期望與模型的能力相符。
最佳化 Token 成本
透過最佳化提示詞和回應來降低成本。使用簡潔的系統指令來有效引導模型。避免提示詞中的不必要重複。這會減少輸入 token 數量並降低成本。
設置適當的 max_tokens 值以防止過度生成。如果您只需要短回應,請設置較低的 max_tokens 值。這可以防止模型生成不必要的 token。使用流式傳輸顯示部分回應,這可以提高感知性能。
定期監控您的 Token 使用量。識別高消耗模式並相應調整提示。透過僅在需要時充值來有效使用預付信用額度。這可確保您維持穩定的信用額度供應,同時避免浪費資金。
自信上線
自信地部署您的應用程式,因為您擁有可靠的無審查 API。我們的服務提供透明定價且無隱藏費用。預付信用額度永不過期,您可以按自己的節奏使用。
確保您的錯誤處理與速率限制機制穩健。監控您的使用情況並根據需要進行調整,以確保使用者獲得流暢的體驗。OpenAI compatible API 使整合變得簡單,讓您可以專注於應用程式邏輯。
上線前請徹底測試您的應用程式。驗證所有端點、串流及函式呼叫功能。這能確保發布穩定。我們的支援團隊隨時協助解決任何問題。明智地使用預付額度以最大化您的預算。此方法可確保專案的長期成功。