摘要
- 使用 POST /v1/chat/completions 向非限制模型发送文本请求,无需内容过滤器。
- 配置 100,000 token 的上下文窗口,以高效处理长对话或大型文档。
- 通过 SSE 实现流式传输以管理延迟并实时显示部分响应。
- 仅为实际使用的令牌付费,使用预付额度,额度永不过期,避免月度订阅。
定义您的无审查用例
当您需要用于创意写作、角色扮演或小众数据提取的原始、未过滤的输出时,无审查模型表现出色。标准模型经常拒绝成人主题或争议性话题,这可能会破坏您的应用程序逻辑。我们的无审查 LLM 提供合法的成人内容,且没有突然的拒绝,非常适合这些特定用例。
考虑你是否需要严格遵循事实数据还是创意自由。对于创意任务,模型生成多样化的响应,不过滤礼貌或标准叙事结构。这种自由允许在角色扮演场景中产生更真实的角色声音。然而,除非你在提示中提供,否则模型不知道你的特定领域上下文。你必须清晰地定义系统指令以指导模型的行为。
如果您的用例涉及生成长篇内容,请确保您的系统能够处理多变的输出结构。模型将严格按照您的指令操作,但除非另有说明,否则可能不会遵循外部风格指南。在扩展规模之前,请使用几个多样化的提示词进行测试,以验证语气是否符合您的需求。
设置 OpenAI 兼容客户端
通过更新客户端的基础 URL 以指向我们的端点来连接到 API。这允许您使用熟悉的 SDK(如 OpenAI 的 Python 或 Node.js 库)而无需重写代码。只需更改 base_url 配置并提供 API 密钥。
- 基础 URL:HTTPS://api.unlimitedtokensai.com/v1
- 模型 ID:"uncensored"
- 认证:Authorization 头中的 Bearer 令牌
此配置确保与现有工具兼容。您可以通过传递新的 base URL 使用官方 OpenAI SDK。任何兼容 OpenAI 的客户端只需进行少量调整即可使用。这显著减少了集成时间。您无需学习新的 API 格式或认证方法。标准的 chat-completions 端点处理所有请求。
通过发送简单的 ping 请求来验证连接。检查响应是否包含模型 ID 和 token 使用情况。这确认了您的凭据正确且端点可达。验证通过后,您可以继续配置请求参数。
配置上下文窗口和 Token
设置上下文窗口以管理内存使用和响应长度。我们的模型支持 100,000 token 的上下文窗口,其中包括提示词和补全内容。这允许进行广泛的对话或处理大型文档而不会丢失上下文。
注意最大输出限制。每个请求最多可返回 16,000 个 token。如果您未设置 max_tokens 参数,默认值为 2,048 个 token。此默认值对于短回复已足够,但可能会截断较长的输出。生成长篇内容时,请始终指定 max_tokens。
Token 计数对于成本管理至关重要。每个单词通常包含大约三个 Token。请相应地规划预算。使用响应中的 Token 使用数据来跟踪消耗情况。这有助于您优化提示并避免意外费用。
处理流式传输和错误
启用流式传输以实时接收响应。这通过按生成顺序显示部分文本来提升用户体验。使用服务器发送事件(SSE)流式传输输出。流的最后一个数据块包含总 Token 用量,您应将其记录用于计费目的。
通过检查 HTTP 状态码来优雅地处理错误。常见错误包括速率限制、无效请求或服务器超时。为临时故障实现带有指数退避的重试逻辑。这可确保您的应用程序在各种负载条件下保持健壮。
不要假设每个请求都会成功。模型可能会拒绝违反内容政策的请求,例如涉及未成年人的请求。检查响应中的特定错误代码或消息。记录这些事件以监控模型行为,并在必要时调整提示词。这种主动方法可以最大限度地减少停机时间并提高可靠性。
实施 Function Calling 以获取结构
使用函数调用从非结构化文本中提取结构化数据。在请求负载中定义你的函数,模型将返回 JSON 格式的输出。这对于解析响应、提取实体或生成结构化数据很有用。
将 response_format 指定为 json_object 以强制执行严格的 JSON 输出。这确保模型返回您的应用程序可以直接解析的有效 JSON。使用 tool_choice 控制模型如何调用函数。您可以强制模型调用特定函数或允许其自行选择。
彻底测试您的函数定义。确保模式与预期的输出格式匹配。模式中的微小差异可能导致解析错误。在进一步处理之前验证 JSON 输出。此步骤对于保持应用程序中的数据完整性至关重要。
监控速率限制和使用情况
追踪您的 API 使用情况以保持在速率限制内。我们的 API 允许每个密钥每分钟 300 次请求,最多 8 个并发请求。超过这些限制将导致 429 Too Many Requests 错误。实现队列或信号量以有效管理并发请求。
监控 token 消耗以优化成本。使用响应中的 token 使用数据来跟踪支出。预付费信用根据实际使用情况收费,因此没有隐藏费用。错误和拒绝是免费的,这减少了浪费。这种按使用量付费的模式确保您只为实际使用的部分付费。
设置高使用量或异常活动的警报。这有助于你尽早检测异常并防止预算超支。定期审查使用报告以识别模式并优化提示。这种持续监控确保资源的有效利用。
测试内容拒绝
验证模型是否正确处理内容拒绝。虽然模型是无护栏的,但它仍然对涉及未成年人的性内容强制执行硬性限制。包含此类内容的请求将被拒绝。通过发送包含相关关键词的示例请求来测试这一点。
检查响应以获取拒绝指示符。模型可能会返回特定的错误代码或消息以指示拒绝。记录这些事件以了解模型的行为。这有助于您调整提示词或相应地过滤输入。
确保您的应用能优雅地处理拒绝。不要假设每个请求都会成功。实现回退逻辑来处理被拒绝的请求。这提高了应用程序的整体可靠性。定期测试可确保您的期望与模型的能力保持一致。
优化 Token 成本
通过优化提示词和响应来降低成本。使用简洁的系统指令有效引导模型。避免提示词中的不必要重复。这减少了输入 token 数量并降低成本。
设置适当的 max_tokens 值以防止过度生成。如果您只需要简短的响应,请设置较低的 max_tokens 值。这可以防止模型生成不必要的令牌。使用流式传输显示部分响应,这可以提高感知的性能。
定期监控您的令牌使用情况。识别高消耗模式并相应调整提示词。仅在需要时充值,以有效使用预付费额度。这确保您保持稳定的额度供应,同时避免浪费资金。
自信上线
自信地部署你的应用,因为我们提供可靠且无审查的 API。我们的服务定价透明,无隐藏费用。预存信用额度永不过期,你可以按自己的节奏使用。
确保您的错误处理和速率限制是健壮的。监控您的使用情况并根据需要调整。这确保您的用户获得流畅的体验。openai compatible API 使集成变得简单,使您可以专注于您的应用程序逻辑。
上线前请彻底测试您的应用。验证所有端点、流式传输和函数调用。这能确保发布稳定。我们的支持团队随时协助解决任何问题。合理使用预存余额以最大化预算。这种方法能确保项目的长期成功。