خلاصه
- از POST /v1/chat/completions برای ارسال درخواستهای متنی به یک مدل uncensored بدون فیلترهای محتوا استفاده کنید.
- یک پنجره زمینه ۱۰۰,۰۰۰ توکنی را پیکربندی کنید تا مکالمات طولانی یا اسناد بزرگ را بهطور کارآمد مدیریت کنید.
- جریاندهی را از طریق SSE برای مدیریت تأخیر و نمایش پاسخهای جزئی به صورت بلادرنگ پیادهسازی کنید.
- فقط بابت توکنهای واقعی استفادهشده پرداخت کنید و اعتبار پیشپرداختی که هرگز منقضی نمیشود داشته باشید، بدون اشتراکهای ماهانه.
مورد استفاده بدون سانسور خود را تعریف کنید
مدلهای بدون سانسور زمانی عالی عمل میکنند که به خروجیهای خام و بدون فیلتر برای نویسندگی خلاق، نقشآفرینی یا استخراج دادههای تخصصی نیاز دارید. مدلهای معمول اغلب مضامین بزرگسالان یا موضوعات جنجالی را رد میکنند که میتواند منطق برنامه شما را مختل کند. LLM بدون سانسور ما محتوای بزرگسالان قانونی را بدون رد شدنهای ناگهانی ارائه میدهد که آن را برای این موارد استفاده خاص ایدهآل میسازد.
آیا به پایبندی دقیق به دادههای واقعی نیاز دارید یا آزادی خلاقانه؟ برای وظایف خلاقانه، مدل پاسخهای متنوعی تولید میکند بدون فیلتر کردن برای ادب یا ساختارهای روایی استاندارد. این آزادی اجازه میدهد صداهای کاراکتر واقعیتری در سناریوهای نقشآفرینی وجود داشته باشد. با این حال، مدل زمینه خاص حوزه شما را نمیداند مگر اینکه آن را در پیکربندی ارائه دهید. باید دستورالعملهای سیستم را به وضوح تعریف کنید تا رفتار مدل را هدایت کنید.
اگر مورد استفاده شما شامل تولید محتوای بلند است، اطمینان حاصل کنید که سیستم شما میتواند ساختارهای خروجی متنوع را مدیریت کند. مدل دستورالعملهای شما را دقیق دنبال میکند، اما ممکن است به راهنمای سبک خارجی پایبند نباشد مگر اینکه مشخص شده باشد. با چند پرامپت متنوع آزمایش کنید تا مطمئن شوید لحن با نیازهای شما مطابقت دارد قبل از مقیاسدهی.
تنظیم کلاینت سازگار با OpenAI
اتصال به API با بهروزرسانی URL پایه کلاینت خود برای اشاره به اندپوینت ما. این به شما اجازه میدهد از SDKهای آشنا مانند کتابخانههای Python یا Node.js OpenAI بدون بازنویسی کد خود استفاده کنید. فقط پیکربندی base_url را تغییر دهید و کلید API خود را ارائه دهید.
- URL پایه: HTTPS://api.unlimitedtokensai.com/v1
- شناسه مدل: "uncensored"
- احراز هویت: توکن Bearer در هدر Authorization
این پیکربندی سازگاری با ابزارهای موجود را تضمین میکند. میتوانید از SDKهای رسمی OpenAI با ارسال URL پایه جدید استفاده کنید. هر کلاینت سازگار با OpenAI با تغییرات جزئی کار خواهد کرد. این زمان یکپارچهسازی را به طور قابل توجهی کاهش میدهد. نیازی به یادگیری فرمت API یا روش احراز هویت جدید ندارید. نقطه پایانی استاندارد chat-completions تمام درخواستها را مدیریت میکند.
اتصال خود را با ارسال یک درخواست ping ساده بررسی کنید. بررسی کنید که پاسخ شامل شناسه مدل و مصرف توکن باشد. این موضوع تأیید میکند که اعتبارنامههای شما صحیح است و endpoint قابل دسترس میباشد. پس از تأیید، میتوانید به پیکربندی پارامترهای درخواست خود بپردازید.
پیکربندی پنجرههای متن و توکنها
پنجره زمینه (context window) را تنظیم کنید تا مصرف حافظه و طول پاسخ مدیریت شود. مدل ما از پنجره زمینه ۱۰۰,۰۰۰ توکنی پشتیبانی میکند که شامل هم متن ورودی (prompt) و هم خروجی (completion) میشود. این امکان مکالمات گسترده یا پردازش اسناد بزرگ را بدون از دست دادن زمینه فراهم میکند.
به حداکثر محدودیت خروجی توجه کنید. هر درخواست میتواند تا 16,000 توکن برگرداند. اگر پارامتر max_tokens را تنظیم نکنید، پیشفرض 2,048 توکن است. این پیشفرض برای پاسخهای کوتاه کافی است اما ممکن است خروجیهای طولانیتر را برش دهد. همیشه max_tokens را هنگام تولید محتوای طولانی مشخص کنید.
شمارش توکنها برای مدیریت هزینهها حیاتی است. هر کلمه معمولاً شامل حدود سه توکن است. بودجه خود را بر این اساس برنامهریزی کنید. از دادههای مصرف توکن در پاسخ برای ردیابی مصرف استفاده کنید. این به شما کمک میکند پرامپتهای خود را بهینهسازی کرده و از هزینههای غیرمنتظره جلوگیری کنید.
مدیریت پخش زنده و خطاها
جریانسازی را فعال کنید تا پاسخها را به صورت بلادرنگ دریافت کنید. این کار با نمایش متن جزئی هنگام تولید، تجربه کاربری را بهبود میبخشد. از رویدادهای ارسالی سرور (SSE) برای جریاندهی خروجی استفاده کنید. قطعه نهایی جریان حاوی کل مصرف توکن است که باید برای اهداف صورتحساب ثبت شود.
خطاها را با بررسی کد وضعیت HTTP به شیوهای مناسب مدیریت کنید. خطاهای رایج شامل محدودیت نرخ، درخواستهای نامعتبر یا زمانهای انتظار سرور هستند. منطق تلاش مجدد را با backoff نمایی برای شکستهای موقت پیادهسازی کنید. این اطمینان حاصل میکند که برنامه شما تحت شرایط بار متغیر مقاوم باقی بماند.
فرض نکنید که هر درخواستی موفق خواهد بود. مدل ممکن است درخواستهایی را که سیاستهای محتوایی را نقض میکنند، مانند آنهایی که شامل اطفال هستند، رد کند. پاسخ را برای کدها یا پیامهای خطای خاص بررسی کنید. این رویدادها را ثبت کنید تا رفتار مدل را نظارت کرده و پرامپتهای خود را در صورت لزوم تنظیم کنید. این رویکرد پیشگیرانه زمان توقف را به حداقل میرساند و قابلیت اطمینان را بهبود میبخشد.
پیادهسازی فراخوانی تابع برای ساختار
از فراخوانی تابع برای استخراج دادههای ساختاریافته از متنهای غیرساختاریافته استفاده کنید. توابع خود را در پیکربندی درخواست تعریف کنید و مدل خروجیهای فرمتشده JSON را برمیگرداند. این برای تجزیه پاسخها، استخراج موجودیتها یا تولید دادههای ساختاریافته مفید است.
response_format را به json_object مشخص کنید تا خروجی JSON دقیق را اجبار کنید. این تضمین میکند که مدل JSON معتبری برمیگرداند که برنامه شما میتواند مستقیماً تجزیه کند. از tool_choice برای کنترل نحوه فراخوانی توابع توسط مدل استفاده کنید. میتوانید مدل را مجبور کنید یک تابع خاص را فراخوانی کند یا به آن اجازه دهید انتخاب کند.
تعاریف تابعی خود را بهدقت آزمایش کنید. اطمینان حاصل کنید که طرحواره با قالب خروجی مورد انتظار شما مطابقت دارد. تفاوتهای کوچک در طرحواره میتواند باعث خطاهای تجزیه شود. خروجی JSON را پیش از پردازش بیشتر اعتبارسنجی کنید. این مرحله برای حفظ یکپارچگی دادهها در برنامه شما حیاتی است.
مانیتور محدودیتهای نرخ و استفاده
مصرف API خود را ردیابی کنید تا در محدودیتهای نرخ باقی بمانید. API ما اجازه ۳۰۰ درخواست در دقیقه به ازای هر کلید و تا ۸ درخواست همزمان را میدهد. تجاوز از این محدودیتها منجر به خطای 429 Too Many Requests میشود. یک صف یا سمافور برای مدیریت موثر درخواستهای همزمان پیادهسازی کنید.
مصرف توکن را برای بهینهسازی هزینهها پایش کنید. از دادههای مصرف توکن در پاسخ برای ردیابی هزینهها استفاده کنید. اعتبار پیشپرداخت بر اساس مصرف واقعی شارژ میشود، بنابراین هزینه پنهانی وجود ندارد. خطاها و رد شدنها رایگان هستند که ضایعات را کاهش میدهد. این مدل پرداخت به ازای مصرف تضمین میکند که فقط بابت آنچه استفاده میکنید پرداخت کنید.
هشدارهایی برای استفاده بالا یا فعالیت غیرعادی تنظیم کنید. این به شما کمک میکند ناهنجاریها را زودتر تشخیص دهید و از تجاوز از بودجه جلوگیری کنید. به طور منظم گزارشهای استفاده خود را مرور کنید تا الگوها را شناسایی کرده و پرامپتهای خود را بهینه کنید. این نظارت مستمر استفاده کارآمد از منابع را تضمین میکند.
برای رد محتوا تست کنید
بررسی کنید که مدل ردکنندگیهای محتوا را به درستی مدیریت میکند. اگرچه مدل بدون سانسور است، اما همچنان یک محدودیت سخت بر محتوای جنسی مرتبط با کودکان اعمال میکند. درخواستهایی که حاوی چنین محتوایی باشند، رد میشوند. این مورد را با ارسال یک درخواست نمونه با کلمات کلیدی مرتبط آزمایش کنید.
پاسخ را برای نشانگرهای رد (Refusal) بررسی کنید. مدل ممکن است یک کد خطا یا پیام خاص که نشاندهنده رد است را برگرداند. این رویدادها را ثبت کنید تا رفتار مدل را درک کنید. این به شما کمک میکند درخواستهای خود را تنظیم کنید یا ورودیها را فیلتر کنید.
برنامه خود را طوری طراحی کنید که ردیوها را به خوبی مدیریت کند. فرض نکنید که هر درخواستی موفق خواهد بود. منطق جایگزین را برای مدیریت درخواستهای رد شده پیادهسازی کنید. این قابلیت اطمینان کلی برنامه شما را بهبود میبخشد. تست منظم تضمین میکند که انتظارات شما با قابلیتهای مدل همسو است.
بهینهسازی هزینههای توکن
هزینهها را با بهینهسازی پرامپتها و پاسخهای خود کاهش دهید. از دستورالعملهای سیستمی مختصر برای هدایت کارآمد مدل استفاده کنید. از تکرارهای غیرضروری در پرامپت خودداری کنید. این تعداد توکنهای ورودی را کاهش داده و هزینهها را کاهش میدهد.
مقادیر max_tokens مناسب را برای جلوگیری از تولید بیش از حد تنظیم کنید. اگر فقط به یک پاسخ کوتاه نیاز دارید، یک مقدار max_tokens پایین تنظیم کنید. این از تولید توکنهای غیرضروری توسط مدل جلوگیری میکند. از استریم برای نمایش پاسخهای جزئی استفاده کنید که میتواند عملکرد درک شده را بهبود بخشد.
مصرف توکنها را به طور منظم پایش کنید. الگوهای مصرف بالا را شناسایی کنید و پرامپتهای خود را متناسب با آن تنظیم کنید. از اعتبار پیشپرداخت به طور موثر با شارژ کردن فقط زمانی که نیاز است استفاده کنید. این تضمین میکند که تأمین اعتبار پایدار داشته باشید بدون اینکه پول هدر دهید.
Go Live with Confidence
برنامه خود را با اطمینان مستقر کنید، با آگاهی از اینکه یک API بدون سانسور قابلاعتماد دارید. سرویس ما قیمتگذاری شفاف و بدون هزینههای پنهان ارائه میدهد. اعتبار پیشپرداخت هرگز منقضی نمیشود، بنابراین میتوانید آن را با سرعت خود استفاده کنید.
اطمینان حاصل کنید که مدیریت خطا و محدودیت نرخ شما قوی است. مصرف خود را نظارت کنید و در صورت نیاز تنظیم کنید. این تجربهای روان برای کاربران شما تضمین میکند. API سازگار با openai یکپارچهسازی را ساده میکند و به شما اجازه میدهد بر منطق برنامه خود تمرکز کنید.
برنامه خود را پیش از انتشار عمومی بهدقت آزمایش کنید. تمام نقاط پایانی، استریم و فراخوانی توابع را بررسی کنید. این کار از انتشار پایدار اطمینان حاصل میکند. تیم پشتیبانی ما برای رفع هرگونه مشکل در دسترس است. از اعتبار پیشپرداخت بهخوبی استفاده کنید تا بودجه خود را بهینهسازی کنید. این رویکرد موفقیت بلندمدت پروژه شما را تضمین میکند.