📢 اطلاعیهٔ نگهداری اضطراری
هاست ما اعلام کرده امشب از حدود ساعت ۲۱:۳۰ به وقت تهران (احتمال ۲۲:۳۰) سرورها را بهصورت اضطراری و نوبتی ریاستارت میکند. ممکن است سرویس sinoxapi تا حدود یک ساعت در دسترس نباشد و درخواستهای در جریان قطع شوند.
اگر درخواست مهمی دارید، قبل از این ساعت بزنید. بعد از بازگشت سرور، سلامت سرویس بهصورت خودکار بررسی و همینجا اعلام میشود. بابت این قطعی ناخواسته پوزش میخواهیم.
هاست ما اعلام کرده امشب از حدود ساعت ۲۱:۳۰ به وقت تهران (احتمال ۲۲:۳۰) سرورها را بهصورت اضطراری و نوبتی ریاستارت میکند. ممکن است سرویس sinoxapi تا حدود یک ساعت در دسترس نباشد و درخواستهای در جریان قطع شوند.
اگر درخواست مهمی دارید، قبل از این ساعت بزنید. بعد از بازگشت سرور، سلامت سرویس بهصورت خودکار بررسی و همینجا اعلام میشود. بابت این قطعی ناخواسته پوزش میخواهیم.
Sinox API
📢 اطلاعیهٔ نگهداری اضطراری هاست ما اعلام کرده امشب از حدود ساعت ۲۱:۳۰ به وقت تهران (احتمال ۲۲:۳۰) سرورها را بهصورت اضطراری و نوبتی ریاستارت میکند. ممکن است سرویس sinoxapi تا حدود یک ساعت در دسترس نباشد و درخواستهای در جریان قطع شوند. اگر درخواست مهمی…
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
برای اینکه به خطای کانتکست غیرمجاز نخورید داخل کلاد کد میتونین از اتو کامپکت استفاده کنین.
یا متغیر:
"autoCompactWindow": 400000
یا متغیر:
CLAUDE_CODE_AUTO_COMPACT_WINDOW=400000
https://sinoxapi.com/docs#tool-claude-code
بالاخره کدوم مدل AI رو باید استفاده کنیم؟🤔
با این همه مدل جدید، انتخاب مدل مناسب داره خودش تبدیل میشه به یه مسئله!
واقعیت اینه که چیزی به اسم «بهترین مدل برای همهچیز» نداریم.
یه مدل ممکنه توی کدنویسی فوقالعاده باشه، ولی برای یه تسک ساده فقط هزینه و زمان بیشتری مصرف کنه.
یکی برای Reasoning و حل مسائل پیچیده بهتره، یکی سرعت بالاتری داره و یکی برای پردازش حجم بالای درخواست انتخاب منطقیتریه.
قبل از انتخاب مدل، این ۴ تا سؤال رو از خودت بپرس:
🟣 تسکم چقدر پیچیدهست؟
🟣 سرعت پاسخ چقدر برام مهمه؟
🟣 قراره چه حجمی Token مصرف کنم؟
🟣 کیفیت مهمتره یا هزینه؟
مثلاً استفاده از قویترین مدل موجود برای دستهبندی چند خط متن، تقریباً مثل اینه که با فراری بری سر کوچه نون بگیری!😄
از این به بعد اینجا مدلهای مختلف رو واقعاً با هم تست میکنیم؛ از Coding و Reasoning گرفته تا سرعت و هزینه.
نه صرفاً بر اساس Benchmark؛
با تستهایی که به درد استفاده واقعی میخورن.
شما بیشتر دوست دارید مقایسه مدلها رو برای چه کاری ببینید؟ کدنویسی، تولید محتوا، Agent یا Reasoning؟ 👇
😎 @Sinoxapiadmin
با این همه مدل جدید، انتخاب مدل مناسب داره خودش تبدیل میشه به یه مسئله!
واقعیت اینه که چیزی به اسم «بهترین مدل برای همهچیز» نداریم.
یه مدل ممکنه توی کدنویسی فوقالعاده باشه، ولی برای یه تسک ساده فقط هزینه و زمان بیشتری مصرف کنه.
یکی برای Reasoning و حل مسائل پیچیده بهتره، یکی سرعت بالاتری داره و یکی برای پردازش حجم بالای درخواست انتخاب منطقیتریه.
قبل از انتخاب مدل، این ۴ تا سؤال رو از خودت بپرس:
مثلاً استفاده از قویترین مدل موجود برای دستهبندی چند خط متن، تقریباً مثل اینه که با فراری بری سر کوچه نون بگیری!😄
از این به بعد اینجا مدلهای مختلف رو واقعاً با هم تست میکنیم؛ از Coding و Reasoning گرفته تا سرعت و هزینه.
نه صرفاً بر اساس Benchmark؛
با تستهایی که به درد استفاده واقعی میخورن.
شما بیشتر دوست دارید مقایسه مدلها رو برای چه کاری ببینید؟ کدنویسی، تولید محتوا، Agent یا Reasoning؟ 👇
https://sinoxapi.com
Please open Telegram to view this post
VIEW IN TELEGRAM
دو تا API میتونن از یک مدل استفاده کنن ولی حس سرعتشون زمین تا آسمون فرق کنه.⚡️
برای سنجیدن سرعت مدلهای AI، دو عدد مهمه:
🟣 TTFT (Time To First Token)
از لحظهی ارسال Request تا رسیدن اولین Token چقدر طول میکشه.
مثال: Request → 0.8s → اولین Token
هرچی پایینتر، حس شروعِ سریعتر به کاربر میده.
🟣 TPS (Tokens Per Second)
بعد از شروع پاسخ، مدل با چه سرعتی Token تولید میکنه.
مثال: 20 TPS در برابر 80 TPS، یعنی یکی چهار برابر سریعتر مینویسه.
نتیجه؟ ممکنه یه API خیلی سریع شروع کنه ولی در ادامه پاسخ کند باشه، یا کمی دیر شروع کنه ولی بعدش خروجی رو با سرعت خیلی بالا تولید کنه.
برای چتبات، TTFT روی حس کاربر اثر بیشتری داره.
برای خروجیهای طولانی، کدنویسی و پردازش سنگین، TPS مهمتره.
وقتی تست سرعت مدلها رو اینجا میذاریم، این دو عدد رو جدا بررسی میکنیم؛ چون نوشتن صرفاً «این مدل سریعه» تقریباً هیچ اطلاعات مفیدی به ما نمیده:)
برای سنجیدن سرعت مدلهای AI، دو عدد مهمه:
از لحظهی ارسال Request تا رسیدن اولین Token چقدر طول میکشه.
مثال: Request → 0.8s → اولین Token
هرچی پایینتر، حس شروعِ سریعتر به کاربر میده.
بعد از شروع پاسخ، مدل با چه سرعتی Token تولید میکنه.
مثال: 20 TPS در برابر 80 TPS، یعنی یکی چهار برابر سریعتر مینویسه.
نتیجه؟ ممکنه یه API خیلی سریع شروع کنه ولی در ادامه پاسخ کند باشه، یا کمی دیر شروع کنه ولی بعدش خروجی رو با سرعت خیلی بالا تولید کنه.
برای چتبات، TTFT روی حس کاربر اثر بیشتری داره.
برای خروجیهای طولانی، کدنویسی و پردازش سنگین، TPS مهمتره.
وقتی تست سرعت مدلها رو اینجا میذاریم، این دو عدد رو جدا بررسی میکنیم؛ چون نوشتن صرفاً «این مدل سریعه» تقریباً هیچ اطلاعات مفیدی به ما نمیده:)
https://sinoxapi.com
Please open Telegram to view this post
VIEW IN TELEGRAM
احتمالاً برات پیش اومده که یک فایل طولانی یا چندین هزار خط کد به هوش مصنوعی بدی و بعد از چند پیام، مدل دیگه نتونه به بعضی اطلاعات قبلی اشاره کنه.
حداکثر تعداد توکنهایی که مدل میتونه در یک درخواست و در محدوده متن قابل پردازشش داشته باشه.
این ظرفیت ممکنه شامل پیامهای قبلی، System Prompt، فایلهای ورودی و توکنهای خروجی هم بشه.
مثلاً اگر یک مدل Context Window برابر با 128K داشته باشه، یعنی ظرفیت پنجره متنی اون حدود ۱۲۸ هزار توکنه؛ نه اینکه لزوماً بتونی ۱۲۸ هزار توکن ورودی بفرستی و بعد خروجی نامحدود بگیری!
کانتکست بزرگتر الزاماً به معنی درک بهتر نیست. کیفیت بازیابی اطلاعات از متنهای طولانی و نحوه مدیریت تاریخچه گفتگو هم اهمیت زیادی داره.
شما تا حالا به محدودیت Context Window برخورد کردید؟
#آموزش_API #هوش_مصنوعی
https://sinoxapi.com
Please open Telegram to view this post
VIEW IN TELEGRAM
جوایز:
نفر اول رکوستی: ۱۰۰۰ رکوست
نفر دوم رکوستی: ۳۰۰ رکوست
نفر سوم رکوستی: ۳۰۰ رکوست
Please open Telegram to view this post
VIEW IN TELEGRAM
برندگان پلن رکوستی به ترتیب:
برندگان پلن توکنی به ترتیب:
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM