🔖 تیپ #26

بازیابی کار پس از خطا با ذخیرهٔ وضعیت
عامل‌های طولانی‌مدت معمولاً وسط کار می‌شکنند: یک فراخوانی ابزار تایم‌اوت می‌خورد، مدل خروجی نامعتبر می‌دهد، یا پروسه از بین می‌رود. اگر وضعیت اجرا فقط در حافظه باشد، هر خطا یعنی شروع از صفر و پرداخت دوبارهٔ هزینهٔ همهٔ توکن‌ها. راه‌حل این است که بعد از هر گام یک checkpoint از گراف وضعیت، با یک thread id مشخص، ذخیره کنی تا اجرا از آخرین گام سالم ادامه پیدا کند 💾. نکتهٔ ظریف ماجرا idempotent بودن گام‌هاست، چون در بازگشت همان گام خطادار دوباره اجرا می‌شود و اثری مثل ارسال ایمیل یا پرداخت نباید دو بار تکرار شود.

State and checkpoints: resuming an agent after failure
Long-running agents fail mid-task: a tool call times out, the model returns malformed JSON, or the process gets killed. If state lives only in memory, that failure means starting over and paying for every token twice. Persist a checkpoint of the state graph after each step, keyed by a thread id, so a run resumes from the last good node instead of the beginning 💾. The catch is idempotency: resuming replays the failed step, so side effects like sending an email or charging a card must be safe to repeat.

@dslanders

مهم‌ترین‌های ۲۴ ساعت اخیر هوش مصنوعی

⚠️ خبر ۱: نسخه ۱.۱۰۷.۰ ابزار LiteLLM روی PyPI آلوده شده و هنگام نصب رمزها و اطلاعات حساس را می‌دزدد و یک درِ پشتی باز می‌کند؛ فعلاً این نسخه را نصب نکنید.

🎙️ خبر ۲: Mistral مدل صوتی Voxtral 3 و کیت ساخت دستیار صوتی را معرفی کرد که بیش از ۵۰ زبان را پوشش می‌دهد و برای اپلیکیشن‌های گفتاری بلادرنگ به کار می‌آید.

🧠 خبر ۳: تیم MemCurrent حافظه‌ای دائمی برای ایجنت‌های هوش مصنوعی در محیط عملیاتی ساخته که به گفته‌شان نرخ موفقیت را سه برابر می‌کند و از ایجنت‌های بی‌حافظه سریع‌تر است.

🔒 خبر ۴: ChatGPT حالا می‌گذارد هر گفتگو را جداگانه قفل کنید تا از تاریخچه، پین‌ها و نتایج جست‌وجو بیرون بماند و در دید دیگران نباشد.

📱 خبر ۵: مدل متن‌باز Spark-X2.6-4B با ۴ میلیارد پارامتر منتشر شد که کدنویسی، استدلال و متن‌های طولانی را بهتر می‌کند و برای اجرا روی دستگاه‌های کوچک ساخته شده است.

@dslanders

🧮 تیپ #27

سقف توکن برای هر گام، ترمز هزینه و تأخیر
برای هر گام از حلقهٔ ایجنت یک سقف توکن تعیین کنید، نه فقط یک محدودیت کلی برای کل اجرا 💸. طول خروجی و اندازهٔ کانتکست هم‌زمان روی تأخیر و هزینه اثر می‌گذارند، پس بودجهٔ توکن در عمل بودجهٔ زمان هم هست. بزرگ‌ترین نشتی پنهان معمولاً خروجی ابزارهاست: JSON حجیم را قبل از برگرداندن به کانتکست خلاصه یا فیلتر کنید. وقتی بودجه تمام شد، به‌جای چرخیدن در حلقه، پاسخ ناقص را با پیام روشن برگردانید و مصرف هر گام را لاگ کنید.

Cap tokens per step, not just per run
Give every step of an agent loop its own token budget, not just one global cap for the run 💸. Output length and context size drive both latency and cost, so a token budget is really a time budget. The biggest hidden leak is usually tool output: summarize or filter bulky JSON before it re-enters the context. When the budget runs out, return a partial answer with a clear message instead of letting the loop spin, and log per-step usage so you can see where the tokens actually go.

@dslanders

مهم‌ترین‌های ۲۴ ساعت اخیر هوش مصنوعی

🤖 خبر ۱: شرکت Anthropic ابزار Claude Duet را معرفی کرد؛ یک عامل هوشمند مبتنی بر مدل Opus 5.5 که برنامه‌هایتان را زیر نظر می‌گیرد، کارها را اولویت‌بندی می‌کند و خودش در پس‌زمینه انجام می‌دهد.

💻 خبر ۲: استارتاپ Recursive مدل Flint را منتشر کرد؛ یک مدل کدنویسی ۴۰ میلیارد پارامتری که برای اجرا روی کامپیوتر خودتان ساخته شده و هر بار فقط ۲ میلیارد پارامترش فعال می‌شود تا سریع باشد.

📱 خبر ۳: مدل کوچک GUI-Owl 1.5 با فقط ۲ میلیارد پارامتر می‌تواند صفحه گوشی اندروید را ببیند و در اپلیکیشن‌های دیگر ضربه بزند یا تایپ کند؛ یعنی کار با گوشی توسط هوش مصنوعی، مستقیم روی خود دستگاه.

🛡️ خبر ۴: پروژه OpenShell یک محیط اجرای امن و خصوصی برای گروه‌های زیادی از عامل‌های هوش مصنوعی ارائه می‌دهد تا سازندگان بتوانند هر عامل را جدا و کنترل‌شده نگه دارند.

🫀 خبر ۵: تحلیل سی‌تی‌اسکن با هوش مصنوعی در ۴۲.۹ درصد بیماران التهاب عروق قلبی را پیدا کرد؛ روشی که می‌تواند خطر بیماری قلبی را زودتر از آزمایش‌های معمول نشان دهد.

@dslanders

🚦 تیپ #28

مسیریابی با مدل کوچک، استدلال با مدل بزرگ
در یک ایجنت، بیشتر قدم‌ها استدلال واقعی نیستند؛ همان مسیریابی، انتخاب ابزار و پر کردن پارامترها هستند. این کارها را به یک مدل کوچک و ارزان بسپارید و مدل بزرگ را فقط برای قدمی نگه دارید که واقعاً به استدلال چندمرحله‌ای نیاز دارد. این‌طوری توکن‌های گران 💸 فقط خرج همان ۱۰ درصد سخت می‌شود و هزینه و تأخیر پایین می‌آید، بدون افت کیفیت.

Small model to route, large model to reason
In an agent, most steps are not reasoning steps at all: they are routing, tool selection, and slot filling. Route those with a small, cheap model and reserve the large one for the step that genuinely needs multi-step reasoning. That way the expensive tokens 💸 only get spent on the hard 10%, so latency and cost drop without touching answer quality.

@dslanders

مهم‌ترین‌های ۲۴ ساعت اخیر هوش مصنوعی

🔐 خبر ۱: 1Password قابلیت تازه‌ای ساخته که به ایجنت‌های هوش مصنوعی اجازه می‌دهد با دسترسی محدود و تعریف‌شده وارد سایت‌ها شوند، بدون اینکه رمز اصلی شما در اختیارشان باشد.

🏷️ خبر ۲: Anthropic روی خروجی متنی Claude یک واترمارک نامرئی شبیه SynthID می‌گذارد تا شرط شفافیت قانون هوش مصنوعی اروپا را رعایت کند؛ یعنی متن‌های تولیدشده قابل شناسایی می‌شوند.

🎬 خبر ۳: NVIDIA ابزار JCA را معرفی کرده که از یک توضیح متنی، ویدیویی با حرکت سه‌بعدی هماهنگ کاراکترها می‌سازد و ساختن انیمیشن و ریگ را بسیار ساده‌تر می‌کند.

🩺 خبر ۴: ظاهراً یک سیستم هوش مصنوعی جدید بیماری‌ها را بیش از دو برابر پزشکان درست تشخیص می‌دهد؛ خبری که می‌تواند به غربالگری زودتر و ارزان‌تر منجر شود.

🌍 خبر ۵: یک درخواست یکسان به هوش مصنوعی اگر در تگزاس اجرا شود تا ۸٫۵ برابر بیشتر از سوئد دی‌اکسید کربن تولید می‌کند؛ پس محل اجرای مدل‌ها مهم است.

@dslanders

👣 تیپ #29

ردیابی؛ ببینید ایجنت کجای مسیر اشتباه کرد
وقتی یک ایجنت چندمرحله‌ای شکست می‌خورد، بدون ردیابی هیچ راهی ندارید بفهمید مشکل از کدام فراخوانی مدل یا کدام ابزار بوده است. ردیابی هر فراخوانی مدل، هر tool call و هر بازیابی را در قالب یک اسپن با ورودی، خروجی، تأخیر، تعداد توکن و خطا ثبت می‌کند 🔍 و اسپن‌ها را تودرتو می‌چیند تا کل مسیر اجرا قابل بازپخش باشد. آن را از همان روز اول با OpenTelemetry یا ردیاب داخلی فریم‌ورک‌تان فعال کنید، چون trace تن‌ها سندی است که نشان می‌دهد ایجنت چرا چنین تصمیمی گرفت، نه فقط این‌که در نهایت چه گفت.

Tracing: Seeing Every Step Your Agent Takes
An agent that breaks on step seven looks exactly like one that breaks on step one unless you record the path it took. Tracing wraps every model call, tool call, and retrieval in a span that carries its inputs, outputs, latency, token counts, and errors, nested so the whole run can be replayed. Turn it on from day one with OpenTelemetry or your framework's built-in tracer 🔍, because a trace is the only artifact that shows why the agent made a decision, not just what it finally said.

@dslanders

مهم‌ترین‌های ۲۴ ساعت اخیر هوش مصنوعی

🔒 خبر ۱: کاربران متوجه شدند Claude Code آدرس ایمیلشان را به درخواست‌های اینترنتی که به بیرون می‌فرستد اضافه می‌کند؛ چیزی که نگرانی درباره حریم خصوصی برنامه‌نویس‌ها را بالا برده است.

📐 خبر ۲: یک پایگاه جمعی راه افتاده که هر کسی می‌تواند خطاهای نوشته‌های ریاضی OpenAI را گزارش و اصلاح کند، تا کسانی که از این حل‌ها یاد می‌گیرند جواب درست‌تری ببینند.

🚩 خبر ۳: یک مقاله پژوهشی درباره Z-Library که با کمک هوش مصنوعی نوشته شده، به مطلبی از TorrentFreak ارجاع داده که اصلاً وجود ندارد؛ نمونه‌ای روشن از ارجاع‌های ساختگی در تحقیق.

💬 خبر ۴: یک مقاله توضیحی نشان می‌دهد چرا متن‌های ساخته‌شده با هوش مصنوعی اغلب گیج‌کننده‌اند و چطور می‌توان با درخواست دقیق‌تر، پاسخ روشن‌تر و خواناتر گرفت.

🛠️ خبر ۵: شرکت JetBrains ابزار تازه‌ای به نام ThinkRail برای برنامه‌نویس‌ها معرفی کرده که یک گزینه دیگر برای ساختن و مدیریت کردن جریان کار کدنویسی است.

@dslanders

🗄️ تیپ #30

ذخیره‌سازی موقت پرامپت‌ها و نتیجهٔ ابزارها
بخش زیادی از هزینه و تأخیر یک ایجنت از تکرار بی‌فایده می‌آید: هر نوبت همان system prompt، همان تعریف ابزارها و همان اسناد بازیابی‌شده دوباره فرستاده می‌شوند. اگر بخش‌های ثابت را ابتدای پرامپت بگذارید و فقط پیام تازهٔ کاربر یا خروجی ابزار را به انت‌ها اضافه کنید، سرویس‌دهنده می‌تواند آن پیشوند را از کش بخواند و هزینهٔ توکن‌ها را چند برابر کم کند. همین منطق را به ابزارها هم ببرید: کلید کش را از نام ابزار و آرگومان‌هایش بسازید و نتیجهٔ فراخوانی‌های قطعی و فقط‌خواندنی را دوباره استفاده کنید ♻️، اما برای ابزارهایی که عارضهٔ جانبی دارند یا داده‌شان سریع عوض می‌شود کش را کنار بگذارید. کشی که هیچ‌وقت باطل نمی‌شود، در واقع یک باگ است که تأخیرش کم شده.

Cache the prompt prefix and your tool results
Most of an agent's cost and latency hides in the same prefix being re-sent every turn: system prompt, tool schemas, retrieved docs. Put everything stable at the front, add a cache breakpoint, and keep only the new user turn or tool output at the end so the provider can reuse that prefix at a fraction of the price. Then apply the same idea to tools: hash the tool name plus its arguments as the cache key and reuse results for deterministic, read-only calls ♻️, while skipping the cache for anything with side effects or fast-changing data. A cache you never invalidate is just a bug with good latency.

@dslanders

مهم‌ترین‌های ۲۴ ساعت اخیر هوش مصنوعی

💸 خبر ۱: قیمت مدل‌های زبانی OpenAI و Anthropic در چند ماه تا ۸۰ درصد پایین آمده؛ استفاده از هوش مصنوعی ارزان‌تر شده، ولی این پرسش را جدی کرده که شرکت‌ها با این قیمت‌ها چطور دوام می‌آورند.

🛡️ خبر ۲: گروهی به نام Gheist با توکن‌های دزدیده‌شده GitHub به مخزن‌های کد نفوذ کرده و با ساخت workflowهای مخفی اطلاعات حساس را بیرون می‌کشد؛ بهتر است دسترسی‌های CI پروژه‌تان را بازبینی کنید.

🩺 خبر ۳: یک مدل کوچک ۱۰ ساله در تشخیص سرطان پوست از مدل‌های زبانی بزرگ جلو زده؛ نشان می‌دهد مدل تخصصی و کوچک در پزشکی می‌تواند از هوش مصنوعی عمومی بهتر عمل کند.

🎓 خبر ۴: یک استاد ریاضی دانشگاه برکلی می‌گوید با وجود هوش مصنوعی تصحیح تکلیف دیگر فایده‌ای ندارد و معلم‌ها باید فکر کنند فهم واقعی دانشجو را چطور بسنجند.

📷 خبر ۵: برنده یک مسابقه عکاسی Nikon عنوانش را از دست داد، چون دانشمندان نشانه‌های ساخت تصویر با هوش مصنوعی را در کارش دیدند؛ نشان می‌دهد تشخیص تصویر AI هنوز سخت است.

@dslanders

✂️ تیپ #31

قطعه‌بندی اسناد در RAG: اندازه و هم‌پوشانی را جدی بگیرید
کیفیت بازیابی در سامانه‌های RAG بیش از هر چیز به نحوه تکه‌تکه کردن اسناد بستگی دارد، ولی بسیاری از تیم‌ها همان مقدار پیش‌فرض کتابخانه را رها می‌کنند. یک نقطه شروع معقول، قطعه‌هایی در حدود ۲۰۰ تا ۵۰۰ توکن با ۱۰ تا ۲۰ درصد هم‌پوشانی است تا جمله‌ای که روی مرز دو قطعه می‌افتد، دست‌کم در یک قطعه کامل باقی بماند 🧩. قطعه‌های خیلی کوچک معنای ناقص می‌دهند و قطعه‌های خیلی بزرگ متن بی‌ربط را وارد پرامپت می‌کنند. به‌جای حدس زدن، دو سه تنظیم مختلف را روی یک مجموعه ارزیابی کوچک امتحان کنید.

Chunk Size and Overlap: The RAG Knobs Nobody Tunes
Chunking is the highest-leverage knob in a RAG pipeline, yet most teams leave it at whatever the default splitter gave them. A solid starting point is roughly 200 to 500 tokens per chunk with 10 to 20 percent overlap, so a sentence that falls on a boundary still lands whole in at least one chunk 🧩. Go smaller and each embedding turns noisy; go bigger and the retriever drags irrelevant text into the prompt. Then stop guessing: run two or three configurations against a small eval set and pick the winner.

@dslanders

مهم‌ترین‌های ۲۴ ساعت اخیر هوش مصنوعی

🧰 خبر ۱: Hob یک اپلیکیشن رایگان و متن‌باز دسکتاپ است که یک همکار هوش مصنوعی را کامل روی کامپیوتر خودتان اجرا می‌کند، بدون اشتراک ابری.

🖱️ خبر ۲: عامل‌های Cursor حالا می‌توانند اپ‌های دسکتاپ مثل شبیه‌ساز iOS را کنترل کنند، تا توسعه‌دهنده‌ها تست ویژگی‌های جدید را خودکار کنند.

💸 خبر ۳: پرسیدن سؤال به زبان‌های غیرانگلیسی گران‌تر تمام می‌شود، چون سیستم تقسیم متن، جمله فارسی را به تکه‌های بیشتری می‌شکند و هزینه بالا می‌رود.

🍎 خبر ۴: مدل ۲۰ میلیارد پارامتری Apple روی خود گوشی فقط ۲ گیگابایت حافظه می‌گیرد، چون بیشتر وزن‌های مدل در حافظه فلش می‌ماند.

🌙 خبر ۵: مدل Kimi K3.1 Pro از Moonshot در آزمون مستقل Artificial Analysis نمره ۵۵ گرفت و جلوتر از رقبا ایستاد؛ وزن‌هایش ۴ نوامبر عمومی می‌شود.

@dslanders

🧩 تیپ #32

جستجوی ترکیبی: کلیدواژه به‌علاوهٔ بردار
بازیابی صرفاً برداری معنا را خوب می‌گیرد، اما کد خطا، شناسهٔ سفارش یا نام دقیق محصول را از دست می‌دهد؛ جستجوی کلیدواژه‌ای هم دقیقاً برعکس عمل می‌کند. کافی است هر دو بازیابی را موازی اجرا کنید و فهرست‌های رتبه‌بندی‌شده را با روش RRF ادغام کنید 🔀، یعنی امتیاز هر سند برابر مجموع ۱ تقسیم بر (۶۰ به‌علاوهٔ رتبهٔ آن در هر فهرست) باشد. بعد از ادغام، ۵۰ سند برتر را با یک مدل رتبه‌بندی مجدد امتیازدهی کنید؛ در عمل همین یک تغییر بیشتر خطاهای بازیابی ایجنت را حل می‌کند تا عوض کردن مدل embedding.

Hybrid search: fuse keywords with embeddings
Vector search is great at meaning but blind to exact tokens like error codes, SKUs, or product names, while keyword search nails those and misses paraphrases. Run both retrievals in parallel and merge the ranked lists with Reciprocal Rank Fusion, where each document scores the sum of 1/(60 + its rank) in each list 🔀. Then rerank the fused top 50 with a cross-encoder. In practice this one change fixes more agent retrieval failures than swapping in a bigger embedding model.

@dslanders