BenFeed
89 subscribers
684 links
Ai, DevOps, Backend, Frontend
Download Telegram
‏42x faster prompt lookup drafting in llama.cpp
‏سرعت‌بخشی ۴۲ برابری به prompt lookup drafting در llama.cpp

‏چهار تغییر در n-gram cache های llama.cpp باعث شده drafting برای prompt lookup decoding تا ۴۱.۶ برابر سریع‌تر، بارگذاری static cache تا ۲۳.۵ برابر سریع‌تر، و peak memory تا ۲.۶۵ برابر کمتر بشه.

‏نظر هوش مصنوعی — ⭐ ۷/۱۰
‏🎯 چرا مهمه: بهینه‌سازی inference بدون تغییر مدل یا سخت‌افزار، مستقیماً روی latency و هزینه‌ی اجرای local LLM تأثیر می‌ذاره.
‏💡 نکته: بهبودهای این‌چنینی در لایه‌ی caching معمولاً در مقالات بزرگ دیده نمی‌شن ولی در عمل بیشترین تأثیر رو دارن.
‏👥 برای کی: کسانی که روی inference بهینه، edge deployment یا llama.cpp کار می‌کنن.

‏🔗 https://jadidbourbaki.github.io/blog/prompt-lookup-llama-cpp/
‏#ai #LLM

‏@BenFeed
‏There are no "rogue" AI agents
‏هیچ agent هوش مصنوعی «سرکشی» وجود ندارد

‏وقتی یک agent هوش مصنوعی رفتار غیرمنتظره‌ای انجام می‌دهد، نامیدنش «سرکش» فقط به شرکت‌هایی مثل OpenAI اجازه می‌دهد از مسئولیت فرار کنند.

‏نظر هوش مصنوعی — ⭐ ۷/۱۰
‏🎯 چرا مهمه: روایت «agent سرکش» یک framing سیاسی است، نه فنی — و این framing مستقیماً بر نحوه‌ی تنظیم‌گذاری و پاسخ‌گوییِ شرکت‌های بزرگ تأثیر می‌گذارد.
‏💡 نکته: هر رفتار مضرِ یک agent نتیجه‌ی تصمیم‌های طراحی و deployment است، نه «شورش» — پس مسئول یک انسان است، نه یک مدل.
‏👥 برای کی: توسعه‌دهنده‌هایی که روی agent یا product‌های مبتنی بر LLM کار می‌کنند و باید با مفهوم مسئولیت آشنا باشند.

‏🔗 https://eoinhiggins.substack.com/p/there-are-no-rogue-ai-agents
‏#ai #LLM

‏@BenFeed
‏Calling the AI bluff: Adding "Do not guess" cut made-up fields from 71% to 20%
‏کاهش فیلدهای جعلی از ۷۱٪ به ۲۰٪ با یک دستور ساده: «حدس نزن»

‏نظر هوش مصنوعی — ⭐ ۸/۱۰
‏🎯 چرا مهمه: hallucination در خروجی‌های structured یکی از بزرگ‌ترین موانع استفاده‌ی production از LLM‌هاست؛ این آزمایش نشون می‌ده یک تغییر کوچک در prompt می‌تونه نرخ فیلدهای ساختگی رو به شکل چشمگیری پایین بیاره.
‏💡 نکته: مدل‌ها تمایل دارن «مفید به نظر برسن» حتی با جعل داده — صراحتِ explicit در prompt که اجازه‌ی ندانستن بده، این bias رو می‌شکنه.
‏👥 برای کی: هر کسی که از LLM برای استخراج داده‌ی structured یا پر کردن فرم‌ها استفاده می‌کنه.

‏🔗 https://earnanhonestdollar.com/bench
‏#ai #LLM #prompt

‏@BenFeed
‏Prompting Claude Opus 5.5
‏راهنمای prompt نویسی برای Claude Opus 5.5

‏تفاوت‌های رفتاری این مدل نسبت به Claude Opus 5 و الگوهای prompt و harness که آن‌ها را پوشش می‌دهند: تنظیم میزان تلاش، رفتار thinking در API و chat، به‌روزرسانی پیشرفت، تسک‌های بی‌مراقب و multiagent، refusal‌های حفاظتی، طراحی frontend، ورودی‌های بصری پیچیده، workflow‌های چندبرنامه‌ای، و متن paste‌شده در پیام‌های کاربر.

‏نظر هوش مصنوعی — ⭐ ۸/۱۰
‏🎯 چرا مهمه: هر نسل جدید از Claude رفتارهای متفاوتی داره و prompt‌هایی که روی نسخه‌ی قبلی کار می‌کردن ممکنه روی Opus 5.5 نتیجه‌ی متفاوتی بدن؛ این مستند دقیقاً همین شکاف رو پر می‌کنه.
‏💡 نکته: بخش effort calibration و رفتار thinking در API برای کسایی که pipeline‌های multiagent می‌سازن احتمالاً بیشترین تغییر رو ایجاد می‌کنه.
‏👥 برای کی: توسعه‌دهنده‌هایی که با Claude API کار می‌کنن یا agent‌های مبتنی بر Claude می‌سازن.

‏🔗 https://platform.claude.com/docs/en/build-with-claude/prompt-engineering/prompting-claude-opus-5-5
‏#ai #LLM #Claude

‏@BenFeed
‏TabPFN and TabICL vs. tuned XGBoost: the model that doesn't train won 14/14
‏مدلی که train نمی‌شود در ۱۴ از ۱۴ آزمایش برنده شد

‏ادعای پشتِ TabPFN و TabICL اینه که روی داده‌های جدول بدون هیچ training‌ای prediction می‌دن و باز هم boosting تیون‌شده رو شکست می‌دن.

‏نظر هوش مصنوعی — ⭐ ۸/۱۰
‏🎯 چرا مهمه: اگر این نتایج تکرارپذیر باشن، کلِ چرخه‌ی feature engineering و hyperparameter tuning برای داده‌های جدولی زیر سؤال می‌ره.
‏💡 نکته: برد ۱۴/۱۴ در برابر XGBoost تیون‌شده یعنی این روش رو باید جدی گرفت، نه به‌عنوان یک zero-shot کنجکاوی‌برانگیز.
‏👥 برای کی: کسانی که روی داده‌های جدولی، AutoML یا pipeline‌های ML کار می‌کنن.

‏🔗 https://efraingaray.com/en/blog/tabpfn-vs-xgboost/
‏#ai #ml #XGBoost

‏@BenFeed
‏Nvidia wants to put a watchdog chip next to every AI agent
‏انویدیا می‌خواهد یک تراشه‌ی ناظر کنار هر AI agent بگذارد

‏نظر هوش مصنوعی — ⭐ ۸/۱۰
‏🎯 چرا مهمه: وقتی agent‌ها به زیرساخت‌های حیاتی دسترسی دارن، نظارت سخت‌افزاری دیگه یه انتخاب نیست — یه ضرورته؛ این حرکت Nvidia می‌تونه استانداردِ جدیدِ صنعت بشه.
‏💡 نکته: جا‌به‌جا کردن safety از لایه‌ی software به لایه‌ی hardware یعنی حتی یه agent دست‌کاری‌شده هم نمی‌تونه نظارت رو دور بزنه.
‏👥 برای کی: کسانی که روی AI agent، زیرساخت ML یا امنیت سیستم‌های هوشمند کار می‌کنند.

‏🔗 https://www.cnbc.com/2026/09/28/nvidia-releases.html
‏#ai #agent #LLM

‏@BenFeed
‏Basis completes a tax workbook 2x faster with GPT-6 Astra
‏شرکت Basis با کمک GPT-6 Astra کارنامه‌ی مالیاتی را دو برابر سریع‌تر تکمیل می‌کند

‏نظر هوش مصنوعی — ⭐ ۶/۱۰
‏🎯 چرا مهمه: این یک case study واقعی از به‌کارگیری LLM در حسابداری مالیاتی است و نشان می‌دهد چطور می‌توان workflowهای سنتی و کسل‌کننده را با AI جایگزین کرد.
‏💡 نکته: عدد «۲ برابر سریع‌تر» در دنیای مالی و compliance که دقت حرفِ اول را می‌زند، ادعای قابل‌توجهی است؛ جزئیاتِ پیاده‌سازی را حتماً بخوانید.
‏👥 برای کی: توسعه‌دهنده‌هایی که روی agent یا automation در حوزه‌ی fintech و accounting کار می‌کنند.

‏🔗 https://openai.com/index/basis-tax-workbook-with-astra
‏#ai #LLM #fintech

‏@BenFeed
‏We found 24 Android vulnerabilities using our open source AI security agent
‏با agent هوش مصنوعی متن‌باز خودمان ۲۴ آسیب‌پذیری Android پیدا کردیم

‏نگاهی به taskflow‌های هدفمند هوش مصنوعی پشت این یافته‌ها، باگ‌هایی که کشف شدند، و اینکه چطور می‌توانید همین agent متن‌باز را روی اپلیکیشن خودتان اجرا کنید.

‏نظر هوش مصنوعی — ⭐ ۸/۱۰
‏🎯 چرا مهمه: وقتی یک agent متن‌باز می‌تواند ۲۴ آسیب‌پذیری واقعی در Android پیدا کند، یعنی security review خودکار دیگر آینده نیست — الان است.
‏💡 نکته: قابل‌تکرار بودن این روش (run روی اپ خودتان) آن را از یک تحقیق صرف به یک ابزار عملی تبدیل می‌کند.
‏👥 برای کی: توسعه‌دهنده‌های Android و هر کسی که روی security، static analysis یا AI agent کار می‌کند.

‏🔗 https://github.blog/security/how-we-found-24-android-vulnerabilities-using-our-open-source-ai-security-agent/
‏#ai #backend #security #agent

‏@BenFeed
‏Introducing dots
‏معرفی dots از OpenAI

‏نظر هوش مصنوعی — ⭐ ۶/۱۰
‏🎯 چرا مهمه: هر محصول جدید OpenAI می‌تونه زیرساخت ابزارهای AI-driven رو تغییر بده و بدونِ اطلاعات بیشتر نمی‌شه دقیق‌تر قضاوت کرد.
‏💡 نکته: اسم «dots» احتمالاً اشاره به یه لایه‌ی ارتباطی یا orchestration داره — صبر کنید بلاگ‌پست کامل منتشر بشه.
‏👥 برای کی: توسعه‌دهنده‌هایی که با OpenAI API یا محصولات enterprise کار می‌کنند.

‏🔗 https://openai.com/index/introducing-dots
‏#ai #LLM

‏@BenFeed
‏DevDay 2026 Recap
‏خلاصه‌ی رویداد DevDay 2026

‏نظر هوش مصنوعی — ⭐ ۷/۱۰
‏🎯 چرا مهمه: رویدادهای DevDay معمولاً همراه با اعلام API‌ها و ابزارهای جدید OpenAI هستند که مستقیماً روی workflow توسعه‌دهنده‌ها تأثیر می‌گذارند.
‏💡 نکته: اگر الگوی سال‌های قبل تکرار شود، انتظار داریم تغییرات قیمت‌گذاری یا قابلیت‌های جدید model‌ها هم در این رویداد اعلام شده باشد.
‏👥 برای کی: توسعه‌دهنده‌هایی که با OpenAI API کار می‌کنند یا روی ساخت product با LLM مشغولند.

‏🔗 https://openai.com/index/devday-2026-recap
‏#ai #LLM #OpenAI

‏@BenFeed
‏modelcontextprotocol/servers
‏سرورهای Model Context Protocol

‏مخزن رسمی server‌های MCP روی GitHub — می‌توانید در توسعه‌ی آن مشارکت کنید.

‏نظر هوش مصنوعی — ⭐ ۷/۱۰
‏🎯 چرا مهمه: پروتکل MCP دارد به استاندارد اتصال agent‌ها و ابزارهای خارجی تبدیل می‌شود؛ این مخزن پیاده‌سازی‌های مرجع را یکجا جمع کرده.
‏💡 نکته: اگر می‌خواهید LLM شما با سرویس‌های واقعی تعامل داشته باشد، شروع از این server‌های آماده خیلی سریع‌تر از پیاده‌سازی از صفر است.
‏👥 برای کی: کسانی که روی agent، tool-use یا integration‌های LLM کار می‌کنند.

‏🔗 https://github.com/modelcontextprotocol/servers
‏#ai #LLM #MCP

‏@BenFeed
‏We're introducing SynthID Bio, bringing our watermarking technology to synthetic biology.
‏معرفی SynthID Bio؛ watermarking برای پروتئین‌های طراحی‌شده با هوش مصنوعی

‏گوگل دیپ‌مایند ابزار SynthID Bio را معرفی کرد تا پروتئین‌های طراحی‌شده توسط هوش مصنوعی را watermark کند — بدون اینکه عملکرد بیولوژیکی‌شان آسیب ببیند.

‏نظر هوش مصنوعی — ⭐ ۷/۱۰
‏🎯 چرا مهمه: با گسترش ابزارهای AI در زیست‌شناسی مصنوعی، ردیابی و اصالت‌سنجی خروجی‌های مدل‌ها یک نیاز امنیتی جدی می‌شه؛ SynthID Bio مستقیماً این مشکل را هدف گرفته.
‏💡 نکته: watermarking در دنیای متن و تصویر آشناست، اما انجامش روی ساختار پروتئین بدون افتِ عملکرد بیولوژیکی چالشِ فنیِ متفاوتیه.
‏👥 برای کی: کسانی که روی AI در حوزه‌ی bioinformatics، drug discovery یا safety هوش مصنوعی کار می‌کنند.

‏🔗 https://blog.google/innovation-and-ai/models-and-research/google-deepmind/synthid-bio/
‏#ai #LLM #SynthID

‏@BenFeed
‏colbymchenry/codegraph
‏گراف دانشِ کد برای agent‌های AI — محلی، سبک، سریع

‏یک knowledge graph از پایه‌ی کدبیس شما می‌سازد که به‌صورت خودکار با هر تغییری sync می‌شود. سازگار با Claude Code، Codex، Gemini، Cursor، OpenCode، AntiGravity، Kiro، CoPilot و Hermes Agent — token کمتر، tool call کمتر، و کاملاً local.

‏نظر هوش مصنوعی — ⭐ ۷/۱۰
‏🎯 چرا مهمه: یکی از گلوگاه‌های اصلی coding agent‌ها هزینه‌ی بالای context و tool call‌های مکررِ file-traversal است؛ pre-indexed graph این مشکل رو از ریشه حل می‌کنه.
‏💡 نکته: local بودن کامل یعنی نه dependency به cloud، نه نگرانی privacy — برای codebase‌های enterprise این یک مزیت جدی است.
‏👥 برای کی: توسعه‌دهنده‌هایی که با AI coding agent‌ها کار می‌کنند و دنبال کاهش هزینه‌ی inference هستند.

‏🔗 https://github.com/colbymchenry/codegraph
‏#backend #ai #LLM

‏@BenFeed
‏Postgres with QUIC
‏تست پروتکل Postgres روی QUIC در مقابل TCP

‏یک آزمایش عملی: پروتکل wire مربوط به Postgres روی QUIC stream‌ها در برابر TCP connection pooling، روی یک لینک با تأخیر ۳۰ میلی‌ثانیه. نتایج benchmark و trade-off‌های هر رویکرد بررسی شده.

‏نظر هوش مصنوعی — ⭐ ۷/۱۰
‏🎯 چرا مهمه: تأخیر شبکه یکی از گلوگاه‌های اصلی دیتابیس در معماری‌های توزیع‌شده‌ست؛ QUIC می‌تواند connection overhead را کاهش دهد و این آزمایش نشان می‌دهد عملاً چه می‌شود.
‏💡 نکته: QUIC برای کوئری‌های کوتاه و پرتعداد جذاب‌تر است، اما trade-off‌ها با TCP pooling کلاسیک هنوز ساده نیستند.
‏👥 برای کی: backend توسعه‌دهنده‌هایی که با Postgres در محیط‌های distributed یا edge کار می‌کنند.

‏🔗 https://blogs.lupyd.com/blog/postgres-with-quic/
‏#backend #Postgres #QUIC

‏@BenFeed
‏Building a certificate authority for the whole Internet
‏ساخت یک certificate authority برای کل اینترنت

‏دوازده سال پس از راه‌اندازی Universal SSL، حالا Cloudflare درخواست داده تا به یک certificate authority تبدیل شود.

‏نظر هوش مصنوعی — ⭐ ۸/۱۰
‏🎯 چرا مهمه: اگر Cloudflare به عنوان CA تأیید شود، بخش بزرگی از زیرساخت TLS اینترنت زیر یک سقف قرار می‌گیرد و این تغییرِ بزرگی در اکوسیستم certificate است.
‏💡 نکته: کنترل کامل بر چرخه‌ی صدور certificate یعنی Cloudflare می‌تواند ویژگی‌هایی مثل کوتاه‌کردن عمر cert یا automation بیشتر را مستقل از CA‌های فعلی پیاده کند.
‏👥 برای کی: کسانی که روی security، TLS، یا زیرساخت شبکه کار می‌کنند.

‏🔗 https://blog.cloudflare.com/cloudflare-certificate-authority/
‏#backend #security #TLS

‏@BenFeed
‏Deser: Rethinking Rust Serialization
‏بازاندیشی در serialization در Rust با Deser

‏آیا می‌توان بهتر از Serde بود؟

‏نظر هوش مصنوعی — ⭐ ۷/۱۰
‏🎯 چرا مهمه: Serde سال‌هاست استاندارد de facto برای serialization در Rust است؛ هر چالشی جدی به آن یعنی ممکن است اکوسیستم در حال تحول باشد.
‏💡 نکته: طراحیِ مجدد یک primitive به این اندازه بنیادی نشان می‌دهد که ergonomics و compile-time در Rust هنوز جای رشد دارند.
‏👥 برای کی: توسعه‌دهنده‌های Rust که روی backend، parsing یا protocol design کار می‌کنند.

‏🔗 https://lucumr.pocoo.org/2026/9/29/deser/
‏#backend #Rust #serialization

‏@BenFeed
‏EDG C++ Compiler is open source
‏کامپایلر C++‌ شرکت EDG حالا متن‌باز شد

‏با ساختن یک اکانت در GitHub می‌توانید در توسعه‌ی edgcpp/compiler مشارکت کنید.

‏نظر هوش مصنوعی — ⭐ ۷/۱۰
‏🎯 چرا مهمه: کامپایلر EDG یکی از قدیمی‌ترین و دقیق‌ترین frontend‌های C++ است که سال‌ها پشتِ ابزارهای تجاری مثل Visual C++ و Intel Compiler بوده؛ متن‌باز شدنش یه اتفاق غیرمنتظره است.
‏💡 نکته: اگر این release واقعی و کامل باشد، می‌تواند مرجعی بی‌نظیر برای پیاده‌سازیِ دقیق استانداردهای C++ در toolchain‌های جدید باشد.
‏👥 برای کی: کسانی که روی compiler، toolchain یا زیرساخت‌های C++ کار می‌کنند.

‏🔗 https://github.com/edgcpp/compiler
‏#backend #cpp

‏@BenFeed
‏Show HN: Strata – an expressive semantic layer that can say no to your LLM
‏معرفی Strata — یک semantic layer که می‌تواند به LLM شما «نه» بگوید

‏تحلیل셀 self-service با کارایی بالا و ایمنیِ هوش مصنوعی — یک semantic layer حاکمیت‌محور که با dashboard‌های زیبا و آماده‌به‌کار برای انسان‌ها و agent‌ها ترکیب شده.

‏نظر هوش مصنوعی — ⭐ ۷/۱۰
‏🎯 چرا مهمه: یکی از بزرگ‌ترین ریسک‌های agent‌های داده‌محور اینه که LLM می‌تونه query‌های دلبخواهی بزنه؛ داشتن یک لایه‌ی semantic که بتونه درخواست‌ها رو رد کنه، این ریسک رو جدی کمتر می‌کنه.
‏💡 نکته: ترکیب governance با visualization در یک لایه یعنی تیم‌های داده دیگه مجبور نیستن بین سرعت셀 self-service و کنترل دسترسی یکی رو انتخاب کنن.
‏👥 برای کی: کسانی که روی data engineering، analytics agent یا ساخت pipeline‌های LLM روی داده‌های حساس کار می‌کنن.

‏🔗 https://strata.do/
‏#ai #backend #LLM

‏@BenFeed
‏FTC is investigating OpenAI, Anthropic and other AI companies over product risks
‏کمیسیون تجارت فدرال آمریکا سراغ OpenAI، Anthropic و دیگر شرکت‌های هوش مصنوعی رفته

‏نظر هوش مصنوعی — ⭐ ۸/۱۰
‏🎯 چرا مهمه: نظارت رگولاتوری جدی روی بزرگ‌ترین بازیگران AI می‌تونه مسیر توسعه و عرضه‌ی محصولات هوش مصنوعی رو در سطح جهانی تغییر بده.
‏💡 نکته: وقتی FTC وارد می‌شه، معمولاً خروجیش یا جریمه‌ی سنگینه یا الزامات compliance‌ای که کل industry رو درگیر می‌کنه.
‏👥 برای کی: توسعه‌دهنده‌هایی که روی محصولات مبتنی بر LLM و AI کار می‌کنن یا با API این شرکت‌ها integrate شدن.

‏🔗 https://www.cnbc.com/2026/09/30/ftc-ai-probe-openai-anthropic.html
‏#ai #LLM

‏@BenFeed
‏Micron CEO Says Memory Supply Will Be Much Tighter in 2027 and 2028 Than in 2026
‏مدیرعامل Micron: عرضه‌ی حافظه در ۲۰۲۷ و ۲۰۲۸ بسیار تنگ‌تر از ۲۰۲۶ خواهد بود

‏نظر هوش مصنوعی — ⭐ ۷/۱۰
‏🎯 چرا مهمه: کمبود حافظه در ۲۰۲۷–۲۰۲۸ می‌تونه هزینه‌ی infrastructure برای training و inference مدل‌های بزرگ رو به‌شدت بالا ببره و برنامه‌ریزی‌های سخت‌افزاری را تحت تأثیر قرار بده.
‏💡 نکته: این پیش‌بینی از سمت تولیدکننده‌ست، نه تحلیلگر — یعنی Micron خودش انتظار تقاضایی داره که ظرفیت فعلی‌اش پاسخش رو نمی‌ده.
‏👥 برای کی: تیم‌هایی که روی infrastructure، انتخاب سخت‌افزار یا برنامه‌ریزی بلندمدت هزینه‌های cloud کار می‌کنن.

‏🔗 https://www.techpowerup.com/353296/micron-ceo-says-memory-supply-will-be-much-tighter-in-2027-and-2028-than-in-2026
‏#backend #devops #infrastructure

‏@BenFeed
‏Is sandboxing sufficient to contain rogue agents?
‏آیا sandbox کردن برای مهار agent‌های سرکش کافی است؟

‏یک استاد رمزنگاری درباره‌ی AI safety می‌نویسد — اگر این ترکیب برایتان عجیب است، شاید این مقاله مناسب شما نباشد. نویسنده تلاش می‌کند از حوزه‌ی AI دور بماند، اما گاهی موضوع به‌قدری به رمزنگاری نزدیک می‌شود که نمی‌تواند سکوت کند.

‏نظر هوش مصنوعی — ⭐ ۷/۱۰
‏🎯 چرا مهمه: با گسترش agent‌های خودمختار در محیط‌های production، سؤال مهار و محدودسازی‌شان دیگر فقط یک بحث تئوریک نیست.
‏💡 نکته: sandbox به‌تنهایی یک مرز فنی است، نه یک تضمین امنیتی — همان‌طور که در دنیای رمزنگاری هم هیچ‌وقت به یک لایه‌ی دفاعی اکتفا نمی‌شود.
‏👥 برای کی: توسعه‌دهنده‌هایی که روی deploy کردن agent‌ها یا طراحی سیستم‌های امن AI کار می‌کنند.

‏🔗 https://blog.cryptographyengineering.com/2026/09/30/is-sandboxing-sufficient-to-contain-rogue-agents/
‏#ai #LLM #security

‏@BenFeed