یه چیزی که فکر می‌کنم خیلی زودتر از چیزی که انتظار داریم جدی بشه، امنیت AI Agentهاست.

تا همین چند وقت پیش وقتی می‌گفتیم امنیت هوش مصنوعی بیشتر ذهنمون می‌رفت سمت prompt injection و jailbreak یا لو رفتن اطلاعات از داخل چت.

ولی Agentها داستان رو عوض کردن.

چون Agent فقط جواب نمی‌ده.
می‌تونه API صدا بزنه، فایل بخونه، به دیتابیس وصل بشه، ابزار اجرا کنه و حتی با Agentهای دیگه ارتباط داشته باشه.

حالا تصور کن یک Agent هک بشه یا یک prompt مخرب باعث بشه از محدوده‌ای که براش تعریف شده خارج بشه.

مشکل دیگه فقط این نیست که چه جوابی به کاربر داده.

مشکل اینه که چه کاری انجام داده.

برای همین بازار جدیدی داره شکل می‌گیره به اسم AI Agent Security.

جالب اینجاست که شرکت‌هایی مثل CyberArk، SailPoint، WitnessAI و Noma Security دارن روی همین موضوع کار می‌کنن و حتی Tigera هم Lynx رو برای امنیت Agentهای اجراشده روی Kubernetes معرفی کرده.

مثلاً ایده Lynx اینه که ارتباطات Agent با LLM، ابزارها و Agentهای دیگه تحت کنترل باشه؛ برای Agent هویت ایجاد بشه، دسترسی‌ها محدود بشن، رفتار Agent مانیتور بشه و اگر رفتار مشکوکی دیدیم، Agent بتونه قرنطینه بشه. حتی از eBPF برای مشاهده فعالیت‌هایی مثل network call، syscall و دسترسی به فایل استفاده می‌کنه.

به نظرم این قسمت ماجرا خیلی مهمه.

چون ما داریم به سمتی می‌ریم که تعداد زیادی Agent داخل شرکت‌ها، سرورها و Kubernetes اجرا می‌شن و هرکدوم یک‌سری دسترسی دارن.

اون موقع دیگه اینکه این Agent خوبه یا بد؟ سؤال اصلی نیست.

سؤال اینه:

این Agent دقیقاً کیه؟

به چی دسترسی داره؟

چه کاری اجازه داره انجام بده؟

با چه چیزی ارتباط گرفته؟

و اگر یک روز رفتار عجیبی از خودش نشون داد، چه کسی می‌تونه متوقفش کنه؟

به نظرم یکی از بازارهای خیلی جدی چند سال آینده همینجاست.

چون هرچقدر Agentها قدرتمندتر بشن، امنیتشون هم باید از یه API Key و چندتا permission خیلی فراتر بره.

و احتمالاً به زودی امنیت Agentها، درست مثل امنیت سرویس‌ها و کانتینرها، تبدیل به یکی از اجزای عادی زیرساخت نرم‌افزار می‌شه.

شاید الان برای خیلی‌ها زوده.

ولی فکر نمی‌کنم برای مدت زیادی زود بمونه.


#Ai

آنتروپیک نسخه جدید Claude Fable 5.1 و Mythos 5.1 رو معرفی کرد.

مهم‌ترین تغییرات Fable 5.1:

• عملکرد بهتر در برنامه‌نویسی
• سرعت بیشتر و مصرف بهینه‌تر توکن
• عملکرد بهتر در کارهای Agentic و پیچیده
• حدود ۲۵٪ هزینه کمتر و تا ۴۵٪ کاهش هزینه در بعضی کارهای Agentic
• درک بهتر ابهام‌ها و جزئیات در داده‌ها
• سیستم Safety دقیق‌تر و با محدودیت‌های غیرضروری کمتر
• امکان استفاده برای شناسایی آسیب‌پذیری‌های نرم‌افزاری

و این Mythos 5.1 هم عملکرد قوی‌تری ارائه می‌ده، اما فعلاً فقط برای اعضای Project Glasswing در دسترسه.


#claude
#AgenticAI

از من به شما توصیه دوستان توی هر حوزه ای که کار میکنید تکبر رو بزارید کنار تا موفق بشید
اگر تکبر داشته باشید مسیر هموار پیچیده تر میشه براتون

اصول بنیادین مهندسی منسوخ نشده‌
حتما اگر روی اصول تمرکز نکردید حتما تمرکز کنید و بنای خوبی بسازید تا دیر نشده

من قبول دارم که نگاه عمومی نسبت به هوش مصنوعی منفی شده و این واقعاً یک مشکل جدی هست. اما فکر نمی‌کنم دلیل اصلی این موضوع من یا دیگر رهبران حوزه هوش مصنوعی باشیم که درباره خطرات AI هشدار میدیم.

به نظرم مسئله اصلی، بحران اعتماد هست.

مردم دیگه اعتماد زیادی به شرکت‌ها، دولت‌ها یا صنعت فناوری ندارند و همیشه این نگرانی رو دارند که شاید ما در حال طراحی یک راه جدید برای سوءاستفاده از اونا یا ضربه زدن به منافعشون باشیم. ریشه این بی‌اعتمادی هم به سال‌ها و حتی دهه‌ها قبل برمی‌گرده و هوش مصنوعی فقط جدیدترین نمونه این ماجراست.

به همین دلیل، فکر نمی‌کنم یک کمپین تبلیغاتی پرزرق‌وبرق با تمرکز روی جنبه‌های مثبت AI چیزی که بعضی‌ها پیشنهاد کردن Anthropic انجام بده  بتونه این اعتماد ازدست‌رفته رو برگردونه.

در شرایط فعلی، گفتن اینکه هوش مصنوعی قرار هست سرطان رو درمان کنه دیگه چندان الهام‌بخش نیست.

بیشتر شبیه یک شعار تبلیغاتی تکراری به نظر می‌رسه و حتی ممکن هست از نظر خیلی‌ها گمراه‌کننده باشه.

چیزی که واقعاً میتونه اعتماد مردم رو برگردونه، این هست که واقعاً سرطان رو درمان کنیم.

به نظرم مهم‌ترین و منصفانه‌ترین انتقادی که میشه به شرکت‌های هوش مصنوعی، از جمله Anthropic، وارد کرد این هست که ما هنوز نتونستیم به وعده‌های بزرگی که درباره تأثیر مثبت AI بر جهان دادیم، آن‌طور که باید عمل کنیم.

این مسئولیت کاملاً بر عهده خود ماست.
بنابراین فکر می‌کنم به جای اینکه مدام درباره پیام‌رسانی، تبلیغات و نحوه معرفی هوش مصنوعی صحبت کنیم، باید از ما بخواید نتیجه واقعی ارائه کنیم.

چون در نهایت چیزی که اعتماد مردم رو برمیگردونه، تبلیغات و شعار نیست.

عمل و دستاورد واقعی هست!!

شب همگی خوش❤️

یه اتفاق جالب توی دنیای AI افتاده که به نظرم خیلی‌ها هنوز جدی نگرفتن.
استارتاپ AIR به‌تازگی ۵۰ میلیون دلار سرمایه جذب کرده؛ برای چی؟

برای امنیت AI Agentها.

شاید در نگاه اول خیلی معمولی به نظر برسه، ولی اگر یکم عمیق‌تر نگاه کنیم، داستان خیلی مهم‌تره.

ما داریم وارد دوره‌ای می‌شیم که شرکت‌ها فقط چندتا مدل AI ندارند.

ده‌ها و صدها Agent دارن که به ابزارهای مختلف وصل می‌شن.

حالا سؤال مهم اینه:

از کجا بدونیم چیزی که Agent بهش دسترسی داره امنه؟
اگر یک Skill مخرب باشه چی؟
اگر یک MCP Server آلوده باشه چی؟
اگر Plugin دسترسی بیشتری از چیزی که باید داشته باشه بگیره چی؟

اینجاست که یک مفهوم جدید داره جدی می‌شه:

آقای Agent Security!

تقریباً شبیه همون چیزی که سال‌ها در Software Supply Chain Security داشتیم، ولی این بار برای اکوسیستم Agentها.

به نظرم این یکی از بازارهای جدی چند سال آینده‌ست.

چون هرچقدر Agentها قدرتمندتر بشن، سطح دسترسی‌شون هم بیشتر می‌شه.
و هرچقدر دسترسی بیشتر بشه، امنیت مهم‌تر می‌شه.

حالا دوست دارم نظر شما رو بدونم.

به نظرتون بزرگ‌ترین تهدید برای AI Agentها چیه؟

خود مدل؟
دسترسی به سیستم و Terminal؟
یا اشتباهات انسانی در زمان استفاده؟
بیاید اینجا درباره‌ش حرف بزنیم.
اگر تجربه‌ای در کار با Agentها، MCP یا امنیت این سیستم‌ها دارید، حتماً بنویسید.

احتمالاً تجربه شما می‌تونه برای خیلی‌های دیگه هم مفید باشه.

#AI
#AIAgents
#CyberSecurity
#AgentSecurity
#MCP
#DevOps
#SoftwareDevelopment

یه راه ساده برای سبک‌تر کردن Context مدل‌ها

اگه با Coding Agentها یا سیستم‌های RAG کار کرده باشید، احتمالاً دیدید که بعد از مدتی حجم اطلاعاتی که همراه هر درخواست به مدل فرستاده می‌شه، حسابی زیاد می‌شه. خروجی ابزارها، نتایج Search، لاگ‌ها و حتی فایل‌هایی که چند بار خونده شدن، دوباره وارد Context می‌شن و در نهایت هم هزینه بیشتری برای پردازش پرداخت می‌کنید.

خود هدروم اومده دقیقاً روی همین قسمت کار کنه. این پروژه به‌عنوان یک لایه بین برنامه شما و مدل قرار می‌گیره و قبل از ارسال درخواست، محتوای اضافی رو متناسب با نوع داده فشرده می‌کنه. برای مثال، خروجی‌های طولانی ابزارها، نتایج تکراری Search و داده‌های ساختاریافته می‌تونن بدون اینکه لازم باشه کل معماری Agent رو تغییر بدید، کوچک‌تر بشن.

یکی از ویژگی‌های جالبش اینه که برای همه داده‌ها از یک روش ثابت استفاده نمی‌کنه؛ برای لاگ، کد، JSON، نتایج Search و متن معمولی مسیرهای متفاوتی داره. در حالت‌های مختلف هم می‌تونه داده‌های فشرده‌شده رو به شکل قابل بازیابی نگه داره تا اگر Agent دوباره به نسخه کامل اطلاعات احتیاج داشت، امکان Retrieve وجود داشته باشه.

طبق Quickstart خود پروژه، در بعضی سناریوها کاهش مصرف قابل‌توجهه؛ مثلاً برای خروجی ابزارهایی که شامل لیست‌های بزرگ هستن حدود ۷۰ تا ۹۰٪ و برای نتایج جست‌وجوی تکراری حدود ۶۰ تا ۸۰٪ صرفه‌جویی گزارش شده. البته این اعداد به نوع داده و تنظیمات بستگی دارن و قرار نیست هر Context ای با همین نسبت کوچک بشه.

برای استفاده هم می‌تونی Headroom رو به‌صورت Proxy جلوی Agent قرار بدی یا از headroom wrap برای بعضی ابزارها استفاده کنی؛ در نتیجه لازم نیست برای استفاده ازش کل کدت رو بازنویسی کنی.

در واقع ایده‌اش خیلی ساده‌ست: قبل از اینکه Context رو بزرگ‌تر و پرهزینه‌تر کنی، ببین واقعاً کدوم قسمت‌های اطلاعات برای مدل ضروریه

لینک مخزن این پروژه : Github

#Ai

تازگیا تلگرام یک سری مشکلات پیدا کرده متاسفانه
هر آپدیتی به منظور افزایش کیفیت و بهره وری نیست

اگر در مورد اش سوالی داشتید بپرسید

هوش مصنوعی داره از صفحه‌نمایش بیرون میاد و وارد دنیای واقعی میشه.

یکی از شرکت‌هایی که این تغییر رو خیلی جدی دنبال می‌کنه، شرکت آلمانی NEURA Robotics هست؛ شرکتی که می‌خواد Physical AI رو از یک مفهوم تحقیقاتی به یک اکوسیستم واقعی برای ربات‌ها تبدیل کنه.

این NEURA اخیراً یک سرمایه‌گذاری Series C با ارزش بالقوه تا ۱.۴ میلیارد دلار اعلام کرده و حالا هدفش توسعه چیزی فراتر از چند ربات هوشمنده. ایده اصلی، ساخت اکوسیستمی به نام Neuraverse هست؛ جایی که ربات‌های انسان‌نما، ربات‌های صنعتی و ربات‌های متحرک بتونن از زیرساخت هوش مشترکی استفاده کنن، از محیط واقعی یاد بگیرن و با یکدیگر همکاری کنن.

نکته مهم اینجاست که NEURA فقط روی خود ربات تمرکز نکرده. ترکیبی از AI، سنسورها، پردازش لبه‌ای، زیرساخت یادگیری و سیستم‌های رباتیک در یک پلتفرم واحد قرار گرفته تا این ربات‌ها بتونن در محیط‌های واقعی فعالیت کنن.

حتی ACTIVE Shuttle که قبلاً توسط Bosch Rexroth توسعه داده شده بود، حالا وارد اکوسیستم NEURA شده تا یک سیستم حمل‌ونقل صنعتی موجود، به مرور با قابلیت‌های Physical AI ترکیب بشه.

این NEURA همچنین از چیزی به نام NEURA Gyms صحبت می‌کنه؛ محیط‌های واقعی بزرگی که برای آموزش و تمرین ربات‌های شناختی طراحی میشن. یعنی به‌جای اینکه مدل فقط روی داده‌های دیجیتال آموزش ببینه، باید با دنیای فیزیکی، اشیا، حرکت و محدودیت‌های واقعی هم تعامل داشته باشه.

اینجا به نظرم یک تغییر مهم در مسیر AI اتفاق می‌افته.

و در واقع LLM بیشتر با «اطلاعات» سر و کار دارن؛ اما Physical AI باید بتونه محیط رو درک کنه، تصمیم بگیره، حرکت کنه و نتیجه حرکت خودش رو دوباره مشاهده کنه.

یعنی چرخه‌ی واقعی:

Perception → Reasoning → Action → Feedback

و این دقیقاً جاییه که AI وارد مرحله‌ی جدیدی میشه.

از طرف دیگه، همکاری NEURA با شرکت‌هایی مثل Amazon، Qualcomm و Bosch نشون میده که Physical AI فقط یک پروژه رباتیک نیست؛ بلکه ترکیبی از AI، Edge Computing، سنسورها، Cloud Infrastructure، چیپ‌ها و مهندسی مکانیکه.

به نظرم رقابت بزرگ بعدی AI فقط روی مدل‌های زبانی نخواهد بود.

بخشی از رقابت اصلی روی این خواهد بود که چه کسی می‌تونه هوش مصنوعی رو از «تولید پاسخ» به «انجام عمل در دنیای واقعی» برسونه.

و اگر این اتفاق در مقیاس بالا عملی بشه، ربات‌ها دیگه صرفاً ماشین‌های برنامه‌ریزی‌شده نیستن؛ تبدیل میشن به Agentهایی که می‌بینن، تصمیم می‌گیرن، یاد می‌گیرن و عمل می‌کنن.

و در نهایت Physical AI شاید یکی از مهم‌ترین موج‌های بعدی هوش مصنوعی باشه.

#LLM
#AIAgents
#AI_Architecture

وزارت خارجه آمریکا اعلام کرد برای هر اطلاعاتی که به شناسایی محل «امیر یاریاب» از مقام‌های ارشد فرماندهی سایبری و جنگ الکترونیک سپاه پاسداران، منجر بشه تا 10 میلیون دلار(2200میلیارد تومن) پاداش میده!

سندروم ایمپاستر (Impostor Syndrome) یکی از عجیب‌ترین چیزهایی‌ که ممکنه مخصوصاً توی مسیر برنامه‌نویسی تجربه‌ش کنین.

همون حسی که باعث می‌شه با خودتون بگین: «من واقعاً برنامه‌نویسم؟ نکنه چیز زیادی بلد نیستم؟ نکنه بقیه بفهمن من اون‌قدرا هم خوب نیستم؟»

جالب اینجاست که خیلی وقت‌ها این حس دقیقاً زمانی سراغ آدم میاد که داره پیشرفت می‌کنه.

وارد یک پروژه جدید می‌شین، با یک تکنولوژی جدید روبه‌رو می‌شین، کد بقیه رو می‌بینین و ناگهان فکر می‌کنین همه از شما بهترن و شما فقط دارین نقش بازی می‌کنین.

ولی واقعیت اینه که برنامه‌نویسی حوزه‌ایه که تقریباً همیشه چیز جدیدی برای یاد گرفتن وجود داره.

حتی آدم‌های باتجربه هم با کدهایی مواجه می‌شن که نمی‌فهمن، باگ‌هایی دارن که ساعت‌ها براشون وقت می‌ذارن و گاهی مجبور می‌شن برن مستندات رو از اول بخونن.
مشکل از جایی شروع می‌شه که ناآشنا بودن با یک موضوع رو با «ناتوان بودن» اشتباه بگیریم.

اینکه امروز React، Docker، سیستم‌های توزیع‌شده یا یک API خاص رو بلد نیستین، به این معنی نیست که برنامه‌نویس خوبی نیستین. فقط یعنی هنوز اون بخش رو یاد نگرفتین.

به نظرم یکی از بهترین راه‌های مقابله با سندروم ایمپاستر اینه که پیشرفت خودتون رو با نسخه قبلی خودتون مقایسه کنین، نه با کسی که چند سال بیشتر از شما تجربه داره.

قرار نیست همه‌چیز رو بلد باشین. قرار نیست همیشه مطمئن باشین. حتی قرار نیست همیشه بهترین آدم داخل تیم باشین.
فقط باید مطمئن باشین که هر بار که با چیزی مواجه می‌شین که بلد نیستین، می‌تونین یادش بگیرین.

#توصیه

مفسر Wasm حدود ۲.۲ برابر سریع‌تر شده؛ و اینجا مهمه که V8 همیشه کمکتون نمی‌کنه.

داخل مرورگر، WebAssembly معمولاً با JIT اجرا می‌شه و به همین دلیل خیلی از فرانت‌اندکارها اصلاً به Interpreter فکر نمی‌کنن.

اما وقتی Wasm از محیط مرورگر خارج می‌شه و وارد Pluginها، Edge Functionها، اپلیکیشن‌های iOS و Sandboxها می‌شه، شرایط فرق می‌کنه. JIT ممکنه به‌خاطر محدودیت‌های امنیتی ممنوع باشه یا اصلاً از نظر مصرف حافظه مناسب نباشه.

اینجاست که Wasmi، یک Interpreter نوشته‌شده با Rust، وارد می‌شه.

طبق بنچمارک‌های خود پروژه، نسخه 2.0 در میانگین هندسی تست‌ها حدود ۲.۲ برابر سریع‌تر از نسخه 1.0 شده.

پشت این افزایش عملکرد چند تغییر مهم وجود داره؛ از جمله چهار حالت مختلف برای Dispatch به‌جای یک switch-loop، یک IR جدید با رجیسترهای accumulator و ساختار CodeMap که باعث می‌شه هنگام فراخوانی تابع حتی یک Lookup هم انجام نشه.

نکته جالب دیگه اینه که فعال کردن SIMD دیگه مثل قبل باعث افت عملکرد کدهای معمولی نمی‌شه؛ در نسخه 1.0 این قابلیت حدود ۸٪ هزینه عملکردی داشت.

بنچمارک‌ها هم از طریق ریپازیتوری wasmi-benchmarks قابل تکرارن و عملکرد Wasmi با پروژه‌هایی مثل Wasm3، WAMR و Wasmtime Pulley مقایسه شده.

در واقع، این آپدیت بیشتر برای جاهایی مهمه که نمی‌تونیم روی JIT موتورهایی مثل V8 حساب کنیم؛ جایی که یک Interpreter سریع مستقیماً روی Performance تأثیر می‌ذاره.


#wasm
#performance

DLSS 5 | Introducing 3D-Guided Neural Rendering

https://youtu.be/58FagrSqC4M


Learn more about DLSS 5:
https://www.nvidia.com/en-us/geforce/news/dlss-5-3d-guided-neural-rendering/

نکته جالب در این ویدئو اینه که مسیر NVIDIA داره بیشتر از Traditional Rendering به سمت Neural Rendering حرکت می‌کنه.

شاید در آینده GPU فقط محاسبات گرافیکی رو انجام نده.

بخشی از کاری که قبلاً با الگوریتم‌های کلاسیک انجام می‌شد، به مدل‌های AI سپرده بشه شاید قطعی نیست.

الکامپ شده اکثرا ساختارش: محتوا + AI

اگر محصولی ساخته میشه = حداقل تسلط روی پروژه داشته باشید

پیاده سازی محصول با AI خوبه.

اما در بلند مدت کیفیت اش اصولا کاهش پیدا می‌کنه

۵ تا سوال بپرسین نمیدونن چطور پاسخ بدند.

شما الکامپ رفتید؟
چه تجربه ای کسب کردید؟

ویدیو جدید به زودی  🔥

صنعت هوش مصنوعی تا الان حدود ۲۶۵ میلیون دلار وارد انتخابات میان‌دوره‌ی آمریکا کرده. فقط برای اینکه یادتون باشه، مثلا Andreessen Horowitz تنهایی ۵۰ میلیون و OpenAI اومده 25 میلیون، Anthropic هم حداقل ۴۰ میلیون. حالا سوال اینجاست: این شرکتا که مدعی‌ هستن دارن آینده‌ی بشریت رو می‌سازن، چرا این‌قدر پولشون رو خرج سیاست می‌کنن؟

واشنگتن‌پست یه تحقیقی کرده و معلوم شده دست‌کم ۳۹ تا کمپین سیاسی به شرکت‌های AI پول دادن برای تولید محتوا. تبلیغات، پست، کاریکاتور، اسمشو بذار. در حالی که استفاده‌ی سیاسی از ChatGPT رسماً ممنوعه!

یعنی چی؟ یعنی قانون می‌گن، ولی عملاً هیچ‌کس پاشو نمیذاره رو خط. و خبر بدتر اینکه اصلاً نمیشه فهمید یه محتوا رو آدم نوشته یا ماشین. Anthropic حتی یه ابزار به اسم Claude for President درست کرده که کمپین‌ها می‌تونن باهاش محتوا بسازن.

به نظرم اینجا یه خط قرمز داره رد میشه. قبلاً حداقل می‌دونستیم وقتی یه تبلیغ سیاسی می‌بینیم، پشتش یه آدمه با انگیزه و حداقل یه ذره مسئولیت. حالا پشتش کیه؟ یه مدل که بهش گفتن چی بنویسه. و وقتی مردم بفهمن بهشون دروغ گفته شده، مقصر رو پیدا می‌کنن؟ هیچ‌کس.

خلاصه اینکه دارن دروازه‌ی سیاست رو هم مثل بقیه‌ی چیزها با AI باز می‌کنن. و من نمیگم AI بد هست ولی یه چیزی رو خوب داریم می‌بینیم: هر جا پول زیاد و نظارت کم باشه، هوش مصنوعی اول اونجا سرکی می‌کشه.

و سوال اینه: وقتی دیگه نتونیم بفهمیم یه حرف سیاسی رو آدم زده یا ماشین، رأی ما به چیه دیگه؟ به حرف یک نفر، یا به الگوریتمی که کسی نمی‌شناسش؟

#هوش_مصنوعی

#AIAgents
#FutureOfWork

یک نکته ای رو بگم :

سرعت اجرای یک LLM روی سیستم شخصی شما چیز مرموزی یا پیچیده ای نیست. برای بیشتر مدل‌ها، حتی قبل از اینکه وزن‌های مدل رو دانلود کنین با یک محاسبه ساده میتونین حدود سرعت پردازش اون رو (تعداد توکن در هر ثانیه) پیش‌بینی کنین.

جالب اینجاست که این تخمین معمولاً دقت بسیار خوبی داره

#هوش_مصنوعی
#LLM
#AIAgents

یک چیز شاید به نسبت جالبی که دیدم اینه که بعضی توسعه دهنده ها به هوش مصنوعی اجازه نمیدن سورس رو بررسی کنه، چون به‌هم‌ریخته هست و فرض میکنن مدل متوجه اون نمیشه.

به دید من بررسی کردن ایرادی نداره اما بدون هدایت مشکلات متفاوتی رو درست میکنه

پس اگر میخواین دسترسی بدین میتونین دسترسی بدین اما درست و اصولی

یک غفلت باعث یک عمر پیشمانی میشه