سرنوشت شون مثل دیگر هکر های ایرانی که توی ایران بودند مشخص نیست و شاید طبقه ای از ساختمانی زده بشه اما اگر شناسایی بشوند.....
🔥2
یک بار برای همیشه بگم دوستان
بعضی از دوستان خیلی نگرانند و استرس دارند .
چند سال پیش برنامه‌نویس خط به خط کد می‌نوشت تا پروژه جلو بره. امروز هم همون پروژه جلو میره، با این تفاوت که به جای دست به کیبورد بودنِ مداوم، داره یک ایجنت رو هدایت میکنه تا بخش اعظم کدنویسی رو انجام بده.
در واقع نقش برنامه‌نویس از «تایپیست کد» به «هدایت‌کننده سیستم» تغییر کرده.
وقتی خودرو اختراع شد، خیلی‌ها فکر می‌کردند دوران اسب تمام شده. اما واقعیت این بود که هدف انسان جابه‌جایی بود، نه خودِ اسب. با آمدن ماشین، نیاز از بین نرفت؛ ابزار بهینه‌تر شد.
امروز هم کسب‌وکارها دنبال «کد» نیستند، بلکه دنبال «حل مسئله» می‌گردند. کد فقط یک ابزاره. حتی الگوی مصاحبه‌ها هم داره تغییر میکنه؛ سؤال اینه که چقدر می‌تونی با ابزارهای AI مسئله‌های پیچیده الگوریتمی و معماری رو سریع‌تر حل کنی؟
اگر فردا هوش مصنوعی ۹۰ درصد کد رو بنویسه، باز هم یک نفر باید مشخص کنه دقیقاً چی باید ساخته بشه، چه معماری‌ای مناسبه، چه Trade-offهایی وجود داره و امنیت و مقیاس‌پذیری چطور مدیریت بشن.
هرچقدر AI قوی‌تر میشه، ارزش کسی که سؤال درست رو می‌پرسه و تصمیم معماریِ درست رو می‌گیره بیشتر میشه. توی این مسیر، رهبران فنی و ارشدها اتفاقاً جایگاه امن‌تری پیدا می‌کنند، به شرطی که خودشون رو به‌روز نگه دارند.
از طرفی، شاید قبلاً برای ساخت یک محصول به ۱۰ برنامه‌نویس نیاز بود و حالا همون کار با ۳ نفر انجام بشه. خیلی‌ها این رو تهدید می‌بینند، اما معنیش کاهش شدید هزینه ساخت نرم‌افزاره.
وقتی ساختن ارزون‌تر بشه، تعداد محصولات و ایده‌هایی که وارد بازار میشن چند برابر میشه. در نتیجه، مسئله‌ها، چالش‌ها و فرصت‌های جدیدتری برای حل کردن به وجود میاد.
آینده برنامه‌نویسی، حذف برنامه‌نویس نیست؛ تغییر نقش اونه.
همون‌طور که امروز کسی مهارت رانندگی با کالسکه رو یاد نمی‌گیره اما رانندگی همچنان یک مهارته، فردا هم کسی ساعت‌ها کد Boilerplate نمی‌نویسه؛ اما هدایت هوش مصنوعی و تبدیل ایده به محصول پایدار، تبدیل به مهم‌ترین مهارت این صنعت میشه.
یادتون باشه وایب کدینگ برای تست کردن ایده‌ها و ساخت ابزارهای سریع فوق‌العاده‌ست. اما وقتی می‌خواید سیستمی بسازید که ماه‌ها و سال‌ها کار کنه، نمی‌تونید اصالت مهندسی رو فدای سرعتِ ظاهری کنید.
#SoftwareEngineering
#Architecture
#AI
#DeveloperLife
#TechTrends
بعضی از دوستان خیلی نگرانند و استرس دارند .
چند سال پیش برنامه‌نویس خط به خط کد می‌نوشت تا پروژه جلو بره. امروز هم همون پروژه جلو میره، با این تفاوت که به جای دست به کیبورد بودنِ مداوم، داره یک ایجنت رو هدایت میکنه تا بخش اعظم کدنویسی رو انجام بده.
در واقع نقش برنامه‌نویس از «تایپیست کد» به «هدایت‌کننده سیستم» تغییر کرده.
وقتی خودرو اختراع شد، خیلی‌ها فکر می‌کردند دوران اسب تمام شده. اما واقعیت این بود که هدف انسان جابه‌جایی بود، نه خودِ اسب. با آمدن ماشین، نیاز از بین نرفت؛ ابزار بهینه‌تر شد.
امروز هم کسب‌وکارها دنبال «کد» نیستند، بلکه دنبال «حل مسئله» می‌گردند. کد فقط یک ابزاره. حتی الگوی مصاحبه‌ها هم داره تغییر میکنه؛ سؤال اینه که چقدر می‌تونی با ابزارهای AI مسئله‌های پیچیده الگوریتمی و معماری رو سریع‌تر حل کنی؟
اگر فردا هوش مصنوعی ۹۰ درصد کد رو بنویسه، باز هم یک نفر باید مشخص کنه دقیقاً چی باید ساخته بشه، چه معماری‌ای مناسبه، چه Trade-offهایی وجود داره و امنیت و مقیاس‌پذیری چطور مدیریت بشن.
هرچقدر AI قوی‌تر میشه، ارزش کسی که سؤال درست رو می‌پرسه و تصمیم معماریِ درست رو می‌گیره بیشتر میشه. توی این مسیر، رهبران فنی و ارشدها اتفاقاً جایگاه امن‌تری پیدا می‌کنند، به شرطی که خودشون رو به‌روز نگه دارند.
از طرفی، شاید قبلاً برای ساخت یک محصول به ۱۰ برنامه‌نویس نیاز بود و حالا همون کار با ۳ نفر انجام بشه. خیلی‌ها این رو تهدید می‌بینند، اما معنیش کاهش شدید هزینه ساخت نرم‌افزاره.
وقتی ساختن ارزون‌تر بشه، تعداد محصولات و ایده‌هایی که وارد بازار میشن چند برابر میشه. در نتیجه، مسئله‌ها، چالش‌ها و فرصت‌های جدیدتری برای حل کردن به وجود میاد.
آینده برنامه‌نویسی، حذف برنامه‌نویس نیست؛ تغییر نقش اونه.
همون‌طور که امروز کسی مهارت رانندگی با کالسکه رو یاد نمی‌گیره اما رانندگی همچنان یک مهارته، فردا هم کسی ساعت‌ها کد Boilerplate نمی‌نویسه؛ اما هدایت هوش مصنوعی و تبدیل ایده به محصول پایدار، تبدیل به مهم‌ترین مهارت این صنعت میشه.
یادتون باشه وایب کدینگ برای تست کردن ایده‌ها و ساخت ابزارهای سریع فوق‌العاده‌ست. اما وقتی می‌خواید سیستمی بسازید که ماه‌ها و سال‌ها کار کنه، نمی‌تونید اصالت مهندسی رو فدای سرعتِ ظاهری کنید.
#SoftwareEngineering
#Architecture
#AI
#DeveloperLife
#TechTrends
این جمله که «هوش مصنوعی مثل انسان یاد می‌گیره، چون هر دو بر اساس الگوها کار می‌کنند» در نگاه اول درست به نظر می‌رسه، اما از نظر معماری شدیداً گمراه‌کننده‌ست.
چرا؟ چون زیرِ پوست این دو مکانیزم، دو دنیای کاملاً متفاوت در جریانه.
یک مدل زبانی (LLM) زبان رو فقط با یک هدف دنبال میکنه: پیش‌بینی توکن بعدی (Next-Token Prediction).
نه کلمات، نه معنا و درک مفهومی، فقط توکن‌ها. مدل با دریافت یک دنباله، حدس میزنه توکن بعدی چیه. این کار رو تریلیون‌ها بار انجام میده و تنها هدفش اینه که خطای پیش‌بینی رو به صفر نزدیک کنه.
در مقابل، انسان‌ها هم از الگوها استفاده می‌کنند، اما با هدفی متفاوت. وقتی شما یک متن یا داستان رو می‌خوانید، تمرکزتون روی پیش‌بینی کلمه بعدی نیست؛ بلکه دارید رویدادها، علت‌ها، انگیزه شخصیت‌ها و پیامدها رو توی ذهنتون تحلیل و ردیابی میکنید.
توی ذهن انسان، پیش‌بینی صرفاً یک اثر جانبی از «درک واقعیت» است، نه خودِ هدف!
برای درک بهتر میشه این مثال رو زد:
یک سیستم GPS میتونه دقیق‌ترین مسیر کوچه به کوچه رو به شما بده. اما یک انسان، ساختار شهر، محله‌ها، منطق ترافیک و علت انتخاب مسیر رو می‌فهمه.
هر دو ممکن است شما رو به یک مقصد یکسان برسانند، اما فقط یکی می‌دونه «چرا» این مسیر منطقیه!
علت اینکه LLMها گاهی پاسخ‌های کاملاً منطقی و مشابه استدلال انسان می‌دهند اما ناگهان توی یک منطق ساده اشتباه فاحش می‌کنند همینه: آن‌ها اول فکر نمی‌کنند تا بعد افکارشون رو به کلمه تبدیل کنند؛ خودِ فرایندِ «تولید کلمات»، کلِ فرایندِ تفکرِ آن‌هاست!
در نهایت، خروجی کار شاید در خیلی از سناریوها یکسان به نظر برسه، اما انسان الگوها رو می‌آموزه تا جهان رو درک کنه، در حالی که مدل زبانی الگوها رو می‌آموزه تا فقط توکن بعدی رو پیش‌بینی کنه.
نتیجه‌گیری گاهی مشابه، اما دو مسیر کاملاً متفاوت در یادگیری و پردازش.
#MachineLearning
#LLM
#DeepLearning
#AIArchitecture
#NLP
#TechAnalysis
چرا؟ چون زیرِ پوست این دو مکانیزم، دو دنیای کاملاً متفاوت در جریانه.
یک مدل زبانی (LLM) زبان رو فقط با یک هدف دنبال میکنه: پیش‌بینی توکن بعدی (Next-Token Prediction).
نه کلمات، نه معنا و درک مفهومی، فقط توکن‌ها. مدل با دریافت یک دنباله، حدس میزنه توکن بعدی چیه. این کار رو تریلیون‌ها بار انجام میده و تنها هدفش اینه که خطای پیش‌بینی رو به صفر نزدیک کنه.
در مقابل، انسان‌ها هم از الگوها استفاده می‌کنند، اما با هدفی متفاوت. وقتی شما یک متن یا داستان رو می‌خوانید، تمرکزتون روی پیش‌بینی کلمه بعدی نیست؛ بلکه دارید رویدادها، علت‌ها، انگیزه شخصیت‌ها و پیامدها رو توی ذهنتون تحلیل و ردیابی میکنید.
توی ذهن انسان، پیش‌بینی صرفاً یک اثر جانبی از «درک واقعیت» است، نه خودِ هدف!
برای درک بهتر میشه این مثال رو زد:
یک سیستم GPS میتونه دقیق‌ترین مسیر کوچه به کوچه رو به شما بده. اما یک انسان، ساختار شهر، محله‌ها، منطق ترافیک و علت انتخاب مسیر رو می‌فهمه.
هر دو ممکن است شما رو به یک مقصد یکسان برسانند، اما فقط یکی می‌دونه «چرا» این مسیر منطقیه!
علت اینکه LLMها گاهی پاسخ‌های کاملاً منطقی و مشابه استدلال انسان می‌دهند اما ناگهان توی یک منطق ساده اشتباه فاحش می‌کنند همینه: آن‌ها اول فکر نمی‌کنند تا بعد افکارشون رو به کلمه تبدیل کنند؛ خودِ فرایندِ «تولید کلمات»، کلِ فرایندِ تفکرِ آن‌هاست!
در نهایت، خروجی کار شاید در خیلی از سناریوها یکسان به نظر برسه، اما انسان الگوها رو می‌آموزه تا جهان رو درک کنه، در حالی که مدل زبانی الگوها رو می‌آموزه تا فقط توکن بعدی رو پیش‌بینی کنه.
نتیجه‌گیری گاهی مشابه، اما دو مسیر کاملاً متفاوت در یادگیری و پردازش.
#MachineLearning
#LLM
#DeepLearning
#AIArchitecture
#NLP
#TechAnalysis
❤1👎1
اگه فکر می‌کنین مدل‌های زبانی بزرگ (LLM) واقعاً مثل ما انسان‌ها «فکر» و «استدلال» می‌کنند، نتایج مقاله جدید اپل کلاً نگاه‌تون رو عوض میکنه!
تیم پژوهشی اپل توی این تحقیق دست گذاشته روی یه موضوع حیاتی: این مدل‌ها چقدر توی استدلال واقعی ریاضی ضعف دارند و چرا نباید توی کارهای عمیق و تحلیلی چشم‌بسته بهشون اعتماد کرد.
خلاصه چیزایی که اپل کشف کرده:
پاسخ‌های ناپایدار: مدل‌ها حتی با یه تغییر خیلی کوچیک توی صورت مسئله ریاضی (در حد سطح دبستان)، کلاً گیج میشن و جواب‌های متناقض میدن. این یعنی بنچمارک‌های معروف مثل GSM8K واقعیت توانایی مدل رو نشون نمیدن.
شکنندگی شدید: به محض اینکه مسئله یکم پیچیده‌تر میشه، دقت مدل شدیداً افت میکنه؛ چون اصلاً استدلال عمیقی پشت پاسخ‌هاش نیست.
حواس‌پراتی با اطلاعات بی‌ربط: اگه یکم جزییات انحرافی و بی‌تأثیر به صورت مسئله اضافه کنید، عملکرد مدل تا ۶۵ درصد افت میکنه! جالب اینجاست که حتی با فاین‌تیون کردن (Fine-tuning) هم این مشکل حل نشده.
تطبیق الگو به‌جای فهم منطقی: مدل‌ها مسائل رو «حل» نمی‌کنند، فقط الگوی متنی سوال رو با چیزهایی که قبلاً دیدند تطبیق میدن (Pattern Matching).
این نتایج چه مفهومی برامون داره؟
مدل‌های زبانی ابزارهای فوق‌العاده‌ای برای بالا بردن سرعت کارها هستند، اما چون نمی‌تونند جزییات مهم رو از نویز تشخیص بدن و کلاً بر اساس الگوی توکن‌ها کار می‌کنند، اصلاً واسه پژوهش‌ها و کارهای منطقیِ سخت‌گیرانه قابل اعتماد نیستند.
توی حوزه‌هایی مثل ریاضی، مهندسی نرم‌افزار و علوم داده که «دقت» حرف اول و آخر رو میزنه، اصلاً نمیشه روی استدلال این مدل‌ها حساب کرد.
این ابزارها هرچقدر هم جذاب باشند، فعلاً فقط ظاهرِ استدلال رو شبیه‌سازی می‌کنند و حالا حالاها مونده تا به تفکر انتقادی انسان برسند.
#هوش_مصنوعی
#توسعه_نرم_افزار
#LLM
#AppleResearch
#AI_Architecture
#MathAI
تیم پژوهشی اپل توی این تحقیق دست گذاشته روی یه موضوع حیاتی: این مدل‌ها چقدر توی استدلال واقعی ریاضی ضعف دارند و چرا نباید توی کارهای عمیق و تحلیلی چشم‌بسته بهشون اعتماد کرد.
خلاصه چیزایی که اپل کشف کرده:
پاسخ‌های ناپایدار: مدل‌ها حتی با یه تغییر خیلی کوچیک توی صورت مسئله ریاضی (در حد سطح دبستان)، کلاً گیج میشن و جواب‌های متناقض میدن. این یعنی بنچمارک‌های معروف مثل GSM8K واقعیت توانایی مدل رو نشون نمیدن.
شکنندگی شدید: به محض اینکه مسئله یکم پیچیده‌تر میشه، دقت مدل شدیداً افت میکنه؛ چون اصلاً استدلال عمیقی پشت پاسخ‌هاش نیست.
حواس‌پراتی با اطلاعات بی‌ربط: اگه یکم جزییات انحرافی و بی‌تأثیر به صورت مسئله اضافه کنید، عملکرد مدل تا ۶۵ درصد افت میکنه! جالب اینجاست که حتی با فاین‌تیون کردن (Fine-tuning) هم این مشکل حل نشده.
تطبیق الگو به‌جای فهم منطقی: مدل‌ها مسائل رو «حل» نمی‌کنند، فقط الگوی متنی سوال رو با چیزهایی که قبلاً دیدند تطبیق میدن (Pattern Matching).
این نتایج چه مفهومی برامون داره؟
مدل‌های زبانی ابزارهای فوق‌العاده‌ای برای بالا بردن سرعت کارها هستند، اما چون نمی‌تونند جزییات مهم رو از نویز تشخیص بدن و کلاً بر اساس الگوی توکن‌ها کار می‌کنند، اصلاً واسه پژوهش‌ها و کارهای منطقیِ سخت‌گیرانه قابل اعتماد نیستند.
توی حوزه‌هایی مثل ریاضی، مهندسی نرم‌افزار و علوم داده که «دقت» حرف اول و آخر رو میزنه، اصلاً نمیشه روی استدلال این مدل‌ها حساب کرد.
این ابزارها هرچقدر هم جذاب باشند، فعلاً فقط ظاهرِ استدلال رو شبیه‌سازی می‌کنند و حالا حالاها مونده تا به تفکر انتقادی انسان برسند.
#هوش_مصنوعی
#توسعه_نرم_افزار
#LLM
#AppleResearch
#AI_Architecture
#MathAI
❤1
ما توی مدل DeepSeek R1 هم دقیقاً همین نتیجه رو دیدیم. اینکه مدل توکن‌های بیشتری رو صرف فکر کردن کنه، لزوماً به معنی رسیدن به جواب درست نیست. در واقع، با تقریباً نصف اون تعداد توکن هم می‌شد به همون جواب رسید.
اگر خواستید میتونیم در مورد اش بیشتر صحبت کنیم
اگر خواستید میتونیم در مورد اش بیشتر صحبت کنیم
❤1
وقتی یک مدل زبانی بزرگ مثل ChatGPT منتشر شد، خیلی از شرکت‌ها تازه فهمیدند باید استراتژی و مسیر محصولاتشون رو کلاً بازبینی کنند.
توی سال ۲۰۲۳، حس و حال آزمایشگاه‌های بزرگ هوش مصنوعی نسبت به AGI (هوش مصنوعی عمومی) کلاً تغییر کرد. دیگه صحبت از ۱۰ سال آینده نبود؛ صحبت از این بود که توی ۳ تا ۵ سال آینده به AGI می‌رسیم.
چرا به یک تیم افق AGI نیاز داریم؟
جهش از ابزار به هوش عمومی: منظور از AGI سیستمیه که میتونه توی اکثر کارهای شناختی، بهتر از یک انسان متوسط عمل کنه (مثلاً انجام ۹۰ درصد کارهای مارکتینگ بهتر از یک مارکتیر).
احتمال رویداد تحول‌آفرین یا حتی نابودکننده: اگه شرکتی مثل OpenAI یا Google DeepMind به AGI برسه، تمام مدل‌های کسب‌وکار قبلی غافلگیر میشن. حتی اگه احتمال این اتفاق توی ۵ سال آینده کم باشه، اثرش اون‌قدر بزرگه که ارزش برنامه‌ریزی داره.
سرعت گرفتن روند: در حال حاضر احتمال اینکه ظرف ۱ تا ۲ سال آینده یکی از این آزمایشگاه‌ها ادعای رسیدن به AGI رو بکنه، بالای ۵۰ درصده.
تشکیل یک تیم تخصصی به اسم «تیم افق AGI» به سازمان‌ها کمک میکنه تا پیشرفت‌های این حوزه رو زیر نظر بگیرند، تهدیدها و فرصت‌ها رو ارزیابی کنند و قبل از اینکه خیلی دیر بشه، آماده تغییرات زیربنایی باشند.
#هوش_مصنوعی
#استراتژی_کسب_و_کار
#توسعه_نرم_افزار
#فناوری
#مدیریت_نوآوری
توی سال ۲۰۲۳، حس و حال آزمایشگاه‌های بزرگ هوش مصنوعی نسبت به AGI (هوش مصنوعی عمومی) کلاً تغییر کرد. دیگه صحبت از ۱۰ سال آینده نبود؛ صحبت از این بود که توی ۳ تا ۵ سال آینده به AGI می‌رسیم.
چرا به یک تیم افق AGI نیاز داریم؟
جهش از ابزار به هوش عمومی: منظور از AGI سیستمیه که میتونه توی اکثر کارهای شناختی، بهتر از یک انسان متوسط عمل کنه (مثلاً انجام ۹۰ درصد کارهای مارکتینگ بهتر از یک مارکتیر).
احتمال رویداد تحول‌آفرین یا حتی نابودکننده: اگه شرکتی مثل OpenAI یا Google DeepMind به AGI برسه، تمام مدل‌های کسب‌وکار قبلی غافلگیر میشن. حتی اگه احتمال این اتفاق توی ۵ سال آینده کم باشه، اثرش اون‌قدر بزرگه که ارزش برنامه‌ریزی داره.
سرعت گرفتن روند: در حال حاضر احتمال اینکه ظرف ۱ تا ۲ سال آینده یکی از این آزمایشگاه‌ها ادعای رسیدن به AGI رو بکنه، بالای ۵۰ درصده.
تشکیل یک تیم تخصصی به اسم «تیم افق AGI» به سازمان‌ها کمک میکنه تا پیشرفت‌های این حوزه رو زیر نظر بگیرند، تهدیدها و فرصت‌ها رو ارزیابی کنند و قبل از اینکه خیلی دیر بشه، آماده تغییرات زیربنایی باشند.
#هوش_مصنوعی
#استراتژی_کسب_و_کار
#توسعه_نرم_افزار
#فناوری
#مدیریت_نوآوری
❤1
وقتی صحبت از فراتر رفتن از AGI و رسیدن به ابرهوش مصنوعی (ASI) میشه، خیلی‌ها یا زمان‌بندی‌های تخیلی میدن یا بر اساس حس و گمان حرف می‌زنند. اما نگاه عمیق مهندسی به این مسیر نشان میده که به جای حدس زدن زمان، باید مسیرهای ممکن، ترمزهای واقعی و چالش‌های حل‌نشده رو بررسی کرد.
واقعیت اینه که AGI مثل یک کلید صفر و یک نیست که یهو روشن بشه. حتی اگه هوشِ مدل‌های پایه توی یک نقطه‌ای متوقف بشه، باز هم میشه با اجرا کردن هزاران نسخه هم‌زمان، بالا بردن سرعتشون و دادن زمان بیشتر برای تفکر، به قابلیت‌های فوق‌العاده جدیدی رسید. قدرت محاسباتی سالانه ۱۰ برابر رشد میکنه و همین حجم سنگین محاسبات خودش رو شبیه به یک جهش هوشی جدید نشان میده.
برای رسیدن به ASI چهار مسیر موازی وجود داره که می‌تونند هم‌زمان پیش برن: ادامه دادن اسکیل مدل‌ها، کشف روش‌های الگوریتمی جدید، خودبهینه‌سازی سیستم‌ها (همون حلقه بازگشتی که هوش مصنوعی خودش، خودش رو توسعه میده) و در نهایت همکاری شبکه‌ای از ایجنت‌های هوشمند. مرز نهایی هوش رو میشه بر اساس نظریه ریاضی Universal AI بررسی کرد که نشان میده روش‌های امروزی فقط یک تقریب ساده از اون هوش مطلق هستند.
البته ابرهوش هم قرار نیست یک سیستم شکست‌ناپذیر باشه. ASI باز هم محدود به قوانین فیزیک مثل سرعت نور و مصرف انرژی محاسباتی میفته و توی دنیای واقعی نمیشه آزمایش‌های کند زیستی یا فرآیندهای زمانی رو دور زد. از طرفی ترمزهای بزرگ دیگری مثل محدودیت شدید انرژی، کمبود داده و «دیوار انتزاع» هم وجود دارند؛ یعنی این سوال که آیا ذهن‌های دیجیتالی اصلاً می‌تونند مثل انسان‌ها مفاهیم عمیق انتزاعی بسازند یا نه.
این نوع تحلیل به جای دادن زمان‌بندی‌های غیرواقعی، یک نقشه راه از مسیرها و محدودیت‌های دنیای واقعی جلو قرار میده که دید خیلی روشن‌تری از آینده هوش مصنوعی میسازه.
#هوش_مصنوعی
#AIAgents
واقعیت اینه که AGI مثل یک کلید صفر و یک نیست که یهو روشن بشه. حتی اگه هوشِ مدل‌های پایه توی یک نقطه‌ای متوقف بشه، باز هم میشه با اجرا کردن هزاران نسخه هم‌زمان، بالا بردن سرعتشون و دادن زمان بیشتر برای تفکر، به قابلیت‌های فوق‌العاده جدیدی رسید. قدرت محاسباتی سالانه ۱۰ برابر رشد میکنه و همین حجم سنگین محاسبات خودش رو شبیه به یک جهش هوشی جدید نشان میده.
برای رسیدن به ASI چهار مسیر موازی وجود داره که می‌تونند هم‌زمان پیش برن: ادامه دادن اسکیل مدل‌ها، کشف روش‌های الگوریتمی جدید، خودبهینه‌سازی سیستم‌ها (همون حلقه بازگشتی که هوش مصنوعی خودش، خودش رو توسعه میده) و در نهایت همکاری شبکه‌ای از ایجنت‌های هوشمند. مرز نهایی هوش رو میشه بر اساس نظریه ریاضی Universal AI بررسی کرد که نشان میده روش‌های امروزی فقط یک تقریب ساده از اون هوش مطلق هستند.
البته ابرهوش هم قرار نیست یک سیستم شکست‌ناپذیر باشه. ASI باز هم محدود به قوانین فیزیک مثل سرعت نور و مصرف انرژی محاسباتی میفته و توی دنیای واقعی نمیشه آزمایش‌های کند زیستی یا فرآیندهای زمانی رو دور زد. از طرفی ترمزهای بزرگ دیگری مثل محدودیت شدید انرژی، کمبود داده و «دیوار انتزاع» هم وجود دارند؛ یعنی این سوال که آیا ذهن‌های دیجیتالی اصلاً می‌تونند مثل انسان‌ها مفاهیم عمیق انتزاعی بسازند یا نه.
این نوع تحلیل به جای دادن زمان‌بندی‌های غیرواقعی، یک نقشه راه از مسیرها و محدودیت‌های دنیای واقعی جلو قرار میده که دید خیلی روشن‌تری از آینده هوش مصنوعی میسازه.
#هوش_مصنوعی
#AIAgents
🙏1
یک قاضی آمریکایی رأی داده که لیست سیاه کردن Anthropic توسط پنتاگون (دولت ترامپ) غیرقانونی بوده
این یعنی چی؟
یعنی Anthropic دوباره میتونه تو قراردادهای نظامی شرکت کنه.
درآمد سالانه‌شون هم ظاهراً به سطح خیلی بالایی رسیده.
رقابت OpenAI و Anthropic هر روز داغ‌تر میشه.
این یعنی چی؟
یعنی Anthropic دوباره میتونه تو قراردادهای نظامی شرکت کنه.
درآمد سالانه‌شون هم ظاهراً به سطح خیلی بالایی رسیده.
رقابت OpenAI و Anthropic هر روز داغ‌تر میشه.
❤1
تحقیق جدید گوگل نشون میده که تعداد کلمات یا توکن‌هایی که یک هوش مصنوعی می‌نویسه، ملاک خوبی برای سنجش میزان تفکر و استدلالش نیست و خیلی وقت‌ها مدل فقط داره وراجی میکنه.
برای حل این مشکل، آن‌ها مفهوم جدیدی به اسم «توکن‌های تفکر عمیق» رو معرفی کردن؛ یعنی توکن‌هایی که مدل روی اون‌ها توی لایه‌های درونی خودش دچار چالش و تغییر نظر میشه تا به جواب درست برسه.
نسبت این توکن‌های عمیق خیلی بهتر از تعداد کلمات یا میزان اعتماد به نفس مدل، میتونه دقتش رو توی مسائل سخت ریاضی و علمی پیش‌بینی کنه.
حتی از این روش یک استراتژی جدید به اسم Think@n درست کردن که کمک میکنه جواب‌هایی که تفکر واقعی پشتشون هست انتخاب بشن و جواب‌های به درد نخور زودتر حذف بشن؛ با این کار هم کیفیت بالا می‌مونه و هم هزینه‌ها کمتر میشه.
خلاصه اینکه در دوران جدید هوش مصنوعی، مهم این نیست که مدل چقدر طولانی می‌نویسه، بلکه مهم اینه که چقدر توی هر مرحله واقعاً داره فکر میکنه.
#هوش_مصنوعی
#Ai
برای حل این مشکل، آن‌ها مفهوم جدیدی به اسم «توکن‌های تفکر عمیق» رو معرفی کردن؛ یعنی توکن‌هایی که مدل روی اون‌ها توی لایه‌های درونی خودش دچار چالش و تغییر نظر میشه تا به جواب درست برسه.
نسبت این توکن‌های عمیق خیلی بهتر از تعداد کلمات یا میزان اعتماد به نفس مدل، میتونه دقتش رو توی مسائل سخت ریاضی و علمی پیش‌بینی کنه.
حتی از این روش یک استراتژی جدید به اسم Think@n درست کردن که کمک میکنه جواب‌هایی که تفکر واقعی پشتشون هست انتخاب بشن و جواب‌های به درد نخور زودتر حذف بشن؛ با این کار هم کیفیت بالا می‌مونه و هم هزینه‌ها کمتر میشه.
خلاصه اینکه در دوران جدید هوش مصنوعی، مهم این نیست که مدل چقدر طولانی می‌نویسه، بلکه مهم اینه که چقدر توی هر مرحله واقعاً داره فکر میکنه.
#هوش_مصنوعی
#Ai
❤1👍1
🔥 مسیر رایگان یادگیری وب، از صفر تا فول‌استک
خسته شدید از فیلم دیدن‌های بی‌پایان بدون نتیجه؟ اینجا برعکسه: از روز اول پروژه می‌زنید 💪
✅ پروژه‌محور، نه فیلم‌محور
✅ حتی اگه صفر صفرید، یه فاز کامل داریم پایه‌های JS رو از صفر یاد می‌گیرید
✅ گروه پشتیبانی + کدریویو هفتگی
✅ آخر مسیر، یه پروژه واقعی فول‌استک تو کارنومتونه
✅ کاملاً رایگان
برای ثبت‌نام و پیوستن پیام بدید:
🆔 @hamiwebsite
بیاید با هم شروع کنیم 🚀
خسته شدید از فیلم دیدن‌های بی‌پایان بدون نتیجه؟ اینجا برعکسه: از روز اول پروژه می‌زنید 💪
✅ پروژه‌محور، نه فیلم‌محور
✅ حتی اگه صفر صفرید، یه فاز کامل داریم پایه‌های JS رو از صفر یاد می‌گیرید
✅ گروه پشتیبانی + کدریویو هفتگی
✅ آخر مسیر، یه پروژه واقعی فول‌استک تو کارنومتونه
✅ کاملاً رایگان
برای ثبت‌نام و پیوستن پیام بدید:
🆔 @hamiwebsite
بیاید با هم شروع کنیم 🚀
❤2😍1
به نظرم GrokBot از خیلی جهات هنوز پشت Codex و GPT Work قرار داره، اما یک ایده‌ی جالب در تجربه کاربری داره: شخصیت دادن به نشست‌های گفتگو.
در این مدل، Agent در واقع یک نشست مشخص با اسم، هدف، دستورالعمل و مهارت‌های مخصوص خودشه.
یعنی به‌جای اینکه برای هر کار یک چت جدید بسازیم، چند Agent مشخص داریم:
🧑💻 برنامه‌نویسی
📊 تحلیل داده
📰 اخبار
🤖 دستیار شخصی
از طرفی Automation و Cronjob هم داخل همون نشست قرار می‌گیرن، در حالی که مهارت‌ها و افزونه‌ها می‌تونن بین Agentها مشترک باشن.
#هوش_مصنوعی
#Agents
#Grok
#Codex
#AIUX
در این مدل، Agent در واقع یک نشست مشخص با اسم، هدف، دستورالعمل و مهارت‌های مخصوص خودشه.
یعنی به‌جای اینکه برای هر کار یک چت جدید بسازیم، چند Agent مشخص داریم:
🧑💻 برنامه‌نویسی
📊 تحلیل داده
📰 اخبار
🤖 دستیار شخصی
از طرفی Automation و Cronjob هم داخل همون نشست قرار می‌گیرن، در حالی که مهارت‌ها و افزونه‌ها می‌تونن بین Agentها مشترک باشن.
#هوش_مصنوعی
#Agents
#Grok
#Codex
#AIUX
🔥1
امروز دوباره یه لحظه از اون لحظه‌هایی بود که واقعاً از قابلیت‌های AI حیرت زده شدم.
داشتم بین Agentهای مختلف کار می‌کردم؛ یه سری روی CLI و یه سری داخل اپ‌ها. فایل‌های Handoff رو بینشون جابه‌جا می‌کردم.
یکی از Agentها کارش تموم شد و گزارش رو داد که ببرم داخل CLI.
رفتم سراغ تب بعدی که گزارش رو Copy/Paste کنم و ...
ولی دیدم خودش گزارش رو مستقیم داخل همون Session روی CLI فرستاده!
من اصلاً بهش نگفته بودم این کار رو انجام بده.
جالب‌تر اینکه مدل‌ها، Providerها و Sessionها هم متفاوت بودن؛ با این حال Agent خودش متوجه شده بود این گزارش باید به کدوم Session برسه.
پ.ن : ما دیگه فقط با مدل‌هایی که جواب میدن کار نمی‌کنیم.
داریم با Agentهایی کار می‌کنیم که محیط، Context و هدف کار رو می‌فهمن و بین ابزارهای مختلف هماهنگ میشن.
#هوش_مصنوعی
#Ai
#Agent
داشتم بین Agentهای مختلف کار می‌کردم؛ یه سری روی CLI و یه سری داخل اپ‌ها. فایل‌های Handoff رو بینشون جابه‌جا می‌کردم.
یکی از Agentها کارش تموم شد و گزارش رو داد که ببرم داخل CLI.
رفتم سراغ تب بعدی که گزارش رو Copy/Paste کنم و ...
ولی دیدم خودش گزارش رو مستقیم داخل همون Session روی CLI فرستاده!
من اصلاً بهش نگفته بودم این کار رو انجام بده.
جالب‌تر اینکه مدل‌ها، Providerها و Sessionها هم متفاوت بودن؛ با این حال Agent خودش متوجه شده بود این گزارش باید به کدوم Session برسه.
پ.ن : ما دیگه فقط با مدل‌هایی که جواب میدن کار نمی‌کنیم.
داریم با Agentهایی کار می‌کنیم که محیط، Context و هدف کار رو می‌فهمن و بین ابزارهای مختلف هماهنگ میشن.
#هوش_مصنوعی
#Ai
#Agent
❤1
یه چیزی که فکر می‌کنم خیلی زودتر از چیزی که انتظار داریم جدی بشه، امنیت AI Agentهاست.
تا همین چند وقت پیش وقتی می‌گفتیم امنیت هوش مصنوعی بیشتر ذهنمون می‌رفت سمت prompt injection و jailbreak یا لو رفتن اطلاعات از داخل چت.
ولی Agentها داستان رو عوض کردن.
چون Agent فقط جواب نمی‌ده.
میتونه API صدا بزنه، فایل بخونه، به دیتابیس وصل بشه، ابزار اجرا کنه و حتی با Agentهای دیگه ارتباط داشته باشه.
حالا تصور کن یک Agent هک بشه یا یک prompt مخرب باعث بشه از محدوده‌ای که براش تعریف شده خارج بشه.
مشکل دیگه فقط این نیست که چه جوابی به کاربر داده.
مشکل اینه که چه کاری انجام داده.
برای همین بازار جدیدی داره شکل می‌گیره به اسم AI Agent Security.
جالب اینجاست که شرکت‌هایی مثل CyberArk، SailPoint، WitnessAI و Noma Security دارن روی همین موضوع کار می‌کنن و حتی Tigera هم Lynx رو برای امنیت Agentهای اجراشده روی Kubernetes معرفی کرده.
مثلاً ایده Lynx اینه که ارتباطات Agent با LLM، ابزارها و Agentهای دیگه تحت کنترل باشه؛ برای Agent هویت ایجاد بشه، دسترسی‌ها محدود بشن، رفتار Agent مانیتور بشه و اگر رفتار مشکوکی دیدیم، Agent بتونه قرنطینه بشه. حتی از eBPF برای مشاهده فعالیت‌هایی مثل network call، syscall و دسترسی به فایل استفاده میکنه.
به نظرم این قسمت ماجرا خیلی مهمه.
چون ما داریم به سمتی می‌ریم که تعداد زیادی Agent داخل شرکت‌ها، سرورها و Kubernetes اجرا میشن و هرکدوم یک‌سری دسترسی دارن.
اون موقع دیگه اینکه این Agent خوبه یا بد؟ سؤال اصلی نیست.
سؤال اینه:
این Agent دقیقاً کیه؟
به چی دسترسی داره؟
چه کاری اجازه داره انجام بده؟
با چه چیزی ارتباط گرفته؟
و اگر یک روز رفتار عجیبی از خودش نشون داد، چه کسی میتونه متوقفش کنه؟
به نظرم یکی از بازارهای خیلی جدی چند سال آینده همینجاست.
چون هرچقدر Agentها قدرتمندتر بشن، امنیتشون هم باید از یه API Key و چندتا permission خیلی فراتر بره.
و احتمالاً به زودی امنیت Agentها، درست مثل امنیت سرویس‌ها و کانتینرها، تبدیل به یکی از اجزای عادی زیرساخت نرم‌افزار میشه.
شاید الان برای خیلی‌ها زوده.
ولی فکر نمی‌کنم برای مدت زیادی زود بمونه.
#Ai
تا همین چند وقت پیش وقتی می‌گفتیم امنیت هوش مصنوعی بیشتر ذهنمون می‌رفت سمت prompt injection و jailbreak یا لو رفتن اطلاعات از داخل چت.
ولی Agentها داستان رو عوض کردن.
چون Agent فقط جواب نمی‌ده.
میتونه API صدا بزنه، فایل بخونه، به دیتابیس وصل بشه، ابزار اجرا کنه و حتی با Agentهای دیگه ارتباط داشته باشه.
حالا تصور کن یک Agent هک بشه یا یک prompt مخرب باعث بشه از محدوده‌ای که براش تعریف شده خارج بشه.
مشکل دیگه فقط این نیست که چه جوابی به کاربر داده.
مشکل اینه که چه کاری انجام داده.
برای همین بازار جدیدی داره شکل می‌گیره به اسم AI Agent Security.
جالب اینجاست که شرکت‌هایی مثل CyberArk، SailPoint، WitnessAI و Noma Security دارن روی همین موضوع کار می‌کنن و حتی Tigera هم Lynx رو برای امنیت Agentهای اجراشده روی Kubernetes معرفی کرده.
مثلاً ایده Lynx اینه که ارتباطات Agent با LLM، ابزارها و Agentهای دیگه تحت کنترل باشه؛ برای Agent هویت ایجاد بشه، دسترسی‌ها محدود بشن، رفتار Agent مانیتور بشه و اگر رفتار مشکوکی دیدیم، Agent بتونه قرنطینه بشه. حتی از eBPF برای مشاهده فعالیت‌هایی مثل network call، syscall و دسترسی به فایل استفاده میکنه.
به نظرم این قسمت ماجرا خیلی مهمه.
چون ما داریم به سمتی می‌ریم که تعداد زیادی Agent داخل شرکت‌ها، سرورها و Kubernetes اجرا میشن و هرکدوم یک‌سری دسترسی دارن.
اون موقع دیگه اینکه این Agent خوبه یا بد؟ سؤال اصلی نیست.
سؤال اینه:
این Agent دقیقاً کیه؟
به چی دسترسی داره؟
چه کاری اجازه داره انجام بده؟
با چه چیزی ارتباط گرفته؟
و اگر یک روز رفتار عجیبی از خودش نشون داد، چه کسی میتونه متوقفش کنه؟
به نظرم یکی از بازارهای خیلی جدی چند سال آینده همینجاست.
چون هرچقدر Agentها قدرتمندتر بشن، امنیتشون هم باید از یه API Key و چندتا permission خیلی فراتر بره.
و احتمالاً به زودی امنیت Agentها، درست مثل امنیت سرویس‌ها و کانتینرها، تبدیل به یکی از اجزای عادی زیرساخت نرم‌افزار میشه.
شاید الان برای خیلی‌ها زوده.
ولی فکر نمی‌کنم برای مدت زیادی زود بمونه.
#Ai
❤2
آنتروپیک نسخه جدید Claude Fable 5.1 و Mythos 5.1 رو معرفی کرد.
مهم‌ترین تغییرات Fable 5.1:
• عملکرد بهتر در برنامه‌نویسی
• سرعت بیشتر و مصرف بهینه‌تر توکن
• عملکرد بهتر در کارهای Agentic و پیچیده
• حدود ۲۵٪ هزینه کمتر و تا ۴۵٪ کاهش هزینه در بعضی کارهای Agentic
• درک بهتر ابهام‌ها و جزئیات در داده‌ها
• سیستم Safety دقیق‌تر و با محدودیت‌های غیرضروری کمتر
• امکان استفاده برای شناسایی آسیب‌پذیری‌های نرم‌افزاری
و این Mythos 5.1 هم عملکرد قوی‌تری ارائه میده، اما فعلاً فقط برای اعضای Project Glasswing در دسترسه.
#claude
#AgenticAI
مهم‌ترین تغییرات Fable 5.1:
• عملکرد بهتر در برنامه‌نویسی
• سرعت بیشتر و مصرف بهینه‌تر توکن
• عملکرد بهتر در کارهای Agentic و پیچیده
• حدود ۲۵٪ هزینه کمتر و تا ۴۵٪ کاهش هزینه در بعضی کارهای Agentic
• درک بهتر ابهام‌ها و جزئیات در داده‌ها
• سیستم Safety دقیق‌تر و با محدودیت‌های غیرضروری کمتر
• امکان استفاده برای شناسایی آسیب‌پذیری‌های نرم‌افزاری
و این Mythos 5.1 هم عملکرد قوی‌تری ارائه میده، اما فعلاً فقط برای اعضای Project Glasswing در دسترسه.
#claude
#AgenticAI
❤2
از من به شما توصیه دوستان توی هر حوزه ای که کار میکنید تکبر رو بزارید کنار تا موفق بشید
اگر تکبر داشته باشید مسیر هموار پیچیده تر میشه براتون
اگر تکبر داشته باشید مسیر هموار پیچیده تر میشه براتون
❤3
اصول بنیادین مهندسی منسوخ نشده
حتما اگر روی اصول تمرکز نکردید حتما تمرکز کنید و بنای خوبی بسازید تا دیر نشده
حتما اگر روی اصول تمرکز نکردید حتما تمرکز کنید و بنای خوبی بسازید تا دیر نشده
❤2
من قبول دارم که نگاه عمومی نسبت به هوش مصنوعی منفی شده و این واقعاً یک مشکل جدی هست. اما فکر نمی‌کنم دلیل اصلی این موضوع من یا دیگر رهبران حوزه هوش مصنوعی باشیم که درباره خطرات AI هشدار میدیم.
به نظرم مسئله اصلی، بحران اعتماد هست.
مردم دیگه اعتماد زیادی به شرکت‌ها، دولت‌ها یا صنعت فناوری ندارند و همیشه این نگرانی رو دارند که شاید ما در حال طراحی یک راه جدید برای سوءاستفاده از اونا یا ضربه زدن به منافعشون باشیم. ریشه این بی‌اعتمادی هم به سال‌ها و حتی دهه‌ها قبل برمی‌گرده و هوش مصنوعی فقط جدیدترین نمونه این ماجراست.
به همین دلیل، فکر نمی‌کنم یک کمپین تبلیغاتی پرزرق‌وبرق با تمرکز روی جنبه‌های مثبت AI چیزی که بعضی‌ها پیشنهاد کردن Anthropic انجام بده بتونه این اعتماد ازدست‌رفته رو برگردونه.
در شرایط فعلی، گفتن اینکه هوش مصنوعی قرار هست سرطان رو درمان کنه دیگه چندان الهام‌بخش نیست.
بیشتر شبیه یک شعار تبلیغاتی تکراری به نظر می‌رسه و حتی ممکن هست از نظر خیلی‌ها گمراه‌کننده باشه.
چیزی که واقعاً میتونه اعتماد مردم رو برگردونه، این هست که واقعاً سرطان رو درمان کنیم.
به نظرم مهم‌ترین و منصفانه‌ترین انتقادی که میشه به شرکت‌های هوش مصنوعی، از جمله Anthropic، وارد کرد این هست که ما هنوز نتونستیم به وعده‌های بزرگی که درباره تأثیر مثبت AI بر جهان دادیم، آن‌طور که باید عمل کنیم.
این مسئولیت کاملاً بر عهده خود ماست.
بنابراین فکر می‌کنم به جای اینکه مدام درباره پیام‌رسانی، تبلیغات و نحوه معرفی هوش مصنوعی صحبت کنیم، باید از ما بخواید نتیجه واقعی ارائه کنیم.
چون در نهایت چیزی که اعتماد مردم رو برمیگردونه، تبلیغات و شعار نیست.
عمل و دستاورد واقعی هست!!
شب همگی خوش❤️
به نظرم مسئله اصلی، بحران اعتماد هست.
مردم دیگه اعتماد زیادی به شرکت‌ها، دولت‌ها یا صنعت فناوری ندارند و همیشه این نگرانی رو دارند که شاید ما در حال طراحی یک راه جدید برای سوءاستفاده از اونا یا ضربه زدن به منافعشون باشیم. ریشه این بی‌اعتمادی هم به سال‌ها و حتی دهه‌ها قبل برمی‌گرده و هوش مصنوعی فقط جدیدترین نمونه این ماجراست.
به همین دلیل، فکر نمی‌کنم یک کمپین تبلیغاتی پرزرق‌وبرق با تمرکز روی جنبه‌های مثبت AI چیزی که بعضی‌ها پیشنهاد کردن Anthropic انجام بده بتونه این اعتماد ازدست‌رفته رو برگردونه.
در شرایط فعلی، گفتن اینکه هوش مصنوعی قرار هست سرطان رو درمان کنه دیگه چندان الهام‌بخش نیست.
بیشتر شبیه یک شعار تبلیغاتی تکراری به نظر می‌رسه و حتی ممکن هست از نظر خیلی‌ها گمراه‌کننده باشه.
چیزی که واقعاً میتونه اعتماد مردم رو برگردونه، این هست که واقعاً سرطان رو درمان کنیم.
به نظرم مهم‌ترین و منصفانه‌ترین انتقادی که میشه به شرکت‌های هوش مصنوعی، از جمله Anthropic، وارد کرد این هست که ما هنوز نتونستیم به وعده‌های بزرگی که درباره تأثیر مثبت AI بر جهان دادیم، آن‌طور که باید عمل کنیم.
این مسئولیت کاملاً بر عهده خود ماست.
بنابراین فکر می‌کنم به جای اینکه مدام درباره پیام‌رسانی، تبلیغات و نحوه معرفی هوش مصنوعی صحبت کنیم، باید از ما بخواید نتیجه واقعی ارائه کنیم.
چون در نهایت چیزی که اعتماد مردم رو برمیگردونه، تبلیغات و شعار نیست.
عمل و دستاورد واقعی هست!!
شب همگی خوش❤️
🔥1
یه اتفاق جالب توی دنیای AI افتاده که به نظرم خیلی‌ها هنوز جدی نگرفتن.
استارتاپ AIR به‌تازگی ۵۰ میلیون دلار سرمایه جذب کرده؛ برای چی؟
برای امنیت AI Agentها.
شاید در نگاه اول خیلی معمولی به نظر برسه، ولی اگر یکم عمیق‌تر نگاه کنیم، داستان خیلی مهم‌تره.
ما داریم وارد دوره‌ای می‌شیم که شرکت‌ها فقط چندتا مدل AI ندارند.
ده‌ها و صدها Agent دارن که به ابزارهای مختلف وصل میشن.
حالا سؤال مهم اینه:
از کجا بدونیم چیزی که Agent بهش دسترسی داره امنه؟
اگر یک Skill مخرب باشه چی؟
اگر یک MCP Server آلوده باشه چی؟
اگر Plugin دسترسی بیشتری از چیزی که باید داشته باشه بگیره چی؟
اینجاست که یک مفهوم جدید داره جدی میشه:
آقای Agent Security!
تقریباً شبیه همون چیزی که سال‌ها در Software Supply Chain Security داشتیم، ولی این بار برای اکوسیستم Agentها.
به نظرم این یکی از بازارهای جدی چند سال آینده‌ست.
چون هرچقدر Agentها قدرتمندتر بشن، سطح دسترسی‌شون هم بیشتر میشه.
و هرچقدر دسترسی بیشتر بشه، امنیت مهم‌تر میشه.
حالا دوست دارم نظر شما رو بدونم.
به نظرتون بزرگ‌ترین تهدید برای AI Agentها چیه؟
خود مدل؟
دسترسی به سیستم و Terminal؟
یا اشتباهات انسانی در زمان استفاده؟
بیاید اینجا درباره‌ش حرف بزنیم.
اگر تجربه‌ای در کار با Agentها، MCP یا امنیت این سیستم‌ها دارید، حتماً بنویسید.
احتمالاً تجربه شما میتونه برای خیلی‌های دیگه هم مفید باشه.
#AI
#AIAgents
#CyberSecurity
#AgentSecurity
#MCP
#DevOps
#SoftwareDevelopment
استارتاپ AIR به‌تازگی ۵۰ میلیون دلار سرمایه جذب کرده؛ برای چی؟
برای امنیت AI Agentها.
شاید در نگاه اول خیلی معمولی به نظر برسه، ولی اگر یکم عمیق‌تر نگاه کنیم، داستان خیلی مهم‌تره.
ما داریم وارد دوره‌ای می‌شیم که شرکت‌ها فقط چندتا مدل AI ندارند.
ده‌ها و صدها Agent دارن که به ابزارهای مختلف وصل میشن.
حالا سؤال مهم اینه:
از کجا بدونیم چیزی که Agent بهش دسترسی داره امنه؟
اگر یک Skill مخرب باشه چی؟
اگر یک MCP Server آلوده باشه چی؟
اگر Plugin دسترسی بیشتری از چیزی که باید داشته باشه بگیره چی؟
اینجاست که یک مفهوم جدید داره جدی میشه:
آقای Agent Security!
تقریباً شبیه همون چیزی که سال‌ها در Software Supply Chain Security داشتیم، ولی این بار برای اکوسیستم Agentها.
به نظرم این یکی از بازارهای جدی چند سال آینده‌ست.
چون هرچقدر Agentها قدرتمندتر بشن، سطح دسترسی‌شون هم بیشتر میشه.
و هرچقدر دسترسی بیشتر بشه، امنیت مهم‌تر میشه.
حالا دوست دارم نظر شما رو بدونم.
به نظرتون بزرگ‌ترین تهدید برای AI Agentها چیه؟
خود مدل؟
دسترسی به سیستم و Terminal؟
یا اشتباهات انسانی در زمان استفاده؟
بیاید اینجا درباره‌ش حرف بزنیم.
اگر تجربه‌ای در کار با Agentها، MCP یا امنیت این سیستم‌ها دارید، حتماً بنویسید.
احتمالاً تجربه شما میتونه برای خیلی‌های دیگه هم مفید باشه.
#AI
#AIAgents
#CyberSecurity
#AgentSecurity
#MCP
#DevOps
#SoftwareDevelopment
❤2
یه راه ساده برای سبک‌تر کردن Context مدل‌ها
اگه با Coding Agentها یا سیستم‌های RAG کار کرده باشید، احتمالاً دیدید که بعد از مدتی حجم اطلاعاتی که همراه هر درخواست به مدل فرستاده میشه، حسابی زیاد میشه. خروجی ابزارها، نتایج Search، لاگ‌ها و حتی فایل‌هایی که چند بار خونده شدن، دوباره وارد Context میشن و در نهایت هم هزینه بیشتری برای پردازش پرداخت میکنید.
خود هدروم اومده دقیقاً روی همین قسمت کار کنه. این پروژه به‌عنوان یک لایه بین برنامه شما و مدل قرار می‌گیره و قبل از ارسال درخواست، محتوای اضافی رو متناسب با نوع داده فشرده میکنه. برای مثال، خروجی‌های طولانی ابزارها، نتایج تکراری Search و داده‌های ساختاریافته می‌تونن بدون اینکه لازم باشه کل معماری Agent رو تغییر بدید، کوچک‌تر بشن.
یکی از ویژگی‌های جالبش اینه که برای همه داده‌ها از یک روش ثابت استفاده نمی‌کنه؛ برای لاگ، کد، JSON، نتایج Search و متن معمولی مسیرهای متفاوتی داره. در حالت‌های مختلف هم میتونه داده‌های فشرده‌شده رو به شکل قابل بازیابی نگه داره تا اگر Agent دوباره به نسخه کامل اطلاعات احتیاج داشت، امکان Retrieve وجود داشته باشه.
طبق Quickstart خود پروژه، در بعضی سناریوها کاهش مصرف قابل‌توجهه؛ مثلاً برای خروجی ابزارهایی که شامل لیست‌های بزرگ هستن حدود ۷۰ تا ۹۰٪ و برای نتایج جست‌وجوی تکراری حدود ۶۰ تا ۸۰٪ صرفه‌جویی گزارش شده. البته این اعداد به نوع داده و تنظیمات بستگی دارن و قرار نیست هر Context ای با همین نسبت کوچک بشه.
برای استفاده هم می‌تونی Headroom رو به‌صورت Proxy جلوی Agent قرار بدی یا از
در واقع ایده‌اش خیلی ساده‌ست: قبل از اینکه Context رو بزرگ‌تر و پرهزینه‌تر کنی، ببین واقعاً کدوم قسمت‌های اطلاعات برای مدل ضروریه
لینک مخزن این پروژه : Github
#Ai
اگه با Coding Agentها یا سیستم‌های RAG کار کرده باشید، احتمالاً دیدید که بعد از مدتی حجم اطلاعاتی که همراه هر درخواست به مدل فرستاده میشه، حسابی زیاد میشه. خروجی ابزارها، نتایج Search، لاگ‌ها و حتی فایل‌هایی که چند بار خونده شدن، دوباره وارد Context میشن و در نهایت هم هزینه بیشتری برای پردازش پرداخت میکنید.
خود هدروم اومده دقیقاً روی همین قسمت کار کنه. این پروژه به‌عنوان یک لایه بین برنامه شما و مدل قرار می‌گیره و قبل از ارسال درخواست، محتوای اضافی رو متناسب با نوع داده فشرده میکنه. برای مثال، خروجی‌های طولانی ابزارها، نتایج تکراری Search و داده‌های ساختاریافته می‌تونن بدون اینکه لازم باشه کل معماری Agent رو تغییر بدید، کوچک‌تر بشن.
یکی از ویژگی‌های جالبش اینه که برای همه داده‌ها از یک روش ثابت استفاده نمی‌کنه؛ برای لاگ، کد، JSON، نتایج Search و متن معمولی مسیرهای متفاوتی داره. در حالت‌های مختلف هم میتونه داده‌های فشرده‌شده رو به شکل قابل بازیابی نگه داره تا اگر Agent دوباره به نسخه کامل اطلاعات احتیاج داشت، امکان Retrieve وجود داشته باشه.
طبق Quickstart خود پروژه، در بعضی سناریوها کاهش مصرف قابل‌توجهه؛ مثلاً برای خروجی ابزارهایی که شامل لیست‌های بزرگ هستن حدود ۷۰ تا ۹۰٪ و برای نتایج جست‌وجوی تکراری حدود ۶۰ تا ۸۰٪ صرفه‌جویی گزارش شده. البته این اعداد به نوع داده و تنظیمات بستگی دارن و قرار نیست هر Context ای با همین نسبت کوچک بشه.
برای استفاده هم می‌تونی Headroom رو به‌صورت Proxy جلوی Agent قرار بدی یا از
headroom wrap برای بعضی ابزارها استفاده کنی؛ در نتیجه لازم نیست برای استفاده ازش کل کدت رو بازنویسی کنی. در واقع ایده‌اش خیلی ساده‌ست: قبل از اینکه Context رو بزرگ‌تر و پرهزینه‌تر کنی، ببین واقعاً کدوم قسمت‌های اطلاعات برای مدل ضروریه
لینک مخزن این پروژه : Github
#Ai
❤1
تازگیا تلگرام یک سری مشکلات پیدا کرده متاسفانه
هر آپدیتی به منظور افزایش کیفیت و بهره وری نیست
هر آپدیتی به منظور افزایش کیفیت و بهره وری نیست
❤2