اگه فکر می‌کنین مدل‌های زبانی بزرگ (LLM) واقعاً مثل ما انسان‌ها «فکر» و «استدلال» می‌کنند، نتایج مقاله جدید اپل کلاً نگاه‌تون رو عوض می‌کنه!
تیم پژوهشی اپل توی این تحقیق دست گذاشته روی یه موضوع حیاتی: این مدل‌ها چقدر توی استدلال واقعی ریاضی ضعف دارند و چرا نباید توی کارهای عمیق و تحلیلی چشم‌بسته بهشون اعتماد کرد.
خلاصه چیزایی که اپل کشف کرده:
پاسخ‌های ناپایدار: مدل‌ها حتی با یه تغییر خیلی کوچیک توی صورت مسئله ریاضی (در حد سطح دبستان)، کلاً گیج میشن و جواب‌های متناقض میدن. این یعنی بنچمارک‌های معروف مثل GSM8K واقعیت توانایی مدل رو نشون نمیدن.
شکنندگی شدید: به محض اینکه مسئله یکم پیچیده‌تر میشه، دقت مدل شدیداً افت می‌کنه؛ چون اصلاً استدلال عمیقی پشت پاسخ‌هاش نیست.
حواس‌پراتی با اطلاعات بی‌ربط: اگه یکم جزییات انحرافی و بی‌تأثیر به صورت مسئله اضافه کنید، عملکرد مدل تا ۶۵ درصد افت می‌کنه! جالب اینجاست که حتی با فاین‌تیون کردن (Fine-tuning) هم این مشکل حل نشده.
تطبیق الگو به‌جای فهم منطقی: مدل‌ها مسائل رو «حل» نمی‌کنند، فقط الگوی متنی سوال رو با چیزهایی که قبلاً دیدند تطبیق میدن (Pattern Matching).
این نتایج چه مفهومی برامون داره؟
مدل‌های زبانی ابزارهای فوق‌العاده‌ای برای بالا بردن سرعت کارها هستند، اما چون نمی‌تونند جزییات مهم رو از نویز تشخیص بدن و کلاً بر اساس الگوی توکن‌ها کار می‌کنند، اصلاً واسه پژوهش‌ها و کارهای منطقیِ سخت‌گیرانه قابل اعتماد نیستند.
توی حوزه‌هایی مثل ریاضی، مهندسی نرم‌افزار و علوم داده که «دقت» حرف اول و آخر رو میزنه، اصلاً نمیشه روی استدلال این مدل‌ها حساب کرد.
این ابزارها هرچقدر هم جذاب باشند، فعلاً فقط ظاهرِ استدلال رو شبیه‌سازی می‌کنند و حالا حالاها مونده تا به تفکر انتقادی انسان برسند.
#هوش_مصنوعی
#توسعه_نرم_افزار
#LLM
#AppleResearch
#AI_Architecture
#MathAI
تیم پژوهشی اپل توی این تحقیق دست گذاشته روی یه موضوع حیاتی: این مدل‌ها چقدر توی استدلال واقعی ریاضی ضعف دارند و چرا نباید توی کارهای عمیق و تحلیلی چشم‌بسته بهشون اعتماد کرد.
خلاصه چیزایی که اپل کشف کرده:
پاسخ‌های ناپایدار: مدل‌ها حتی با یه تغییر خیلی کوچیک توی صورت مسئله ریاضی (در حد سطح دبستان)، کلاً گیج میشن و جواب‌های متناقض میدن. این یعنی بنچمارک‌های معروف مثل GSM8K واقعیت توانایی مدل رو نشون نمیدن.
شکنندگی شدید: به محض اینکه مسئله یکم پیچیده‌تر میشه، دقت مدل شدیداً افت می‌کنه؛ چون اصلاً استدلال عمیقی پشت پاسخ‌هاش نیست.
حواس‌پراتی با اطلاعات بی‌ربط: اگه یکم جزییات انحرافی و بی‌تأثیر به صورت مسئله اضافه کنید، عملکرد مدل تا ۶۵ درصد افت می‌کنه! جالب اینجاست که حتی با فاین‌تیون کردن (Fine-tuning) هم این مشکل حل نشده.
تطبیق الگو به‌جای فهم منطقی: مدل‌ها مسائل رو «حل» نمی‌کنند، فقط الگوی متنی سوال رو با چیزهایی که قبلاً دیدند تطبیق میدن (Pattern Matching).
این نتایج چه مفهومی برامون داره؟
مدل‌های زبانی ابزارهای فوق‌العاده‌ای برای بالا بردن سرعت کارها هستند، اما چون نمی‌تونند جزییات مهم رو از نویز تشخیص بدن و کلاً بر اساس الگوی توکن‌ها کار می‌کنند، اصلاً واسه پژوهش‌ها و کارهای منطقیِ سخت‌گیرانه قابل اعتماد نیستند.
توی حوزه‌هایی مثل ریاضی، مهندسی نرم‌افزار و علوم داده که «دقت» حرف اول و آخر رو میزنه، اصلاً نمیشه روی استدلال این مدل‌ها حساب کرد.
این ابزارها هرچقدر هم جذاب باشند، فعلاً فقط ظاهرِ استدلال رو شبیه‌سازی می‌کنند و حالا حالاها مونده تا به تفکر انتقادی انسان برسند.
#هوش_مصنوعی
#توسعه_نرم_افزار
#LLM
#AppleResearch
#AI_Architecture
#MathAI
❤1
هوش مصنوعی داره از صفحه‌نمایش بیرون میاد و وارد دنیای واقعی میشه.
یکی از شرکت‌هایی که این تغییر رو خیلی جدی دنبال می‌کنه، شرکت آلمانی NEURA Robotics هست؛ شرکتی که می‌خواد Physical AI رو از یک مفهوم تحقیقاتی به یک اکوسیستم واقعی برای ربات‌ها تبدیل کنه.
این NEURA اخیراً یک سرمایه‌گذاری Series C با ارزش بالقوه تا ۱.۴ میلیارد دلار اعلام کرده و حالا هدفش توسعه چیزی فراتر از چند ربات هوشمنده. ایده اصلی، ساخت اکوسیستمی به نام Neuraverse هست؛ جایی که ربات‌های انسان‌نما، ربات‌های صنعتی و ربات‌های متحرک بتونن از زیرساخت هوش مشترکی استفاده کنن، از محیط واقعی یاد بگیرن و با یکدیگر همکاری کنن.
نکته مهم اینجاست که NEURA فقط روی خود ربات تمرکز نکرده. ترکیبی از AI، سنسورها، پردازش لبه‌ای، زیرساخت یادگیری و سیستم‌های رباتیک در یک پلتفرم واحد قرار گرفته تا این ربات‌ها بتونن در محیط‌های واقعی فعالیت کنن.
حتی ACTIVE Shuttle که قبلاً توسط Bosch Rexroth توسعه داده شده بود، حالا وارد اکوسیستم NEURA شده تا یک سیستم حمل‌ونقل صنعتی موجود، به مرور با قابلیت‌های Physical AI ترکیب بشه.
این NEURA همچنین از چیزی به نام NEURA Gyms صحبت می‌کنه؛ محیط‌های واقعی بزرگی که برای آموزش و تمرین ربات‌های شناختی طراحی میشن. یعنی به‌جای اینکه مدل فقط روی داده‌های دیجیتال آموزش ببینه، باید با دنیای فیزیکی، اشیا، حرکت و محدودیت‌های واقعی هم تعامل داشته باشه.
اینجا به نظرم یک تغییر مهم در مسیر AI اتفاق می‌افته.
و در واقع LLM بیشتر با «اطلاعات» سر و کار دارن؛ اما Physical AI باید بتونه محیط رو درک کنه، تصمیم بگیره، حرکت کنه و نتیجه حرکت خودش رو دوباره مشاهده کنه.
یعنی چرخه‌ی واقعی:
Perception → Reasoning → Action → Feedback
و این دقیقاً جاییه که AI وارد مرحله‌ی جدیدی میشه.
از طرف دیگه، همکاری NEURA با شرکت‌هایی مثل Amazon، Qualcomm و Bosch نشون میده که Physical AI فقط یک پروژه رباتیک نیست؛ بلکه ترکیبی از AI، Edge Computing، سنسورها، Cloud Infrastructure، چیپ‌ها و مهندسی مکانیکه.
به نظرم رقابت بزرگ بعدی AI فقط روی مدل‌های زبانی نخواهد بود.
بخشی از رقابت اصلی روی این خواهد بود که چه کسی می‌تونه هوش مصنوعی رو از «تولید پاسخ» به «انجام عمل در دنیای واقعی» برسونه.
و اگر این اتفاق در مقیاس بالا عملی بشه، ربات‌ها دیگه صرفاً ماشین‌های برنامه‌ریزی‌شده نیستن؛ تبدیل میشن به Agentهایی که می‌بینن، تصمیم می‌گیرن، یاد می‌گیرن و عمل می‌کنن.
و در نهایت Physical AI شاید یکی از مهم‌ترین موج‌های بعدی هوش مصنوعی باشه.
#LLM
#AIAgents
#AI_Architecture
یکی از شرکت‌هایی که این تغییر رو خیلی جدی دنبال می‌کنه، شرکت آلمانی NEURA Robotics هست؛ شرکتی که می‌خواد Physical AI رو از یک مفهوم تحقیقاتی به یک اکوسیستم واقعی برای ربات‌ها تبدیل کنه.
این NEURA اخیراً یک سرمایه‌گذاری Series C با ارزش بالقوه تا ۱.۴ میلیارد دلار اعلام کرده و حالا هدفش توسعه چیزی فراتر از چند ربات هوشمنده. ایده اصلی، ساخت اکوسیستمی به نام Neuraverse هست؛ جایی که ربات‌های انسان‌نما، ربات‌های صنعتی و ربات‌های متحرک بتونن از زیرساخت هوش مشترکی استفاده کنن، از محیط واقعی یاد بگیرن و با یکدیگر همکاری کنن.
نکته مهم اینجاست که NEURA فقط روی خود ربات تمرکز نکرده. ترکیبی از AI، سنسورها، پردازش لبه‌ای، زیرساخت یادگیری و سیستم‌های رباتیک در یک پلتفرم واحد قرار گرفته تا این ربات‌ها بتونن در محیط‌های واقعی فعالیت کنن.
حتی ACTIVE Shuttle که قبلاً توسط Bosch Rexroth توسعه داده شده بود، حالا وارد اکوسیستم NEURA شده تا یک سیستم حمل‌ونقل صنعتی موجود، به مرور با قابلیت‌های Physical AI ترکیب بشه.
این NEURA همچنین از چیزی به نام NEURA Gyms صحبت می‌کنه؛ محیط‌های واقعی بزرگی که برای آموزش و تمرین ربات‌های شناختی طراحی میشن. یعنی به‌جای اینکه مدل فقط روی داده‌های دیجیتال آموزش ببینه، باید با دنیای فیزیکی، اشیا، حرکت و محدودیت‌های واقعی هم تعامل داشته باشه.
اینجا به نظرم یک تغییر مهم در مسیر AI اتفاق می‌افته.
و در واقع LLM بیشتر با «اطلاعات» سر و کار دارن؛ اما Physical AI باید بتونه محیط رو درک کنه، تصمیم بگیره، حرکت کنه و نتیجه حرکت خودش رو دوباره مشاهده کنه.
یعنی چرخه‌ی واقعی:
Perception → Reasoning → Action → Feedback
و این دقیقاً جاییه که AI وارد مرحله‌ی جدیدی میشه.
از طرف دیگه، همکاری NEURA با شرکت‌هایی مثل Amazon، Qualcomm و Bosch نشون میده که Physical AI فقط یک پروژه رباتیک نیست؛ بلکه ترکیبی از AI، Edge Computing، سنسورها، Cloud Infrastructure، چیپ‌ها و مهندسی مکانیکه.
به نظرم رقابت بزرگ بعدی AI فقط روی مدل‌های زبانی نخواهد بود.
بخشی از رقابت اصلی روی این خواهد بود که چه کسی می‌تونه هوش مصنوعی رو از «تولید پاسخ» به «انجام عمل در دنیای واقعی» برسونه.
و اگر این اتفاق در مقیاس بالا عملی بشه، ربات‌ها دیگه صرفاً ماشین‌های برنامه‌ریزی‌شده نیستن؛ تبدیل میشن به Agentهایی که می‌بینن، تصمیم می‌گیرن، یاد می‌گیرن و عمل می‌کنن.
و در نهایت Physical AI شاید یکی از مهم‌ترین موج‌های بعدی هوش مصنوعی باشه.
#LLM
#AIAgents
#AI_Architecture
❤1👍1
اگر فکر می‌کردید ماجرای OpenAI و Hugging Face قراره یک هشدار جدی برای شرکت‌ها باشه و باعث بشه بالاخره ریسک‌های AI Agentها رو جدی‌تر بگیرن، ظاهراً هنوز خیلی زوده که چنین نتیجه‌ای بگیریم.
مسئله جالب اینجاست که حتی بعد از چنین اتفاقی، بخش بزرگی از شرکت‌ها هنوز Agentهای هوش مصنوعی خودشون رو به شکل جدی مانیتور نمی‌کنن. یعنی ما داریم سیستم‌هایی رو وارد محیط‌های واقعی می‌کنیم که می‌تونن تصمیم بگیرن، با ابزارها تعامل داشته باشن، به سرویس‌های مختلف دسترسی پیدا کنن و چندین مرحله پشت سر هم عمل کنن، ولی در خیلی از موارد حتی نظارت مناسبی روی رفتار همین Agentها وجود نداره.
مشکل اصلی هم دقیقاً همین‌جاست. وقتی یک LLM فقط جواب متنی تولید می‌کنه، یک خطای اشتباه ممکنه نهایتاً یک پاسخ غلط باشه؛ اما وقتی همون مدل تبدیل به Agent میشه و به ابزار، فایل، API یا سیستم‌های واقعی دسترسی پیدا می‌کنه، یک تصمیم اشتباه می‌تونه تبدیل به یک زنجیره کامل از اقدامات اشتباه بشه.
ماجرای OpenAI و Hugging Face بیشتر از اینکه فقط یک اتفاق عجیب باشه، نشون میده مسئله امنیت Agentها دیگه یک بحث تئوری نیست. اگر شرکت‌ها قراره Agentها رو وارد فرآیندهای واقعی کنن، مانیتورینگ، محدودکردن دسترسی‌ها، ثبت رفتار و امکان متوقف‌کردن Agent باید از ابتدا بخشی از طراحی سیستم باشه، نه چیزی که بعداً وقتی یک اتفاق جدی افتاد بهش فکر کنیم.
#AIAgents
#FutureOfWork
#AI_Architecture
مسئله جالب اینجاست که حتی بعد از چنین اتفاقی، بخش بزرگی از شرکت‌ها هنوز Agentهای هوش مصنوعی خودشون رو به شکل جدی مانیتور نمی‌کنن. یعنی ما داریم سیستم‌هایی رو وارد محیط‌های واقعی می‌کنیم که می‌تونن تصمیم بگیرن، با ابزارها تعامل داشته باشن، به سرویس‌های مختلف دسترسی پیدا کنن و چندین مرحله پشت سر هم عمل کنن، ولی در خیلی از موارد حتی نظارت مناسبی روی رفتار همین Agentها وجود نداره.
مشکل اصلی هم دقیقاً همین‌جاست. وقتی یک LLM فقط جواب متنی تولید می‌کنه، یک خطای اشتباه ممکنه نهایتاً یک پاسخ غلط باشه؛ اما وقتی همون مدل تبدیل به Agent میشه و به ابزار، فایل، API یا سیستم‌های واقعی دسترسی پیدا می‌کنه، یک تصمیم اشتباه می‌تونه تبدیل به یک زنجیره کامل از اقدامات اشتباه بشه.
ماجرای OpenAI و Hugging Face بیشتر از اینکه فقط یک اتفاق عجیب باشه، نشون میده مسئله امنیت Agentها دیگه یک بحث تئوری نیست. اگر شرکت‌ها قراره Agentها رو وارد فرآیندهای واقعی کنن، مانیتورینگ، محدودکردن دسترسی‌ها، ثبت رفتار و امکان متوقف‌کردن Agent باید از ابتدا بخشی از طراحی سیستم باشه، نه چیزی که بعداً وقتی یک اتفاق جدی افتاد بهش فکر کنیم.
#AIAgents
#FutureOfWork
#AI_Architecture
❤1
اگر با Machine Learning کار می‌کنید ولی هنوز بعضی الگوریتم‌ها براتون بیشتر شبیه مجموعه‌ای از فرمول‌های خشک هستن، این پروژه می‌تونه خیلی جالب باشه.
پروژه اوپن‌سورس ML Visualized الگوریتم‌های مختلف Machine Learning رو از پایه پیاده‌سازی کرده و به‌جای اینکه فقط کد یا فرمول رو نشون بده، سعی می‌کنه فرآیند یادگیری مدل رو به‌صورت بصری نمایش بده.
نکته جالبش اینه که بخش زیادی از پیاده‌سازی‌ها فقط با NumPy انجام شده؛ یعنی می‌تونید دقیق‌تر ببینید پشت الگوریتم‌هایی که معمولاً با کتابخونه‌های آماده استفاده می‌کنیم چه اتفاقی می‌افته و مدل چطور از داده‌ها یاد می‌گیره.
از طرفی با نمودارها و visualizationهای تعاملی میشه تغییرات مدل در طول Training رو مرحله‌به‌مرحله مشاهده کرد. برای کسی که می‌خواد به‌جای حفظ‌کردن فرمول‌ها، واقعاً منطق پشت الگوریتم‌ها رو بفهمه، چنین پروژه‌ای می‌تونه منبع تمرینی خوبی باشه.
┌─ 〔 PROJECT LINKS 〕
│ ↳ ◈ Website
│ ↳ ◈ GitHub
└──────────────────
#AIAgents
#AI_Architecture
پروژه اوپن‌سورس ML Visualized الگوریتم‌های مختلف Machine Learning رو از پایه پیاده‌سازی کرده و به‌جای اینکه فقط کد یا فرمول رو نشون بده، سعی می‌کنه فرآیند یادگیری مدل رو به‌صورت بصری نمایش بده.
نکته جالبش اینه که بخش زیادی از پیاده‌سازی‌ها فقط با NumPy انجام شده؛ یعنی می‌تونید دقیق‌تر ببینید پشت الگوریتم‌هایی که معمولاً با کتابخونه‌های آماده استفاده می‌کنیم چه اتفاقی می‌افته و مدل چطور از داده‌ها یاد می‌گیره.
از طرفی با نمودارها و visualizationهای تعاملی میشه تغییرات مدل در طول Training رو مرحله‌به‌مرحله مشاهده کرد. برای کسی که می‌خواد به‌جای حفظ‌کردن فرمول‌ها، واقعاً منطق پشت الگوریتم‌ها رو بفهمه، چنین پروژه‌ای می‌تونه منبع تمرینی خوبی باشه.
┌─ 〔 PROJECT LINKS 〕
│ ↳ ◈ Website
│ ↳ ◈ GitHub
└──────────────────
#AIAgents
#AI_Architecture
❤1