دیگه وقتشه بی خیال کدکس 100 دلاری بشیم کار با همون 20 دلاری Claude هم راه می افته

خیلی ساده این نمودار یعنی این:
برای قیمت برابر انتروپیک ۵ برابر ارزش بیشتری از اپن‌ای‌آی ارائه می‌کند.
منبع

نکته جالب دیگه گزارش اینه که ارزان‌سازی‌هایی که روی مدل‌ها انجام می‌دهند بیشتر به نفع شرکت‌هاست تا مصرف کننده‌ها!

این بهترین نموداری است که نشون میده Claude آنتروپیک به نسبت هزینه(Fee) بالاترین توکن مصرفی و هزینه API را در بین همه‌ی مدل‌ها دارد!

https://x.com/chetaslua/status/2107234675110666594?s=20
این هم تصویر سازی خیلی جالبیه از مقایسه ارزش قیمت اشتراک‌های Claude و ChatGPT است

از ۱۰ هزار ایجنت تا یک پرامپت؛ جهش عجیب OpenAI در حل مسائل ریاضی!

در جریانید که OpenAI هفتهٔ گذشته از حل یا پیشرفت چشمگیر در ۳۷۲ مسئلهٔ حل‌نشدهٔ ریاضیات و علوم کامپیوتر نظری خبر داد؟
نتایج شامل ۷۱۹ مقاله و دست‌نوشتهٔ ریاضی است؛ از ادعای حل حدس کاکیا (Kakeya) در چهار بُعد، که به هندسهٔ مجموعه‌های بسیار پیچیده مربوط می‌شود، تا بهبود الگوریتم‌های مهم و پیشرفت در مسائل مرتبط با فرضیهٔ ریمان؛ یکی از مشهورترین مسائل حل‌نشدهٔ ریاضیات.
اما شاید نکتهٔ عجیب‌تر، نه خود این نتایج، بلکه روش رسیدن به آن‌ها باشد!
سخنگوی OpenAI به مجلهٔ ساینتیفیک امریکن (Scientific American) گفته تقریباً تمام این نتایج با دادن تنها یک پرامپت به یک ایجنت منفرد به دست آمده‌اند.
برای درک اهمیت این ادعا، کافی است به یک ماه قبل برگردیم: زمانی که OpenAI مدعی حل مسئلهٔ مشهور ناویر–استوکس، یکی از مسائل جایزهٔ هزاره، شد. آن موفقیت حاصل یک سامانهٔ عظیم با حدود ۱۰ هزار ایجنت هم‌زمان، میلیون‌ها پیام و میلیون‌ها دلار هزینهٔ محاسباتی بود.
حالا ظاهراً همان مدلِ ارتقایافته می‌تواند برای هر مسئله، با یک درخواست و بدون نیاز به آن ارکستراسیون عظیم چندایجنتی، به نتایج پژوهشی برسد. طبق گزارش OpenAI، میانگین محاسبات برای هر نتیجه معادل حدود سه ساعت تفکر در ChatGPT Pro بوده است.
این موضوع را می‌شود به بحث دیگری هم وصل کرد.
پدرو دومینگوس، پژوهشگر مشهور یادگیری ماشین، اخیراً با اشاره به مقاله‌ای دربارهٔ یادگیری هارنس (Harness Learning) نوشته:
«خیلی طول نکشید؛ مدل دارد هارنس را می‌بلعد!»
هارنس همان لایهٔ نرم‌افزاری اطراف مدل است که فراخوانی ابزارها، گردش اطلاعات و مراحل اجرای ایجنت را مدیریت می‌کند. مقالهٔ مورد اشاره نشان می‌دهد که خود مدل‌ها می‌توانند اصلاح این لایه را هم یاد بگیرند.
ایلان ماسک هم در پاسخ گفته اتفاق مشابهی در سیستم رانندگی خودکار تسلا افتاده؛ مدل به‌تدریج وظایف بیشتری از کدهای ++C را بر عهده گرفته است.
البته این‌ها هنوز به معنی حذف کامل هارنس نیستند، اما می‌توانند نشانهٔ یک تغییر مهم باشند: بخشی از پیچیدگی‌ای که قبلاً باید در سیستم‌های بیرونی مهندسی می‌کردیم، دارد به توانایی خود مدل منتقل می‌شود.
اگر این ادعاها تأیید شوند، شاید مهم‌ترین اتفاق نه صرفاً حل چندصد مسئلهٔ ریاضی، بلکه نزدیک‌تر شدن پژوهش علمی پیشرفته به چیزی شبیه دادن یک مسئله به یک مدل و دریافت یک نتیجهٔ پژوهشی باشد.
🔗 گزارش ساینتیفیک امریکن
🔗 مخزن نتایج ریاضی OpenAI
🔗 توییت پدرو دومینگوس
🔗 مقالهٔ یادگیری هارنس
📡 تهیه و تنظیم برای کانال توییت‌دِو
نشانی کانال: https://t.me/tweetdev

یه مدل ۲۷ میلیارد(Qwen 3.8 27B) پارامتری که به‌صورت محلی اجرا می‌شه، ۳۵٪ هوشمندتر از مدل پیشرو SOTA یک سال پیشه.تصور کن سال آینده چه مدل‌هایی به‌صورت محلی اجرا می‌شن؟

از دیروز Opencode سه تا مدل ش رو رایگان کرده!

کامیت لینوس توروالدز در مورد اقرار به برتری کد ai به خودش

🧠 آیندهٔ هوش مصنوعی در ۲۰۲۷؛ بخش اول

۱. احتمالاً مدل‌های Fable 5.5 و GPT-6.1 Astra آخرین عرضه‌های بزرگ ۲۰۲۶ باشن؛ البته ممکنه هیچ‌کدوم با همین اسم‌ها منتشر نشن و حتی Anthropic مستقیم بره سراغ Fable 6.
مدل Astra هم احتمالاً قوی‌ترین عضو خانوادهٔ GPT نخواهد بود و شاید مدل قدرتمندتری مثل GPT-7 Bel در راه باشه. پایان ۲۰۲۶ می‌تونه شروع حرکت به سمت نسل کاملاً تازه‌ای از مدل‌ها باشه. البته این اسم‌ها و زمان‌بندی‌ها کاملاً در حد گمانه‌زنی‌ان.
۲. سال ۲۰۲۷، آزمایش با معماری‌های تازه جدی‌تر می‌شه؛ از Mamba و آموزش هنگام استفاده (TTT) تا روش‌های انتشار برای تولید متن.
ممکنه خانواده‌های آزمایشی تازه‌ای از مدل‌ها معرفی بشن که حتی اسم GPT یا Claude رو نداشته باشن. ترنسفورمرها هم مدت زیادی باقی می‌مونن و روش‌ها و لایه‌های تازه، اون‌ها رو بهینه‌تر می‌کنن.
۳. شبکه‌های عصبی بازگشتی (RNN) دوباره پررنگ می‌شن. معماری‌هایی مثل RWKV نشون دادن که نسخه‌های امروزی این رویکرد ظرفیت زیادی دارن و می‌تونن به کارایی و کیفیت آموزش کمک کنن.
۴. خودبهسازی بازگشتی (RSI) قرار نیست به‌تنهایی معجزه کنه. کارهای تکراری پژوهش و مهندسی خودکارتر می‌شن، ولی جهش‌های بنیادی همچنان به ایده‌ها و مداخلهٔ پژوهشگرها وابسته می‌مونن.
هرچی فرایند آموزش اولیه و یادگیری تقویتی ضعیف‌تر باشه، خطر افت کیفیت بر اثر آموزش تکراری با داده‌های مصنوعی هم بیشتر می‌شه؛ مشکلی شبیه چیزی که توی تقطیر دانش دیده می‌شه.
۵. معماری‌های تازه، مصرف حافظهٔ مدل‌های زبانی رو پایین می‌آرن، کانتکست چند برابر می‌شه و سرعت تولید توکن بالاتر می‌ره. مدل‌هایی با کانتکست ۱۰ میلیون توکن یا بیشتر، توی ۲۰۲۷ رایج‌تر می‌شن.
۶. مدل‌های ردهٔ Haiku و Luna کنار گذاشته می‌شن.
۷. مدل‌های خیلی بهینه‌ای عرضه می‌شن که عملاً بشه بدون محدودیت‌های مصرف فعلی ازشون استفاده کرد. ممکنه مدل‌هایی در سطح Opus 5.5 در دسترس قرار بگیرن که دیگه سقف مصرف هفتگی نداشته باشن.
۸. معماری‌های تازه، مدل‌های خیلی کوچیک و قابل‌اجرا روی دستگاه‌های جیبی رو متحول می‌کنن. ولی بهترین نمونه‌ها لزوماً باز منتشر نمی‌شن؛ احتمالاً با مجوزهای بسته و قراردادهای اختصاصی به چند شریک مثل اپل و سونی می‌رسن.
منبع: توئیت اصلی

🧠 آیندهٔ هوش مصنوعی در ۲۰۲۷؛ بخش دوم

۹. فاصلهٔ مدل‌های بزرگ با وزن باز از پیشرفته‌ترین مدل‌های بسته بیشتر می‌شه. اجرای قوی‌ترین مدل‌های باز هم همچنان سخت‌افزاری با قیمت چندده‌هزار دلار می‌خواد.
۱۰. شرکت DeepSeek توی ۲۰۲۷ فاصله‌اش رو با رقبای چینی بیشتر می‌کنه. هم‌زمان، بخش بزرگ‌تری از صنعت هوش مصنوعی چین وارد رکود می‌شه؛ بعضی آزمایشگاه‌ها تعطیل می‌شن یا سرمایه‌گذاری‌شون به‌شدت کم می‌شه، چون ناکارآمدی اقتصادی‌شون بیشتر خودش رو نشون می‌ده.
۱۱. برخلاف انتظار برای شدیدترشدن کمبود حافظه و نیمه‌رسانا، ممکنه تا میانهٔ ۲۰۲۷ قیمت سخت‌افزار به‌شکل محسوسی پایین بیاد و دسترسی به قطعات بهتر بشه.
۱۲. گوگل برندهٔ رقابت هوش مصنوعی نمی‌شه و قیمت سهامش به افت ادامه می‌ده؛ شاید خیلی بیشتر از چیزی که تصور می‌شه.
۱۳. سهام اپل سقوط می‌کنه و این شرکت توی هماهنگ‌کردن دستگاه‌ها و سرویس‌هاش با عصر هوش مصنوعی به مشکل می‌خوره.
در عوض، دستگاه‌های تازه‌ای از شرکت‌های کوچیک‌تر و آزمایشگاه‌های هوش مصنوعی می‌آد که مرز گوشی، لپ‌تاپ و سرور رو کم‌رنگ می‌کنن. همه‌چیز از طریق یه دستگاه کنترل می‌شه و بخش زیادی از پردازش توی ابر اتفاق می‌افته.
۱۴. اپ‌ها و سایت‌های مستقل کم‌کم شروع به محوشدن می‌کنن. به‌جای گشتن بین رابط‌های از پیش طراحی‌شده، نرم‌افزار همون لحظه برای نیاز مشخص کاربر ساخته می‌شه.
خودِ کد هم جایگاهش رو به‌عنوان منبع اصلی ارزش از دست می‌ده. ویجت‌های تعاملی داخل پاسخ دستیارها، نشونه‌های اولیهٔ این مسیرن و این روند با سرعت بیشتری ادامه پیدا می‌کنه.
۱۵. بازی‌سازی وارد یه دورهٔ شکوفایی می‌شه. طی دو سال آینده، هزینه و زمان ساخت بازی تقریباً نصف می‌شه و توسعه‌دهنده‌های تک‌نفرهٔ بیشتری بازی‌هایی با کیفیت تولید در سطح AA+ منتشر می‌کنن.
خیلی از ناشرهای بزرگ هم وارد بحران جدی می‌شن و ممکنه ارزش سهامشون به کسری از مقدار فعلی برسه.
۱۶. سال ۲۰۲۷ می‌تونه ویرانگرترین سال تاریخ بازار سهام باشه؛ سالی که تعداد زیادی از شرکت‌هایی که دهه‌ها دست‌نخوردنی به‌نظر می‌رسیدن، وارد سراشیبی می‌شن.
۱۷. برای نسل تازهٔ درمان‌های سرطان، نتایجی نزدیک به نرخ درمان ۹۰ درصد در آزمایش‌های انسانی اولیه پیش‌بینی می‌شه؛ با این احتمال که این درمان‌ها تا ۲۰۲۹ به‌شکل گسترده در دسترس قرار بگیرن.
منبع: توئیت اصلی

این توئیت رو دیدم؛ جدا از این‌که پیش‌بینی‌هاش درست از آب درمی‌آد یا نه، این‌که توی چه حوزه‌هایی منتظر تغییر آینده‌ست خیلی برام جذاب بود. ذهن آدم رو می‌بره سمت یه‌سری تغییر که شاید تا حالا کمتر بهشون فکر کرده باشه.
متن کاملش رو با یه‌کم توضیح دربارهٔ بخش‌های فنی اینجا گذاشتم.

آسترا فقط ۰٫۰۱۶٪ وزن‌های یک مدل رو تغییر داد و نمرهٔ آزمون ریاضی‌اش ۶ برابر شد!

مدل کوچک کوئن (Qwen3.5-0.8B) وسط حل مسئله مدام خودش رو تکرار می‌کرد. آسترا (GPT-6 Astra) ردّ این مشکل رو تا دو لایه دنبال کرد و با تغییر مستقیم وزن‌های اون‌ها، دقت کوئن رو در آزمون ریاضی (MATH-500) از ۷٫۹٪ به ۴۸٫۱٪ رسوند. همهٔ این‌ها بدون بازآموزی کوئن انجام شد.

۱. پژوهشگرهای ام‌آی‌تی (MIT) این روش رو «برنامه‌نویسی در فضای وزن‌ها» (Weight-Space Programming) نامیدند. ایده اینه که مدل زبانی بتونه اعدادی رو که رفتار یه شبکه رو تعیین می‌کنند بخونه، بررسی کنه و در صورت نیاز مستقیم تغییر بده.

۲. آسترا از روی وزن‌های خام چهار شبکهٔ کوچک فهمید هرکدوم برای چه بازی‌ای آموزش دیده‌اند: بریک‌اوت (Breakout)، پونگ (Pong)، پک‌من (Pac-Man) و فری‌وی (Freeway). هر چهار شبکه معماری، ورودی و حرکت‌های یکسانی داشتند و اسم بازی‌ها هم به آسترا داده نشده بود.

۳. یک شبکهٔ کنترل ماشین جلوی رمپ گیر می‌کرد. آسترا وزن‌ها، شرح محیط و یک نمونهٔ شکست رو دید و در یک پاسخ، ۳٫۵٪ وزن‌ها رو تغییر داد. بعد از اون، ماشین در هر ۱٬۰۲۴ اجرای آزمایشی از رمپ رد شد.

۴. برای نسخهٔ ساده‌شدهٔ بریک‌اوت، آسترا قواعد و کد بازی رو گرفت و همهٔ وزن‌های یه شبکهٔ کوچک رو در یک پاسخ از صفر نوشت. اون شبکه حدود ۲۰ برابر نمونه‌ای امتیاز گرفت که با الگوریتم یادگیری تقویتی (PPO) و ۵۰۰ میلیون گام آموزش دیده بود. در دو بازی دیگه، شبکه‌های نوشته‌شده به امتیاز نمونهٔ ۵۰۰ میلیون‌گامی نرسیدند.

۵. در آزمایش کوئن، سهم جواب‌هایی که به سقف تولید متن می‌خوردند از ۹۳٪ به ۳۳٫۱٪ افت کرد. امتیاز دستورپذیری (IFEval) هم از ۲۱٪ به ۶۲٫۳٪ رسید. این الگو با رفع مشکل تکرار جور درمیاد: جواب‌های بیشتری به آخر رسیدند. روی مدل جِما (Gemma 3 270M)، که بیشتر اشتباه حساب و جبر داشت، همین روش بهبود قابل‌اتکایی در ریاضی نداد.

۶. مؤسسهٔ آلن تورینگ (The Alan Turing Institute) تشخیص بازی‌ها از روی وزن‌ها رو با آسترا و کلود (Claude) تکرار کرد. در آزمایش جداگانه‌ای روی کوئنِ ۴ میلیاردپارامتری (Qwen3.5-4B)، کلود فقط دو ستون از ماتریس وزن‌های یک لایه رو تغییر داد و تعداد جواب‌های درست از ۵۹ به ۹۲ تا ۹۴ از ۱۵۰ سؤال رسید. هنوز سؤال باز اینه که این روش روی چه مدل‌ها و چه نوع خرابی‌های دیگه‌ای جواب می‌ده.

📖 "شرح آزمایش‌ها در تلگراف" (https://telegra.ph/آسترا-چطور-با-تغییر-۰۰۱۶-وزن‌ها-یک-مدل-زبانی-را-تعمیر-کرد-11-04)
کانال "توییت‌دِو" (https://t.me/tweetdev)
🔗 "گزارش اصلی پژوهش" (https://rikiyat.github.io/blog/weight-space-programming/)