​باید زنده بمانید! حتی اگر مجبور شدید خوار و ذلیل در خاک و لجن بخزید، حتی اگر اندام‌هایتان تکه‌تکه شد... به عنوان یک "انسان" جان به در ببرید!
به این سازمان لعنتی اجازه ندهید مرگ شما را هم به عنوان یک داده‌ی موفقیت‌آمیز ثبت کند!

کلیمور میریا

نیاز داریم یکی الان اینو به ما بگه

دوستان مانگای کلیمور رو از اینجا میتونید بخونید.
https://t.me/Tokyo_Manga/5372


انیمه هم داره ولی خب کامل نیست و در نهایت ادامه داستانو باید از مانگا بخونید.
انیمه که تو انی پلاس یا هر چنل دیگه‌ای سرچ کنید میاد.

اوپن‌ای‌آی اعلام کرده که تیمی متشکل از حدود ۱۰ هزار ایجنت ai تونسته در مدت فقط ۸۸ ساعت راه‌حلی برای یکی از بزرگ‌ترین مسائل حل‌نشده ریاضیات، یعنی مسئله ناویه–استوکس پیدا کنه.

این مسئله نزدیک به ۹۰ ساله که حل‌نشده باقی مونده و یکی از مسائل هزاره مؤسسه Clay محسوب میشه.

مسئله اصلی اینه که آیا معادلات ناویه–استوکس می‌تونن حرکت یک سیال سه‌بعدی رو همیشه به‌صورت صاف و قابل‌کنترل توصیف کنن، یا اینکه ممکنه در زمانی محدود به یک تکینگی (Singularity) برسن و رفتار جریان از حالت عادی خارج بشه.

طبق اعلام OpenAI، این گروه با استفاده از یک مدل نسل بعدی که از GPT-6 Astra به‌مراتب قدرتمندتره، به یک اثبات تحلیلی و همچنین یک نسخه رسمی‌شده در Lean رسیده.

جالب‌تر اینکه راه‌حل ارائه‌شده به یک گردابه‌ی سیال مربوط میشه؛ جریانی چرخان که به سمت داخل مارپیچ میشه و هم‌زمان کشیده و باریک‌تر میشه، تقریباً مثل یک تکه اسپاگتی، تا در نهایت به تکینگی می‌رسه.

نکته مهم اینه که خود OpenAI گفته آموزش این مدل هنوز ادامه داره و عملکردش روی بسیاری از بنچمارک‌ها جهش قابل‌توجهی داشته.

جزئیات کامل:
PDF
متن اثبات:
PDF

البته ریاضیدانان که روی این مسئله کار میکردن شکایت کردن.
گفتن ai روش های مارو دزدیده و با سرعت زیادش تونسته خیلی جلوتر از ما بره
هرچند اوپن ای آی گفته ایجنت ما راه حل رو خودش یافته.

اخبار ai و تکنولوژی زیاده.
یه سری های زیادی تکراری
مردم هر روز پروژه جدید میسازن ریلیز میکنن.
خسته کننده شده.
وارد عصر پیشرفت به شدت سریعی می‌شیم که دیگه نمیفهمیم چی اومد چی شد.
ترجیح میدم مقالات تحقیقاتی‌شون بخونم تا اخبارشون پیگیری کنم.

استارتاپ Inception مدل Mercury 2.5 داده بیرون.
مدل دیفیوژن
با سرعت ۱,۱۰۰ توکن در ثانیه!

اونم gpu ی انویدیا
و خود مدل هم تقریبا هم کیفیت خوبی داره.
این سرعت خیلی پشم ریزونه
اگر همچین سرعتی یافته باشن که دنیای ai یه جهش دیگه میزنه.

اگر نمیدونید مدل دیفیوژن چیه،
مدل‌های فعلی مثل gpt
خودبازگشتی‌ان، یعنی متن رو کلمه به کلمه و توکن به توکن حدس میزنن میرن جلو.
اما دیفیوژن ها، تمرکزشون صرفا روی توکن بعد نیست بلکه کل جمله رو میخونن، بعد به صورت رفت و برگشت نویزهارو پاک میکنن و در حین رفت و برگشت جاهای خالی رو کامل میکنن.
در واقع میتونن چندین پردازش موازی توکن به توکن داشته باشن.

برای اینکه بفهمین چقدر سرعتش زیاده،

توی یک دقیقه میتونه 50 هزار کلمه تولید کنه.
یعنی یه کتاب کامل چند صد صفحه‌ای.

بزرگ ترین مشکل مدل‌های خودبازگشتی،
این استدلال کنده
مثلا توی توسعه نرم‌افزار،
طول میکشه تا ایجنت کد رو بخونه لاگ‌ها رو بخونه، دوباره کد بنویسه،
استدلالش رو اصلاح کنه، دوباره تست کنه و..

زمان میبره تا به نتیجه درستی برسه.

اگر مدلای آینده همچین سرعتی پیداکنن.
یه ایجنت نرم‌افزاری می‌تونه در کمتر از دو ثانیه پنجاه بار با کد ور بره تست‌ها رو اجرا کنه
لاگ رو بخونه دوباره بنویسه دوباره تست کنه.
هزینه آزمون و خطا برای مدل پایین میاد.

البته از مدلای دیفیوژن برای llm استفاده نمیکنن.
دلیلش هم آموزش سخت‌تره

ترنسفورهای معمولی و مدل‌های خودبازگشتی،
در یک رفت به جلو، برای یک جمله میتونن تا 1000 توکن بعدش رو حدس بزنن.
این به لطف ماسک علیت هست،
اما مدلای دیفیوژن برای رسیدن به همچین سطحی در زبان به توان پردازشی بیشتری نیاز دارن
چون کلمات رو بر اساس زیرمجموعه هدف میگیرن نه بر اساس حدس توکن.
و این خیلی بیشتر آموزش میخواد.

ماسک علیت فقط یه لایه توی فرایند پیش آموزش مدله
توی آموزش معمولا کل جمله رو به مدل میدن تا یاد بگیره با حدس زدن کلمه بعد.
اما مشکل این بود که کل متن رو دادن و متن توی مموری هست مدل میاد تقلب میکنه.
در نتیجه یک لایه ماسک میکشن روش
این ماسک به مدل اجازه نمیده تقلب کنه و کلمه ها رو ببینه.
میزنه تو دهنش.

البته ماسک علیت خیلی بزرگ‌تر ازین حرفا تاثیر گذاشت،
مدلای قبلی، مثل شبکه‌های RNN
مجبور بودن توکن به توکن جلو برن ولی با رعایت زمان.

قانون علیت چی میگه؟
گذشته بر آینده اثر می‌گذارد.
و آینده هرگز اجازه ندارد به عقب برگردد تا دست علت را پیش از وقوع رو کند.

ماسک علیت مدل رو کور میکنه تا مجبور به فهمیدن بشه.
با بستن آینده بود که مدل ناچار میشد برای پر کردن خلا کلمه بعدی، ساختار زبان، منطق جهان و روابط مفاهیم رو خودش کشف کنه.

این ماسک به مهندسان اجازه داد که کل یه کتاب در چند ثانیه هم زمان وارد لایه‌ها بشه،
بدون اینکه تقلب بشه.
مدل همه لحظات متن رو یکجا میدید،
اما در هر لحظه یه جور چشم بند به چشماش زدن تا گام بعدی رو نبینه خودش کشفش کنه.

عاشق موسیقی حماسی‌ام.
احساس می‌کنم ذهنم عمیق‌تر حرکت میکنه با چاشنی حماسی.

نمیدونم مفهوم علمی داره یا نه،
ذهن آدم رو در یک تونل منطقی قفل میکنه
چون ریتم هیجانی داره
ذهن رو انگار فراتر از الگو میبره تا مفهوم رو هضم کنه.
توی نوشتن و کد خیلی کمکم میکنه.
و ایده پردازی.