بازه باز
267 subscribers
327 photos
95 videos
107 files
417 links
برای خودم مینویسم اینجا که بعدا یادم باشه؛ ذهن فریبکاره
https://jobinhasani.ir
ناشناس:
@bazehbazbot
Download Telegram
بازه باز
​باید زنده بمانید! حتی اگر مجبور شدید خوار و ذلیل در خاک و لجن بخزید، حتی اگر اندام‌هایتان تکه‌تکه شد... به عنوان یک "انسان" جان به در ببرید! به این سازمان لعنتی اجازه ندهید مرگ شما را هم به عنوان یک داده‌ی موفقیت‌آمیز ثبت کند! کلیمور میریا
دوستان مانگای کلیمور رو از اینجا میتونید بخونید.
https://t.me/Tokyo_Manga/5372


انیمه هم داره ولی خب کامل نیست و در نهایت ادامه داستانو باید از مانگا بخونید.
انیمه که تو انی پلاس یا هر چنل دیگه‌ای سرچ کنید میاد.
1
اوپن‌ای‌آی اعلام کرده که تیمی متشکل از حدود ۱۰ هزار ایجنت ai تونسته در مدت فقط ۸۸ ساعت راه‌حلی برای یکی از بزرگ‌ترین مسائل حل‌نشده ریاضیات، یعنی مسئله ناویه–استوکس پیدا کنه.

این مسئله نزدیک به ۹۰ ساله که حل‌نشده باقی مونده و یکی از مسائل هزاره مؤسسه Clay محسوب میشه.

مسئله اصلی اینه که آیا معادلات ناویه–استوکس می‌تونن حرکت یک سیال سه‌بعدی رو همیشه به‌صورت صاف و قابل‌کنترل توصیف کنن، یا اینکه ممکنه در زمانی محدود به یک تکینگی (Singularity) برسن و رفتار جریان از حالت عادی خارج بشه.

طبق اعلام OpenAI، این گروه با استفاده از یک مدل نسل بعدی که از GPT-6 Astra به‌مراتب قدرتمندتره، به یک اثبات تحلیلی و همچنین یک نسخه رسمی‌شده در Lean رسیده.

جالب‌تر اینکه راه‌حل ارائه‌شده به یک گردابه‌ی سیال مربوط میشه؛ جریانی چرخان که به سمت داخل مارپیچ میشه و هم‌زمان کشیده و باریک‌تر میشه، تقریباً مثل یک تکه اسپاگتی، تا در نهایت به تکینگی می‌رسه.

نکته مهم اینه که خود OpenAI گفته آموزش این مدل هنوز ادامه داره و عملکردش روی بسیاری از بنچمارک‌ها جهش قابل‌توجهی داشته.

جزئیات کامل:
PDF
متن اثبات:
PDF
اخبار ai و تکنولوژی زیاده.
یه سری های زیادی تکراری
مردم هر روز پروژه جدید میسازن ریلیز میکنن.
خسته کننده شده.
وارد عصر پیشرفت به شدت سریعی می‌شیم که دیگه نمیفهمیم چی اومد چی شد.
ترجیح میدم مقالات تحقیقاتی‌شون بخونم تا اخبارشون پیگیری کنم.
👍21
استارتاپ Inception مدل Mercury 2.5 داده بیرون.
مدل دیفیوژن
با سرعت ۱,۱۰۰ توکن در ثانیه!
بازه باز
استارتاپ Inception مدل Mercury 2.5 داده بیرون. مدل دیفیوژن با سرعت ۱,۱۰۰ توکن در ثانیه!
اونم gpu ی انویدیا
و خود مدل هم تقریبا هم کیفیت خوبی داره.
این سرعت خیلی پشم ریزونه
اگر همچین سرعتی یافته باشن که دنیای ai یه جهش دیگه میزنه.
بازه باز
اونم gpu ی انویدیا و خود مدل هم تقریبا هم کیفیت خوبی داره. این سرعت خیلی پشم ریزونه اگر همچین سرعتی یافته باشن که دنیای ai یه جهش دیگه میزنه.
اگر نمیدونید مدل دیفیوژن چیه،
مدل‌های فعلی مثل gpt
خودبازگشتی‌ان، یعنی متن رو کلمه به کلمه و توکن به توکن حدس میزنن میرن جلو.
اما دیفیوژن ها، تمرکزشون صرفا روی توکن بعد نیست بلکه کل جمله رو میخونن، بعد به صورت رفت و برگشت نویزهارو پاک میکنن و در حین رفت و برگشت جاهای خالی رو کامل میکنن.
در واقع میتونن چندین پردازش موازی توکن به توکن داشته باشن.
بازه باز
استارتاپ Inception مدل Mercury 2.5 داده بیرون. مدل دیفیوژن با سرعت ۱,۱۰۰ توکن در ثانیه!
برای اینکه بفهمین چقدر سرعتش زیاده،

توی یک دقیقه میتونه 50 هزار کلمه تولید کنه.
یعنی یه کتاب کامل چند صد صفحه‌ای.
بازه باز
برای اینکه بفهمین چقدر سرعتش زیاده، توی یک دقیقه میتونه 50 هزار کلمه تولید کنه. یعنی یه کتاب کامل چند صد صفحه‌ای.
بزرگ ترین مشکل مدل‌های خودبازگشتی،
این استدلال کنده
مثلا توی توسعه نرم‌افزار،
طول میکشه تا ایجنت کد رو بخونه لاگ‌ها رو بخونه، دوباره کد بنویسه،
استدلالش رو اصلاح کنه، دوباره تست کنه و..

زمان میبره تا به نتیجه درستی برسه.
بازه باز
بزرگ ترین مشکل مدل‌های خودبازگشتی، این استدلال کنده مثلا توی توسعه نرم‌افزار، طول میکشه تا ایجنت کد رو بخونه لاگ‌ها رو بخونه، دوباره کد بنویسه، استدلالش رو اصلاح کنه، دوباره تست کنه و.. زمان میبره تا به نتیجه درستی برسه.
اگر مدلای آینده همچین سرعتی پیداکنن.
یه ایجنت نرم‌افزاری می‌تونه در کمتر از دو ثانیه پنجاه بار با کد ور بره تست‌ها رو اجرا کنه
لاگ رو بخونه دوباره بنویسه دوباره تست کنه.
هزینه آزمون و خطا برای مدل پایین میاد.
بازه باز
البته از مدلای دیفیوژن برای llm استفاده نمیکنن. دلیلش هم آموزش سخت‌تره
ترنسفورهای معمولی و مدل‌های خودبازگشتی،
در یک رفت به جلو، برای یک جمله میتونن تا 1000 توکن بعدش رو حدس بزنن.
این به لطف ماسک علیت هست،
اما مدلای دیفیوژن برای رسیدن به همچین سطحی در زبان به توان پردازشی بیشتری نیاز دارن
چون کلمات رو بر اساس زیرمجموعه هدف میگیرن نه بر اساس حدس توکن.
و این خیلی بیشتر آموزش میخواد.
بازه باز
ترنسفورهای معمولی و مدل‌های خودبازگشتی، در یک رفت به جلو، برای یک جمله میتونن تا 1000 توکن بعدش رو حدس بزنن. این به لطف ماسک علیت هست، اما مدلای دیفیوژن برای رسیدن به همچین سطحی در زبان به توان پردازشی بیشتری نیاز دارن چون کلمات رو بر اساس زیرمجموعه هدف…
ماسک علیت فقط یه لایه توی فرایند پیش آموزش مدله
توی آموزش معمولا کل جمله رو به مدل میدن تا یاد بگیره با حدس زدن کلمه بعد.
اما مشکل این بود که کل متن رو دادن و متن توی مموری هست مدل میاد تقلب میکنه.
در نتیجه یک لایه ماسک میکشن روش
این ماسک به مدل اجازه نمیده تقلب کنه و کلمه ها رو ببینه.
میزنه تو دهنش.
بازه باز
البته ماسک علیت خیلی بزرگ‌تر ازین حرفا تاثیر گذاشت، مدلای قبلی، مثل شبکه‌های RNN مجبور بودن توکن به توکن جلو برن ولی با رعایت زمان.
قانون علیت چی میگه؟
گذشته بر آینده اثر می‌گذارد.
و آینده هرگز اجازه ندارد به عقب برگردد تا دست علت را پیش از وقوع رو کند.
بازه باز
قانون علیت چی میگه؟ گذشته بر آینده اثر می‌گذارد. و آینده هرگز اجازه ندارد به عقب برگردد تا دست علت را پیش از وقوع رو کند.
ماسک علیت مدل رو کور میکنه تا مجبور به فهمیدن بشه.
با بستن آینده بود که مدل ناچار میشد برای پر کردن خلا کلمه بعدی، ساختار زبان، منطق جهان و روابط مفاهیم رو خودش کشف کنه.
بازه باز
ماسک علیت مدل رو کور میکنه تا مجبور به فهمیدن بشه. با بستن آینده بود که مدل ناچار میشد برای پر کردن خلا کلمه بعدی، ساختار زبان، منطق جهان و روابط مفاهیم رو خودش کشف کنه.
این ماسک به مهندسان اجازه داد که کل یه کتاب در چند ثانیه هم زمان وارد لایه‌ها بشه،
بدون اینکه تقلب بشه.
مدل همه لحظات متن رو یکجا میدید،
اما در هر لحظه یه جور چشم بند به چشماش زدن تا گام بعدی رو نبینه خودش کشفش کنه.
Ocean Princess
Thomas Bergersen
عاشق موسیقی حماسی‌ام.
احساس می‌کنم ذهنم عمیق‌تر حرکت میکنه با چاشنی حماسی.
1
بازه باز
Thomas Bergersen – Ocean Princess
نمیدونم مفهوم علمی داره یا نه،
ذهن آدم رو در یک تونل منطقی قفل میکنه
چون ریتم هیجانی داره
ذهن رو انگار فراتر از الگو میبره تا مفهوم رو هضم کنه.
توی نوشتن و کد خیلی کمکم میکنه.
و ایده پردازی.
2
سطح خواندن و ریاضی دانش‌آموزان در سراسر جهان به طور قابل توجهی در حال کاهش است.

بر اساس نتایج آزمون‌های بین‌المللی (OECD & PISA) که دانش‌آموزان را ارزیابی می‌کنند، میانگین نمرات دانش‌آموزان 15 ساله در کشورهای توسعه‌یافته در سال 2025، 25 امتیاز در خواندن و 22 امتیاز در ریاضی نسبت به سال 2018 کاهش داشته است.

دانش‌آموزان 15 ساله کنونی، بیش از یک سال از همسالان خود در سال 2018 عقب هستند. سطح برخی از آن‌ها به سطح دانش‌آموزان 14 ساله در آن زمان نزدیک است.

نسل جوان کنونی، نسبت به نسل‌های قبلی، سریع‌تر مطالعه می‌کنند، اما دقت در درک مطلب آن‌ها کمتر است. توانایی آن‌ها در خلاصه‌سازی، تحلیل و بیان افکارشان کاهش یافته است.

به جای آن، عادت آن‌ها به مرور سریع اطلاعات افزایش یافته است.

@DevYara
👍3