در سیستم های توتالیتر وقتی زبان و کلمات هم ابزار نظارت میشن و توسط حکومت تغییر معنا پیدا میکنن افراد حتی هنگام صحبت با نزدیک‌ترین دوستانشون هم در یک احتیاط همیشگی هستن.
وقتی هر کلمه که امروز معنای سالمی داره فردا ممکنه معنای سیاسی پیدا کنه، اساسا افراد دچار آینده‌زدگی زبان میشن، و سعی میکنن همیشه محتاط باشن.
پس ترجیح میدن سکوت کنن و یک سری حرف‌ها رو نگن.

داشتم این رمان رو میخوندم
فهمیدم داستان‌ها چقدر میتونن پیچیده باشن
چون خیلی وقت بود نتونسته بودم کتاب بخونم.

هنر و داستان متناقض و لایه‌ لایه هست
یک رمان میتونه در کارکتر پردازی رمانتیک شکست بخوره
اما در فضاسازی و اتمسفر و بستر درام به شاهکار برسه

​این ارزش زیبا شناختی یک شاهکار در بی‌ نقص بودن تمام متغیرهاش نیست،
در شدت اثر یه ویژگی هست که نویسنده زندگیشو پاش گذاشته و عمیقش کرده.

میتونه در یک حوزه سقف تازه‌ای در ادبیات بزنه و شاهکار باشه
اما لازم نیست در تمام عناصر شاهکار باشه.
که اساسا شدنی هم نیست.

این قضیه حل کردن مسئله ریاضی توسط gpt astra
هنوز توسط جامعه ریاضی پذیرفته نشده.

چندتا نکته هست که جوابی براش ندادن
اول که openai گفته با زبان اثباتگر Lean اثبات کردن
اما نکته اینه زبان Lean خیلی کنده
حتی با 10هزار ایجنت هم همچنان توی این تایم کوتاه شک وجود داره.

امروز یه مقدار بیشتر رو گزارش آنتروپیک زوم کردن
یه سری اکانت دیگه مرتبط با ج ا از کلاود برای جمع‌آوری دیتاهای AIS/ترانسپوندر کشتی‌ها، تصاویر ماهواره‌ای تجاری و عکس‌های نظامی استفاده کردن همچنین تشخیص هویت نیروهای دریایی آمریکا از رو عکس‌ها،کپشن‌ها
و این اطلاعات رو به شکل یه پرونده ترور دسته بندی میکردن

با این حرکاتی که ج ا زده
احتمال اینکه شرکت‌های خارجی دسترسی‌هامون به سرویس‌هاشون رو ببندن زیاده.

وقتی میفهمی با دلار 237,500 هزار تومنی تو دیگه خواننده کتاب مسخ نیستی! در واقع تو خود گرگوار سامسا هستی:

از بازتعریف تاریخ هم شانس نیاوردیم
مثلا الان یه نفر کتابی در مورد بدبختی‌های ما بنویسه
ده سال دیگه کی می‌خواد بخونه؟
ربات‌ها؟

ایرانی بس کن، درباره همه چیز نظر نده

شرکت‌ها اصلا بر اساس چت کاربران مدل رو آموزش نمیدن، پر نویزه و دیتای کثیفه.

در واقع مدل رو بازخورد کاربر بهتر میکنن
اما نه اینکه بیان چت‌های کثیف کاربر رو به خورد مدل بدن.
مدل به فنا میره که😂

احتمالا دیدید که گاهی وقت‌ها gpt دو نوع پاسخ میده و میپرسه از کدوم خوشتون اومد؟
توی الگوی DPO، ضرر هر گرادیان رو محاسبه میکنن، بعد در مراحل پس آموزش بعدی، وزن‌های مدل رو طوری آموزش میدن تا به سمت پاسخ‌های مطلوب حرکت کنه.

ما دو نوع فاز در یادگیری یک LLM داریم
مرحله پیش آموزش
مرحله پس آموزش

در فاز پیش آموزش، مدل زبان و جهان و اون آموزش اصلی رو میگیره.

در پس آموزش فقط یادمیگیره چطور خوب رفتار کنه

در فاز اولیه یعنی پیش آموزش نرخ یادگیری به شدت بالاست، تا گرادیان‌ها بتونن چینش جملات، ساختار رو جا به جا کنن، گرامر و فکت ها رو در میلیاردها پارامتر جا بدن

اما در فاز پس آموزش، نرخ یادگیری رو مقادیر پایین قفل میشه
بنابراین مدل نمیتونه مثلا یک فکت رو عمیق یاد بگیره، چون متن درون وزن‌ها توزیع نمیشه.

زندگی امان نمیده که بتونم یادگیری ماشین لرنینگ رو جلو ببرم.
هعی
چی بگم والا