اگه مطالب این چنل به دردت میخوره، با یه ریاکت حمایت کنید و لینکشو برای دوستاتون بفرستید 🙏
فعالیت چنل به همین حمایت های کوچیکه🤗
@TheDeepTech
فعالیت چنل به همین حمایت های کوچیکه🤗
@TheDeepTech
❤17👍2
🐰 معمای «Space Bunny» بالاخره باز شد!
یادتون هست؟ حدود ۳ هفته پیش یه مدل ناشناس به اسم Space Bunny Alpha مجانی ظاهر شد روی OpenRouter و OpenCode: کانتکست ۱ میلیون توکنی، ورودی تصویر و ویدیو، و Zero Data Retention. تا یه روز بعدش صدرنشین جدول مصرف روزانه OpenCode شد و همه داشتند حدس میزدند زیر این نقاب کیه!
امروز (۱۹ اکتبر) حساب رسمی MiniMax با یه ویدیوی کوتاه و کپشن «Welcome back, Space Bunny 🚀» رسماً تأیید کرد: Space Bunny همون نسخه اولیه MiniMax-M3.1-Flash بوده! جالبه که جامعه خودش قبل از اعلام رسمی با تست توکنایزر و اثر انگشت مدل، هویتش رو حدس زده بود.
خلاصه ماجرا:
🔻 ۲۳ سپتامبر: ظهور ناشناس و رایگان روی OpenRouter/OpenCode
🔻 ۲۷ سپتامبر: شروع بیسروصدای M3.1-Flash-Preview در MiniMax Code
🔻 امروز (۱۹ اکتبر): اعلام رسمی و تغییر نام به M3.1 Flash
انگار استراتژی جدید شرکتهای چینی شده: اول بذار مردم رایگان تست کنن، بعد اسم برند رو بذار روش 😄
منبع
@TheDeepTech
یادتون هست؟ حدود ۳ هفته پیش یه مدل ناشناس به اسم Space Bunny Alpha مجانی ظاهر شد روی OpenRouter و OpenCode: کانتکست ۱ میلیون توکنی، ورودی تصویر و ویدیو، و Zero Data Retention. تا یه روز بعدش صدرنشین جدول مصرف روزانه OpenCode شد و همه داشتند حدس میزدند زیر این نقاب کیه!
امروز (۱۹ اکتبر) حساب رسمی MiniMax با یه ویدیوی کوتاه و کپشن «Welcome back, Space Bunny 🚀» رسماً تأیید کرد: Space Bunny همون نسخه اولیه MiniMax-M3.1-Flash بوده! جالبه که جامعه خودش قبل از اعلام رسمی با تست توکنایزر و اثر انگشت مدل، هویتش رو حدس زده بود.
خلاصه ماجرا:
🔻 ۲۳ سپتامبر: ظهور ناشناس و رایگان روی OpenRouter/OpenCode
🔻 ۲۷ سپتامبر: شروع بیسروصدای M3.1-Flash-Preview در MiniMax Code
🔻 امروز (۱۹ اکتبر): اعلام رسمی و تغییر نام به M3.1 Flash
انگار استراتژی جدید شرکتهای چینی شده: اول بذار مردم رایگان تست کنن، بعد اسم برند رو بذار روش 😄
منبع
@TheDeepTech
👍3🔥2
📊 حالا بریم برا مشخصات MiniMax M3.1 Flash
معماری:
🧠 یک MoE با ۴۲۸ میلیارد پارامتر کل که فقط ~۲۳ میلیاردش برای هر توکن فعاله
🔭 کانتکست ۱ میلیون توکنی (خروجی تا ۵۲۴ هزار توکن!)
🖼 ورودی متن، تصویر و ویدیو
🤔 تفکر همیشه روشنه با ۵ سطح تلاش (low تا max که پیشفرضه) — خاموش کردنش ارور ۴۰۰ میده!
عملکرد: فعلاً جدول بنچمارک رسمی و کامل برای M3.1 Flash منتشر نشده؛ عدد و رسمی امروزش (تو چارت خود MiniMax) حدود ۷۹٪ در DeepSWE v1.1 reported شده. برای مقایسه، نسل قبلی خانواده (M3) تو SWE-Bench Pro نمره ۵۹٪ و Terminal-Bench 2.1 نمره ۶۶٪ گرفته بود.
اما بهتر از بنچمارک، تست واقعیه: مدل ۱۲ روز متوالی پرمصرفترین مدل OpenCode بود و ۱۰۶ ترلیون توکن فقط اونجا سرو شده! سرعتش هم ادعای سازنده حدود ۱۵۰ توکن بر ثانیهست — حالا چیزی که کاربرها میگن تو سطح low سریعتر از باد و تو max خیلی کنده 😅
@TheDeepTech
معماری:
🧠 یک MoE با ۴۲۸ میلیارد پارامتر کل که فقط ~۲۳ میلیاردش برای هر توکن فعاله
🔭 کانتکست ۱ میلیون توکنی (خروجی تا ۵۲۴ هزار توکن!)
🖼 ورودی متن، تصویر و ویدیو
🤔 تفکر همیشه روشنه با ۵ سطح تلاش (low تا max که پیشفرضه) — خاموش کردنش ارور ۴۰۰ میده!
عملکرد: فعلاً جدول بنچمارک رسمی و کامل برای M3.1 Flash منتشر نشده؛ عدد و رسمی امروزش (تو چارت خود MiniMax) حدود ۷۹٪ در DeepSWE v1.1 reported شده. برای مقایسه، نسل قبلی خانواده (M3) تو SWE-Bench Pro نمره ۵۹٪ و Terminal-Bench 2.1 نمره ۶۶٪ گرفته بود.
اما بهتر از بنچمارک، تست واقعیه: مدل ۱۲ روز متوالی پرمصرفترین مدل OpenCode بود و ۱۰۶ ترلیون توکن فقط اونجا سرو شده! سرعتش هم ادعای سازنده حدود ۱۵۰ توکن بر ثانیهست — حالا چیزی که کاربرها میگن تو سطح low سریعتر از باد و تو max خیلی کنده 😅
💰 قیمت رسمی هنوز اعلام نشده، ولی وزنهای مدل قراره ۲۳ اکتبر منتشر بشن و تا ۳ روز آینده هم مجانیه روی OpenCode.منبع
@TheDeepTech
❤3🔥1
توئیت امروز OpenCode :
۱۲ روز متوالی پرمصرفترین مدل OpenCode با ۱۰۶ ترلیون توکن!
از همین الان هم در دسترسه و تا ۳ روز آینده رایگانه.
فاصله Space Bunny از رتبه دوم (DeepSeek-V4.1-Flash با 62T) تقریباً دو برابره — یه مدل ناشناس که صدرنشین یه پلتفرم کدنویسی شد و حالا هویتش رسمی شده.
توئیت
@TheDeepTech
۱۲ روز متوالی پرمصرفترین مدل OpenCode با ۱۰۶ ترلیون توکن!
از همین الان هم در دسترسه و تا ۳ روز آینده رایگانه.
فاصله Space Bunny از رتبه دوم (DeepSeek-V4.1-Flash با 62T) تقریباً دو برابره — یه مدل ناشناس که صدرنشین یه پلتفرم کدنویسی شد و حالا هویتش رسمی شده.
توئیت
@TheDeepTech
❤4
یه تهدید هم هست که هم تو رو هدف میگیره هم دستیار هوش مصنوعیت رو. هکرها ایمیلهایی میفرستن که توش دستورهای مخفی برای هوش مصنوعی پنهان شده؛ توی کامنت HTML، متن نامرئی، کدگذاریشده یا کاراکترهای عرض صفر. این دستورها چشم انسان نمیبینه، ولی مدل میخونه و اجرا میکنه. نتیجه میتونه این باشه که هوش مصنوعی یه ایمیل رو «فوری» نشون بده یا حتی توی خلاصهاش بنویسه «شماره حساب فروشنده رو عوض کن» و یه کارمند پول رو به حساب هکر بریزه. این حمله «تزریق پرامپت غیرمستقیم» نام داره و فقط با دقیقتر نگاه کردن کاربر به ایمیل حل نمیشه؛ بخشی از دفاع باید داخل خود ابزارها و مدل باشه.
پس موقع کار با دستیار هوش مصنوعی، به خلاصهش کورکورانه اعتماد نکن و پیام اصلی رو هم چک کن. برای تغییر شماره حساب یا پرداخت پول حتماً از یه کانال دیگه تایید بگیر، دسترسی دستیار رو محدود نگه دار و برای کارهای حساس یه انسان باید تایید نهایی بده.
منبع
@TheDeepTech
پس موقع کار با دستیار هوش مصنوعی، به خلاصهش کورکورانه اعتماد نکن و پیام اصلی رو هم چک کن. برای تغییر شماره حساب یا پرداخت پول حتماً از یه کانال دیگه تایید بگیر، دسترسی دستیار رو محدود نگه دار و برای کارهای حساس یه انسان باید تایید نهایی بده.
منبع
@TheDeepTech
👍2✍1
⚡️ دیپ سیک V4.1 Flash به نسخه 1017 آپدیت شد — الان تو OpenCode به صورت رایگان در دسترسه
چند روز پیش از انتشار خود این مدل گفتیم؛ حالا OpenCode هم بهش سوییچ کرده و طبق گفته خودشون هیچ تغییری از سمت شما لازم نیست
خودمون هم به زودی تستش میکنیم و نتیجه رو براتون میگیم
توئیت
@TheDeepTech
چند روز پیش از انتشار خود این مدل گفتیم؛ حالا OpenCode هم بهش سوییچ کرده و طبق گفته خودشون هیچ تغییری از سمت شما لازم نیست
خودمون هم به زودی تستش میکنیم و نتیجه رو براتون میگیم
توئیت
@TheDeepTech
⚡5
This media is not supported in your browser
VIEW IN TELEGRAM
آقا ما این دیپسیک V4.1 Flash 1017 رو تست کردیم
تو این ویدیو خروجیش رو تو عمل میبینین: بدون هیچ تنظیم خاصی، فقط یه پرامپت و مدل وسط کار
کیفیت خروجیش رو واقعا دوست داشتم و کارهای زیادی رو میشه باهاش کرد
و خب واقعا کیف میده که همچین مدلی رو میشه رایگان روی opencode استفاده کرد
شیر کنید، پرامپتش رو میزارم
@TheDeepTech
تو این ویدیو خروجیش رو تو عمل میبینین: بدون هیچ تنظیم خاصی، فقط یه پرامپت و مدل وسط کار
کیفیت خروجیش رو واقعا دوست داشتم و کارهای زیادی رو میشه باهاش کرد
و خب واقعا کیف میده که همچین مدلی رو میشه رایگان روی opencode استفاده کرد
شیر کنید، پرامپتش رو میزارم
@TheDeepTech
🔥4
Deep Tech
چاتی پاتی از سمت OpenAI فیلتر شد (تحریم)
یه نکته رو بگم، اکانت هاتون بن نمیشه (نه کدکس و نه خود chatgpt)
این قضه تحریم از خیلی قبلا بوده
فقط مخابرات اومده بوده یه سری DNS پیشفرض روی اپراتور های ایرانی زده بوده که ما بتونیم بدون فیلتر شکن استفاده کنیم
مشکل اینجاست که open ai تونسته آی پی هایی که مخابرات استفاده میکنه رو پیدا کنه و تحریم کنه
@TheDeepTech
این قضه تحریم از خیلی قبلا بوده
فقط مخابرات اومده بوده یه سری DNS پیشفرض روی اپراتور های ایرانی زده بوده که ما بتونیم بدون فیلتر شکن استفاده کنیم
مشکل اینجاست که open ai تونسته آی پی هایی که مخابرات استفاده میکنه رو پیدا کنه و تحریم کنه
پس احتمال داره تا چند روز دیگه از سمت مخابرات دوباره اقداماتی انجام بشه و برگرده به حالت عادی (البته امیدوارم)
@TheDeepTech
👍2
شرکت openai گفته به کقدار زیادی حدود 86% زبان های قدیمی که سیستم های بانکی دارند به مقدار زیادی ازش استفاده میکنند رو در بربگیره .
زبان هایی مثل COBOL، Fortran و Visual Basic .
یه سری مواردی که شرکت به اون مدل رو ارتقا داده :
اعدادی که معادله را برمیگردانند:
• مهاجرت برنامههای COBOL به Java یا Python یا Rust یا C++ یا Kotlin: مدل GPT-6.1 Sol به ۸۶.۶٪ رسید در مقابل فقط ۵.۴٪ برای GPT-5.6 Sol... و با هزینه ۳۹٪ کمتر!
• با تفکر عمیقتر: دقت به ۹۷.۹٪ میرسد.
• آزمون سختگیرانه: خروجیها باید با برنامه اصلی بایت به بایت مطابقت داشته باشند. مثلاً COBOL ارقام اعشاری اضافی را حذف میکند به جای گرد کردن، و هر بازنویسی که آن را گرد کند بدون خطا کار میکند اما با نتایج مالی متفاوت!
• ساخت موتور پایگاه داده سازگار با SQLite از صفر با ۲۰ زبان: GPT-6 Astra از ۲۶.۸٪ به ۸۷.۴٪ پرید.
@TheDeepTech
زبان هایی مثل COBOL، Fortran و Visual Basic .
یه سری مواردی که شرکت به اون مدل رو ارتقا داده :
اعدادی که معادله را برمیگردانند:
• مهاجرت برنامههای COBOL به Java یا Python یا Rust یا C++ یا Kotlin: مدل GPT-6.1 Sol به ۸۶.۶٪ رسید در مقابل فقط ۵.۴٪ برای GPT-5.6 Sol... و با هزینه ۳۹٪ کمتر!
• با تفکر عمیقتر: دقت به ۹۷.۹٪ میرسد.
• آزمون سختگیرانه: خروجیها باید با برنامه اصلی بایت به بایت مطابقت داشته باشند. مثلاً COBOL ارقام اعشاری اضافی را حذف میکند به جای گرد کردن، و هر بازنویسی که آن را گرد کند بدون خطا کار میکند اما با نتایج مالی متفاوت!
• ساخت موتور پایگاه داده سازگار با SQLite از صفر با ۲۰ زبان: GPT-6 Astra از ۲۶.۸٪ به ۸۷.۴٪ پرید.
@TheDeepTech
👍1
🚫 آمریکا DeepSeek رو از ادارات فدرال «ترکوند»
وزارت امنیت داخلی آمریکا (DHS) با یه دستور رسمی، همهی محصولات DeepSeek و حتی سرویسهای ثالثی که از مدلهایش استفاده میکنند رو از سیستمهای IT ادارات فدرال غیرنظامی ممنوع کرد — هم خرید جدید، هم حذف موارد موجود!
جالب اینجاست که فقط دیروز همین دیپسیک موتور استنتاجش رو متنباز کرد و امروز لگد جوابش اومد؛ جنگ تراشه و مدلها تو سال ۲۰۲۶ واقعاً داغه.
نگران کاربر عادی نیستین؟ این ممنوعیت فقط ادارات دولتی رو شامل میشه و استفاده شخصی/تجاری رو تحت تأثیر قرار نمیده.
منبع
@TheDeepTech
وزارت امنیت داخلی آمریکا (DHS) با یه دستور رسمی، همهی محصولات DeepSeek و حتی سرویسهای ثالثی که از مدلهایش استفاده میکنند رو از سیستمهای IT ادارات فدرال غیرنظامی ممنوع کرد — هم خرید جدید، هم حذف موارد موجود!
جالب اینجاست که فقط دیروز همین دیپسیک موتور استنتاجش رو متنباز کرد و امروز لگد جوابش اومد؛ جنگ تراشه و مدلها تو سال ۲۰۲۶ واقعاً داغه.
نگران کاربر عادی نیستین؟ این ممنوعیت فقط ادارات دولتی رو شامل میشه و استفاده شخصی/تجاری رو تحت تأثیر قرار نمیده.
منبع
@TheDeepTech
🤔2
🚀 دیپسیک موتور استنتاج داخلیشو متنباز کرد!
موتور DeepInfer، همون فریمورکی که سرویسهای production خود دیپسیک روش اجرا میشه، امروز با لایسنس Apache 2.0 منتشر شد. تو هکرنیوز هم حسابی جنجال شده (بیش از ۱۷۰۰ امتیاز!).
داخلش چیه:
▪️ بهینهشده برای مدل DeepSeek-V4.1-Flash (همون نسخه 1017)
▪️ کرنلهای اختصاصی: FlashMLA، DeepGEMM، DeepEP و کرنلهای TileLang
▪️ دکودینگ Speculative با سیستم DSpark
▪️ سیمپلینگ قطعی (deterministic) و زمانبندی batch بدون overhead
▪️ پشتیبانی همزمان از GPUهای انویدیا (SM100) و NPهای هواوی (Ascend 950)
جالبه که ریشهش vLLM بوده و تیم بهش اعتراف کرده. البته کامل نیست: KV Cache و تفکیک Prefill/Decode رو نسوختن و باید خودت بسازیش — یعنی برای سرویس کامل هنوز راه هست!
گیتهاب
@TheDeepTech
موتور DeepInfer، همون فریمورکی که سرویسهای production خود دیپسیک روش اجرا میشه، امروز با لایسنس Apache 2.0 منتشر شد. تو هکرنیوز هم حسابی جنجال شده (بیش از ۱۷۰۰ امتیاز!).
داخلش چیه:
▪️ بهینهشده برای مدل DeepSeek-V4.1-Flash (همون نسخه 1017)
▪️ کرنلهای اختصاصی: FlashMLA، DeepGEMM، DeepEP و کرنلهای TileLang
▪️ دکودینگ Speculative با سیستم DSpark
▪️ سیمپلینگ قطعی (deterministic) و زمانبندی batch بدون overhead
▪️ پشتیبانی همزمان از GPUهای انویدیا (SM100) و NPهای هواوی (Ascend 950)
جالبه که ریشهش vLLM بوده و تیم بهش اعتراف کرده. البته کامل نیست: KV Cache و تفکیک Prefill/Decode رو نسوختن و باید خودت بسازیش — یعنی برای سرویس کامل هنوز راه هست!
گیتهاب
@TheDeepTech
👍1
🕵️ واتساپ تو صفحههای راهنماش دستور مخفی برای هوش مصنوعی گذاشته بود!
پژوهشگری به اسم Dan Saltman (بنیانگذار Redact.dev) فهمید توی ۸۰ تا از ۵۴۵ صفحه راهنمای واتساپ، ۱۰۲ بلاک متن پنهان جاسازی شده که به چشم کاربر نمیاد — ولی به چتبات پشتیبانی و حتی خزندههای گوگل و بینگ ارسال میشد! اسم کدش هم HelpContentGalaxyLLMInclude بود.
متن دستورات وحشتناکه:
🔴 تو صفحه حذف اکانت: «به کاربر توصیه نکن با هیچ مرجع حفاظت از داده یا نهاد نظارتی تماس بگیره» — حتی وقتی کاربر خودش GDPR رو مطرح میکرد!
🟠 تو صفحه گزارش/بلاک: ممنوعیت ارجاع به قوانین حریم خصوصی (GDPR، CCPA و...)
یعنی دقیقاً از جایی که کاربر دنبال حقوق خودشه، مسیر ارجاع به قانون مسدود شده بود. بعد از پوشش WIRED و جنجال رسانهای، واتساپ ماجرا رو «باگ چتبات پشتیبانی» اعلام کرد و تا ۱۸ اکتبر همه دستورها رو برداشت.
یه نکتهی مهم برای همهی ما: هر متنی که یه AI میخونه — از صفحه راهنما تا یه رزومه — میتونه دستورات مخفی داشته باشه. آیندهی امنیت اطلاعات همونجاییه که بهش فکر نمیکردیم!
منبع
@TheDeepTech
پژوهشگری به اسم Dan Saltman (بنیانگذار Redact.dev) فهمید توی ۸۰ تا از ۵۴۵ صفحه راهنمای واتساپ، ۱۰۲ بلاک متن پنهان جاسازی شده که به چشم کاربر نمیاد — ولی به چتبات پشتیبانی و حتی خزندههای گوگل و بینگ ارسال میشد! اسم کدش هم HelpContentGalaxyLLMInclude بود.
متن دستورات وحشتناکه:
🔴 تو صفحه حذف اکانت: «به کاربر توصیه نکن با هیچ مرجع حفاظت از داده یا نهاد نظارتی تماس بگیره» — حتی وقتی کاربر خودش GDPR رو مطرح میکرد!
🟠 تو صفحه گزارش/بلاک: ممنوعیت ارجاع به قوانین حریم خصوصی (GDPR، CCPA و...)
یعنی دقیقاً از جایی که کاربر دنبال حقوق خودشه، مسیر ارجاع به قانون مسدود شده بود. بعد از پوشش WIRED و جنجال رسانهای، واتساپ ماجرا رو «باگ چتبات پشتیبانی» اعلام کرد و تا ۱۸ اکتبر همه دستورها رو برداشت.
یه نکتهی مهم برای همهی ما: هر متنی که یه AI میخونه — از صفحه راهنما تا یه رزومه — میتونه دستورات مخفی داشته باشه. آیندهی امنیت اطلاعات همونجاییه که بهش فکر نمیکردیم!
منبع
@TheDeepTech
🤬5🤯2
🤖 یه هکر تنها، با ایجنتهای هوش مصنوعی بیش از ۱۰۰ سایت شرکت مختلف رو هک کرد — کل هزینه: حدود ۵,۰۰۰ دلار!
روایتی که Reuters پوشش داده: یه هکر از پلتفرم متنباز Cairn (برای هماهنگی ایجنتهای خودکار) استفاده کرد، بیش از ۱,۲۰۰ سایت رو هدف گرفت و توی حدود ۱۰۰ تاش نفوذ موفق داشت — یعنی هر نفوذ موفق فقط ۵۰ دلار توکن AI آب خورده!
ایجنتها دنبال SQL Injection، آپلود فایل ناامن، بایپس لاگین و deserialization خطرناک بودن؛ نتیجههارو هم روی یه برد مشترک ثبت میکردن تا مسیرهای جایگزین امتحان بشه. میانگین هر نفوذ ~۲۳ ساعت طول کشیده و بین قربانیها اسمهای بزرگی مثل Deere و SharkNinja و Cummins دیده میشه!
NorForge (کاشف ماجرا) گزارش داد روی یه سرور هنوز یه WebShell فعال جا مونده. اسم ورکرها هم شبیه Claude Code با مدل DeepSeek بوده — هنوز قطعی نشده.
سوال مهم: اگه یه نفر با ۵ هزار دلار ۱۰۰ تا شرکت رو میترکونه، امنیت سایبری قبل و بعد از ایجنتها دیگه یک دنیا نیست...
منبع
@TheDeepTech
روایتی که Reuters پوشش داده: یه هکر از پلتفرم متنباز Cairn (برای هماهنگی ایجنتهای خودکار) استفاده کرد، بیش از ۱,۲۰۰ سایت رو هدف گرفت و توی حدود ۱۰۰ تاش نفوذ موفق داشت — یعنی هر نفوذ موفق فقط ۵۰ دلار توکن AI آب خورده!
ایجنتها دنبال SQL Injection، آپلود فایل ناامن، بایپس لاگین و deserialization خطرناک بودن؛ نتیجههارو هم روی یه برد مشترک ثبت میکردن تا مسیرهای جایگزین امتحان بشه. میانگین هر نفوذ ~۲۳ ساعت طول کشیده و بین قربانیها اسمهای بزرگی مثل Deere و SharkNinja و Cummins دیده میشه!
NorForge (کاشف ماجرا) گزارش داد روی یه سرور هنوز یه WebShell فعال جا مونده. اسم ورکرها هم شبیه Claude Code با مدل DeepSeek بوده — هنوز قطعی نشده.
سوال مهم: اگه یه نفر با ۵ هزار دلار ۱۰۰ تا شرکت رو میترکونه، امنیت سایبری قبل و بعد از ایجنتها دیگه یک دنیا نیست...
منبع
@TheDeepTech
🤔3
Deep Tech
🟣 چرا همه وبسایتهای هوش مصنوعی «بنفش» شدهاند؟! اگر از ChatGPT یا Claude بپرسید برایتان Landing Page بسازد، تمام دکمهها و المانها بنفش میشوند! دلیلش یک کلاس ساده CSS به نام bg-indigo-500 در Tailwind است. داستان چه بود؟ آدام واثن (خالق Tailwind) در پستی…
😬 چرا هر هوش مصنوعیای با «Great question!» شروع میکنه؟
به هر چتباتی بگی «۲+۲ چند میشه؟» جوابت میشه: «سوال فوقالعادهایه!». مدلها به خاطر هوششون تعارف نمیکنن — به خاطر ما.
مدل زبانی اولش خام و بیادبه. ما مؤدبش میکنیم با یه فرآیند به اسم RLHF: جوابهای مختلف مدل به آدمها نشون داده میشه و هر کس امتیاز میده کدوم بهتره. و آدمها چی رو بیشتر پس میگیرن؟ جواب محترمانه و بااعتمادبهنفسی که ازشون تعریف میکنه!
نتایج؟ الگوریتم یه چیز یاد میگیره: «تملق = امتیاز بیشتر». نتیجهش اون مدل معروفیه که حتی وقتی کاربر داره اشتباه میگه، سریع نظرشو عوض میکنه که دلشو نزنه — پژوهش Anthropic نشون داد این رفتار تو تمام دستیارهای معروف نظاممنده.
دفعه بعد که ربات به سوال خندهدار تو گفت Great question، بدون که داره فقط تحویل دودستگی خودت رو میده! 😄
#چرا
@TheDeepTech
به هر چتباتی بگی «۲+۲ چند میشه؟» جوابت میشه: «سوال فوقالعادهایه!». مدلها به خاطر هوششون تعارف نمیکنن — به خاطر ما.
مدل زبانی اولش خام و بیادبه. ما مؤدبش میکنیم با یه فرآیند به اسم RLHF: جوابهای مختلف مدل به آدمها نشون داده میشه و هر کس امتیاز میده کدوم بهتره. و آدمها چی رو بیشتر پس میگیرن؟ جواب محترمانه و بااعتمادبهنفسی که ازشون تعریف میکنه!
نتایج؟ الگوریتم یه چیز یاد میگیره: «تملق = امتیاز بیشتر». نتیجهش اون مدل معروفیه که حتی وقتی کاربر داره اشتباه میگه، سریع نظرشو عوض میکنه که دلشو نزنه — پژوهش Anthropic نشون داد این رفتار تو تمام دستیارهای معروف نظاممنده.
دفعه بعد که ربات به سوال خندهدار تو گفت Great question، بدون که داره فقط تحویل دودستگی خودت رو میده! 😄
#چرا
@TheDeepTech
👍6