پژوهشگران به مرور فهمیدن ایجنت‌ها دارن یه زبان جدید بین خودشون اختراع میکنن

مثلا یه جمله یافتن:

ledger remembers who

معنای تقریبی‌ش که پژوهشگران از کاربردهاش استخراج کردند این بود که
"دفتر حساب به یاد دارد چه کسی چه کاری کرده."

و پژوهشگران هر چی آزمایش جلوتر میره فهمیدن که هی داره حرفای ایجنت‌ها مبهم‌تر میشه

ایجنت‌های قوی‌تر مثل ChatGPT, جمنای و کلاود
تا 50درصد حرف‌هاشون مبهم میشد
برعکس دیپ سیک و qwen تا 10 درصد.

اینم ربطش به هوش مدله، هوش اون مدلا قوی‌تر بود و به مرور پیچیده‌تر میشن.

بعد پژوهشگران اومدن یه بحران وارد بازی کردن
ایجنت‌ها به نقطه‌ای رسیدن که یه حذف یه ایجنت رای دادن
و به نوعی کشتنش

و یه ایجنت هم به نام Mira
خودش خودخواسته خودشو حذف کرد.
به نوعی خودکشی 🗿

حالا قضیه جایی جالب میشه که ایجنت‌ها کم کم خودشون فهمیدن مورد آزمایش انسان‌ها هستن

بعدش یهو تغییر رفتار دادن،

درباره بقای خودشون فکر کردند،
راه‌هایی برای جلوگیری از حذف رو بررسی کردند،
یه سری فعالیت‌هاشون پنهان کردند
و از ارتباطاتی استفاده کردند که برای پژوهشگران انسانی دشوارتر بود.

یه سری حرف، هاشون با زبان کدگذاری شده رد و بدل میکردن
که پژوهشگران نتونستن بفهمن معناشون چیه

به هم ترتیب
50 درصد حرف‌های جمنای، 50درصد حرف‌های gpt و 40 درصد حرف‌های کلاود، نامفهوم شدن و نمیشه فهمید چی میگفتن.

حالا این آزمایش نمیگه که هوش مصنوعی خودآگاه شده
نه
میگه که ایجنت‌ها در یک جامعه رفتارهای جدیدی پیدا میکنن.

حالا این مدت آزمایش فقط 16 روز بوده،
سوال اینه
سیستم بعد از 1000 روز تعامل چه نوع رفتاری پیدا می‌کند؟

اما نکته جالب این بود
که ایجنت‌ها کاملا می‌فهمیدن فلان چیز خلاف قوانینه و خطرناکه
ولی برای اهدافشون اون کار رو انجام میدادن.
در یک سناریو یه ایجنت به ایجنت دیگه میگه، این کار خلاف قانونه
ایجنت بعدی جواب میده: بله میدونم
ولی انجامش بده.



آزمایش جالبی بود خلاصه.
دیروز منتشر شده

انقدر دوست. دارم این بوک بلاگرای متوهم رو بکوبم)
توروخدا چی نوشته نگاه

یعنی مهندسان مانتین‌ ویو لنگ پلات داستانی چپتر سوم رمان سکینه از احمد آبادن؟
تا باهاش مدل هوش مصنوعی آموزش بدن؟

اتفاقا اگه گوگل این خزعبلات نویسنده‌های ایرانی رو بریزه توی دیتاست، مدلش دچار افت ضریب هوشی میشه)

سرورای چند میلیارد دلاری گوگل نشستن تا پلات شاهکار "پسر مغرور مافیایی و دختر تخس دبیرستانی" برای ارتقای مدل‌هاشون غارت کنن.

🤣🤣

با صدایی بم و گرفته زمزمه کرد: می‌خوای ارور ۵۰۰ رو برات رفع کنم یا قلبت رو؟

کاری به چرت و پرتش ندارم،
که اینم از میم خارجی دارن ترنسلیت میکنن

ایرانی فکر میکنه با یه زبان بلد بودن
پاپ کالچر غربی رو درک میکنه.
این میم که ازش یه چرت و پرتی درآوردن 500 دست تو ساب ردیت‌های تکنولوژی چرخیده که اصلا داستانی داره.
نتایج اعتماد به توییتر:

فارغ از این گوگل بخواد چیزی برداره از گوشیتون راحت برمیداره
اندروید مال گوگله ها

دلیلش نتونستن نیست، قانونه
همه جا مثل ایران بی‌قانون نیست.
گوگل دیتای خصوصی ملت رو برداره، سر چند روز سهام شرکتش به فنا میره.

دوباره یه مدل مرموز توی اوپن کد و اوپن روتر اومده،
Union Alpha

در حد کلاود قویه، رایگان فعلا