تحلیل‌های سگی

پاولوف از پیشگامان روانشناسی رفتارگرا، برای پژوهش‌های خود از سگ‌ها استفاده می‌کرد. داستان بزاق سگ پاولوف را همه شنیده‌ایم. مدتی همزمان با غذا دادن به سگ‌ها، زنگی را به صدا در می‌آورد و پس از مدتی، وقتی فقط زنگ را تکان می‌داد، بزاق دهان سگ ترشح می‌شد.

روانشناس‌ها این نوع آزمایش‌ها را با نام شرطی‌سازی می‌شناسند. اما از نگاه تحلیلی، این رفتار سگ‌ها را می‌توان «خطای تشخیص علیت ناشی از مجاورت» نامید.

سگ‌ها (و انسان‌ها) وقتی دو اتفاق در نزدیکی هم (نزدیکی زمانی یا نزدیکی مکانی) می‌افتند، اتفاقی را که زودتر افتاده، علت اتفاق دوم می‌دانند.

چون نزدیک‌ترین اتفاق به آوردن غذا، صدای زنگ بوده، سگ چنین فرض می‌کند که صدای زنگ «علت» پدیدار شدن غذا است. و پس از چند بار تکرار، به نتیجه می‌رسد که وقتی صدای زنگ آمد باید برای غذا خوردن آماده شود.

سگ را نباید ملامت کرد. آدم‌هایی هم هستند که وقتی دو یا سه خاطره می‌شنوند که کسی از کودکی تعریف کرده و بعداً برای بچه اتفاقی افتاده، این را پای «چشم خوردن» می‌گذارند.

هر چقدر هم از خرافات دور باشید، احتمالاً پیش آمده که به خاطر این که قربانی این نوع «توهم‌های علّی» نشوید، پس از تعریف کردن از زیبایی فرزند یک دوست یا آشنا، تخته‌ای پیدا کرده و چند بار به آن زده باشید.

ما همه، اگر حواس‌مان نباشد، در تحلیل جهان اطراف، به سگ پاولوف تبدیل می‌شویم.

#تفکر_سیستمی

این هیچ ربطی به هیچ‌جا نداره. گفتم بحث سنگین میشه شاکی نشید 😅.
بعدش دوباره ادامه می‌دیم و میریم سراغ علیت در سیستمهای پیچیده

تحلیل سقوط سیستمهای سیاسی به روش سگ پاولوف


کسانی که گرفتار خطای "تفسیر مجاورت به علیت" هستند، در سقوط ساختارهای سیاسی دنبال نزدیک‌ترین رویدادها می‌گردند:

خیانت فلان فرد
رفتار نادرست فلان کشور
معاملهٔ این با آن
آخرین اتفاق یا اعتراض
اشتباهی که در چند ماه اخیر کرد
نادیده گرفتن فلان اخطار اخیر
و ...

و معمولا در قدم بعد، وقتی یک یا چند "اتفاق" را به عنوان "علت" تشخیص دادند، دنبال "دست‌های پنهان در پی آن اتفاق‌ها" می‌گردند و از همین جا توطئه‌اندیشی و توهم توطئه آغاز می‌شود.

در حالی که آن‌چه ما دست‌های پنهان می‌بینیم، معمولاً دست‌های هوشمندی هستند که "پس از شکل‌گیری روند" کوشیده‌اند آن را به نفع خود مصادره کرده یا سوار روند شوند؛ باز هم نمونه‌ی دیگری از خطای سگ پاولوف که مجاورت را علیت فرض می‌کند.

#تفکر_سیستمی

با در نظر گرفتن جامعه به عنوان سیستم پیچیده، انقلاب‌ها و فروپاشی‌ها را می‌شود مصداق تغییر فاز در سیستم دانست (مثل تبخیر شدن آب).

تغییر فاز در "یک نقطه مشخص" اتفاق می‌افتد و تا لحظه‌ای قبل از آن، همه‌چیز عادی است. فرض کنیم نقطه‌ی تغییر فاز آب در فشار فعلی ۱۰۰ درجه است.

مولکولها، اگر مغز داشتند، تعجب میکردند که چرا در دمای ۹۹/۹۹۹ هیچ خبری نیست و در دمای ۱۰۰ ناگهان همه‌چیز تبخیر می‌شود و نخستین مولکولی را که در دمای ۱۰۰ از جمع جدا می‌شد، عامل تبخیر کل ساختار در نظر می‌گرفتند. چون بر اساس تحلیل پاولوفی، نزدیک‌ترین چیزی که به چشم‌شان می‌آمد، همان تک‌مولکول بود.

نظام‌های سیاسی اگر بخواهند دوام بیشتری داشته باشند، باید در پی دور شدن از نقطهٔ تغییر فاز (تبخیر ناگهانی)‌ باشند. این نقطه تابع دو چیز است:

ساختار داخلی جامعه
ساختار محیط بیرونی

محیط بیرونی در اختیار نظام‌های سیاسی نیست. پس تنها راه دوام‌شان، توسل به ساختار درونی جامعه است (شبیه افزایش نیروی پیوند مولکولی).

هر چه ساختار درونی جامعه (در تصمیم‌گیری، سیاست‌گذاری و تبادل اطلاعات) توزیع‌شده‌تر باشد، تحمل سیستم برای فشار بیرونی افزایش می‌یابد و هر چه ساختار درونی جامعه متمرکزتر شود، تغییر فاز در فشار پایین‌تری رخ خواهد داد.

اسد، یکی از متمرکزترین ساختارهای سیاسی معاصر را شکل داده بود. همهٔ قدرت‌ را برای خود می‌خواست و اگر هم سهمی به دیگران می‌داد،‌ صرفاً به قدرت‌های بیرونی بود و نه مردمش. نقطه‌ی تغییر فاز این نوع رژیم سیاسی‌ بسیار پایین است.

نباید در آخرین روزهای حیات سیاسی او دنبال علت سقوطش بگردیم.

اسد در "روزنامه‌ها" امروز سقوط کرد. اما "در زمین واقعیت" نظام سیاسی او سالها پیش سقوط کرده بود.

شگفت‌انگیز این است که در عین این که در تمام طول تاریخ، تک‌تک امپراطوری‌ها سقوط کرده‌اند، یکایک امپراطوری‌های جدید خود را جاودانه پنداشته‌ و مطمئن بوده‌اند که بخشی از صحنهٔ نهایی تاریخ خواهند بود.

همهٔ امپراطوری‌ها زمانی سقوط خواهند کرد. اما کسانی که در یک امپراطوری زندگی می‌گذرانند، این واقعیت اثبات‌شده را فراموش می‌کنند.


#هایلایت_کتاب

فیزیک اجتماعی، سرژ گلام، فصل اول

اینم به هیچی ربط نداره.

فقط برای بسته شدن بحث اینجا می‌ذارمش.

قول میدم تا یه مدت چیز سنگین اینجا ننویسم.

#GenAI

بزرگ‌ترین تهدید برای دیکتاتورها نه از جانب مردم، که از جانب خودشان است.

فرانک دیکوتر، آداب دیکتاتوری، ترجمه مسعودیوسف حصیرچین، نشر گمان

#هایلایت_کتاب

درباره‌ی این مفهوم "تصمیم‌گیری متمرکز" که دیکوتر اشاره می‌کنه یه توضیح بدم:


اگر قرار باشه ما فقط یک بار درباره‌ی یک موضوع در جمع‌مون تصمیم بگیریم، منطقیه سراغ خبره‌ترین و خردمندترین فرد در جمع بریم.

اما اگر قرار باشه صدها و هزاران تصمیم در شرایط پیش‌بینی‌‌نشده درباره‌ی موضوعات مختلف بگیریم، روش بهینه اینه که هر بار هر تصمیم رو در کل جمع به رای بذاریم‌.

چون این کار در عمل زمان‌بر و هزینه‌بره، ملت‌ها سراغ راه‌حل عملی‌تر میرن:

انتخاب جمعی کوچکتر و معمولا چندصدنفره از خودشون به عنوان نماینده. و واگذاری همین بازی به اونها.

اون جمع کوچیک هم دوباره با همون منطق رای‌گیری کار می‌کنه (همه درباره همه‌چی رای میدن و در هر موضوع، نظر نهایی رو متخصص‌های اون جمع نمیدن).

این میشه دموکراسی و در حالت تئوریک، باید تمام مردم کشور این شانس رو داشته باشن که برای حضور در اون جمع کوچکتر چندصد نفری داوطلب باشن.


کشورها به اندازه‌ای که از این الگو دور میشن، امید کمتری به توسعه‌ی پایدار و بلندمدت‌شون وجود داره.

دیکتاتورها، نه‌فقط از این ایدئال فاصله میگیرن. بلکه دقیقاً میرن در مقابل این وضعیت قرار می‌گیرن: انتخاب تمرکز به جای توزیع‌شدگی.



دموکراسی یعنی باور نداشتن به اثربخشی "خردمندی فردی" در حل پیوسته‌ی مسائل متنوع و متعدد

#تفکر_سیستمی #حل_مسئله

اگر بتونم جلوی خودم رو بگیرم
کتابی که در ادامه معرفی می‌کنم، آخرین حرف درباره‌ی این بحثهاست.

دیگه بعدش میرم سراغ موضوعات مورد علاقه‌ی خودم.

با توضیحی که درباره دموکراسی دادم، ممکنه بگید الان کشورهای مدعی دموکراسی هم با این نقطه‌ی ایدئال فاصله دارن.

کاملا درسته. ما از یه نقطه‌ی مرجع حرف میزنیم و نزدیکی کشورها رو به اون می‌سنجیم.

عنوانی که استرا تیلور برای کتابش درباره دموکراسی در آمریکا انتخاب کرده
به زیبایی تمام این وضعیت پارادوکسیکال رو توصیف می‌کنه:

شاید دموکراسی اصلاً وجود نداشته باشه
اما وقتی از دستش بدیم
جای خالیش رو حس خواهیم کرد

#معرفی_کتاب

لوئیس آلوارز، برندهٔ نوبل فیزیک ۱۹۶۸، میگه:

"پدرم توصیه کرده بود هر چند ماه یک بار روی صندلی مطالعه‌ام بشینم. چشمام رو ببندم. و سعی کنم مسئله‌های تازه‌ای برای حل کردن پیدا کنم. این توصیه رو بسیار جدی گرفتم و خوشحالم که این کار رو کردم."

کتاب A-Z of Physicists
نوشته Darryl Leiter

هم توی کارهای خودم دیدم و هم در دوست و آشنا. که گاهی ده‌ها و صدها ساعت درگیر حل کردن مشکلات خرده‌ریزی می‌شیم که یکی از این "توقف‌های چندساعته" می‌تونست ما رو از دام اون‌ها نجات بده. یا فرصت‌های بزرگی رو نمی‌بینیم، که همین توقف‌ها می‌تونست اون‌ها رو به چشم‌مون بیاره.

به‌نظرم یک یا دو ساعت چشم بستن و یک جا نشستن، اونم چندماه یک‌بار، کاری نیست که برای انجام ندادنش بشه بهانه آورد.

#هایلایت_کتاب

ادبیات مسئولیت‌گریز

چرا این روزها واژهٔ "ناترازی" این‌قدر رایج شده؟

اگر چنین واژه‌ای تا این حد در گفتگوهای روزمره ضروری بوده، تا پیش از رواج این اصطلاح چگونه زندگی می‌کرده‌ایم؟

پاسخ ساده است: کلمهٔ درست، دقیق و جاافتاده همان "کمبود" است.

اما اصطلاح "کمبود" نشان می‌دهد که سیاست‌گذاری‌ها، شیوهٔ مدیریت و سبک تصمیم‌گیری نادرست بوده که چیزهای بسیاری "کم" است: برق، آب، انرژی، درآمد و ...

"ناترازی" می‌گوید: آن‌چه ما داریم با آن‌چه شما می‌خواهید، یک‌اندازه نیست؛ تراز و برابر نیست.

پس مشکل بین طرفین تقسیم می‌شود:

نیمی از مشکل ناترازی تقصیر شماست (که انرژی زیاد مصرف می‌کنید و چراغ‌هایتان روشن است و خرج‌تان زیاد است و دل‌تان می‌خواهد مثل ممالک مترقی زندگی کنید). نیمی هم بر عهدهٔ ما (که انرژی کافی تامین نکرده‌ایم و منابع مالی تامین نمی‌کنیم و زیرساخت برای خلق ارزش اقتصادی ایجاد نمی‌کنیم و ...).

این نوع ادبیات را می‌شود "ادبیات مسئولیت‌گریز" نامید؛

حرف‌هایی پر از جمله‌های بدون فاعل، آکنده از واژه‌هایی که همه برای تقسیم تقصیرها "خلق"، "تحریف" یا "بازتعریف" شده‌اند.

#هایلایت_کلمات

توی مطلبی که دارم در روزنوشته در نقد نسیم طالب می‌نویسم، یکی از حرف‌هام اینه که نسیم طالب یه آدم صاحب‌نظر و اوریجینال نیست. بلکه حرف‌های دیگران رو با سر و صدای زیاد (که اونجا تعبیر عربده‌کشی رو به کار بردم) و گاهی با ریبرندینگ می‌فروشه (هم قوی سیاه و هم پوست در بازی مفاهیم جدیدی نیستن که اون گفته باشه)

البته این به معنای نفی قلم خوبش نیست. کتابهاش خوب، شیرین، جذاب، سرگرم‌کننده و تا حدی آموزنده هستن. اما مهمه که ما یه ستون‌نویس روزنامه و نهایتا یه جستارنویس رو با نظریه‌پرداز اشتباه نگیریم.

دیشب نشستم دوباره کتاب مندل‌برات رو خوندم که یه سری مطلب ازش در بیارم برای روزنوشته. چون یکی از کسانیه که نسیم طالب خیلی ازش اقتباس کرده (حتی در سبک نوشتن از اون تقلید می‌کنه).

وسط خوندن، یه جوک درباره اقتصاددانها دیدم که خیلی مشهوره و احتمالاً خوندین. اما گفتم نشون‌تون بدم.

#معرفی_کتاب

ایده‌ی اصلی طنز مندل‌برات اینه که اقتصاددان‌ها یه سری مفروضاتی دارن که ربطی به واقعیات بازار نداره.

در واقع انقدر مسئله رو با مفروضات‌شون ساده می‌کنن که عملاً مسئله‌ای غیرواقعی روی میز باقی می‌مونه.

میگه:

یه روز یه مهندس و یه فیزیکدان و یه اقتصاددان توی بیابون گیر کرده بودن و تنها چیزی که داشتن یه قوطی کنسرو بود.

مونده بودن چجوری بازش کنن. مهندس ایده‌اش این بود که سنگ بیاریم قوطی رو بشکنیم. فیزیکدان می‌گفت اگر قوطی رو بذاریم توی آفتاب. داغ می‌شه خودش می‌ترکه. اقتصاددان گفت: "بچه‌ها. اول بیاین فرض کنیم دربازکن‌ داریم..."

#نقل_قول #هایلایت_کتاب

می‌خواستم برای درس فکر کردن به کمک نوشتن مقالهٔ کلاسیک و بسیار مهم کلارک و چالمرز رو معرفی کنم. نشستم دوباره دقیق بخونمش. یه‌چیزی به چشمم خورد که به نظرم بانمک بود.

معمولاً زیر مقاله‌ها یه توضیحی می‌نویسن که اسم نویسنده‌ها به ترتیب الفبا یا جایگاه یا تلاشی که کردن یا ... نوشته شده

اما این‌ نوع توضیح رو تا حالا ندیده بودم:

ترتیب دو نویسنده بر اساس
میزان باورشان به حرفی است که در این مقاله گفته‌اند.


آپدیت: منتشر شد. به اسم "دفترچه یادداشت، بخشی از ذهن در بیرون از جمجمه"

#هایلایت

یه تجربهٔ شخصی دربارهٔ "حرف زدن از بدبختی و بیچارگی"

#منبر

بخش پایانی "روضهٔ" امروز


#منبر

آیندهٔ هوش مصنوعی مولد (۱)

وقتی به آیندهٔ هوش مصنوعی مولد و به‌طور خاص مدل‌های بزرگ زبانی (مثلاً ChatGPT) فکر ‌می‌کنم یکی از اصلی‌ترین چالش‌های LLM‌ها فراگیر شدن‌شون هست.

اگر هوش مصنوعی مولد کاربران فعال زیادی پیدا کنه و به ابزار غالب تبدیل بشه، در میان‌مدت، بخش قابل‌توجهی از ارزشش رو از دست میده.

این رو در ادامه در چند بخش توضیح می‌دم.

بعضی محصولات، وقتی کاربرانشون زیاد میشن، ارزش‌شون بیشتر میشه‌. چیزی که بهش میگن اثر شبکه‌ای یا network effect (مثال کلاسیکش تلفن و ایمیله).

اما بعضی محصولات هستن که با افزایش‌شون، لزوماً ارزش بیشتری ایجاد نمیشه (مثلاً خودرو).

اگر فقط یه آدرس ایمیل یا یه شماره تلفن در جهان باشه، به هیچ دردی نمی‌خوره. چون نمیتونیم با کسی حرف بزنیم یا ایمیل بفرستیم.

اما خودرو حتی اگر یه دونه باشه، کاملا ارزشمنده. اتفاقا یه برتری بسیار زیاد برای صاحبش ایجاد می‌کنه.

بگذریم که مشکل ترافیک و جای پارک و ... هم نیست.

خودرو برخلاف تلفن، تابع "اثر شبکه‌ای" نیست. بلکه بیشتر تابع "اثر اشباع" یا saturation effect هست. اگر همه‌ی مردم دنیا خودرو داشته باشن، دیگه تقریبا هیچ‌کس به مقصد نمی‌رسه و اکثر شهرهای بزرگ به پارکینگ‌های بزرگ تبدیل میشن.

در ادامه اثر اشباع در مورد هوش مصنوعی مولد رو توضیح میدم.

#هوش_مصنوعی

آینده هوش مصنوعی مولد (۲)

هوش مصنوعی مولد الان داره خودش رو با محتوای روی اینترنت تغذیه میکنه. بخشی از این خوراک، رایگان و در دسترسه. بخشی هم به شکل غیرقانونی داره استفاده میشه (کتابهایی که نسخه‌ی دزدی‌شون هست و ...).

این خوراک فعلی محتوایی، هر چه هست، روش تهیه‌اش چه اخلاقی باشه و چه غیراخلاقی، یه ویژگی مهم داره: بخش زیادی از اون، انسانیه.

یعنی محتوای اصیل (authentic) هست نه محتوای ساخته‌شده (synthetic).

اگر تعداد کاربران هوش مصنوعی مولد زیاد بشه، طی چند سال، بخش بزرگی از محتوای آنلاین، سینتتیک و ساختگی میشه و سهم محتوای تولیدی انسان در برابر محتوای تولیدی هوش مصنوعی تقریباً به صفر می‌رسه. و این گاوهایی که ما به "چراگاه محتوا" می‌فرستیم، عملاً به جای خوراک خوب، چیزی رو میخورن که قبلاً خودشون دفع کرده‌ان.

همهٔ ضعف‌ها، ایرادها، توهم‌های زبانی (که اجتناب‌ناپذیر و لازمهٔ خلاقیت مدل‌های زبانیه) نهایتاً اون‌قدر زیاد تکثیر میشن که خود مدل زبانی هم تحت تاثیر همون‌ها قرار می‌گیره.

اگر بخواهیم اسم عام برای این پدیده بذاریم، میشه بگیم saturation effect.

اگر اسم خاص‌تر رو می‌پسندید، میشه بگیم model collapse.

اصطلاحی که - اگر اشتباه نکنم - اولین بار ایلیا شومایلوف به کار برد.

اگر با دنیای الگوریتم آشنا باشید، احتمالاً اصطلاح The curse of recursion رو بیشتر دوست خواهید داشت (نفرین ناشی از حلقه‌های تو در توی ریکرسیو).

آیا این مشکل رو می‌شه حل کرد؟ در کوتاه‌مدت، عملاً این مشکل حس نخواهد شد.
در بلندمدت هم احتمالاً راه‌حل‌هایی پیدا میشه. اما در میان‌مدت، قطعاً یه چالش جدیه.

به هر حال، چیزی که مهمه اینه که حل این مشکل، سخت‌تر از چیزیه که در نگاه نخست به‌نظر میاد.
چون آدم‌ها خروجی مدل‌های زبانی رو ادیت میکنن و تمیز میشه. و ممکنه مدلها به سادگی متوجه نشن که با خروجی خودشون مواجه هستن.

اما قطعا ایده‌هایی هم هست که دیگه نوشتن از اونا، در حوصلهٔ نویسندهٔ خسته و وارفتهٔ این کانال تلگرامی نیست. 😉

اگر دوست داشتید، مقالهٔ شومایلوف و رفقاش رو هم ببینید:

AI models collapse when trained on recursively generated data.

#هوش_مصنوعی

وضع نویسندهٔ این کانال
الان شبیه این وضعیت بلوطه
و در همین پوزیشن
این حرف‌ها رو نوشته

برداشت من از گشت‌و‌گذار در کامنت‌های زیر پست‌های مردم در اینستاگرام و لینکدین:


بیشترِ (و نه همهٔ) کسانی که اول یا آخر کامنت‌شون (خطاب به نویسندهٔ پست) می‌نویسن: "با‌ احترام"

بیشعورترین ساکنان سرزمین‌های دیجیتال هستن.

چون خودشون می‌دونن دارن یه کامنتی می‌ذارن که بهتره نذارن.

و اونقدر هم حرف زدن بلد نیستن که بتونن اصل حرف‌شون رو درست‌ جمله‌بندی کنن که احترام در خود جمله‌ها لحاظ شده باشه.

اینه که هر چی به ذهن‌شون می‌رسه می‌نویسن، بعدش میرن سر یا ته کامنت اضافه می‌کنن: با احترام.


"با احترام" نونی نیست که بشه باهاش "بی‌احترامی"ها رو ساندویچ کرد.



احترام باید در ذات کلام باشد، نه سوار بر کلام.

(اگر اثرش بیشتر میشه، بگیم ماندلا گفته یا پروفسور سمیعی یا هر کس دیگه 😉)


#نق #منبر #اتیکت