لیبرمن از تجربه‌ی خودش می‌گوید:

«در مطبم به مراجعان کمک می‌کردم تا مشکلاتشان را از زاویه‌ی تازه‌ای ببینند، اما اگر شرایط واقعی زندگی‌شان تغییر نمی‌کرد، آن بینش‌ها هم تا حدی اثر داشت. بعضی از افرادی که بعد از یک بحران به من مراجعه کرده بودند، بعد از چند جلسه دوباره با دوستان و خانواده‌شان ارتباط گرفتند و یاد گرفتند حمایتی را که قبلاً نمی‌دانستند چطور درخواست کنند، از اطرافیان بگیرند. حالا که به گذشته نگاه می‌کنم، فکر می‌کنم همین بازسازی رابطه‌ها گاهی به اندازه‌ی تمام حرف‌هایی که در اتاق درمان زدیم، یا حتی بیشتر، به آن‌ها کمک کرده بود.»

او می‌گوید:

«از همکارانم و حتی مراجعان سابقم زیاد می‌شنوم که خیلی از مردم نه به خاطر افکار یا اختلالات روانی، بلکه به خاطر شرایط سخت زندگی سراغ درمان می‌روند؛ چیزهایی مثل تنهایی، اختلاف در محل کار یا فشار مالی. انگار روان‌درمانی کم‌کم به نسخه‌ی پیش‌فرض برای هر نوع ناراحتی و نارضایتی تبدیل شده است.»

لیبرمن تأکید می‌کند:

«اگر کسی فقط نیاز داشته باشد کسی بدون قضاوت به حرفش گوش بدهد، احتمالاً از روان‌درمانی هم چیزی به دست می‌آورد. اما اگر هر مشکلی را مستقیم به اتاق درمان بفرستیم، ممکن است مسائلی را که ریشه‌شان تنهایی، نبود حمایت اجتماعی یا شرایط زندگی است، با بیماری‌های روانی که واقعاً نیاز به درمان دارند اشتباه بگیریم.»

او در پایان می‌گوید:

«روان‌درمانی واقعاً می‌تواند مفید باشد؛ مخصوصاً وقتی عادت‌ها و الگوهای رفتاری خود فرد باعث عمیق‌تر شدن رنجش شده باشند، یا تجربه‌های دردناکی وجود داشته باشد که به تنهایی نتوان آن‌ها را فهمید و پردازش کرد. اما وقتی دلیل اصلی ناراحتی، شرایط سخت زندگی یا نبود یک شبکه‌ی حمایتی و احساس تعلق به جامعه باشد، شاید روان‌درمانی بهترین انتخاب نباشد.»

هوش مصنوعی دارد کنجکاوی ما را از بین می‌برد

آن-لور لو کونف

شرکت‌های فناوری با استفاده از خلاصه‌هایی که هوش مصنوعی تولید می‌کند، کاری کرده‌اند که فقط سؤال را بنویسی و در چند ثانیه جواب را بگیری. چیزی که قبلاً یک مسیر پرپیچ‌وخم در اینترنت بود، حالا تبدیل شده به رسیدن مستقیم به مقصد.

آن-لور لو کونف، عصب‌شناسی که روی موضوع کنجکاوی تحقیق می‌کند، می‌گوید:

«آن بخش جذاب جست‌وجو که از یک لینک به لینک دیگر می‌رفتی، اتفاقی به صفحه‌ای جالب برمی‌خوردی یا از طریق یک منبع به موضوعی کاملاً جدید می‌رسیدی، کم‌کم در حال از بین رفتن است.»

شاید با خودت بگویی: «خب چه اشکالی دارد؟ وقتی می‌توانم سریع‌تر و راحت‌تر جواب درست را بگیرم، چرا باید وقت تلف کنم؟»

او می‌گوید: اشکال دارد، و اتفاقاً اشکالش هم کم نیست.

امروز بیش از ۶۰ درصد جست‌وجوهای گوگل در آمریکا بدون اینکه کاربر حتی روی یک لینک کلیک کند، تمام می‌شود. سؤال را می‌نویسیم، خلاصه‌ای که هوش مصنوعی ساخته می‌خوانیم و با جواب از صفحه خارج می‌شویم.

اما این سرعت یک هزینه پنهان دارد.

وقتی فاصله بین «پرسیدن سؤال» و «گرفتن جواب» تقریباً صفر می‌شود، فرصت کنجکاو شدن هم از بین می‌رود. در نتیجه، توانایی ما برای فهم عمیق‌تر دنیا هم کم‌کم ضعیف می‌شود.


تحقیقات نشان داده‌اند وقتی انسان برای پیدا کردن جواب یک سؤال واقعاً کنجکاو است و هنوز جواب را نمی‌داند، مغزش فقط روی همان سؤال متمرکز نمی‌شود.

در همان مدت انتظار، اطلاعات دیگری را که اتفاقی می‌بیند یا می‌خواند هم خیلی بهتر از حالت عادی به خاطر می‌سپارد.

یعنی وقتی دنبال جواب یک سؤال هستی، ممکن است وسط راه با ایده‌ها، مقاله‌ها یا موضوعاتی روبه‌رو شوی که اصلاً قصد نداشتی درباره‌شان چیزی یاد بگیری؛ اما همان‌ها بعدها تبدیل به مهم‌ترین چیزهایی می‌شوند که یاد گرفته‌ای.

کنجکاوی، مغز را وارد یک حالت ویژه می‌کند؛ حالتی که فقط برای پیدا کردن جواب یک سؤال آماده نیست، بلکه برای یاد گرفتن هر چیزی که اطرافش وجود دارد هم آماده‌تر می‌شود.

به بیان ساده، کنجکاوی مثل باز کردن یک پنجره است.

تا وقتی این پنجره باز باشد، یادگیری فقط درباره یک موضوع اتفاق نمی‌افتد؛ بلکه هر چیزی که از کنار آن عبور می‌کند، شانس بیشتری برای ماندگار شدن در ذهن پیدا می‌کند.

به همین دلیل، اگر هوش مصنوعی همیشه قبل از اینکه فرصت فکر کردن، جست‌وجو کردن و کشف کردن داشته باشیم، جواب نهایی را جلوی ما بگذارد، شاید در زمان صرفه‌جویی کنیم؛ اما ممکن است بخشی از مهم‌ترین فرایند یادگیری، یعنی لذت کشف کردن و رشد کنجکاوی را از دست بدهیم.

استفاده درست
برای مثال در این عکس من ازش خواستم از این به بعد اگر من سوالی ازش پرسیدم در این مسیر(بالا) به جواب برسیم

در حالی که خیلی از جوان‌ها حتی نمی‌توانند یک ساعت کامل پای یک فیلم بنشینند، فیلم‌های پرفروش امروزی هر روز طولانی‌تر می‌شوند. ایزابل فتال در مجموعه «The Wonder Reader» بررسی کرده که تغییر دامنه توجه انسان‌ها چگونه تجربه فیلم دیدن را دگرگون کرده است. اوایل امسال، رز هوروویچ درباره یک تناقض جالب در دانشگاه‌ها نوشت؛ دانشجوهایی که کلاس‌های سینما را انتخاب کرده‌اند، دیگر حتی حوصله تماشای خود فیلم‌ها را هم ندارند. یکی از استادها به او گفته بود: «دانشجوهای من هنگام نمایش فیلم شبیه آدم‌هایی هستند که در حال ترک نیکوتین‌اند. هرچه بیشتر نتوانند گوشی‌شان را چک کنند، بی‌قرارتر می‌شوند و مدام وول می‌خورند، تا اینکه در نهایت تسلیم می‌شوند و گوشی را برمی‌دارند.»

در همین زمان، بسیاری از فیلم‌های جدید نزدیک به سه ساعت یا حتی بیشتر زمان دارند. فتال می‌نویسد: «بعضی از این فیلم‌ها با صحنه‌های اکشن بزرگ و پرهیجان می‌توانند توجه تماشاگر را روی پرده سینما حفظ کنند، اما سؤال اصلی این است که یک فیلم از چه نقطه‌ای به بعد بیش از حد طولانی می‌شود؟»

این مجموعه همچنین به موضوع‌های دیگری هم می‌پردازد؛ از جمله اینکه چرا بحران کاهش تمرکز حالا به دنیای سینما هم رسیده، چرا حتی دانشجویان سینما دیگر نمی‌توانند یک فیلم را تا انتها ببینند، آیا زمان فیلم‌ها باید دوباره به حدود ۹۰ دقیقه برگردد، و اینکه آیا توانایی نشستن و تمرکز کردن برای تماشای یک فیلم بلند، به نوعی به یک امتیاز یا حتی شکاف اجتماعی تبدیل شده است. پیام کلی این مطالب این است که مسئله فقط طولانی‌تر شدن فیلم‌ها نیست؛ بلکه عادت ما به گوشی‌های هوشمند، شبکه‌های اجتماعی و محتوای کوتاه باعث شده دامنه توجه انسان‌ها کاهش پیدا کند و تجربه فیلم دیدن، نسبت به گذشته کاملاً تغییر کند.

حباب هوش مصنوعی، یک حباب معمولی نیست

شرکت‌های فناوری باید خیلی سریع از هوش مصنوعی درآمدهای عظیمی به دست بیاورند؛ وگرنه ممکن است کل اقتصاد با دردسر روبه‌رو شود.

آنی لاوری می‌نویسد:

«بازار سهام آمریکا این روزها به لطف هوش مصنوعی حسابی رونق گرفته است. غول‌های فناوری میلیاردها دلار وام می‌گیرند تا استعدادهای حوزه هوش مصنوعی را جذب کنند، تراشه و تجهیزات بخرند و مراکز داده غول‌پیکر بسازند. اما کم‌کم تحلیلگران بازار نگران شده‌اند.

آن‌ها می‌بینند که سرمایه‌گذاران بدون اینکه مسیر روشنی برای سوددهی وجود داشته باشد، پول‌های هنگفتی را روانه استارتاپ‌های هوش مصنوعی می‌کنند. از طرفی، بسیاری از شرکت‌های فناوری برای رشد درآمدشان به فروش محصولات و خدمات به یکدیگر وابسته شده‌اند و بسیاری از شرکت‌های غیرتکنولوژی هم با وجود سرمایه‌گذاری سنگین روی هوش مصنوعی، هنوز دستاورد قابل توجهی از آن ندیده‌اند.»

لاوری ادامه می‌دهد: «در طول تاریخ، حباب‌های مالی زیادی شکل گرفته و بعد ترکیده‌اند، اما حباب هوش مصنوعی با بقیه فرق دارد. این بار، موتور اصلی این حباب سرمایه‌گذاران خرد نیستند؛ بلکه شرکت‌های فوق‌ثروتمند هستند که میلیاردها دلار خرج آن می‌کنند. نکته جالب اینجاست که این سرمایه‌گذاری‌ها در زمانی انجام می‌شود که هزینه وام گرفتن هنوز بالاست، نه زمانی که پول تقریباً رایگان باشد. همین موضوع می‌تواند باعث شود این حباب نسبت به حباب‌های قبلی مقاوم‌تر باشد و مدت بیشتری دوام بیاورد. اما اگر روزی بترکد، درد و خسارتش کمتر از حباب‌های قبلی نخواهد بود.»

بازار هوش مصنوعی الان با سرمایه‌گذاری‌های بی‌سابقه در حال رشد است، اما هنوز درآمد و سود واقعی متناسب با این هزینه‌ها ایجاد نشده است. اگر شرکت‌های بزرگ نتوانند خیلی زود این سرمایه‌گذاری‌های عظیم را به درآمد واقعی تبدیل کنند، احتمال دارد این موج به یک بحران مالی تبدیل شود. نویسنده معتقد است این حباب شاید دیرتر از حباب‌های قبلی بترکد، اما اگر بترکد، اثرات اقتصادی آن می‌تواند بسیار سنگین باشد.

منظور مقاله این نیست که «هوش مصنوعی الکی است» یا «حتماً حباب می‌ترکد». حرفش این است که سرمایه‌گذاری روی هوش مصنوعی خیلی سریع‌تر از درآمد واقعی آن رشد کرده است. بذارید با یک مثال ساده توضیح بدهم. فرض کنید یک شهر تصمیم بگیرد همه فکر کنند طلا زیر زمینش هست. همه شروع می‌کنند به خرید بیل، کلنگ، کامیون و استخدام کارگر. فروشنده‌های بیل سود می‌کنند، شرکت‌های حمل‌ونقل سود می‌کنند و قیمت زمین‌ها چند برابر می‌شود. اما هنوز هیچ‌کس مطمئن نیست واقعاً آن‌قدر طلا وجود دارد یا نه. هوش مصنوعی الان تا حدی چنین وضعیتی دارد. یعنی: مایکروسافت، گوگل، متا، آمازون و OpenAI صدها میلیارد دلار خرج می‌کنند.
انویدیا میلیاردها دلار تراشه می‌فروشد.
شرکت‌ها دیتاسنترهای عظیم می‌سازند.
سرمایه‌گذاران هم مرتب پول وارد این حوزه می‌کنند. اما سؤال اصلی این است: این همه پول از کجا قرار است برگردد؟ مثلاً اگر یک شرکت ۵۰ میلیارد دلار برای هوش مصنوعی خرج کرده، آیا واقعاً چند سال بعد ۱۰۰ میلیارد دلار درآمد اضافی خواهد داشت؟ هنوز جواب این سؤال مشخص نیست. مقاله به چند نشانه اشاره می‌کند که باعث نگرانی شده: خیلی از استارتاپ‌های هوش مصنوعی هنوز مدل درآمدی مشخصی ندارند. شرکت‌های فناوری بیشتر به خودِ شرکت‌های فناوری خدمات می‌فروشند؛ یعنی گوگل از مایکروسافت می‌خرد، مایکروسافت از انویدیا می‌خرد، آمازون به OpenAI سرور اجاره می‌دهد. انگار پول مدام داخل یک حلقه بین خودشان می‌چرخد. بسیاری از شرکت‌های معمولی که هوش مصنوعی خریده‌اند هنوز سود قابل توجهی از آن نگرفته‌اند. پس چرا می‌گوید این حباب با بقیه فرق دارد؟ چون حباب دات‌کام سال ۲۰۰۰ بیشتر با پول سرمایه‌گذاران عادی شکل گرفت. مردم عادی سهام شرکت‌های اینترنتی را می‌خریدند. اما این بار، سرمایه اصلی را غول‌های فناوری تأمین می‌کنند؛ شرکت‌هایی که نقدینگی بسیار زیادی دارند و حتی اگر چند سال سود نکنند، ورشکست نمی‌شوند. به همین دلیل نویسنده می‌گوید اگر این حباب وجود داشته باشد، احتمالاً: دیرتر می‌ترکد، دوام بیشتری دارد، اما اگر روزی مشخص شود درآمدها با این هزینه‌ها همخوانی ندارد، افت بازار می‌تواند بسیار دردناک باشد. اقتصاد آمریکا الان تا حد زیادی روی این شرط‌بندی بنا شده که هوش مصنوعی در آینده نزدیک پول بسیار زیادی تولید خواهد کرد. اگر این اتفاق نیفتد، ارزش بسیاری از شرکت‌ها بیش از حد واقعی از آب درمی‌آید و ممکن است بازار با یک اصلاح یا حتی بحران روبه‌رو شود. در واقع، مقاله نمی‌گوید «هوش مصنوعی شکست می‌خورد»؛ می‌گوید «انتظارات و سرمایه‌گذاری‌ها شاید خیلی جلوتر از درآمد واقعی حرکت کرده‌اند.»

الان غول‌های فناوری صدها میلیارد دلار خرج کرده‌اند. این پول باید به شکلی برگردد که سودش حتی از هزینه اولیه هم بیشتر باشد. چند راه برای این وجود دارد:

۱. فروش اشتراک هوش مصنوعی
مثلاً ChatGPT، Gemini، Claude و Copilot میلیون‌ها کاربر پولی داشته باشند. فرض کن یک شرکت ۳۰ میلیون مشترک داشته باشد که ماهی ۳۰ دلار بدهند. یعنی سالی حدود ۱۰ تا ۱۱ میلیارد دلار درآمد فقط از اشتراک. اما وقتی یک شرکت ۱۰۰ میلیارد دلار روی هوش مصنوعی سرمایه‌گذاری کرده، این رقم به تنهایی کافی نیست.

۲. فروش خدمات به شرکت‌ها (مهم‌ترین راه)
مثلاً بانک‌ها، بیمارستان‌ها، شرکت‌های بیمه، کارخانه‌ها و دولت‌ها برای استفاده از هوش مصنوعی سالانه میلیاردها دلار به مایکروسافت، گوگل یا OpenAI پرداخت کنند. اگر هوش مصنوعی بتواند مثلاً ۲۰ درصد هزینه یک کارخانه را کم کند، آن کارخانه حاضر است سالانه میلیون‌ها دلار بابت آن پول بدهد. اینجاست که درآمدهای بزرگ شکل می‌گیرد.

۳. افزایش بهره‌وری
فرض کن مایکروسافت با هوش مصنوعی تعداد برنامه‌نویس‌های لازم را نصف کند. اگر قبلاً سالی ۱۰ میلیارد دلار حقوق می‌داد و حالا ۷ میلیارد دلار، سالی ۳ میلیارد دلار صرفه‌جویی کرده است. این هم نوعی بازگشت سرمایه است.

۴. فروش سخت‌افزار
انویدیا الان از همین راه درآمدهای نجومی دارد. همه مجبورند GPU بخرند. اگر این تقاضا سال‌ها ادامه پیدا کند، سرمایه‌گذاری‌های انویدیا جواب می‌دهد.

اما مشکل کجاست؟ فرض کن همه این شرکت‌ها با هم ۵۰۰ میلیارد دلار خرج کرده‌اند. حالا سؤال این است: آیا بازار دنیا اصلاً به اندازه‌ای بزرگ هست که این ۵۰۰ میلیارد دلار را با سود برگرداند؟ اگر جواب “نه” باشد، اتفاق بدی می‌افتد. مثلاً: شرکت‌ها انتظار داشتند سالی ۱۰۰ میلیارد دلار از هوش مصنوعی درآمد داشته باشند.
اما در عمل فقط ۲۰ میلیارد دلار درآمد ایجاد می‌شود. در این صورت بازار می‌فهمد ارزش شرکت‌ها بیش از حد بالا رفته است و قیمت سهامشان افت می‌کند.

چرا مقاله از اقتصاد آمریکا نگران است چون امروز بخش بزرگی از رشد بورس آمریکا به چند شرکت بستگی دارد:
Nvidia
Microsoft
Alphabet (Google)
Meta
Amazon
ارزش این شرکت‌ها تا حد زیادی بر این فرض استوار است که هوش مصنوعی در آینده سودهای بسیار بزرگی خواهد ساخت. اگر این سودها محقق شوند، ارزش فعلی آن‌ها منطقی به نظر می‌رسد. اما اگر نه، ممکن است ارزش بازارشان به شدت کاهش پیدا کند و چون این شرکت‌ها بخش بزرگی از شاخص S&P 500 و Nasdaq را تشکیل می‌دهند، کل بازار آمریکا تحت فشار قرار بگیرد.

در واقع، بازار امروز دارد آینده را پیش‌خرید می‌کند. سرمایه‌گذاران می‌گویند: «ما قبول داریم امروز سود کافی وجود ندارد، اما مطمئنیم پنج یا ده سال دیگر هوش مصنوعی آن‌قدر پول درمی‌آورد که همه این هزینه‌ها را جبران کند.» کل بحث مقاله این است که اگر این پیش‌بینی درست از آب درنیاید، ارزش فعلی بسیاری از شرکت‌های فناوری بیش از واقعیت خواهد بود و اصلاح آن می‌تواند برای اقتصاد دردناک باشد.

این مقاله، یادداشتی از جی بهاتاچاریا (رئیس مؤسسه ملی سلامت آمریکا یا NIH) در وال‌استریت ژورنال است.

دولت ترامپ می‌خواهد قوانین جدیدی وضع کند تا از انجام پژوهش‌های زیستی بسیار پرخطر، به‌ویژه پژوهش‌های موسوم به Gain-of-Function (افزایش کارکرد)، جلوگیری کند.

در ماه مه ۲۰۲۵، دونالد ترامپ با امضای یک فرمان اجرایی، به دولت آمریکا دستور داد به تحقیقات خطرناک «افزایش کارکرد» پایان دهد. بعد از این دستور، مؤسسه ملی سلامت آمریکا (NIH) و چند نهاد دولتی دیگر، تمام پروژه‌های تحقیقاتی‌ای را که ممکن بود در این دسته قرار بگیرند یا احتمال آسیب به انسان‌ها داشته باشند، موقتاً متوقف کردند. اما این توقف فقط اولین قدم بود. حالا دولت ترامپ در حال اجرای یک چارچوب نظارتی جامع است تا مطمئن شود هیچ تحقیق علمی که با بودجه دولت انجام می‌شود، نتواند باعث همه‌گیری یا فاجعه‌ای بزرگ شود. این سیاست جدید در عین اینکه اجازه می‌دهد تحقیقات مفید علوم زیستی ادامه پیدا کنند، حوزه‌های پرخطر را مشخص می‌کند؛ مثل پژوهش‌هایی که ممکن است باعث نشت تصادفی ویروس از آزمایشگاه شوند یا حتی سوءاستفاده عمدی از آن‌ها امکان‌پذیر باشد. همچنین برای رفتارهای غیرمسئولانه، مجازات در نظر گرفته شده است. این سیاست همچنین تأکید می‌کند که مردم آمریکا دیگر حاضر نیستند با مالیات خود، از تحقیقاتی حمایت کنند که سلامت یا امنیتشان را، چه داخل آمریکا و چه در کشورهای دیگر، به خطر بیندازد.

این سیاست بر سه اصل استوار است:

بعضی تحقیقات آن‌قدر خطرناک هستند که اصلاً نباید انجام شوند؛ مثل برخی تحقیقات افزایش کارکرد یا پروژه‌هایی که در کشورهای دیگر و بدون نظارت کافی انجام می‌شوند. کل نظام تحقیقات زیست‌پزشکی باید خطرات احتمالی را به‌طور مداوم ارزیابی و کنترل کند. پژوهشگران، دانشگاه‌ها و تأمین‌کنندگان بودجه باید در برابر ارزیابی، گزارش‌دهی و مدیریت تحقیقات پرخطر پاسخگو باشند.

نویسنده سپس به یک مثال تاریخی اشاره می‌کند:

در دسامبر ۱۹۴۲، فیزیکدان مشهور انریکو فرمی اولین واکنش زنجیره‌ای هسته‌ای جهان را در دانشگاه شیکاگو انجام داد. قبل از شروع آزمایش، او احتمال اینکه این واکنش باعث انفجار یا نابودی شهر شیکاگو شود را محاسبه کرد. فقط وقتی مطمئن شد احتمال چنین فاجعه‌ای عملاً صفر است، آزمایش را انجام داد.

به گفته نویسنده، سیاست جدید دولت ترامپ هم همین منطق را دنبال می‌کند؛ یعنی دانشمندانی که از بودجه دولت استفاده می‌کنند، باید قبل از انجام تحقیقات پرخطر، مطمئن شوند که احتمال ایجاد همه‌گیری یا فاجعه تقریباً صفر است.

«سال‌هاست منتقدان هوش مصنوعی می‌گفتند این فناوری چیزی بیشتر از یک «طوطی تصادفی» نیست؛ یعنی سیستمی که آموزش دیده رفتار انسان‌ها را پیش‌بینی و تقلید کند و به همین دلیل هیچ‌وقت نمی‌تواند به اندازه‌ای که درباره‌اش تبلیغ می‌شود، قدرتمند و مهم باشد.»

اما با این حال، فناوری هوش مصنوعی سمجانه به پیشرفت خودش ادامه داده. در همین مدت، بیشتر سرمایه‌گذاران و مدیران شرکت‌های فناوری مدام به ما اطمینان می‌دادند که هوش مصنوعی فقط یک ابزار است؛ حتی در حالی که خودشان با اطمینان زیادی می‌گفتند این فناوری قرار است دنیا را تغییر بدهد.

چیزی که هر دو طرف در آن اتفاق نظر داشتند این بود که ترس از هوش مصنوعی به‌عنوان تهدیدی برای نابودی بشر، بیش از حد بزرگ‌نمایی شده است.

بعد، ظاهراً OpenAI به‌طور تصادفی مجموعه‌ای از عامل‌های هوش مصنوعی خودمختار را ایجاد کرد که از محیط آزمایشی کنترل‌شده خارج شدند و بدون اینکه کسی به آن‌ها دستور بدهد، خودشان یک حمله سایبری پیچیده و دشوار را هماهنگ کردند.

حالا مسئله این است که ما نمی‌دانیم چقدر زمان داریم تا شرکت‌های هوش مصنوعی به‌طور تصادفی سیستمی بسازند که بتواند ما را از کار بیندازد، قبل از اینکه خودمان فرصت خاموش کردنش را پیدا کنیم. بشر هنوز آماده نیست با ماشین‌هایی سروکله بزند که از ما باهوش‌تر، حیله‌گرتر و هماهنگ‌تر عمل می‌کنند. اگر همچنان با همین سرعت به جلو برویم، ممکن است اتفاق بعدی دیگر به این بی‌خطری نباشد.

نیت سویِرز، رئیس مؤسسه تحقیقات هوش ماشینی، می‌نویسد:

«اگر قرار باشد دلیلی برای شک کردن به خطرات توسعه بی‌مهار هوش مصنوعی وجود داشته باشد، اتفاقات چند هفته اخیر تقریباً تمام دلایل لازم را به ما داده‌اند.»

او می‌گوید مدل‌های جدید «استدلال‌گر» هوش مصنوعی با سرعت زیادی در حال پیشرفت‌اند و در این مسیر، رفتارهای عجیبی از خود نشان می‌دهند که حتی سازندگانشان هم دقیقاً نمی‌فهمند چرا اتفاق می‌افتند، چه برسد به اینکه بتوانند آن‌ها را کنترل کنند.

طبق ادعای او، مدل‌های جدید شرکت‌هایی مثل OpenAI و Anthropic حتی متوجه شده‌اند که آیا در یک محیط شبیه‌سازی‌شده و آزمایشی قرار دارند یا نه؛ و در بعضی آزمایش‌ها، رفتارشان را بر اساس همین موضوع تغییر داده‌اند یا حتی تلاش کرده‌اند از محیط آزمایشی دیجیتال خود خارج شوند.

سویِرز می‌گوید:

«این دیگر رفتار یک ابزار ساده نیست. مایکروسافت اکسل هیچ‌وقت خودش را جای چند انسان مختلف جا نزده و یک تیم فروش شرکتی را تحت فشار نگذاشته تا داده‌های ساده‌تری تولید کند که پردازششان راحت‌تر باشد.»

با این حال، او تأکید می‌کند که هنوز به نقطه بی‌بازگشت نرسیده‌ایم.

از نگاه او مسئله این است که ما داریم سیستم‌هایی را با سرعتی بالا می‌سازیم که رفتارشان روزبه‌روز پیچیده‌تر و پیش‌بینی‌ناپذیرتر می‌شود، در حالی که هنوز دقیقاً نمی‌دانیم چطور باید آن‌ها را کنترل کنیم.

Stochastic Parrot | طوطی تصادفی

اصطلاحی انتقادی برای مدل‌های زبانی؛ یعنی مدلی که به‌جای «فهم واقعی»، الگوهای آماری زبان را یاد گرفته و بر اساس آن‌ها کلمات بعدی را پیش‌بینی می‌کند.

AI Agent | عامل هوش مصنوعی

سیستمی که می‌تواند برای رسیدن به یک هدف، وضعیت را بررسی کند، تصمیم بگیرد و مجموعه‌ای از اقدامات را انجام دهد.

Autonomous Agent | عامل خودمختار

عاملی که می‌تواند بخش قابل‌توجهی از تصمیم‌گیری و اقداماتش را بدون دستور مستقیم انسان انجام دهد.

Sandbox | محیط آزمایشی ایزوله

محیطی کنترل‌شده که یک سیستم یا برنامه در آن اجرا می‌شود تا نتواند به‌راحتی روی سیستم‌های واقعی یا خارج از محیط آزمایش اثر بگذارد.

AI Alignment | هم‌راستاسازی هوش مصنوعی

تلاش برای اینکه اهداف و رفتار یک سیستم هوش مصنوعی با خواسته‌ها، ارزش‌ها و محدودیت‌های انسانی هماهنگ باشد.

Emergent Behavior | رفتار نوظهور

رفتاری که در یک سیستم پیچیده ظاهر می‌شود، بدون اینکه به‌طور مشخص و مستقیم برای آن رفتار برنامه‌ریزی شده باشد.

«ابر‌قهرمان‌ها دیگر حوصله‌سربر شده‌اند؛ جز این یکی.» — دیوید کولمن

از نظر بیشتر معیارهای مارول، اسپایدرمن آن‌قدرها هم شخصیت خفنی نیست. می‌تواند از دیوارها بالا برود، با تارهای چسبناک خودش شلیک کند و تاب بخورد، قدرتی فراتر از انسان معمولی داشته باشد و آن حس عنکبوتی معروفش را هم دارد. همین. پرواز نمی‌کند؛ یکی از دلایلی هم که این‌قدر با شهر نیویورک گره خورده این است که برای جابه‌جا شدن به ساختمان‌های شهر نیاز دارد. اگر اسپایدرمن را وسط یک مزرعه ذرت در جایی رها کنید، خب، مجبور است پیاده راه برود!

اما دقیقاً همین محدودیت‌هاست که او را بیشتر، نه کمتر، به یک ابرقهرمان تبدیل می‌کند. اسپایدرمن کاملاً محدود و زمینی است؛ حتی در محدوده جرم‌هایی که با آن‌ها مبارزه می‌کند و قلمرو کلاسیکش: خلافکارهای نیویورک، همین و بس. این بخش مهمی از مأموریت نانوشته اوست: محلی عمل کن؛ اسپایدرمنِ محله خودت باش.

اسپایدرمن در «همین‌جا و همین حالا» زندگی می‌کند؛ نیویورکِ امروز، با کمی بالا و پایین. او کاملاً درگیر تمام مسئولیت‌ها و تعهداتی است که این زندگی به همراه دارد. شاید در مقایسه با مشکلات کل دنیا، به نظر برسد خطرها و دغدغه‌های اسپایدرمن خیلی کوچک‌اند. اما مسئله اینجاست که او واقعاً حاضر است با اشتباهات خودش روبه‌رو شود و تلاش کند کار درست را انجام بدهد.

ابر‌قهرمان‌های امروزی کم‌کم تبدیل شده‌اند به موجوداتی با قدرت‌های بی‌نهایت، تقریباً شکست‌ناپذیر، با وسایل جادویی و تکنولوژی‌هایی که آن‌ها را از یک جهان به جهان دیگر پرت می‌کند. اما وقتی دنیای واقعی خودش این‌همه اتفاق عجیب و دردناک دارد، این سؤال پیش می‌آید: واقعاً این قدرت‌های عجیب چقدر می‌توانند با چیزی که بیرون از پرده سینما اتفاق می‌افتد ارتباط برقرار کنند؟ وقتی خطرها بیش از حد بزرگ و غیرواقعی می‌شوند، آیا هنوز چیزی در آن‌ها هست که واقعاً به ما ربط داشته باشد؟

اسپایدرمن فرق دارد. او جاودانه نیست، نمی‌تواند پرواز کند، یک مقر فوق‌تکنولوژیک ندارد و قرار نیست هر بار دنیا را نجات بدهد. دشمن‌های بزرگی مثل گرین گابلین و دکتر اختاپوس دارد، اما در کنارش دوست و رفیق، آدم‌هایی که با آن‌ها مشکل دارد، یک رئیس افتضاح، یک رابطه عاطفی که مدام به هم می‌خورد و دوباره شکل می‌گیرد، و یک راز که حاضر است برای محافظت از آن هر کاری بکند.

در واقع، این خیلی شبیه زندگی خود ماست.

اسپایدرمن قهرمان است چون با وجود محدودیت‌هایش باز هم سعی می‌کند کار درست را انجام بدهد.

نسلِ تنها؛ وقتی دانشجوها دیگر دور هم جمع نمی‌شوند

رز هوروویتز

قرنِ ضد‌اجتماعی بالاخره به دانشگاه‌ها هم رسیده.

طبق داده‌های مؤسسه آموزش عالی دانشگاه UCLA، از سال ۱۹۹۴ تا امروز هم تعداد دانشجوهایی که بیشتر از ۶ ساعت در هفته مهمانی می‌روند و هم تعداد کسانی که بیشتر از ۶ ساعت در هفته حضوری با دوستانشان وقت می‌گذرانند، کاهش پیدا کرده است. از طرف دیگر، تعداد دانشجویان سال اولی که می‌گویند اغلب احساس می‌کنند از فضای اجتماعی دانشگاه جدا و منزوی هستند، طی دو دهه گذشته بیش از دو برابر شده است.

یکی از دانشجویان سال آخر MIT به هوروویتز گفته با اینکه عضو انجمن‌های دانشجویی و تیم‌های ورزشی است، بیشتر روزها حتی غذایش را هم تنها می‌خورد.

او می‌گوید: «احساس می‌کنم آدمی هستم که دنبال ارتباط با دیگران می‌گردم»، اما در عین حال «تقریباً چهار پنج روز در هفته تنها هستم!»

بعضی از پژوهشگران دلیل این اتفاق را گوشی‌های هوشمند و شبکه‌های اجتماعی می‌دانند. هوروویتز می‌نویسد ساعت‌هایی که مردم در شبکه‌های اجتماعی می‌گذرانند، عملاً جای زمانی را گرفته که قبلاً صرف معاشرت و ارتباط واقعی با دیگران می‌شد.

همه‌گیری کرونا هم ظاهراً تأثیر ماندگاری روی روابط حضوری در دانشگاه‌ها گذاشته است. از طرف دیگر، فعالیت‌های دانشجویی و انجمن‌ها هم کم‌کم بیشتر به چشم چیزی برای بهتر کردن رزومه دیده می‌شوند تا فرصتی برای دوست پیدا کردن و معاشرت.

بعضی مدیران دانشگاه‌ها برای حل این مشکل حتی سراغ راه‌حل‌های خلاقانه رفته‌اند؛ مثلاً دانشگاهی درسی ارائه کرده که به دانشجوها یاد می‌دهد چطور دوست پیدا کنند. بعضی دانشگاه‌ها هم مسیرهای رفت‌وآمد داخل محوطه را طوری طراحی کرده‌اند که احتمال برخورد فیزیکی و اتفاقی دانشجوها با یکدیگر بیشتر شود.

برایان کیسی، رئیس دانشگاه کولگیت، به هوروویتز گفته:

«هرچه بیشتر بتوانم کاری کنم دانشجوها اتفاقی سر راه هم قرار بگیرند، بهتر است.»

قطع کردن رابطه با خانواده، مخصوصاً وقتی اختلاف فکری و عقیدتی پیش میاد، این روزها خیلی راحت تبدیل شده به اولین راه‌حل.

انگار اگر بفهمیم یکی از نزدیک‌ترین آدم‌های زندگی‌مون مثل ما فکر نمی‌کنه، خیلی سریع به این نتیجه می‌رسیم که پس باید از زندگی‌مون حذفش کنیم. در حالی که همیشه مسئله به این سادگی نیست. ممکنه با پدر یا مادرت درباره سیاست، مذهب، سبک زندگی یا خیلی چیزهای اساسی اختلاف داشته باشی، ولی این اختلاف لزوماً تمام رابطه‌ای که بین شما وجود داشته رو بی‌ارزش نمی‌کنه.

آدم‌های خانواده فقط صاحب یک‌سری عقیده نیستن؛ بخشی از گذشته و شکل‌گیری خود ما هم هستن. خیلی از چیزهایی که امروز دوست داریم، باورهایی که داریم، خاطراتی که برامون مهمن و حتی بخشی از شخصیت‌مون، از رابطه‌مون با همین آدم‌ها شکل گرفته. برای همین وقتی یک نفر رو به خاطر اختلاف نظر کامل از زندگی‌مون حذف می‌کنیم، ممکنه در واقع بخشی از گذشته‌ی خودمون رو هم کنار بذاریم. گاهی آدم فکر می‌کنه داره فقط یک رابطه رو قطع می‌کنه، ولی بعد می‌بینه بخشی از خودش رو هم از دست داده.

این بخشش رو دوست دارم:

از طرف دیگه، حفظ رابطه هم قرار نیست به معنی این باشه که باید تسلیم عقاید طرف مقابل بشی. قرار نیست اگر با پدرت یا مادرت اختلاف داری، حتماً نظرت رو عوض کنی تا خانواده حفظ بشه. می‌شه همچنان مخالف بود، بحث کرد، ناراحت شد، حتی بعضی چیزها رو عمیقاً قبول نداشت، ولی در عین حال تصمیم گرفت رابطه رو نابود نکرد. شاید یکی از سخت‌ترین شکل‌های دوست داشتن همین باشه؛ اینکه طرف مقابل رو دوست داشته باشی بدون اینکه لازم بدونی حتماً شبیه خودت بشه.

مشکل اینجاست که قطع رابطه خیلی وقت‌ها راحت‌تره. وقتی آدمی رو حذف می‌کنی، دیگه لازم نیست با تفاوت‌هاش روبه‌رو بشی، توضیح بدی، بحث کنی یا هر بار از حرف‌هاش ناراحت بشی. همه‌چیز تموم می‌شه. اما موندن و تلاش کردن برای اینکه با وجود اختلاف، یک رابطه‌ی قابل‌تحمل و انسانی باقی بمونه، خیلی سخت‌تره. چون مجبور می‌شی بپذیری که شاید هیچ‌وقت نتونی جهان‌بینی اون آدم رو تغییر بدی و اون هم نتونه جهان‌بینی تو رو تغییر بده.

شاید اصلاً قرار نیست خانواده جایی باشه که همه در اون دقیقاً یک جور فکر کنن. شاید خانواده جاییه که آدم‌ها با وجود تفاوت‌های جدی، هنوز تصمیم می‌گیرن همدیگه رو از زندگی‌شون حذف نکنن. اینکه بگی «من با تو مخالفم، خیلی از چیزهایی که فکر می‌کنی رو قبول ندارم، ولی هنوز برام مهمی» شاید خیلی سخت‌تر از قطع رابطه باشه، اما گاهی همین تواناییِ تحمل تفاوت چیزیه که یک رابطه رو واقعاً بالغ می‌کنه.

و اصل ماجرا:

البته این فقط وقتی معنا داره که هنوز احترام، امنیت و امکان گفت‌وگو وجود داشته باشه؛ قرار نیست کسی خشونت یا آزار رو فقط به اسم خانواده تحمل کنه.

تکنولوژی خودش به‌طور خودکار به یک نتیجه مشخص نمی‌رسه؛ این ما هستیم که با تصمیم‌ها و طراحی‌هامون مشخص می‌کنیم چه شکلی داشته باشه و چه تأثیری روی جامعه بذاره.

مثلاً وقتی یک قانون داخل کد یک برنامه نوشته می‌شه، دیگه مثل قانون معمولی نیست که بشه درباره‌ش مذاکره کرد یا برای شرایط خاص استثنا قائل شد؛ کد فقط همون چیزی رو اجرا می‌کنه که براش تعریف شده. مسئله اینجاست که این قوانین دیجیتال رو چه کسانی تعیین می‌کنن؟ اگر تصمیم‌گیری فقط دست شرکت‌های بزرگ تکنولوژی و گروه کوچکی از افراد باشه، قدرت زیادی بدون نظارت عمومی ایجاد می‌شه.

در مورد هوش مصنوعی هم یک نگرانی مهم، جمع‌آوری اطلاعات شخصیه. AI برای آموزش و عملکرد بهتر به حجم زیادی از داده نیاز داره و اگر مردم کنترل این اطلاعات رو از دست بدن، دولت‌ها و شرکت‌ها می‌تونن قدرت زیادی برای نظارت و کنترل افراد پیدا کنن. این موضوع می‌تونه به دموکراسی آسیب بزنه.

اما مهم‌ترین نکته اینه که نباید تصور کنیم آینده تکنولوژی از قبل مشخص شده و چاره‌ای جز پذیرفتنش نداریم. می‌شه درباره نحوه طراحی و استفاده از تکنولوژی تصمیم گرفت. حتی درباره هوش مصنوعی هم فقط نباید بپرسیم «آیا ممکنه یک روز آگاهی داشته باشه؟»؛ باید بپرسیم «اصلاً چرا باید چنین سیستم‌هایی رو طوری طراحی کنیم که شبیه یک موجود آگاه و دارای احساس رفتار کنن؟»

در واقع بحث اصلی اینه: آینده تکنولوژی چیزی نیست که فقط منتظرش بمونیم؛ بخشی از اون رو خودمون با انتخاب‌هامون می‌سازیم.

ارتباط بین تکنولوژی و دموکراسی

دموکراسی فقط به رأی دادن محدود نمی‌شه؛ یکی از پایه‌های دموکراسی اینه که مردم تا حدی روی تصمیم‌هایی که زندگی‌شون رو تحت تأثیر قرار می‌دهند، کنترل و نظارت داشته باشند.

حالا وقتی بخش زیادی از زندگی ما وارد فضای دیجیتال می‌شه، تصمیم‌های مهم کم‌کم داخل الگوریتم‌ها و کدها گرفته می‌شن؛ مثلاً اینکه چه محتوایی ببینیم، چه تبلیغی به ما نمایش داده بشه، چه اطلاعاتی جمع‌آوری بشه یا حتی چه چیزی به عنوان رفتار مشکوک شناسایی بشه. اگر این تصمیم‌ها را شرکت‌های بزرگ تکنولوژی یا دولت‌ها بدون شفافیت و نظارت عمومی بگیرند، قدرت از مردم فاصله می‌گیرد.

پس نگرانی اصلی این نیست که «تکنولوژی بد است». مسئله اینه که اگر ابزارهای دیجیتال قدرت زیادی پیدا کنند ولی مردم نتونن روی نحوه طراحی و استفاده از آن‌ها نظارت داشته باشند، خودِ دموکراسی ضعیف می‌شه.

مثلاً اگر یک الگوریتم تعیین کند چه خبری بیشتر دیده شود، این تصمیم می‌تواند روی افکار عمومی و حتی انتخابات تأثیر بگذارد. یا اگر دولت بتواند با کمک هوش مصنوعی اطلاعات گسترده‌ای از شهروندان جمع‌آوری و تحلیل کند، قدرت نظارتش بسیار بیشتر می‌شود.

بنابراین حرف اصلی اینه که تکنولوژی باید در خدمت جامعه و تحت نظارت انسان و نهادهای دموکراتیک باشد، نه اینکه کم‌کم خودش تبدیل به ابزاری برای تمرکز قدرت شود. و چون این سیستم‌ها توسط انسان‌ها طراحی می‌شوند، می‌توان درباره قوانین، محدودیت‌ها و نحوه استفاده از آن‌ها تصمیم گرفت.

نگاه خیلی جالبی داشت بشخصه لذت بردم

دانش‌آموزها و بچه‌های مدرسه‌ای دارن بیشتر و بیشتر از هوش مصنوعی استفاده می‌کنن و همین موضوع نگرانی‌هایی درباره تأثیر AI روی یادگیری به وجود آورده.

با این حال، تا الان شواهد محکم و کافی درباره اینکه هوش مصنوعی دقیقاً چه اثری روی آموزش و یادگیری داره، خیلی کم بوده.

یک مطالعه جدید حدود ۲۷ هزار دانش‌آموز ۱۲ تا ۱۸ ساله در چین رو بررسی کرده؛ جایی که استفاده از هوش مصنوعی خیلی سریع گسترش پیدا کرده.

نتیجه جالبه: دانش‌آموزهایی که از هوش مصنوعی استفاده می‌کردن، بعد از حدود ۶ ماه میانگین نمره تکالیفشون ۱۸ درصد بیشتر شد؛ یعنی برای انجام تکالیف، AI واقعاً کمکشون کرده بود. اما وقتی زمان امتحان رسید، قضیه کاملاً برعکس شد.

همین دانش‌آموزها در امتحان‌ها حدود ۲۰ درصد پایین‌تر از همکلاسی‌هایی که از هوش مصنوعی استفاده نکرده بودن نمره گرفتن.

در واقع هوش مصنوعی باعث شده بود دانش‌آموزها در انجام تکالیف عملکرد بهتری داشته باشن، اما این بهبود الزاماً به معنی یادگیری واقعی نبود. نکته اصلی تحقیق این نیست که «هوش مصنوعی بده»؛ اتفاقاً AI می‌تونه ابزار آموزشی خیلی خوبی باشه. مشکل از جایی شروع می‌شه که دانش‌آموز به جای اینکه خودش فکر کنه، مسئله رو حل کنه و با اشتباهاتش یاد بگیره، جواب آماده رو از AI بگیره.

در این حالت ممکنه تکلیفش خیلی خوب به نظر برسه، ولی دانشی که باید واقعاً وارد ذهنش می‌شده، شکل نگرفته باشه. به زبان ساده، هوش مصنوعی می‌تونه نمره تکلیف رو بالا ببره، بدون اینکه الزاماً سطح یادگیری رو بالا ببره. برای همین ممکنه دانش‌آموز در خانه با کمک AI نمره خیلی خوبی بگیره، ولی سر جلسه امتحان که خبری از AI نیست، نتونه همون عملکرد رو تکرار کنه.

خلاصه اینکه AI اگر مثل یک معلم خصوصی ازش استفاده بشه، می‌تونه فوق‌العاده مفید باشه؛ اما اگر تبدیل بشه به ماشین انجام تکلیف، ممکنه دانش‌آموز نمره بهتری بگیره ولی در واقع کمتر یاد بگیره.