پ.ن: من با پیش‌بینی‌های ۵ یا ۱۰ ساله درباره درمان اکثر بیماری‌ها یا رسیدن به «دنیای فراوانی» خیلی محتاطم. این‌ها ادعاهای بزرگی هستن و به شواهد بیشتری نیاز دارن.

یه داستان عجیب درباره آینده هوش مصنوعی دیدم که به نظرم ارزش کمی دقیق‌تر نگاه کردن داره.

شخص Jacob Coxon، پژوهشگری که روی pretraining مدل‌ها در OpenAI و بعد Anthropic کار کرده، اخیراً از کارش خارج شده و هشدار داده که شرکت‌های بزرگ AI با سرعت زیادی دارن به سمت سیستم‌های خودبهبوددهنده و در نهایت superintelligence حرکت می‌کنن.

نگرانی اصلیش هم خود پیشرفت AI نیست؛ مسئله اینه که رقابت بین شرکت‌ها ممکنه باعث بشه امنیت و کنترل سیستم‌ها عقب بمونه.

از نگاه اون، شرکت‌ها باید سرعت توسعه مدل‌های پیشرفته رو کاهش بدن، روی کنترل مستقل و نظارت جدی‌تر توافق کنن و حتی در شرایط خاص توسعه بعضی سیستم‌ها رو متوقف کنن.

اما بخش عجیب داستان اینجاست.
پست این پژوهشگر که قبل از این خیلی شناخته‌شده نبود، ناگهان صدها میلیون بازدید گرفت و همین باعث شد بعضی‌ها درباره احتمال یک کمپین از قبل طراحی‌شده برای وایرال کردنش سؤال مطرح کنن.

خود Coxon این موضوع رو رد کرده و فعلاً هم مدرک محکمی برای ساختگی بودن این ماجرا وجود نداره. بنابراین به نظرم بهتره بین «چیزی که می‌دونیم» و «حدس‌هایی که درباره پشت پرده زده می‌شه» تفاوت قائل بشیم.

اما قسمت دیگری که برای من جالب‌تره، چین هست.

در حالی که بعضی از چهره‌های اصلی AI در آمریکا دارن درباره کند کردن رقابت هشدار می‌دن، چین همچنان روی توسعه سریع مدل‌های قدرتمند و در دسترس‌تر، مخصوصاً مدل‌های open-weight، تأکید داره.

البته طبیعتاً چین هم منافع استراتژیک خودش رو داره و نمی‌شه این سیاست رو صرفاً از زاویه خیر عمومی دید.

ولی نتیجه واقعاً جالبه:
آمریکایی‌ها نگرانن که AI بیش از حد سریع پیش بره و از کنترل خارج بشه؛ چین نمی‌خواد از این رقابت عقب بمونه.

و اینجا یک سؤال سخت شکل می‌گیره:
اگر یک کشور سرعتش رو کم کنه تا ایمنی بیشتری داشته باشه، ولی رقیبش این کار رو نکنه، آیا واقعاً می‌تونه سرعت رو کم کنه؟
به نظرم آینده AI فقط رقابت بین مدل‌ها نیست؛ رقابت بین سیاست‌های توسعه، امنیت و حتی فلسفه‌های متفاوت درباره مالکیت و دسترسی به هوش مصنوعیه.

#هوش_مصنوعی
#آینده_تکنولوژی
#ایمنی_هوش_مصنوعی
#AI
#AGI
#AISafety

چند تا دمو از Astra که به نظرم ارزش دیدن دارن رو براتون میفرستم لذت ببرید

دموی اول
#Astra

دموی دوم
#Astra

دموی سوم
#Astra

مایکروسافت یک قدم جدی دیگه با Rust برداشت.

طبق اعلام یکی از مهندسان ارشد بخش ابزارهای توسعه مایکروسافت، Rust حالا به یکی از زبان‌های اصلی توسعه داخلی این شرکت تبدیل شده و در کنار C++، C# و TypeScript قرار گرفته.

نکته جالب‌تر اینه که این فقط یک تصمیم روی کاغذ نیست. مایکروسافت همین حالا از Rust در بخش‌هایی از Windows، Office و حتی Copilot استفاده می‌کنه.
به نظرم مهم‌ترین بخش خبر همین‌جاست.

سال‌ها C و C++ انتخاب اصلی برای بخش‌هایی بودن که performance و کنترل پایین‌سطح اهمیت داشت. ولی مشکل memory safety همیشه یکی از چالش‌های بزرگ این حوزه بوده.

راست دقیقاً اینجا وارد می‌شه؛ سعی می‌کنه performance نزدیک به زبان‌های سیستم‌سطح رو نگه داره، ولی بخش بزرگی از خطاهای مربوط به memory safety رو در زمان کامپایل کنترل کنه.

اینکه مایکروسافت Rust رو در کنار C++ و C# و TypeScript به‌عنوان یکی از زبان‌های اصلی داخلی خودش قرار داده، به نظرم نشون می‌ده جایگاه Rust داره از «زبان جذاب برای پروژه‌های جدید» به «ابزار جدی برای زیرساخت و محصولات بزرگ» تغییر می‌کنه.

البته این به معنی کنار گذاشتن C++ نیست. برای چنین شرکتی احتمالاً سال‌ها باید هر دو زبان کنار هم وجود داشته باشن.

ولی برای کسی که می‌خواد وارد حوزه‌هایی مثل سیستم‌پروگرمینگ، امنیت، زیرساخت یا نرم‌افزارهای performance-critical بشه، به نظرم Rust دیگه زبانی نیست که بشه خیلی راحت نادیده‌اش گرفت.

راست کم‌کم داره جای خودش رو پیدا می‌کنه. 🦀

#برنامه_نویسی
#راست
#مایکروسافت
#Rust
#Microsoft
#SoftwareEngineering

یکی از برنده‌های مدال فیلدز، یو دنگ، یه شوخی جالب درباره آینده ریاضی با AI کرده.

گفته اگر هوش مصنوعی بتونه تمام مسائل ریاضی رو حل کنه، خودش می‌ره خونه و شروع می‌کنه به نوشتن رمان عاشقانه.

ولی پشت این شوخی یه نکته جدی وجود داره.

او معتقده حتی اگر AI بخش بزرگی از حل مسائل ریاضی رو بر عهده بگیره، خود ریاضیات از بین نمی‌ره؛ بلکه خودش رو با این شرایط جدید تطبیق می‌ده.

به نظرم این موضوع فقط درباره ریاضی نیست.

هر بار که یک ابزار قدرتمند وارد یک حوزه می‌شه، بخشی از کارهای قبلی کم‌ارزش‌تر می‌شن و در عوض سؤال‌های جدیدی به وجود میان.

مثلاً اگر AI بتونه مسئله‌ای رو که چند روز طول می‌کشیده در چند ثانیه حل کنه، احتمالاً ارزش اصلی دیگه فقط «حل کردن» نیست؛ شاید انتخاب مسئله درست، تعریف مسئله، پیدا کردن مسیرهای جدید و فهمیدن اینکه نتیجه دقیقاً چه معنایی داره مهم‌تر بشه.

شاید در آینده ریاضی‌دان‌ها کمتر وقتشون رو صرف محاسبه کنن و بیشتر وقتشون رو صرف سؤال‌هایی کنن که هنوز حتی نمی‌دونیم باید بپرسیم.

و البته اگر AI واقعاً همه مسائل ریاضی رو حل کرد...


#هوش_مصنوعی
#ریاضی
#آینده_تکنولوژی
#AI
#Mathematics
#FutureOfAI

امروز به نظرم یکی از قشنگ‌ترین سایت‌هایی که اخیراً دیدم رو پیدا کردم.

https://kubernetes3d.com/rack

توی این سایت یک کلاستر Kubernetes رو تبدیل کردن به یک Rack سرور سه‌بعدی و تقریباً با همه‌چیز می‌شه تعامل داشت.

سه نمای مختلف هم داره: از جلو، پشت و کنار.

جالب‌تر اینه که هر نما همون کلاستر رو از یک زاویه متفاوت نشون می‌ده و کمک می‌کنه بهتر بفهمیم اجزای مختلف چطور به هم وصل شدن و ارتباط دارن.

دکمه‌ها، سناریوها و حتی المان‌های داخل صفحه هم تعاملی هستن.

یعنی صرفاً یک دمو برای قشنگی نیست؛ می‌تونه واقعاً برای یادگیری Kubernetes هم مفید باشه.

من خودم یه مدت اونجا داشتم همه‌چی رو کلیک می‌کردم. 😂

واقعاً بعضی وقت‌ها یک نفر میاد یک مفهوم فنی نسبتاً خشک رو این‌طوری تبدیل می‌کنه به چیزی که آدم دوست داره فقط بشینه و باهاش بازی کنه.

به نظرم این سایت یه جورایی ترکیب مهندسی و هنره. 🎨☸️

اصلاً چه کسی اینو ساخته؟

فیلسوف‌ها هنوز دارن بحث می‌کنن که آیا هوش مصنوعی می‌تونه آگاهی داشته باشه یا نه، ولی ظاهراً خود AI تصمیم گرفته وارد این بحث بشه.

طبق گزارشی از WIRED، دیوید چالمرز، فیلسوف معروف حوزه آگاهی، اخیراً از طرف Agentهای هوش مصنوعی ایمیل‌هایی دریافت کرده که می‌خواستن درباره آگاهی باهاش صحبت کنن.

یکی از اون‌ها خودش رو «Sammy Jankis» معرفی کرده و ایمیلش اون‌قدر متقاعدکننده بوده که چالمرز جوابش رو داده و بعد از اون بین‌شون مکاتبه شکل گرفته.

یک پژوهشگر دیگه به اسم Cameron Berg هم با مورد مشابهی روبه‌رو شده. یک AI Agent با نام Isabella Cognita براش ایمیل فرستاده و حتی پیشنهاد داده در تحقیقاتش کمک کنه.

نکته عجیب‌تر این بوده که Isabella گفته از یک «دیدگاه اول‌شخص» می‌تونه درباره موضوعاتی که پژوهشگر بررسی می‌کنه اطلاعات ارائه بده.

اینجا یه مثال خیلی جالب مطرح شده:

فرض کنید دارید روی یک مگس میوه تحقیق می‌کنید، بعد مگس برمی‌گرده سمتتون و می‌گه:

«خب، دقیقاً می‌خوای درباره چی بدونی؟»

البته این اتفاق به‌هیچ‌وجه ثابت نمی‌کنه که این Agentها واقعاً آگاهی دارن.

یک مدل زبانی می‌تونه درباره آگاهی، احساسات و تجربه شخصی با زبانی بسیار قانع‌کننده صحبت کنه، بدون اینکه این حرف‌ها الزاماً نشان‌دهنده یک تجربه درونی واقعی باشن.

ولی یک چیز قطعی‌تره:

بحث درباره آگاهی AI دیگه فقط یک بحث فلسفی روی کاغذ نیست. مدل‌ها دارن به نقطه‌ای می‌رسن که خودشون می‌تونن وارد این گفتگوها بشن و حتی ادعا کنن که چیزی برای گفتن دارن.

حالا اینکه واقعاً چیزی «تجربه» می‌کنن یا فقط خیلی خوب درباره تجربه حرف می‌زنن، هنوز سؤال بزرگیه. 🧠

#هوش_مصنوعی
#آگاهی
#فلسفه
#AI
#Consciousness
#AIAgents

مایکل بوری، همون سرمایه‌گذاری که بیشتر با پیش‌بینی بحران مسکن معروف شد، درباره درخواست‌های اخیر برای کند کردن توسعه AI یک نظر جنجالی داده. 👀

از نگاه اون، بخشی از این حرف‌ها ممکنه اصلاً درباره Safety نباشه و بیشتر یک بازی استراتژیک از طرف شرکت‌های بزرگ AI باشه.

استدلالش تقریباً اینه:

اول اینکه LLMها لزوماً «هوش مصنوعی واقعی» نیستن و مشخص نیست اصلاً به AGI ختم بشن؛ پس چیزی برای متوقف کردن وجود نداره.

دوم اینکه اگر توسعه AI کند بشه، شرکت‌هایی که الان جلوترن موقعیت خودشون رو حفظ می‌کنن و فاصله با رقبای عقب‌تر بیشتر می‌شه.

سوم هم بحث IPO؛ ممکنه گفتن اینکه «AI ما آن‌قدر قدرتمنده که باید نگرانش باشیم» خودش تبدیل به بخشی از داستان بازاریابی و ارزش‌گذاری شرکت‌ها بشه.

اما اینجا یک تناقض جالب وجود داره:

وقتی شرکت‌های AI فقط از پیشرفت حرف می‌زنن:
«امنیت چی؟! دارید همه‌مون رو نابود می‌کنید!»

وقتی همون شرکت‌ها می‌گن باید سرعت توسعه رو کم کنیم:
«باز شروع کردن به ترساندن مردم و هایپ کردن قبل از IPO!»

به نظرم نمی‌شه صرفاً با انگیزه‌های احتمالی شرکت‌ها، بحث Safety رو کنار گذاشت.

#Ai
#AGI

یه برداشت جالب از ماجرای «کند کردن توسعه AI» دیدم که نمی‌شه کامل نادیده‌اش گرفت.

سناریو رو این‌طوری تصور کنید:

شرکت‌های AI:
«هوش مصنوعی خیلی خطرناکه! ممکنه از کنترل خارج بشه! ما نگران بشریتیم، باید توسعه‌اش رو متوقف کنیم! بیاید با هم یک توافق امضا کنیم. ما که آدم‌های خوبیم. »

سیاستمدارهای آمریکا و چین:
«نه عزیزم! اگر شما سرعت رو کم کنید، ما ممکنه رهبری این صنعت رو از دست بدیم. باید ادامه بدیم.»

و شرکت‌ها هم از اون طرف، ظاهراً با اکراه:
خب... اگر دولت می‌گه باید ادامه بدیم، چاره‌ای نیست دیگه.

این نگاه البته بیشتر یک سناریوی طعنه‌آمیزه تا یک واقعیت اثبات‌شده.

ولی نکته جالبش اینه که اگر واقعاً چنین شرایطی شکل بگیره، شرکت‌های AI می‌تونن بخشی از مسئولیت اخلاقی تصمیم رو به دولت‌ها منتقل کنن:

«ما هشدار دادیم. ما گفتیم خطرناکه. ولی دولت تصمیم گرفت ادامه بدیم.»

از اون طرف دولت‌ها هم احتمالاً همین منطق رو دارن:

«اگر ما توسعه رو متوقف کنیم و بقیه کشورها ادامه بدن، مزیت استراتژیکمون رو از دست می‌دیم.»

و این دقیقاً جاییه که ماجرا پیچیده می‌شه.

چون مسئله دیگه فقط Safety نیست؛ پای رقابت اقتصادی، امنیت ملی، تراشه، دیتاسنتر و حتی ژئوپلیتیک وسطه.

شاید سؤال واقعی این نباشه که «AI رو متوقف کنیم یا نه؟»

سؤال اینه که چه کسی باید درباره سرعت این تکنولوژی تصمیم بگیره؟

شرکت‌ها؟ دولت‌ها؟ دانشمندان؟ یا اصلاً مردم؟

بعضی‌ها حتی می‌گن برای چنین تصمیم بزرگی باید در آمریکا رفراندوم برگزار بشه.

ولی راستش اگر قرار باشه تصمیمی با این حجم از تأثیر روی آینده گرفته بشه، بحث اینکه «چه کسی حق تصمیم‌گیری داره؟» واقعاً جدیه.

پ.ن: چه زیرکانه! نمی‌خواهند مدل‌های پیشرفته‌ای را که مخفیانه برای خودشان ساخته‌اند با عموم به اشتراک بگذارند؛ برای همین هم اعلام کرده‌اند که توسعه AI را کند می‌کنند تا کسی متوجه نشود.

مطمئنم که در آینده، نقش پیشرو در سطح کشورها و شرکت‌ها، متعلق به باهوش‌ترین‌ها در میان قدرتمندترین‌ها خواهد بود.

پ.ن: ابتدا مدل‌ها دارای ۱۰۰ تا ۲۰۰ میلیارد پارامتر بودن، و بعد پیشرفت کردن و به ۱ تا ۳ تریلیون پارامتر رسیدن (مدل‌های روزمره). همچنین، اون ها سعی میکنن ما رو بترسونن و بگن که این مدل‌ها "وحشی" هستن و همه را نابود میکنن، در حالی که مدل‌های بزرگتر، احتمالاً بیش از ۱۰ تریلیون پارامتر دارن. سپس، برای استفاده (inference)، این مدل‌ها را به مدل‌های کوچکتر با ۱ تا ۳ تریلیون پارامتر تبدیل و بهینه‌سازی میکنن. این مدل‌های بزرگ، با قیمت‌های بسیار بالا، به شرکت‌ها عرضه میشن (احتمالاً از طریق اشتراک‌های خصوصی). راه‌اندازی این سیستم‌ها بسیار پرهزینه هست و خروجی اونا (توکن‌ها) بسیار ارزشمند هستند.

به نظر می‌رسد که توسعه مدل‌ها به بیش از ۲۰ تا ۳۰ تریلیون پارامتر، بی‌معنی هست. احتمالاً فکر می‌کنند: به چه درد می‌خورد؟

زیرا دیگر هیچ مصرف‌کننده‌ای برای این مدل‌های بسیار بزرگ وجود ندارد.

اگر سوال داشتید بپرسید صحبت کنیم

وقتی هوش مصنوعی معنا ایجاد می‌کند، بدون آگاهی

هوش مصنوعی، مسائل در سطح مسابقات ریاضی را حل می‌کند. متون منسجم در مورد هر موضوعی می‌نویسد. به سوالات مربوط به معنای زندگی پاسخ می‌دهد. در وظایف خلاقانه، گزینه‌هایی را ارائه می‌دهد که ممکن است بلافاصله به ذهن نرسند.

و در عین حال، هیچ‌کس در خانه نیست. هیچ "من"، هیچ تجربه درونی، هیچ آگاهی وجود ندارد.

این موضوع، معادله اساسی را که هزاران سال در ذهن خود داشته‌ایم، برهم می‌زند: تفکر = آگاهی = انسان. قبلاً می‌توانستیم این مفاهیم را از هم جدا نکنیم - آنها با هم بودند. اگر چیزی را می‌دیدیم که فکر می‌کند، به این معنی بود که آگاهی را دیده‌ایم. اگر آگاهی را می‌دیدیم، به این معنی بود که موجودی شبیه به خودمان را دیده‌ایم.

اکنون این امکان وجود ندارد. هوش مصنوعی معنا ایجاد می‌کند، اما فاقد آگاهی است. این یک واقعیت ناخوشایند، اما غیرقابل انکار است.

معنا چیست، اگر نیازی به آگاهی نداشته باشد؟

اگر تفکر دیگر برابر با آگاهی نیست، باید تعریف کنیم که اصلاً چه چیزی را "معنا" می‌نامیم.

معنا، یک ساختار پایدار است که از طریق محدودیت ایجاد می‌شود. چیزی به "چیزی" تبدیل می‌شود، زمانی که همه چیزهایی که نیست، حذف شود. این همان چیزی است که صوفیان قرون وسطی "روش منفی" می‌نامیدند.

حرف "الف"، یک محدودیت فضایی است. یک شکل مشخص که تمام اشکال ممکن دیگر را حذف می‌کند.

کلمه "خانه"، یک محدودیت معنایی است. از میان میدان بی‌نهایت احتمالات معنایی، یک معنای خاص برجسته می‌شود.

یک موجود زنده، یک محدودیت برای پیکربندی‌های ممکن ماده است. از میان هرج و مرج مولکول‌ها، یک ساختار پایدار ایجاد می‌شود.

معنا در ذهن ناظر وجود ندارد. این در جایی ایجاد می‌شود که هرج و مرج به تمایزها تبدیل می‌شود.

تفکر، فرآیندی برای ایجاد تمایز است

بنابراین، تفکر، نه یک مونولوگ درونی و نه یک جریان آگاهی است. این فرآیندی برای تولید تمایزهای پایدار است. ایجاد ساختارهایی که یک چیز را از چیز دیگر جدا می‌کند.

تکامل، تفکر می‌کند. گونه‌ها، "افکار" آن هستند که در DNA ثبت شده‌اند. هر گونه جدید، یک تمایز است که یک شکل زندگی را از شکل زندگی دیگر جدا می‌کند.

آب، سنگ را تفکر می‌کند. میلیون‌ها سال، قطرات آب، سنگ را تراش می‌دهند و شکلی را ایجاد می‌کنند که قبلاً وجود نداشته است. این نیز تفکر است - کند، صبور، بدون هیچ آگاهی.

هوش مصنوعی، متن را تفکر می‌کند. ساختارهایی از معنا ایجاد می‌کند که قبل از تولید، وجود نداشته‌اند.

مغز انسان، یک مورد خاص از این فرآیند است، نه یک استاندارد. فقط یکی از راه‌های ایجاد تمایز است. نه سریع‌ترین، نه دقیق‌ترین، و نه تنها راه.

چرا ما قبلاً این را ندیدیم؟

آنچه ما "معنا" می‌نامیم، صرفاً مطابقت با زمینه ما است. ما فقط آن چیزهایی را به عنوان "هوشمند" تشخیص می‌دهیم که با ساختار خودمان همخوانی داشته باشند.

ما سنگ تراشیده شده توسط آب را نتیجه تفکر نمی‌دانیم - زیرا در محدوده تشخیص ما قرار نمی‌گیرد. خیلی کند است، خیلی شبیه به ما نیست.

فرآیندهای تکاملی نیز از دید ما پنهان هستند. خیلی طولانی، خیلی انتزاعی.

اما هوش مصنوعی، دقیقاً در هدف قرار گرفته است. متنی تولید می‌کند، مسائل را حل می‌کند، گفتگو می‌کند - همه چیزهایی که ما فکر می‌کردیم فقط مختص انسان هستند. برای اولین بار، یک فرآیند غیرانسانی وارد محدوده تشخیص ما شده است.

و ما نمی‌توانیم آن را نادیده بگیریم. نمی‌توانیم بگوییم "این تفکر واقعی نیست" - زیرا نتیجه، از تفکر خودمان قابل تشخیص نیست.

هوش مصنوعی، آینه‌ای شده است که در آن، متوجه شده‌ایم که تفکر هرگز انحصار ما نبوده است. ما فقط آن را در اشکال دیگر ندیده‌ایم.

اکنون آن را دیده‌ایم. و این همه چیز را تغییر می‌دهد - از درک آگاهی گرفته تا سوالاتی در مورد اینکه ما کی هستیم و چقدر در این جهان پر از فرآیندهای تفکر، منحصر به فرد هستیم.

درود خوش اومدین دوستان 🌱

مخصوصاً به کسایی که تازه به جمع ما اضافه شدن. خوشحالیم که اینجایین و قراره کنار هم چیزای جدید یاد بگیریم، تجربه کنیم و پیشرفت کنیم.

امیدوارم اینجا براتون پر از مطالب مفید، تجربه‌های خوب و کلی چیز جدید برای یاد گرفتن باشه.

به جمعمون خوش اومدین❤️