هوش مصنوعی واقعاً می‌فهمه چه کار می‌کنه؟ اینجا یه سؤال عجیب مطرح می‌شه: ما داریم با چیزی کار می‌کنیم که جواب می‌ده، کد می‌نویسه، عکس رو تحلیل می‌کنه و حتی تصویر می‌سازه؛ اما خودمون دقیقاً نمی‌دونیم داخلش چه اتفاقی می‌افته که به این جواب رسیده. به این مسئله می‌گن Black Box یا جعبه سیاه.

ما ورودی رو می‌دیم و خروجی رو می‌بینیم، ولی بین این دو، داخل شبکه عصبی اتفاقات بسیار پیچیده‌ای می‌افته که همیشه نمی‌تونیم دقیقاً توضیح بدیم. مثلاً از کدم اسکرین‌شات می‌گیرم و می‌پرسم «چرا این کد کار نمی‌کنه؟» و مدل جواب درست می‌ده. اما سؤال جالب‌تر اینه: دقیقاً داخل مدل چه اتفاقی افتاد که فهمید مشکل کجاست؟ حالا اگر خیلی ساده کنیم، ماجرا اینه: وقتی عکس به هوش مصنوعی می‌دیم، قرار نیست مثل انسان با چشم بهش نگاه کنه. تصویر به شکلی از اطلاعات عددی تبدیل می‌شه که مدل بتونه پردازشش کنه. بعد مدل با الگوهایی که در طول آموزش یاد گرفته، چیزهایی مثل متن، کد، اشیا و ارتباط بین بخش‌های تصویر رو تشخیص می‌ده و این اطلاعات رو با سؤال ما ترکیب می‌کنه تا جواب بده. تولید تصویر هم ایده‌ی مشابهی داره، با این تفاوت که این بار مدل باید به‌جای تحلیل تصویر، یک تصویر جدید تولید کنه. مثلاً وقتی می‌گیم «یک گربه مشکی بساز»، از الگوهایی که در طول آموزش درباره‌ی گربه، شکل، رنگ، نور و سبک یاد گرفته استفاده می‌کنه تا یک تصویر جدید بسازه. پشت همه‌ی این‌ها هم یک شبکه عصبی با تعداد بسیار زیادی پارامتر و ارتباط عددی قرار داره. این پارامترها در طول آموزش بارها تغییر می‌کنن تا مدل کم‌کم الگوهای مختلف رو یاد بگیره. اما نکته‌ی عجیب همین‌جاست: بعد از آموزش نمی‌تونیم به‌سادگی بگیم «این عدد یعنی گربه، اون یکی یعنی CSS و این قسمت باعث شد این جواب رو بده.» ما می‌دونیم مدل چه ورودی‌ای گرفته و چه خروجی‌ای داده، اما اینکه دقیقاً چرا و چگونه درون شبکه به آن خروجی رسیده همیشه برای ما شفاف نیست. و همین تلاش برای باز کردن این جعبه و فهمیدن اتفاقات درون مدل، یکی از موضوعات مهم حوزه‌ی Interpretability یا تفسیرپذیری هوش مصنوعیه.
منابع:

OpenAI — Technical Report
OpenAI — Research
Distill — Feature Visualization
Anthropic — Mechanistic Interpretability

@ClickUniversity

حدود سه هفته ست فعالیت م توی لینکدین رو بیشتر کردم ، پست تخصصی هم نبود هر چیزی که که تو چنل تلگرامم بود رو انجام هم اشتراک گذاری میکردم . نتیجه ش این شد که حدود 69 درصد از بیننده ها از بیرون شبکه م‌بود .

@HashiaHa

اینم اضافه کنم:
هر از گاهی این حس بهم دست میداد که باید پست های لینکدین تخصصی باشه و اینا ،ولی وقتی یکم توی لینکدین بچرخی میفهمی اینطوری نیست.
پس فعالیت مفید انجام بدید و نگران هیچ چیزی نباشید کم کم جا می افتید.
حالا این واسه یه هفته فعالیت من بود بیشتر هم خدمت تون می‌زارم

من تو هر شرایطی:

@MiowPhone

برنامه نویس:

لایک منو زیر همه استوریا و پستای بچه‌ ها میبینین؛ چون من یه حسود
بدبختِ بازنده نیستم.

@MiowPhone

فرض کن چند سال دیگه هوش مصنوعی بتونه خیلی از کارهای انسانی رو سریع‌تر و دقیق‌تر انجام بده. آیا باید اجازه بدیم همه‌ی این کارها رو به AI بسپاریم؟

ایده‌ی جالبی که در بحث آینده‌ی کار مطرح شده اینه که شاید بعضی شغل‌ها حتی اگر AI بتونه انجامشون بده، بهتر باشه همچنان برای انسان باقی بمونن؛ نه به خاطر اینکه AI توانایی انجامشون رو نداره، بلکه چون خودِ حضور انسان، ارتباط و مسئولیتی که به عهده می‌گیره بخشی از ارزش اون کاره.پس سؤال آینده فقط این نیست که «AI چه کارهایی می‌تونه انجام بده؟»شاید سؤال مهم‌تر این باشه: چه کارهایی رو می‌خوایم همچنان انسان‌ها انجام بدن؟
بیشتر اینجا بخونید

@ClickUniversity

چطوری میتونید مورنینگ پرسن باشید:/

@HashiaHa

مدل چت دیپ سیک رو نگاه کنید یه آپدیت خفن داده
وای نگم خیلی سریع شده ❤️

رسما اولین روز پاییز شروع شد
خیلی ذوقشو دارم 😁

همینکه امروز صبح مدرسه نرفتم منت خدای را عز و جل که طاعتش موجب قربت است و به شکر اندرش مزید نعمت.

لینکدین هم یه دستی به سر و روی خودش کشیده 😂
امروز چه خبره

فک کنم
منم باید یه کار خفن انجام بدم 😂

صد تا پست تو لینکدین میزارم
یه دونه تو یوتیوب نمیزارم
انقد که این یوتیوب منو سر این حق کپی رایت آهنگ ها اذیت می‌کنه 😡

یه آهنگ های می‌زارم رو پستای لینکدین م خود سازنده لینکدین حال کنه 😂😂