یه اصلی داریم توی امنیت اطلاعات
تحت عنوان اصل حداقل دسترسی
Principle of Least Privilege
یا به اختصار PoLP
هر موجودیت، مثل کاربر، پردازش، سرویس یا برنامه باید تنها به حداقل سطح دسترسی‌ها و منابعی مجهز باشه که برای انجام وظیفه مشخصش ضروریه.
حتی یک سطح بیشتر هم نه و برای مدت طولانی‌تر از زمان مورد نیاز هم نه
​اگر یک بخش سیستم به دسترسی خاصی برای عملکرد عادی نیاز نداره نباید دسترسی بیشتری بهش بدیم.
هدف اصلی این اصل، کاهش سطح حمله هست و محدود کردن شعاع تخریب در زمان هک، نفوذ یا باگ.

اینو باید توی روابط فردی در دنیای واقعی هم پیاده کرد.

کسی که بخواهد در همه‌چیز مردی پاک‌نهاد و بافضیلت باشد، در میان خیلِ عظیم کسانی که اهل پاکی نیستند، لاجرم تباه خواهد شد.

ماکیاولی

هر چند وقت یکبار باید اینو به خودم یادآوری کنم.

گوگل ظاهرا در حال نزدیکی توسعه‌ جمنای به یک حلقه‌ی RSI هست؛
حلقه خودبهبوددهنده برای جمنای 4

قبلا گفته بود جمنای 3.8 تا حدی با این حلقه جلو میرفته
اما طبق حرفای جسته گریخته مهندسانش، هدفشون اینه تا حد زیادی به این مورد برسن
که نتیجش میشه جهش بزرگی در هوش مصنوعی

یه اکانت به نام Lyra که یکی از افشاگران معروف و معتبر حوزه هوش مصنوعی هست یه پستی زد تو توییتر:
"huge congRatulationS Indeed! @GoogleDeepMind"

حروف بزرگش بذارید کنار هم کلمه RSI میشه

یارو افشاگر معتبریه
سر همین، گوگل احتمالا یه انقلاب داره میکنه سر این قضیه

ترامپ هم امروز به شرکتا گفت نخیر ما سرعت توسعه رو کم نمیکنیم.
چین هم گفت ما نیز همچنین

داشتم با هوش مصنوعی بحث می‌کردم، سر یک ایده، و همش منفی بافی می‌کردم که ارزشش رو نداره و.. ـ
یه جمله‌ای گفت که جالب بود برام.

"روی ساختن جامعه‌ای تمرکز کن که مغز دارند، نه فقط دو تا انگشت برای لایک زدن."

یک چیزی داریم در ماشین لرنینگ به نام سوگیری استقرایی،
Inductive Bias
همه پیش‌فرض‌ها، لیمیت‌ها و فرضیاتی که یک الگوریتم ML به کار میگیره تا در مورد آینده‌ای که نمیدونه چیه قضاوت کنه

به معنای دیگه مدل برای پر کردن شکاف بین چیزی که آموزش دیده
و چیزی که در واقعیت اتفاق می‌افته به یک‌ سری فرض‌های اولیه راجع به جهان نیاز داره.
تا بتونه فرض جدید ببافه

بدون فرض اولیه مدل صرفا یه طوطی حفظ کننده میشه
نمیتونه قوانین پایه رو درک کنه.

مشکل اینجاست که اگر فرض زیاد بدی مدل تنبل میشه و دنبال فرض جدید نمیره به نوعی لیمیت فرضی میخوره.
اما اگر هم فرض ندی، مدل خیلی گنجایش یادگیری داره ولی برای درک بدیهی‌ترین چیزها کلی انرژی و مطلب بهش بدی بخوره.

توی شبکه‌های CNN چالش این بود که
مثلا میگفتن یک تصویر با تمام پیکسل‌ها کنار هم یک تصویر رو تشکیل میدن
پیش فرض مدل این بود.
بعد میومدن برای تشخیص مثلا خر، مدل رو روی کلی تصویر خر آموزش میدادن
چالش این بود مدل تا فرض خالقش بالا میومد نه بیشتر.

حالا این قضیش طولانیه
ترنسفورمرها اومدن مکانیزم توجه رو پیاده کردن تا مدل از این قید و بندها آزاد بشه.
البته سوگیری حل کامل نشده ولی خب خیلی رهاترش کرد.

کانت فیلسوف، در کتاب‌هاش میگه که ذهن انسان هرگز واقعیت خام رو درک نمی‌کنه،
بلکه دیتای حسی از فیلتر چارچوب‌های پیشینی مثل زمان و علیت، رد می‌کنه تا تجربه شکل بگیره.
کانت میگه هیچ موجود هوشمند مطلقی بدون سوگیری استقرایی وجود نداره
حذف کامل این سوگیری به معنای دستیابی به هوش برتر نیست، بلکه به معنای نابودی در میان نویز تصادفی جهان هست.

چی رو به چی ربط دادم اصلا😂

در مقابل کانت، فیلسوف هیوم هم سوال جالبی مطرح میکنه.
هیوم میگه فرض کنیم تو راست میگی
ولی با چه منطقی مطمئنی که فردا خورشید طلوع می‌کنه؟
فقط چون در گذشته همیشه طلوع کرده؟
این استدلال اساسا دور باطله؛
چون برای اثبات اینکه آینده شبیه گذشته خواهد بود، از این فرض استفاده میشه که در گذشته، آینده شبیه گذشته بوده است.

این غیرمنطقی به نظر میاد
ولی به طرز جالبی هوش مصنوعی رو این استدلال‌ها ریشه کرده
و جدا از اینا نیست

مثلا اینکه توی ml فرض میکنیم توزیع دیتاهای آموزش با توزیع دیتاهای تستی از یک منبع اومده،
اگر توزیع بهم بخوره، مدل فرو می‌پاشه.

توی دهه 70 و اینا
که یه سری الگوریتم خیلی خیلی ساده یادگیری میساختن
که بهش میگیم دوران هوش مصنوعی کلاسیک
این الگوریتم ها عمدتا با شکست فجیعی مواجه میشدن
بعد مک کارتی و یکی دو فیلسوف دیگه قضیه رو بررسی کردن

گفتن که
ماشین نمیدونه چه چیزهایی تغییر نمیکنن
اگر یه رباتی لیوان قهوه رو جا به‌ جا کنه آیا رنگ دیوار هم تغییر کرده؟ آیا جاذبه هنوز کار می‌کنه؟