به نظرم مشکل Hallucination حتی سال آینده هم کاملاً حل نمی‌شه. 🤔
اما شاید یک تغییر مهم اتفاق بیفته.
بخشی از چیزهایی که امروز بهشون می‌گیم Hallucination، دیگه از خود AI نمیان؛ از برداشت اشتباه انسان‌ها از خروجی AI میان.
هرچقدر مدل‌ها توانمندتر بشن، خروجی‌هاشون هم پیچیده‌تر و تخصصی‌تر میشه.
مشکل اینجاست که ممکنه کاربر نتونه تشخیص بده یک پاسخ دقیقاً کجا درست، کجا ناقص و کجا اشتباهه.
در نتیجه، حتی اگر مدل واقعاً بهتر شده باشه، باز هم ممکنه چیزی که کاربر نمی‌فهمه رو به‌عنوان «توهم مدل» تفسیر کنه.
به نظرم در آینده فقط مسئله‌ی ساخت مدل‌های دقیق‌تر نیست.
باید توانایی انسان برای ارزیابی، راستی‌آزمایی و درک خروجی مدل‌ها هم بیشتر بشه.
هوش بهتر میشه؛
اما فهمیدن AI هم باید همراهش رشد کنه.
#هوش_مصنوعی
#مدل_زبانی
#یادگیری_ماشین
#تفکر_انتقادی
#هوش_مصنوعی_مولد
#AI
#LLM
#MachineLearning
#CriticalThinking
#GenerativeAI
#AIEngineering
اما شاید یک تغییر مهم اتفاق بیفته.
بخشی از چیزهایی که امروز بهشون می‌گیم Hallucination، دیگه از خود AI نمیان؛ از برداشت اشتباه انسان‌ها از خروجی AI میان.
هرچقدر مدل‌ها توانمندتر بشن، خروجی‌هاشون هم پیچیده‌تر و تخصصی‌تر میشه.
مشکل اینجاست که ممکنه کاربر نتونه تشخیص بده یک پاسخ دقیقاً کجا درست، کجا ناقص و کجا اشتباهه.
در نتیجه، حتی اگر مدل واقعاً بهتر شده باشه، باز هم ممکنه چیزی که کاربر نمی‌فهمه رو به‌عنوان «توهم مدل» تفسیر کنه.
به نظرم در آینده فقط مسئله‌ی ساخت مدل‌های دقیق‌تر نیست.
باید توانایی انسان برای ارزیابی، راستی‌آزمایی و درک خروجی مدل‌ها هم بیشتر بشه.
هوش بهتر میشه؛
اما فهمیدن AI هم باید همراهش رشد کنه.
#هوش_مصنوعی
#مدل_زبانی
#یادگیری_ماشین
#تفکر_انتقادی
#هوش_مصنوعی_مولد
#AI
#LLM
#MachineLearning
#CriticalThinking
#GenerativeAI
#AIEngineering
❤1
رفتارهای اخیر OpenAI و Anthropic واقعاً عجیب شده دوستان.
هرچی بیشتر به تصمیم‌های اخیر این دو شرکت نگاه می‌کنم، بیشتر این حس بهم دست می‌ده که انگار دارن برخلاف چیزی که از یک شرکت معمولی انتظار داریم حرکت می‌کنن.
بعضی تصمیم‌ها اونقدر غیرقابل‌پیش‌بینی به نظر می‌رسن که آدم واقعاً می‌مونه پشت این استراتژی چیه.
گاهی حتی این سؤال پیش میاد که آیا دارن آگاهانه ریسک‌های خیلی بزرگی می‌کنن؟
چون اگر هدف ساختن یک کسب‌وکار پایدار و بلندمدت باشه، تکرار چنین تصمیم‌هایی واقعاً عجیب به نظر می‌رسه.
البته نمی‌شه از بیرون با اطمینان گفت که چه اتفاقی داخل این شرکت‌ها می‌افته.
اما چیزی که مشخصه اینه که فاصله‌ی بین انتظارات بازار و تصمیم‌های این شرکت‌ها داره بیشتر میشه.
و اگر این روند ادامه پیدا کنه، ممکنه فقط روی خود شرکت‌ها اثر نذاره؛ بلکه اعتماد به کل بازار AI رو هم تحت تأثیر قرار بده.
#هوش_مصنوعی
#تکنولوژی
#استارتاپ
#اقتصاد_دیجیتال
#بازار_هوش_مصنوعی
#AI
#OpenAI
#Anthropic
#ArtificialIntelligence
#Tech
#AIIndustry
#AIStartup
هرچی بیشتر به تصمیم‌های اخیر این دو شرکت نگاه می‌کنم، بیشتر این حس بهم دست می‌ده که انگار دارن برخلاف چیزی که از یک شرکت معمولی انتظار داریم حرکت می‌کنن.
بعضی تصمیم‌ها اونقدر غیرقابل‌پیش‌بینی به نظر می‌رسن که آدم واقعاً می‌مونه پشت این استراتژی چیه.
گاهی حتی این سؤال پیش میاد که آیا دارن آگاهانه ریسک‌های خیلی بزرگی می‌کنن؟
چون اگر هدف ساختن یک کسب‌وکار پایدار و بلندمدت باشه، تکرار چنین تصمیم‌هایی واقعاً عجیب به نظر می‌رسه.
البته نمی‌شه از بیرون با اطمینان گفت که چه اتفاقی داخل این شرکت‌ها می‌افته.
اما چیزی که مشخصه اینه که فاصله‌ی بین انتظارات بازار و تصمیم‌های این شرکت‌ها داره بیشتر میشه.
و اگر این روند ادامه پیدا کنه، ممکنه فقط روی خود شرکت‌ها اثر نذاره؛ بلکه اعتماد به کل بازار AI رو هم تحت تأثیر قرار بده.
#هوش_مصنوعی
#تکنولوژی
#استارتاپ
#اقتصاد_دیجیتال
#بازار_هوش_مصنوعی
#AI
#OpenAI
#Anthropic
#ArtificialIntelligence
#Tech
#AIIndustry
#AIStartup
❤2
اگر هنوز فکر می‌کنی هوش مصنوعی متن‌باز داره عقب می‌مونه، شاید مشکل از اون نباشه.
مدل‌های متن‌باز و Open Weight با سرعت زیادی دارن پیشرفت می‌کنن.
مدل‌هایی که چند وقت پیش برای استفاده‌ی جدی ضعیف به نظر می‌رسیدن، امروز می‌تونن در Coding، استدلال، اجرای محلی و ساخت Agentهای هوش مصنوعی کاملاً جدی باشن.
به نظرم مسئله اینجاست که بعضی‌ها هنوز دارن اکوسیستم Open Source رو با تصویری که چند سال پیش داشتن قضاوت می‌کنن.
مدل‌ها تغییر کردن.
ابزارها تغییر کردن.
هزینه‌ی اجرا پایین‌تر اومده.
و مهم‌تر از همه، دسترسی به مدل‌ها خیلی بیشتر شده.
پس اگر هنوز فکر می‌کنی Open Source AI عقب مونده، شاید وقتشه دوباره بازار رو بررسی کنی.
شاید مدل‌ها عقب نمونده باشن؛
شاید ما هنوز متوجه سرعت حرکتشون نشدیم.
#هوش_مصنوعی
#هوش_مصنوعی_متن_باز
#مدل_زبانی
#برنامه_نویسی
#یادگیری_ماشین
#هوش_مصنوعی_مولد
#AI
#OpenSourceAI
#OpenWeight
#LLM
#MachineLearning
#GenerativeAI
#AIEngineering
مدل‌های متن‌باز و Open Weight با سرعت زیادی دارن پیشرفت می‌کنن.
مدل‌هایی که چند وقت پیش برای استفاده‌ی جدی ضعیف به نظر می‌رسیدن، امروز می‌تونن در Coding، استدلال، اجرای محلی و ساخت Agentهای هوش مصنوعی کاملاً جدی باشن.
به نظرم مسئله اینجاست که بعضی‌ها هنوز دارن اکوسیستم Open Source رو با تصویری که چند سال پیش داشتن قضاوت می‌کنن.
مدل‌ها تغییر کردن.
ابزارها تغییر کردن.
هزینه‌ی اجرا پایین‌تر اومده.
و مهم‌تر از همه، دسترسی به مدل‌ها خیلی بیشتر شده.
پس اگر هنوز فکر می‌کنی Open Source AI عقب مونده، شاید وقتشه دوباره بازار رو بررسی کنی.
شاید مدل‌ها عقب نمونده باشن؛
شاید ما هنوز متوجه سرعت حرکتشون نشدیم.
#هوش_مصنوعی
#هوش_مصنوعی_متن_باز
#مدل_زبانی
#برنامه_نویسی
#یادگیری_ماشین
#هوش_مصنوعی_مولد
#AI
#OpenSourceAI
#OpenWeight
#LLM
#MachineLearning
#GenerativeAI
#AIEngineering
❤2
به نظرم خیلی‌ها هنوز GLM-5.3 رو جدی نگرفتن.
چیزی که بیشتر از همه توجهم رو جلب کرده، فقط عملکرد این مدل نیست؛ نسبت عملکرد به اندازه‌ی مدلشه.
این GLM با حدود ۷۴۳ میلیارد پارامتر، طبق این ادعا می‌تونه به عملکرد مدل‌هایی نزدیک بشه که چندین برابر بزرگ‌تر هستن.
اگر این نتایج در استفاده‌ی واقعی هم تکرار بشن، اتفاق مهمی محسوب میشه.
چون ماجرا فقط این نیست که یک مدل ارزون‌تر داریم.
بحث اینه که شاید داریم به نقطه‌ای می‌رسیم که معماری، داده، بهینه‌سازی و روش آموزش می‌تونن اهمیت بیشتری از صرفاً بزرگ‌تر کردن تعداد پارامترها داشته باشن.
برای من جذاب‌ترین بخش ماجرا همین نسبت بین هزینه و عملکرده.
اگر یک مدل کوچک‌تر بتونه بخش قابل‌توجهی از عملکرد مدل‌های بسیار بزرگ‌تر رو ارائه بده، اقتصاد اجرای مدل‌های هوش مصنوعی هم می‌تونه تغییر کنه.
به نظرم خیلی‌ها هنوز متوجه بزرگی این تغییر نشدن.
شاید رقابت آینده فقط بر سر «بزرگ‌ترین مدل» نباشه؛
بلکه بر سر «بهترین عملکرد با کمترین هزینه» باشه.
#هوش_مصنوعی
#مدل_زبانی
#یادگیری_ماشین
#هوش_مصنوعی_مولد
#مدل_متن_باز
#برنامه_نویسی
#AI
#LLM
#GLM
#MachineLearning
#GenerativeAI
#OpenSourceAI
#AIEngineering
#AIEconomics
چیزی که بیشتر از همه توجهم رو جلب کرده، فقط عملکرد این مدل نیست؛ نسبت عملکرد به اندازه‌ی مدلشه.
این GLM با حدود ۷۴۳ میلیارد پارامتر، طبق این ادعا می‌تونه به عملکرد مدل‌هایی نزدیک بشه که چندین برابر بزرگ‌تر هستن.
اگر این نتایج در استفاده‌ی واقعی هم تکرار بشن، اتفاق مهمی محسوب میشه.
چون ماجرا فقط این نیست که یک مدل ارزون‌تر داریم.
بحث اینه که شاید داریم به نقطه‌ای می‌رسیم که معماری، داده، بهینه‌سازی و روش آموزش می‌تونن اهمیت بیشتری از صرفاً بزرگ‌تر کردن تعداد پارامترها داشته باشن.
برای من جذاب‌ترین بخش ماجرا همین نسبت بین هزینه و عملکرده.
اگر یک مدل کوچک‌تر بتونه بخش قابل‌توجهی از عملکرد مدل‌های بسیار بزرگ‌تر رو ارائه بده، اقتصاد اجرای مدل‌های هوش مصنوعی هم می‌تونه تغییر کنه.
به نظرم خیلی‌ها هنوز متوجه بزرگی این تغییر نشدن.
شاید رقابت آینده فقط بر سر «بزرگ‌ترین مدل» نباشه؛
بلکه بر سر «بهترین عملکرد با کمترین هزینه» باشه.
#هوش_مصنوعی
#مدل_زبانی
#یادگیری_ماشین
#هوش_مصنوعی_مولد
#مدل_متن_باز
#برنامه_نویسی
#AI
#LLM
#GLM
#MachineLearning
#GenerativeAI
#OpenSourceAI
#AIEngineering
#AIEconomics
❤2🤣1
به نظرم تفاوت اصلی OpenAI و Anthropic با Google و xAI فقط در مدل‌ها نیست و در زیرساخت هم هست.
وقتی به اقتصاد این شرکت‌ها نگاه می‌کنیم، یک تفاوت مهم دیده میشه.
این تفاوت روی قیمت تمام‌شده اثر مستقیم می‌ذاره.
تا وقتی فاصله‌ی عملکرد مدل‌ها خیلی زیاد بود، قیمت بالاتر قابل‌توجیه بود.
اما اگر مدل‌های رقبا از نظر کیفیت به هم نزدیک‌تر بشن، مسئله‌ی هزینه خیلی مهم‌تر میشه.
اینجا شرکتی که زیرساخت خودش رو کنترل می‌کنه، دست بازتری برای کاهش قیمت و افزایش حاشیه‌ی سود داره.
برای همین به نظرم رقابت آینده فقط این نیست که:
«کدوم مدل باهوش‌تره؟»
یک سؤال مهم‌تر اینه:
«کدوم شرکت می‌تونه این سطح از هوش رو با هزینه‌ی پایین‌تر ارائه بده؟»
اگر OpenAI و Anthropic نتونن دوباره با یک جهش جدی در عملکرد فاصله ایجاد کنن، ساختار هزینه و وابستگی زیرساختی می‌تونه به یکی از بزرگ‌ترین چالش‌های استراتژیکشون تبدیل بشه.
البته اینکه در نهایت چه اتفاقی برای مالکیت این شرکت‌ها می‌افته، هنوز کاملاً مشخص نیست؛ اما به نظرم اقتصاد زیرساخت می‌تونه به اندازه‌ی خود مدل‌ها تعیین‌کننده باشه.
#هوش_مصنوعی
#مدل_زبانی
#اقتصاد_هوش_مصنوعی
#زیرساخت
#تکنولوژی
#استارتاپ
#AI
#LLM
#OpenAI
#Anthropic
#Google
#xAI
#AIInfrastructure
#AIIndustry
وقتی به اقتصاد این شرکت‌ها نگاه می‌کنیم، یک تفاوت مهم دیده میشه.
این تفاوت روی قیمت تمام‌شده اثر مستقیم می‌ذاره.
تا وقتی فاصله‌ی عملکرد مدل‌ها خیلی زیاد بود، قیمت بالاتر قابل‌توجیه بود.
اما اگر مدل‌های رقبا از نظر کیفیت به هم نزدیک‌تر بشن، مسئله‌ی هزینه خیلی مهم‌تر میشه.
اینجا شرکتی که زیرساخت خودش رو کنترل می‌کنه، دست بازتری برای کاهش قیمت و افزایش حاشیه‌ی سود داره.
برای همین به نظرم رقابت آینده فقط این نیست که:
«کدوم مدل باهوش‌تره؟»
یک سؤال مهم‌تر اینه:
«کدوم شرکت می‌تونه این سطح از هوش رو با هزینه‌ی پایین‌تر ارائه بده؟»
اگر OpenAI و Anthropic نتونن دوباره با یک جهش جدی در عملکرد فاصله ایجاد کنن، ساختار هزینه و وابستگی زیرساختی می‌تونه به یکی از بزرگ‌ترین چالش‌های استراتژیکشون تبدیل بشه.
البته اینکه در نهایت چه اتفاقی برای مالکیت این شرکت‌ها می‌افته، هنوز کاملاً مشخص نیست؛ اما به نظرم اقتصاد زیرساخت می‌تونه به اندازه‌ی خود مدل‌ها تعیین‌کننده باشه.
#هوش_مصنوعی
#مدل_زبانی
#اقتصاد_هوش_مصنوعی
#زیرساخت
#تکنولوژی
#استارتاپ
#AI
#LLM
#OpenAI
#Anthropic
#xAI
#AIInfrastructure
#AIIndustry
❤2
یکی از جذاب‌ترین چالش‌ها تو دنیای هوش مصنوعی، همین نقطه‌ی تلاقی بین شکل داده‌ها و معماری شبکه‌هاست. تو تحقیقاتی که اخیرا داشتم، دوباره به یه مقاله‌ی کلاسیک و فوق‌العاده برخوردم که فهم دقیقش برای هر مهندسی واجبه.
اکثر شبکه‌های عصبی کلاسیک، داده‌های ورودی رو به شکل ماتریس یا بردار می‌بینن. مثلا پیکسل‌های عکس تو سطر و ستون، یا کلمات تو یه توالی. اما تو دنیای واقعی، خیلی از داده‌ها ساختار گراف دارن.
یعنی مجموعه‌ای از گره‌ها که با یه سری یال به هم وصل شدن. شبکه‌های اجتماعی، شبکه‌های برق و حتی مولکول‌ها بهترین مثال‌هاشون هستن.
شبکه‌های عصبی گرافی (GNNs) برای پردازش همین نوع داده‌ها اومدن. اما قبل از این مقاله، رایج‌ترین روش یعنی GCN یه اشتباه محاسباتی داشت: وقتی یه گره می‌خواست اطلاعات رو از همسایه‌هاش جمع‌آوری کنه، به همه‌شون یه وزن برابر می‌داد! انگار همه همسایه‌ها برای تصمیم‌گیری همون‌قدر مهم هستن.
اینجا مقاله‌ی معروف کنفرانس ICLR در سال ۲۰۱۸ که توسط تیم Bengio منتشر شد و الان با بیش از ۱۸ هزار ارجاع، یه شاهکار محسوب میشه، وارد بازی شد. این مقاله معماری Graph Attention Networks یا همون GAT رو معرفی کرد. ایده‌ی خیلی ساده اما نابش این بود: مکانیزم Attention که تو مدل‌های زبانی استفاده میشه رو قرض گرفت تا به هر گره اجازه بده یاد بگیره کدوم همسایه‌ش برای تسک فعلی مهم‌تره.
نکته‌ی مهندسی برجسته‌ش اینجاست: این وزن‌های Attention رو یه شبکه عصبی کوچیک و مشترک محاسبه می‌کنه که فقط به جفت گره‌های متصل نگاه می‌کنه. به خاطر همین، مدل نیازی نداره ساختار کامل گراف رو از قبل بدونه و می‌تونه روی گراف‌های کاملا جدیدی که تو فاز آموزش ندیده هم به خوبی تعمیم پیدا کنه.
از نظر من، این مقاله یه نمونه‌ی بی‌نقص از تحقیقات هوش مصنوعیه. معماری‌اش اونقدر ساده‌ست که با چند تا معادله میشه توصیفش کرد، اجراش به شدت موازی‌سازی شده و بهینه‌ست، و تو زمان خودش تونست تو بنچمارک‌های استاندارد، رکوردهای قبلی رو بشکنه یا حداقل باهاشون رقابت کنه.
#هوش_مصنوعی
#یادگیری_عمیق
#علم_داده
#DeepLearning
#GraphNeuralNetworks
#MachineLearning
اکثر شبکه‌های عصبی کلاسیک، داده‌های ورودی رو به شکل ماتریس یا بردار می‌بینن. مثلا پیکسل‌های عکس تو سطر و ستون، یا کلمات تو یه توالی. اما تو دنیای واقعی، خیلی از داده‌ها ساختار گراف دارن.
یعنی مجموعه‌ای از گره‌ها که با یه سری یال به هم وصل شدن. شبکه‌های اجتماعی، شبکه‌های برق و حتی مولکول‌ها بهترین مثال‌هاشون هستن.
شبکه‌های عصبی گرافی (GNNs) برای پردازش همین نوع داده‌ها اومدن. اما قبل از این مقاله، رایج‌ترین روش یعنی GCN یه اشتباه محاسباتی داشت: وقتی یه گره می‌خواست اطلاعات رو از همسایه‌هاش جمع‌آوری کنه، به همه‌شون یه وزن برابر می‌داد! انگار همه همسایه‌ها برای تصمیم‌گیری همون‌قدر مهم هستن.
اینجا مقاله‌ی معروف کنفرانس ICLR در سال ۲۰۱۸ که توسط تیم Bengio منتشر شد و الان با بیش از ۱۸ هزار ارجاع، یه شاهکار محسوب میشه، وارد بازی شد. این مقاله معماری Graph Attention Networks یا همون GAT رو معرفی کرد. ایده‌ی خیلی ساده اما نابش این بود: مکانیزم Attention که تو مدل‌های زبانی استفاده میشه رو قرض گرفت تا به هر گره اجازه بده یاد بگیره کدوم همسایه‌ش برای تسک فعلی مهم‌تره.
نکته‌ی مهندسی برجسته‌ش اینجاست: این وزن‌های Attention رو یه شبکه عصبی کوچیک و مشترک محاسبه می‌کنه که فقط به جفت گره‌های متصل نگاه می‌کنه. به خاطر همین، مدل نیازی نداره ساختار کامل گراف رو از قبل بدونه و می‌تونه روی گراف‌های کاملا جدیدی که تو فاز آموزش ندیده هم به خوبی تعمیم پیدا کنه.
از نظر من، این مقاله یه نمونه‌ی بی‌نقص از تحقیقات هوش مصنوعیه. معماری‌اش اونقدر ساده‌ست که با چند تا معادله میشه توصیفش کرد، اجراش به شدت موازی‌سازی شده و بهینه‌ست، و تو زمان خودش تونست تو بنچمارک‌های استاندارد، رکوردهای قبلی رو بشکنه یا حداقل باهاشون رقابت کنه.
#هوش_مصنوعی
#یادگیری_عمیق
#علم_داده
#DeepLearning
#GraphNeuralNetworks
#MachineLearning
گاهی وقتا تو فضای پر هیاهوی هوش مصنوعی، داستان‌های اصلی و بنیادی گم میشن. الان بیشتر کسایی که با AI کار می‌کنن، اصلا یادشون نیست GANها چی بودن و چه نقشی داشتن. اما تو تحقیقاتی که اخیرا داشتم، به این نتیجه رسیدم که اگه واقعا می‌خواید درک کنید سیستم‌های امروزی چطور یاد می‌گیرن و بهتر میشن.
شبکه‌های مولد تخاصمی یا همون GANها یکی از مهم‌ترین ایده‌هایی هستن که باید بشناسید.
ساختار GAN بر اساس آموزش همزمان دو تا مدل به هم دیگه کار می‌کنه:
یکی Generator یا مولد که از روی نویز، داده‌های ساختگی می‌سازه.
دومی Discriminator یا متمایزکننده که تلاش می‌کنه تشخیص بده داده واقعیه یا جعلی.
مولد با تلاش برای فریب دادن متمایزکننده بهتر میشه، و متمایزکننده هم با یاد گرفتن اشتباهات مولد قوی‌تر میشه. همین حلقه‌ی رقابتی باعث میشه هر دو مدل به شدت پیشرفت کنن.
چیزی که خیلی‌ها متوجهش نمیشن اینه که GANها هرگز فقط برای ساخت عکس نبودن. خیلی قبل از اینکه بحث تولید محتوا توسط هوش مصنوعی ترند بشه، GANها تو سیستم‌های عملیاتی ماشین لرنینگ استفاده میشن.
#هوش_مصنوعی
#یادگیری_عمیق
#علم_داده
#DeepLearning
#MachineLearning
#DataScience
شبکه‌های مولد تخاصمی یا همون GANها یکی از مهم‌ترین ایده‌هایی هستن که باید بشناسید.
ساختار GAN بر اساس آموزش همزمان دو تا مدل به هم دیگه کار می‌کنه:
یکی Generator یا مولد که از روی نویز، داده‌های ساختگی می‌سازه.
دومی Discriminator یا متمایزکننده که تلاش می‌کنه تشخیص بده داده واقعیه یا جعلی.
مولد با تلاش برای فریب دادن متمایزکننده بهتر میشه، و متمایزکننده هم با یاد گرفتن اشتباهات مولد قوی‌تر میشه. همین حلقه‌ی رقابتی باعث میشه هر دو مدل به شدت پیشرفت کنن.
چیزی که خیلی‌ها متوجهش نمیشن اینه که GANها هرگز فقط برای ساخت عکس نبودن. خیلی قبل از اینکه بحث تولید محتوا توسط هوش مصنوعی ترند بشه، GANها تو سیستم‌های عملیاتی ماشین لرنینگ استفاده میشن.
#هوش_مصنوعی
#یادگیری_عمیق
#علم_داده
#DeepLearning
#MachineLearning
#DataScience
❤1
اخیرا داشتم روی گزارش‌های امنیتی و ترندهای جدید حملات سایبری کار می‌کردم که به یه نکته‌ی بسیار مهم و تا حدودی ترسناک رسیدم. هوش مصنوعی داره اقتصاد و سرعت حملات سایبری رو به طور کامل دگرگون می‌کنه.
کارهایی که قبلاً مهاجمن باید روزها یا هفته‌ها زمان می‌ذاشتن تا انجام بدن، الان تو چند دقیقه انجام میشه. صفر تا صد کار، از شناسایی خودکار محیط تا توسعه اکسپلویت‌ها، هدف‌گیری اعتبارنامه‌ها، حرکت‌های جانبی و فیشینگ‌های فوق‌شخصی‌سازی شده در مقیاس انبوه.
همین موضوع دلیل اصلیه که شرکت‌هایی مثل پالو آلتو نتورکس انقدر روی مفهوم تاب‌آوری خودمختار (Autonomous Resilience) تاکید دارن. مدل سنتی عملیات امنیتی با ابزارهای پراکنده، مسیرهای دستی ارجاع و چرخه‌های پاسخگویی با سرعت انسان، اصلا برای تهدیدهایی با سرعت ماشین طراحی نشده.
تاب‌آوری خودمختار یعنی ساختن معماری‌های امنیتی که بتونن به صورت پیوسته میزان آسیب‌پذیری رو کاهش بدن، اعتبار رو اعتبارسنجی کنن و تهدیدها رو تو لحظه مهار کنن. اما این تو عملیات واقعی چه شکلی میشه؟
🔸 به حداقل رسوندن سطح حمله
به طور مداوم دارایی‌های در معرض، تنظیمات اشتباه، ای‌پی‌آی‌های آسیب‌پذیر و منابع ابری مدیریت نشده رو شناسایی و رفع کنید، قبل از اینکه مهاجمن ازشون سلاح بسازن. مثلا مدیریت آسیب‌پذیری مبتنی بر هوش مصنوعی می‌تونه یه محیط توسعه‌ای که خارج از سیاست‌ها اینترنتی شده رو تشخیص بده و فورا رفع اشکال خودکار رو اجرا کنه.
🔸 امنیت هر هویتی
اعتماد نباید فقط محدود به کارمندها باشه. هویت‌های ماشین، ورک‌لودها، ای‌پی‌آی‌ها و ایجنت‌های هوش مصنوعی هم باید امن بشن. این یعنی اعمال دقیق‌ترین سطح دسترسی، کنترل‌های دسترسی تطبیقی و اعتبارسنجی مداوم هویت، تا قبل از اینکه مهاجم بتونه تو سیستم موندگار بشه، سوءاستفاده از اعتبارنامه و سرقت توکن متوقف بشه.
🔸 دفاع از زنجیره تامین نرم‌افزار
حملات مبتنی بر هوش مصنوعی روز به روز بیشتر ش pipelinesهای CI/CD، وابستگی‌های متن‌باز و مخازن کد رو هدف می‌گیرن. سازمان‌ها به محافظت‌های زمان اجرا، اعتبارسنجی یکپارچگی کد و اعمال خودکار سیاست‌ها نیاز دارن تا جلوی رسیدن کدهای دستکاری شده به محیط پروداکشن رو بگیرن.
🔸 محدود کردن شعاع انفجار
معماری صفر اعتماد (Zero Trust) تو فضای تهدیدهای مبتنی بر هوش مصنوعی به شدت حیاتی‌تر میشه. میکروسگمنتیشن، بازرسی مداوم و تحلیل‌های رفتاری کمک می‌کنه تا بعد از دسترسی اولیه، جلوی حرکت جانبی مهاجمن تو محیط‌های مختلف گرفته بشه.
🔸 تشخیص و پاسخ در لحظه
تیم‌های امنیتی نمی‌تونن به تحلیل‌گرهایی وابسته باشن که دستی هزاران هشدار رو با هم مرتبط می‌کنن. عملیات SOC مبتنی بر هوش مصنوعی می‌تونه به طور خودکار اولویت‌بندی حوادث رو انجام بده، داده‌های تلمتری رو غنی‌تر کنه، دارایی‌های آلوده رو ایزوله کنه و جریان‌های مهار رو تو چند دقیقه شروع کنه. این کار خستگی عملیاتی و زمان پاسخگویی رو به شدت کاهش می‌ده.
در نهایت باید بگم خروجی تمام این فرآیندها، رسیدن به امنیت کاملا خودمختار نیست.
#امنیت_سایبری
#هوش_مصنوعی
#ZeroTrust
#CyberSecurity
#AITools
#Infosec
کارهایی که قبلاً مهاجمن باید روزها یا هفته‌ها زمان می‌ذاشتن تا انجام بدن، الان تو چند دقیقه انجام میشه. صفر تا صد کار، از شناسایی خودکار محیط تا توسعه اکسپلویت‌ها، هدف‌گیری اعتبارنامه‌ها، حرکت‌های جانبی و فیشینگ‌های فوق‌شخصی‌سازی شده در مقیاس انبوه.
همین موضوع دلیل اصلیه که شرکت‌هایی مثل پالو آلتو نتورکس انقدر روی مفهوم تاب‌آوری خودمختار (Autonomous Resilience) تاکید دارن. مدل سنتی عملیات امنیتی با ابزارهای پراکنده، مسیرهای دستی ارجاع و چرخه‌های پاسخگویی با سرعت انسان، اصلا برای تهدیدهایی با سرعت ماشین طراحی نشده.
تاب‌آوری خودمختار یعنی ساختن معماری‌های امنیتی که بتونن به صورت پیوسته میزان آسیب‌پذیری رو کاهش بدن، اعتبار رو اعتبارسنجی کنن و تهدیدها رو تو لحظه مهار کنن. اما این تو عملیات واقعی چه شکلی میشه؟
🔸 به حداقل رسوندن سطح حمله
به طور مداوم دارایی‌های در معرض، تنظیمات اشتباه، ای‌پی‌آی‌های آسیب‌پذیر و منابع ابری مدیریت نشده رو شناسایی و رفع کنید، قبل از اینکه مهاجمن ازشون سلاح بسازن. مثلا مدیریت آسیب‌پذیری مبتنی بر هوش مصنوعی می‌تونه یه محیط توسعه‌ای که خارج از سیاست‌ها اینترنتی شده رو تشخیص بده و فورا رفع اشکال خودکار رو اجرا کنه.
🔸 امنیت هر هویتی
اعتماد نباید فقط محدود به کارمندها باشه. هویت‌های ماشین، ورک‌لودها، ای‌پی‌آی‌ها و ایجنت‌های هوش مصنوعی هم باید امن بشن. این یعنی اعمال دقیق‌ترین سطح دسترسی، کنترل‌های دسترسی تطبیقی و اعتبارسنجی مداوم هویت، تا قبل از اینکه مهاجم بتونه تو سیستم موندگار بشه، سوءاستفاده از اعتبارنامه و سرقت توکن متوقف بشه.
🔸 دفاع از زنجیره تامین نرم‌افزار
حملات مبتنی بر هوش مصنوعی روز به روز بیشتر ش pipelinesهای CI/CD، وابستگی‌های متن‌باز و مخازن کد رو هدف می‌گیرن. سازمان‌ها به محافظت‌های زمان اجرا، اعتبارسنجی یکپارچگی کد و اعمال خودکار سیاست‌ها نیاز دارن تا جلوی رسیدن کدهای دستکاری شده به محیط پروداکشن رو بگیرن.
🔸 محدود کردن شعاع انفجار
معماری صفر اعتماد (Zero Trust) تو فضای تهدیدهای مبتنی بر هوش مصنوعی به شدت حیاتی‌تر میشه. میکروسگمنتیشن، بازرسی مداوم و تحلیل‌های رفتاری کمک می‌کنه تا بعد از دسترسی اولیه، جلوی حرکت جانبی مهاجمن تو محیط‌های مختلف گرفته بشه.
🔸 تشخیص و پاسخ در لحظه
تیم‌های امنیتی نمی‌تونن به تحلیل‌گرهایی وابسته باشن که دستی هزاران هشدار رو با هم مرتبط می‌کنن. عملیات SOC مبتنی بر هوش مصنوعی می‌تونه به طور خودکار اولویت‌بندی حوادث رو انجام بده، داده‌های تلمتری رو غنی‌تر کنه، دارایی‌های آلوده رو ایزوله کنه و جریان‌های مهار رو تو چند دقیقه شروع کنه. این کار خستگی عملیاتی و زمان پاسخگویی رو به شدت کاهش می‌ده.
در نهایت باید بگم خروجی تمام این فرآیندها، رسیدن به امنیت کاملا خودمختار نیست.
#امنیت_سایبری
#هوش_مصنوعی
#ZeroTrust
#CyberSecurity
#AITools
#Infosec
❤1
می‌خوام چند تا تجربه و نظر شخصی رو بعد از کار کردن با دیپ‌سیک هارنس به اشتراک بذارم.
نه از دید یک برنامه‌نویس، صرفا از دید یک کاربر معمولی.
به نظرم دیپ‌سیک هارنس پتانسیل خیلی خوبی داره، ولی برای اینکه بتونه کاربران بیشتری جذب کنه، چند تا نکته در تجربه کاربریش نیاز به بهبود داره.
۱. روش راه‌اندازی خیلی فنی و برنامه‌نویسی‌محوره. برای برنامه‌نویس‌ها مشکلی نیست، ولی کاربر معمولی احتمالاً حتی محیط نود جی‌اس هم نداره و راه‌اندازی براش سخته.
۲. سرعتش واقعاً فوق‌العاده بالاست و این یکی از نقاط قوت اصلیشه.
۳. بخش فکر کردن به‌خاطر سرعت خیلی بالای مدل فلش، متن‌ها رو بیش از حد سریع نمایش می‌ده. بهتره متن‌ها کمی دسته‌بندی و با تأخیر خیلی کم نمایش داده بشن و در کنارش از انیمیشن‌های نرم استفاده بشه تا تجربه کاربری بهتر بشه.
۴. پنل چندتبّه‌ای سمت راست کدکس واقعاً کاربردیه و با سیستم افزونه فعلی دی‌اس‌اچ خیلی خوب جور درمیاد. مثلاً وقتی یک پاورپوینت می‌سازم، برای دیدنش باید یک پنجره جدید باز کنم و مدام بین پنجره‌ها جابه‌جا بشم. خیلی بهتره پیش‌نمایش همون‌جا در پنل کناری نمایش داده بشه.
۵. مسیر اجرا و گزارش نشست برای کاربران معمولی ارزش زیادی نداره و لازم نیست این‌قدر در معرض دید باشه.
۶. اینکه الان می‌تونه خروجی‌ها رو لیست کنه خیلی خوبه، ولی بهتره کاربر بتونه مستقیماً خروجی رو باز کنه و تغییرات رو هم ببینه. افزونه‌های مرتبط هم بهتره از قبل آماده باشن تا کاربر مجبور نباشه دوباره تنظیمشون کنه.
۷. امیدوارم پشتیبانی از چندرسانه‌ای هرچه زودتر اضافه بشه. چندرسانه‌ای بودن هم بخشی از مسیر رسیدن به هوش عمومی مصنوعیه.
۸. فلسفه اینکه همه‌چیز یک افزونه باشه واقعاً خوبه، ولی تجربه کاربری برای کاربران معمولی هم به همون اندازه مهمه.
توسعه‌دهنده‌ها زمانی حاضر میشن برای افزونه‌ها وقت بذارن که Agent Harness شما از قبل تعداد زیادی کاربر معمولی داشته باشه. وگرنه وقتی هیجان اولیه از بین بره، خیلی از توسعه‌دهنده‌ها هم ادامه نمی‌دن و سیستم خلوت میشه.
افزونه‌ها و تجربه کاربری اصلاً با هم تضادی ندارن. اصل ماجرا اینه که تنظیمات اولیه باید آماده و درست باشه.
کاربر باید بتونه از همون اولین اجرا بدون کلی تنظیمات وارد بشه، راحت ازش استفاده کنه و بعداً اگر علاقه داشت، کم‌کم سراغ افزونه‌ها و شخصی‌سازی بره.
راستی، کیفیت پاورپوینتی که دیپ‌سیک هارنس برای من ساخت واقعاً خوب بود.
#deepseek
نه از دید یک برنامه‌نویس، صرفا از دید یک کاربر معمولی.
به نظرم دیپ‌سیک هارنس پتانسیل خیلی خوبی داره، ولی برای اینکه بتونه کاربران بیشتری جذب کنه، چند تا نکته در تجربه کاربریش نیاز به بهبود داره.
۱. روش راه‌اندازی خیلی فنی و برنامه‌نویسی‌محوره. برای برنامه‌نویس‌ها مشکلی نیست، ولی کاربر معمولی احتمالاً حتی محیط نود جی‌اس هم نداره و راه‌اندازی براش سخته.
۲. سرعتش واقعاً فوق‌العاده بالاست و این یکی از نقاط قوت اصلیشه.
۳. بخش فکر کردن به‌خاطر سرعت خیلی بالای مدل فلش، متن‌ها رو بیش از حد سریع نمایش می‌ده. بهتره متن‌ها کمی دسته‌بندی و با تأخیر خیلی کم نمایش داده بشن و در کنارش از انیمیشن‌های نرم استفاده بشه تا تجربه کاربری بهتر بشه.
۴. پنل چندتبّه‌ای سمت راست کدکس واقعاً کاربردیه و با سیستم افزونه فعلی دی‌اس‌اچ خیلی خوب جور درمیاد. مثلاً وقتی یک پاورپوینت می‌سازم، برای دیدنش باید یک پنجره جدید باز کنم و مدام بین پنجره‌ها جابه‌جا بشم. خیلی بهتره پیش‌نمایش همون‌جا در پنل کناری نمایش داده بشه.
۵. مسیر اجرا و گزارش نشست برای کاربران معمولی ارزش زیادی نداره و لازم نیست این‌قدر در معرض دید باشه.
۶. اینکه الان می‌تونه خروجی‌ها رو لیست کنه خیلی خوبه، ولی بهتره کاربر بتونه مستقیماً خروجی رو باز کنه و تغییرات رو هم ببینه. افزونه‌های مرتبط هم بهتره از قبل آماده باشن تا کاربر مجبور نباشه دوباره تنظیمشون کنه.
۷. امیدوارم پشتیبانی از چندرسانه‌ای هرچه زودتر اضافه بشه. چندرسانه‌ای بودن هم بخشی از مسیر رسیدن به هوش عمومی مصنوعیه.
۸. فلسفه اینکه همه‌چیز یک افزونه باشه واقعاً خوبه، ولی تجربه کاربری برای کاربران معمولی هم به همون اندازه مهمه.
توسعه‌دهنده‌ها زمانی حاضر میشن برای افزونه‌ها وقت بذارن که Agent Harness شما از قبل تعداد زیادی کاربر معمولی داشته باشه. وگرنه وقتی هیجان اولیه از بین بره، خیلی از توسعه‌دهنده‌ها هم ادامه نمی‌دن و سیستم خلوت میشه.
افزونه‌ها و تجربه کاربری اصلاً با هم تضادی ندارن. اصل ماجرا اینه که تنظیمات اولیه باید آماده و درست باشه.
کاربر باید بتونه از همون اولین اجرا بدون کلی تنظیمات وارد بشه، راحت ازش استفاده کنه و بعداً اگر علاقه داشت، کم‌کم سراغ افزونه‌ها و شخصی‌سازی بره.
راستی، کیفیت پاورپوینتی که دیپ‌سیک هارنس برای من ساخت واقعاً خوب بود.
#deepseek
🔥1
من متوجه شدم خیلی از سازنده‌های ابزارهای هوش مصنوعی به اهمیت آماده‌به‌کار بودن از همون ابتدا توجه کافی ندارن. این موضوع رو از شرکت قبلی که توش کار می‌کردم یاد گرفتم.
اون زمان روی یک نرم‌افزار تدوین غیرخطی صدا و تصویر کار می‌کردیم که مدل درآمدیش این بود: برنامه رایگان دانلود می‌شد و کاربر برای گرفتن خروجی داخل برنامه هزینه پرداخت می‌کرد.
هرچی به زمان عرضه نزدیک‌تر می‌شدیم، مدیر بخش با حساسیت خیلی زیادی فرایند خرید رو بررسی می‌کرد. چون اگر کاربر به مرحله‌ای برسه که تصمیم به پرداخت گرفته، ولی پرداخت با مشکل مواجه بشه، عملاً یعنی از دست دادن درآمد.
من به این بخش از تجربه کاربری می‌گم اولین نقطه ارزش.
این مفهوم رو میشه در مراحل مختلف در نظر گرفت:
۱. دانلود و نصب موفق برنامه
۲. اجرای موفق برنامه برای اولین بار
۳. انجام اولین کاری که برنامه برایش طراحی شده و رسیدن به نتیجه موفق
این مسیرها باید بدون هیچ اصطکاکی باشن.
اما وقتی آثار و پروژه‌های ساخته‌شده توسط افراد مختلف رو امتحان می‌کنم، خیلی وقت‌ها می‌بینم که درست اجرا نمیشن و باید چند بار از Agent بخوام مشکلشون رو برطرف کنه تا بالاخره کار کنن؛ بعضی وقت‌ها هم اصلاً درست نمیشن.
این موضوع باعث میشه افراد دیگه هم انگیزه کمتری برای به اشتراک گذاشتن کارهاشون داشته باشن.
به نظرم اگر قرار باشه یک اکوسیستم هوش مصنوعی واقعاً رشد کنه، تجربه اولین استفاده باید یکی از مهم‌ترین اولویت‌ها باشه.
#Ai
اون زمان روی یک نرم‌افزار تدوین غیرخطی صدا و تصویر کار می‌کردیم که مدل درآمدیش این بود: برنامه رایگان دانلود می‌شد و کاربر برای گرفتن خروجی داخل برنامه هزینه پرداخت می‌کرد.
هرچی به زمان عرضه نزدیک‌تر می‌شدیم، مدیر بخش با حساسیت خیلی زیادی فرایند خرید رو بررسی می‌کرد. چون اگر کاربر به مرحله‌ای برسه که تصمیم به پرداخت گرفته، ولی پرداخت با مشکل مواجه بشه، عملاً یعنی از دست دادن درآمد.
من به این بخش از تجربه کاربری می‌گم اولین نقطه ارزش.
این مفهوم رو میشه در مراحل مختلف در نظر گرفت:
۱. دانلود و نصب موفق برنامه
۲. اجرای موفق برنامه برای اولین بار
۳. انجام اولین کاری که برنامه برایش طراحی شده و رسیدن به نتیجه موفق
این مسیرها باید بدون هیچ اصطکاکی باشن.
اما وقتی آثار و پروژه‌های ساخته‌شده توسط افراد مختلف رو امتحان می‌کنم، خیلی وقت‌ها می‌بینم که درست اجرا نمیشن و باید چند بار از Agent بخوام مشکلشون رو برطرف کنه تا بالاخره کار کنن؛ بعضی وقت‌ها هم اصلاً درست نمیشن.
این موضوع باعث میشه افراد دیگه هم انگیزه کمتری برای به اشتراک گذاشتن کارهاشون داشته باشن.
به نظرم اگر قرار باشه یک اکوسیستم هوش مصنوعی واقعاً رشد کنه، تجربه اولین استفاده باید یکی از مهم‌ترین اولویت‌ها باشه.
#Ai
❤1
بخش قابل‌توجهی از گفتمان فعلی درباره هوش مصنوعی، کمتر درباره توانایی‌های واقعی فناوریه و بیشتر به این مربوط میشه که کارکنان آزمایشگاه‌های پیشرو هوش مصنوعی چطور با عزت‌نفس و هویت خودشون کنار میان.
#Ai
#Ai
❤1
خیلی‌ها ارشدیت در مهندسی نرم‌افزار رو اشتباه برداشت می‌کنن.
فکر می‌کنن یعنی کد بیشتر، مسائل سخت‌تر یا سیستم‌های بزرگ‌تر...
اما واقعیت این نیست.
تفاوت اصلی بین مهندس جونیور، میدلول و سینیور، میزان مسئولیت و تأثیرگذاریه.
مهندس جونیور برای یاد گرفتن حقوق می‌گیره.
با راهنمایی جلو میره و زود سؤال می‌پرسه.
این ضعف نیست؛ این دقیقاً بخشی از کارشه.
مهندس میدلول برای مالکیت کارها حقوق می‌گیره.
یک قابلیت رو از ایده تا محیط واقعی می‌بره و وقتی چیزی خراب میشه، خودش مسئول حلشه.
این سخت‌ترین مرحله برای عبوره؛ چون حس می‌کنی داری پیشرفت می‌کنی، اما گاهی فقط در منطقه امن خودت موندی.
مهندس سینیور برای تصمیم گرفتن حقوق می‌گیره.
باید بین گزینه‌ها تصمیم بگیره، ریسک‌ها رو کاهش بده و کاری کنه کل تیم سریع‌تر و بهتر کار کنه، نه فقط خودش.
اینجا یک نکته مهم وجود داره:
→ رشد شغلی فقط به معنی استرس بیشتر نیست
→ رشد یعنی دامنه تأثیر تصمیماتت بیشتر بشه
هرچه سینیورتر میشی، افراد بیشتری تحت تأثیر تصمیماتت قرار می‌گیرن.
برای همینه که در یک مرحله، فقط خوب کدنویسی کردن دیگه کافی نیست.
اگر می‌خوای رشد کنی:
→ قبل از اینکه ازت بخوان، مسئولیت قبول کن
→ به نتیجه نهایی اهمیت بده، نه فقط انجام تسک
→ تأثیرت روی تیم رو بیشتر از سرعت شخصی خودت بهینه کن
عنوان شغلی بعداً میاد.
اول باید رفتارتون تغییر کنه دوستان!
#توصیه
فکر می‌کنن یعنی کد بیشتر، مسائل سخت‌تر یا سیستم‌های بزرگ‌تر...
اما واقعیت این نیست.
تفاوت اصلی بین مهندس جونیور، میدلول و سینیور، میزان مسئولیت و تأثیرگذاریه.
مهندس جونیور برای یاد گرفتن حقوق می‌گیره.
با راهنمایی جلو میره و زود سؤال می‌پرسه.
این ضعف نیست؛ این دقیقاً بخشی از کارشه.
مهندس میدلول برای مالکیت کارها حقوق می‌گیره.
یک قابلیت رو از ایده تا محیط واقعی می‌بره و وقتی چیزی خراب میشه، خودش مسئول حلشه.
این سخت‌ترین مرحله برای عبوره؛ چون حس می‌کنی داری پیشرفت می‌کنی، اما گاهی فقط در منطقه امن خودت موندی.
مهندس سینیور برای تصمیم گرفتن حقوق می‌گیره.
باید بین گزینه‌ها تصمیم بگیره، ریسک‌ها رو کاهش بده و کاری کنه کل تیم سریع‌تر و بهتر کار کنه، نه فقط خودش.
اینجا یک نکته مهم وجود داره:
→ رشد شغلی فقط به معنی استرس بیشتر نیست
→ رشد یعنی دامنه تأثیر تصمیماتت بیشتر بشه
هرچه سینیورتر میشی، افراد بیشتری تحت تأثیر تصمیماتت قرار می‌گیرن.
برای همینه که در یک مرحله، فقط خوب کدنویسی کردن دیگه کافی نیست.
اگر می‌خوای رشد کنی:
→ قبل از اینکه ازت بخوان، مسئولیت قبول کن
→ به نتیجه نهایی اهمیت بده، نه فقط انجام تسک
→ تأثیرت روی تیم رو بیشتر از سرعت شخصی خودت بهینه کن
عنوان شغلی بعداً میاد.
اول باید رفتارتون تغییر کنه دوستان!
#توصیه
❤1
وقتی هوش مصنوعی کد می‌نویسه، مهاجرت دیتابیس رو اجرا می‌کنه یا یک دستور رو مستقیماً اجرا می‌کنه، دقیقاً همون کاری رو انجام می‌ده که ازش خواستی.
حتی اگر چیزی که خواستی احمقانه باشه.
حتی اگر خودت ندونی چه عواقبی داره.
حتی اگر اون دستور کل دیتابیس محیط اصلی رو پاک کنه.
احتمالاً به‌زودی موجی از استخدام مهندس‌های نرم‌افزار رو می‌بینیم برای:
• درست کردن سیستم‌های خراب‌شده توسط هوش مصنوعی
• مرتب کردن منطق ناخوانایی که خودکار تولید شده
• بازیابی سیستم‌هایی که با یک اتوماسیون سریع خراب شدن
• اضافه کردن لایه‌های محافظ برای جلوگیری از فاجعه‌های خاموش
وایب کدینگ تبدیل شده به نسخه جدید FAFO.
هرچقدر بنیان‌گذارهای غیرفنی سریع‌تر حرکت کنن، بدهی فنی بیشتری هم به مهندس‌های نرم‌افزار تحویل داده میشه.
طنز ماجرا اینجاست:
هوش مصنوعی مسئولیت رو از بین نمی‌بره؛ بلکه اون رو بیشتر می‌کنه.
مهندس‌های سینیوری که بتونن:
• خروجی هوش مصنوعی رو بررسی کنن
• معماری درست طراحی کنن
• ریسک‌ها رو سریع تشخیص بدن
• لایه‌های امنیتی و محافظتی طراحی کنن
ارزش بیشتری پیدا می‌کنن.
به هوش مصنوعی اعتماد کن، ولی همه‌چیز رو بررسی کن.
مخصوصاً هر چیزی که می‌تونه دستورهای مخرب یا غیرقابل‌بازگشت اجرا کنه.
چون جمله روی سیستم من درست کار می‌کرد احتمالاً قراره به یکی از گران‌ترین جمله‌های دنیای فناوری تبدیل بشه.
#Ai
حتی اگر چیزی که خواستی احمقانه باشه.
حتی اگر خودت ندونی چه عواقبی داره.
حتی اگر اون دستور کل دیتابیس محیط اصلی رو پاک کنه.
احتمالاً به‌زودی موجی از استخدام مهندس‌های نرم‌افزار رو می‌بینیم برای:
• درست کردن سیستم‌های خراب‌شده توسط هوش مصنوعی
• مرتب کردن منطق ناخوانایی که خودکار تولید شده
• بازیابی سیستم‌هایی که با یک اتوماسیون سریع خراب شدن
• اضافه کردن لایه‌های محافظ برای جلوگیری از فاجعه‌های خاموش
وایب کدینگ تبدیل شده به نسخه جدید FAFO.
هرچقدر بنیان‌گذارهای غیرفنی سریع‌تر حرکت کنن، بدهی فنی بیشتری هم به مهندس‌های نرم‌افزار تحویل داده میشه.
طنز ماجرا اینجاست:
هوش مصنوعی مسئولیت رو از بین نمی‌بره؛ بلکه اون رو بیشتر می‌کنه.
مهندس‌های سینیوری که بتونن:
• خروجی هوش مصنوعی رو بررسی کنن
• معماری درست طراحی کنن
• ریسک‌ها رو سریع تشخیص بدن
• لایه‌های امنیتی و محافظتی طراحی کنن
ارزش بیشتری پیدا می‌کنن.
به هوش مصنوعی اعتماد کن، ولی همه‌چیز رو بررسی کن.
مخصوصاً هر چیزی که می‌تونه دستورهای مخرب یا غیرقابل‌بازگشت اجرا کنه.
چون جمله روی سیستم من درست کار می‌کرد احتمالاً قراره به یکی از گران‌ترین جمله‌های دنیای فناوری تبدیل بشه.
#Ai
🥰1
هیچ‌وقت یادگیری رو متوقف نکنید.
کنجکاو بمونید. همیشه دنبال راه بهتر باشید.
مستندات رو بخونید. ویدیو ببینید. سؤال بپرسید. گفت‌وگوی بعدیتون رو با این جمله
شروع کنید:
خب، ولی اگه...؟
وقتی یادگیری رو متوقف می‌کنید، در واقع بخشی از زندگی کردن رو متوقف کردین.
#توصیه
کنجکاو بمونید. همیشه دنبال راه بهتر باشید.
مستندات رو بخونید. ویدیو ببینید. سؤال بپرسید. گفت‌وگوی بعدیتون رو با این جمله
شروع کنید:
خب، ولی اگه...؟
وقتی یادگیری رو متوقف می‌کنید، در واقع بخشی از زندگی کردن رو متوقف کردین.
#توصیه
❤1
خیلی‌ها دارن می‌پرسن چرا استرایپ داره اوپن‌روتر رو می‌خره، در حالی که در نگاه اول این دو شرکت کاملاً متفاوت به نظر می‌رسن.
به نظرم استرایپ داره خیلی هوشمندانه از سرمایه‌اش استفاده می‌کنه.
استرایپ فهمیده ساختن یک مدل زبانی بزرگ، هزینه فوق‌العاده زیادی داره. پس چرا باید خودش وارد هزینه و رقابت ساخت یک مدل بشه؟ می‌تونه روی لایه زیرساختی اطراف اپلیکیشن‌های هوش مصنوعی تمرکز کنه.
من فکر نمی‌کنم طی ۵ سال آینده حتی یک اپلیکیشن جدی روی اینترنت وجود داشته باشه که به یک ارائه‌دهنده مدل زبانی درخواست API نفرسته.
حالا این سناریو رو تصور کن:
یک اپلیکیشن از طریق اوپن‌روتر به مدل‌های هوش مصنوعی وصل میشه و زیرساخت پرداختش هم با استرایپ ساخته شده.
یعنی استرایپ می‌تونه بخش بزرگی از زیرساخت اینترنت آینده رو در اختیار بگیره.
لازم نیست خودت مدل هوش مصنوعی رو بسازی؛ گاهی کنترل زیرساختی که همه مدل‌ها ازش استفاده می‌کنن، ارزشمندتره.
#Ai
به نظرم استرایپ داره خیلی هوشمندانه از سرمایه‌اش استفاده می‌کنه.
استرایپ فهمیده ساختن یک مدل زبانی بزرگ، هزینه فوق‌العاده زیادی داره. پس چرا باید خودش وارد هزینه و رقابت ساخت یک مدل بشه؟ می‌تونه روی لایه زیرساختی اطراف اپلیکیشن‌های هوش مصنوعی تمرکز کنه.
من فکر نمی‌کنم طی ۵ سال آینده حتی یک اپلیکیشن جدی روی اینترنت وجود داشته باشه که به یک ارائه‌دهنده مدل زبانی درخواست API نفرسته.
حالا این سناریو رو تصور کن:
یک اپلیکیشن از طریق اوپن‌روتر به مدل‌های هوش مصنوعی وصل میشه و زیرساخت پرداختش هم با استرایپ ساخته شده.
یعنی استرایپ می‌تونه بخش بزرگی از زیرساخت اینترنت آینده رو در اختیار بگیره.
لازم نیست خودت مدل هوش مصنوعی رو بسازی؛ گاهی کنترل زیرساختی که همه مدل‌ها ازش استفاده می‌کنن، ارزشمندتره.
#Ai
🔥1
قبل از هوش مصنوعی 🤖
طراحی: ۴ هفته
توسعه: ۲ هفته
تست: ۱ هفته
رفع باگ: ۱ هفته
بعد از هوش مصنوعی 💀
طراحی: ۰ روز
توسعه: ۱ روز
تست: ۱ روز
رفع باگ: تا ابد 😭
#Ai
طراحی: ۴ هفته
توسعه: ۲ هفته
تست: ۱ هفته
رفع باگ: ۱ هفته
بعد از هوش مصنوعی 💀
طراحی: ۰ روز
توسعه: ۱ روز
تست: ۱ روز
رفع باگ: تا ابد 😭
#Ai
❤1
دیروز درباره دما در هوش مصنوعی صحبت کردم با یکی از دوستانم.
یک مفهوم مهم روی نحوه تولید متن توسط مدل تأثیر می‌ذاره:
اون هم نمونه‌گیری!
بذارید ساده بررسیش کنیم
✨ نمونه‌گیری چیه دقیقا؟
قبل از اینکه مدل زبانی پاسخ بده، چندین گزینه احتمالی برای کلمه یا توکن بعدی پیش‌بینی می‌کنه و به هرکدوم یک احتمال می‌ده.
مثلاً:
پایتخت فرانسه کجاست؟
پاریس → ۵۰٪
لیون → ۲۰٪
مارسی → ۱۵٪
برلین → ۲٪
لندن → ۱٪
نمونه‌گیری مشخص می‌کنه از بین این گزینه‌ها، کدوم گزینه انتخاب بشه.
این کار باعث میشه خروجی مدل همیشه کاملاً یکسان نباشه و مقدار مشخصی تنوع و تصادفی‌بودن داشته باشه.
✨ دو روش رایج نمونه‌گیری
۱. نمونه‌گیری تاپ-کی
فقط چند گزینه‌ای که بیشترین احتمال رو دارن نگه می‌داره.
مثلاً اگر تاپ-کی برابر ۳ باشه:
پاریس → ۵۰٪
لیون → ۲۰٪
مارسی → ۱۵٪
و بقیه گزینه‌ها کنار گذاشته میشن.
یعنی تاپ-کی می‌پرسه:
چند گزینه اجازه دارن در انتخاب شرکت کنن؟
۲. نمونه‌گیری تاپ-پی
بهش نمونه‌گیری هسته‌ای هم می‌گن.
در این روش، مدل گزینه‌ها رو تا جایی نگه می‌داره که مجموع احتمال اون‌ها به یک مقدار مشخص برسه.
مثلاً اگر تاپ-پی برابر ۸۵٪ باشه:
پاریس → ۵۰٪
لیون → ۲۰٪
مارسی → ۱۵٪
مجموع = ۸۵٪
پس بقیه گزینه‌ها حذف میشن.
یعنی تاپ-پی می‌پرسه:
چه مقدار از مجموع احتمال‌ها رو در نظر بگیریم؟
✨ تفاوت دما و نمونه‌گیری
این دو مفهوم خیلی وقت‌ها با هم اشتباه گرفته میشن.
دما:
→ احتمال گزینه‌ها رو تغییر می‌ده
→ میزان تصادفی‌بودن رو کنترل می‌کنه
نمونه‌گیری:
→ تاپ-کی تعداد گزینه‌ها رو محدود می‌کنه
→ تاپ-پی محدوده احتمال قابل‌بررسی رو محدود می‌کنه
✨ چرا این تنظیمات مهمن؟
چون هرکدوم بخش متفاوتی از انتخاب توکن بعدی رو کنترل می‌کنن.
در نهایت می‌تونن بین این موارد تعادل ایجاد کنن:
→ ثبات
→ خلاقیت
→ تنوع
→ قابل‌اعتماد بودن
پس خیلی ساده:
دما میگه چقدر تصادفی باشیم.
تاپ-کی میگه چند گزینه رو بررسی کنیم.
تاپ-پی میگه چه مقدار از احتمال‌ها رو در نظر بگیریم.
#Ai
#sampling
یک مفهوم مهم روی نحوه تولید متن توسط مدل تأثیر می‌ذاره:
اون هم نمونه‌گیری!
بذارید ساده بررسیش کنیم
✨ نمونه‌گیری چیه دقیقا؟
قبل از اینکه مدل زبانی پاسخ بده، چندین گزینه احتمالی برای کلمه یا توکن بعدی پیش‌بینی می‌کنه و به هرکدوم یک احتمال می‌ده.
مثلاً:
پایتخت فرانسه کجاست؟
پاریس → ۵۰٪
لیون → ۲۰٪
مارسی → ۱۵٪
برلین → ۲٪
لندن → ۱٪
نمونه‌گیری مشخص می‌کنه از بین این گزینه‌ها، کدوم گزینه انتخاب بشه.
این کار باعث میشه خروجی مدل همیشه کاملاً یکسان نباشه و مقدار مشخصی تنوع و تصادفی‌بودن داشته باشه.
✨ دو روش رایج نمونه‌گیری
۱. نمونه‌گیری تاپ-کی
فقط چند گزینه‌ای که بیشترین احتمال رو دارن نگه می‌داره.
مثلاً اگر تاپ-کی برابر ۳ باشه:
پاریس → ۵۰٪
لیون → ۲۰٪
مارسی → ۱۵٪
و بقیه گزینه‌ها کنار گذاشته میشن.
یعنی تاپ-کی می‌پرسه:
چند گزینه اجازه دارن در انتخاب شرکت کنن؟
۲. نمونه‌گیری تاپ-پی
بهش نمونه‌گیری هسته‌ای هم می‌گن.
در این روش، مدل گزینه‌ها رو تا جایی نگه می‌داره که مجموع احتمال اون‌ها به یک مقدار مشخص برسه.
مثلاً اگر تاپ-پی برابر ۸۵٪ باشه:
پاریس → ۵۰٪
لیون → ۲۰٪
مارسی → ۱۵٪
مجموع = ۸۵٪
پس بقیه گزینه‌ها حذف میشن.
یعنی تاپ-پی می‌پرسه:
چه مقدار از مجموع احتمال‌ها رو در نظر بگیریم؟
✨ تفاوت دما و نمونه‌گیری
این دو مفهوم خیلی وقت‌ها با هم اشتباه گرفته میشن.
دما:
→ احتمال گزینه‌ها رو تغییر می‌ده
→ میزان تصادفی‌بودن رو کنترل می‌کنه
نمونه‌گیری:
→ تاپ-کی تعداد گزینه‌ها رو محدود می‌کنه
→ تاپ-پی محدوده احتمال قابل‌بررسی رو محدود می‌کنه
✨ چرا این تنظیمات مهمن؟
چون هرکدوم بخش متفاوتی از انتخاب توکن بعدی رو کنترل می‌کنن.
در نهایت می‌تونن بین این موارد تعادل ایجاد کنن:
→ ثبات
→ خلاقیت
→ تنوع
→ قابل‌اعتماد بودن
پس خیلی ساده:
دما میگه چقدر تصادفی باشیم.
تاپ-کی میگه چند گزینه رو بررسی کنیم.
تاپ-پی میگه چه مقدار از احتمال‌ها رو در نظر بگیریم.
#Ai
#sampling
❤3
دقت کنید دوستان من برای اولین شغلم آماده نبودم. برای اولین حادثه‌ای که در محیط Production پیش آمد آماده نبودم. اولین باری هم که مسئولیت یک سیستم را بر عهده گرفتم، آماده نبودم.
هیچ‌کس آماده نیست.
آمادگی چیزی هست که هنگام انجام دادن کار به دست می‌آورید، نه چیزی که قبل از شروع کار داشته باشید.
هیچ‌کس آماده نیست.
آمادگی چیزی هست که هنگام انجام دادن کار به دست می‌آورید، نه چیزی که قبل از شروع کار داشته باشید.
❤3