یه نکته ریز ولی فوق‌العاده کاربردی برای ساخت MCP Toolها:

عوض کردن UUIDها با عددای ساده (Integer) یا اسم‌های قابل فهم، آمار خطای ایجنت‌ها رو به‌شدت میاره پایین!

حالا چرا مدل سر UUID گیج می‌زنه؟

یک رشته مثل a3f9c1e2-88b4-4d1e-9c77... برای مدل هیچ منطق قابل درکی نداره.

وقتی مدل مجبور میشه توی ورودیِ پارامتر یک UUID بفرسته، چیزی رو یادآوری نمی‌کنه؛

فقط داره ظاهرِ یک UUID رو الگوبافی (Pattern Matching) می‌کنه.

نتیجه چی میشه؟ یک رشته که کاملاً قیافه‌ش شبیه UUID هست، اما کلاً وجود خارجی توی دیتابیس شما نداره!

مشکل اصلی از کجاست؟

توی REST API: کلاینت کد می‌زنه، ID رو قبلاً از دیتابیس گرفته و دقیقاً همون رو می‌فرسته.

توی MCP:مدل داره پارامترها رو از روی متن و کلمات Context می سازه، نه حافظه قطعی.

راهکار چیه؟

اصلاً نذارین مدل UUID خام رو ببینه!

توی ابزارتون به جای UUID، یک Index ساده (مثل ۱، ۲، ۳) یا یک اسمِ خوانا به مدل نشون بدین، بعد سمت کدِ خودتون اون رو به UUID واقعی دیتابیس مپ (Map) کنین.

دفعه بعد که خواستین Primary Key دیتابیس رو مستقیم بفرستین توی Schema ابزار ایجنت، حتماً این نکته رو یادتون باشه.

#AIAgents
#MCP
#AIEngineering
#برنامه‌نویسی
#هوش_مصنوعی
#تجربه_توسعه

وقتی مدل هوش مصنوعی رو وارد Production می‌کنی، ماجرا تازه شروع می‌شه
اوایل کار با مدل‌های زبانی، بیشتر حواسمون به کیفیت پاسخ‌هاست.

اما وقتی یک مدل واقعاً وارد پروژه می‌شه، خیلی زود با سه مشکل جدی روبه‌رو می‌شی:
سرعت، مصرف حافظه و هزینه.
اینجاست که بهینه‌سازی Inference اهمیت پیدا می‌کنه.

یکی از چیزهایی که برای من جالب بود، اینه که سریع‌تر کردن مدل فقط به داشتن GPU قوی‌تر مربوط نیست.
مدل در زمان پاسخ‌گویی دو مرحله مهم داره:
 مورد اول :Prefill که ورودی رو پردازش می‌کنه و بیشتر محاسباتی هست.
 مورد دوم : Decode که توکن‌ها رو یکی‌یکی تولید می‌کنه و در این مرحله جابه‌جایی داده بین حافظه اهمیت زیادی پیدا می‌کنه.

برای همین تکنیک‌های مختلفی برای بهینه‌سازی وجود داره.

یکی از مهم‌ترین‌ها KV Cache هست.
مدل مجبور نیست برای هر توکن، همه محاسبات قبلی رو دوباره انجام بده. اطلاعات محاسبه‌شده ذخیره می‌شن تا در ادامه دوباره استفاده بشن.

بعد می‌رسیم به Quantization.
با کاهش دقت عددی وزن‌های مدل، مصرف حافظه کمتر می‌شه و در بسیاری از سناریوها می‌تونی مدل بزرگ‌تری رو روی سخت‌افزار محدودتر اجرا کنی.

اما اینجا همیشه یک Trade-off وجود داره؛ کاهش حجم نباید باعث افت کیفیت غیرقابل‌قبول بشه.

یک تکنیک دیگه Continuous Batching هست.
به‌جای اینکه درخواست‌ها رو جداگانه پردازش کنیم، سیستم می‌تونه درخواست‌های جدید رو در حین اجرای درخواست‌های قبلی وارد Batch کنه.

این موضوع مخصوصاً وقتی تعداد درخواست‌ها زیاده، استفاده از GPU رو خیلی بهتر می‌کنه.

تکنیک‌هایی مثل Prefix Caching، Paged Attention، Speculative Decoding و Flash Attention هم هر کدوم از یک گلوگاه مشخص در Inference عبور می‌کنن.

چیزی که از این موضوع برای من مهم‌تر بود، اینه که بهینه‌سازی مدل یک دکمه جادویی نداره.

گاهی مشکل از حافظه‌ست، گاهی از Throughput، گاهی از Latency و گاهی از تعداد توکن‌هایی که باید پردازش بشن.

در نهایت دوستان عزیزم قبل از اینکه سراغ بهینه‌سازی برید، باید متوجه بشید دقیقاً کدوم بخش سیستم گلوگاهه.

در نهایت، اجرای یک LLM در Production بیشتر از اینکه فقط مسئله مدل باشه، یک مسئله مهندسیه.

مدل خوب مهمه، اما اینکه چطور اون مدل رو سریع، ارزان و پایدار اجرا کنی، بخش بزرگی از ماجراست.

#هوش_مصنوعی
#مدل_زبانی
#یادگیری_ماشین
#مهندسی_هوش_مصنوعی
#برنامه_نویسی
#بهینه_سازی
#AI
#LLM
#MachineLearning
#AIEngineering
#Inference

گوگل یک Professional Certificate جدید برای هوش مصنوعی منتشر کرده

این دوره روی Coursera ارائه می‌شه و شامل ۷ دوره‌ی عملی مختلفه.

چیزی که توی این دوره جالبه، تمرکز روی استفاده‌ی عملی از AIـه، نه فقط مباحث تئوری.

🔹 شروع یادگیری AI از پایه و رسیدن به تسلط عملی

🔹 یادگیری استفاده‌ی مسئولانه از هوش مصنوعی و افزایش بهره‌وری

🔹 ساخت App با کمک AI

🔹 بیش از ۲۰ پروژه‌ی عملی

🔹 سه ماه دسترسی به Gemini Pro

برای کسی که می‌خواد AI رو فقط در حد تئوری یاد نگیره و واقعاً وارد Workflow روزمره و پروژه‌هاش کنه، این ساختار می‌تونه جالب باشه.

لینک دوره : ثبت نام

#هوش_مصنوعی
#یادگیری_ماشین
#برنامه_نویسی
#آموزش_هوش_مصنوعی
#گوگل

#AI
#ArtificialIntelligence
#MachineLearning
#Google
#Gemini
#AIEngineering
#Coursera

انویدیا یک API رایگان برای مدل‌های هوش مصنوعی ارائه داده! 🤖

انویدیا یک API رایگان در اختیار توسعه‌دهنده‌ها قرار داده که می‌تونی با مدل‌هایی مثل:

🔹 DeepSeek V4
🔹 MiniMax M3
🔹 GLM 5.2
🔹 Gemma 4

کار کنی.

برای تست و توسعه خیلی کاربردیه، مخصوصاً وقتی می‌خوای قبل از پرداخت هزینه ببینی یک مدل چطور عمل می‌کنه یا چند مدل مختلف رو با هم مقایسه کنی.

نکته جالب اینه که برای استفاده از این API نیازی به وارد کردن اطلاعات کارت بانکی نیست.

البته من هم امتحانش کردم؛ برای استفاده مستقیم داخل ابزارهایی مثل OpenCode، به نظرم همیشه گزینه ایده‌آلی نیست.

چرا؟

چون این APIها به دلیل رایگان بودن معمولاً سرعت پایین‌تری دارن و بعضی وقت‌ها ممکنه وارد صف انتظار بشی.

بهتره بهش به چشم یک محیط آزمایشی نگاه کنی:

قبل از اینکه برای یک API پولی هزینه کنی، مدل‌ها رو تست کن، رفتارشان رو مقایسه کن و ببین کدام مدل برای پروژه‌ات مناسب‌تره.

لینک : nvidia


#هوش_مصنوعی
#برنامه_نویسی
#مدل_زبانی
#توسعه_نرم_افزار
#یادگیری_ماشین

#AI
#LLM
#NVIDIA
#DeepSeek
#Gemma
#MachineLearning
#AIEngineering
#OpenSource

این OpenAI یک ابزار امنیتی جدید معرفی کرده؛ البته معرفی رسمی نه

اسم این ابزار Codex Security CLIـه و برای پیدا کردن آسیب‌پذیری‌های امنیتی داخل Repositoryها طراحی شده.

ایده‌اش نسبتاً ساده‌ست:

🔹 مخزن رو بررسی می‌کنه

🔹 آسیب‌پذیری‌های احتمالی رو پیدا می‌کنه

🔹 نتایج رو تحلیل می‌کنه

🔹 در نهایت یک گزارش امنیتی ارائه می‌ده

این پروژه فعلاً در مرحله Preliminary Launch قرار داره و به‌صورت Open Source منتشر شده.

چیزی که برای من جالبه، ترکیب Coding Agent با Security Analysis؛ یعنی به‌جای اینکه فقط از AI برای نوشتن کد استفاده کنیم، ازش برای پیدا کردن مشکلات امنیتی داخل کدی که قبلاً نوشته شده هم استفاده کنیم.

اگر این مسیر درست پیش بره، می‌تونه برای Security Review و Code Auditing خیلی جالب باشه.

لینک : مخزن

#هوش_مصنوعی
#امنیت_سایبری
#امنیت_نرم_افزار
#برنامه_نویسی
#کدنویسی
#آسیب_پذیری

#AI
#CyberSecurity
#SoftwareSecurity
#Coding
#CodeSecurity
#AIEngineering
#Codex
#OpenAI

شاید Harness نقش SI رو از ریشه تغییر بده.

تا امروز وقتی صحبت از یکپارچه‌سازی سیستم‌ها می‌شد، معمولاً منظور این بود که چند سیستم مختلف رو به هم وصل کنیم.

مثلاً سیستم مالی به سیستم مدیریت مشتری وصل بشه، سیستم تولید با پایگاه داده ارتباط داشته باشه و نرم‌افزارهای مختلف سازمان بتونن با هم تبادل اطلاعات کنن.

در واقع بخش بزرگی از ارزش شرکت‌های یکپارچه‌ساز همین بود:

سیستم‌های مختلف رو طوری به هم متصل کنیم که بتونن با هم کار کنن.

اما با ورود عامل‌های هوش مصنوعی، به نظرم مسئله داره تغییر می‌کنه.

چون دیگه فقط بحث اتصال سیستم‌ها نیست.

حالا می‌تونیم عامل‌های هوش مصنوعی رو به فرایندهای کاری، ابزارها، داده‌ها و سیستم‌های سازمانی متصل کنیم و ازشون بخوایم واقعاً بخشی از کار کسب‌وکار رو انجام بدن.

یعنی مسیر داره از:

یکپارچه‌سازی سیستم‌ها

به:

هماهنگ‌سازی و اجرای فرایندها با هوش مصنوعی

تغییر می‌کنه.

این تغییر می‌تونه مدل کسب‌وکار شرکت‌های یکپارچه‌ساز رو هم تحت تأثیر قرار بده.

در مدل سنتی، مزیت اصلی معمولاً از تجربه‌ی پیاده‌سازی و شناخت صنعت می‌اومد.

اما در مدل جدید، مزیت رقابتی می‌تونه بیشتر روی این موارد شکل بگیره:

🔹 داده‌های واقعی و تخصصی صنعت

🔹 فرایندهای واقعی کسب‌وکار

🔹 عامل‌های تخصصی

🔹 ابزارهای متصل به سیستم‌های سازمان

🔹 حلقه‌های بازخورد مداوم برای بهبود عملکرد

اینجا یک نکته مهم وجود داره:

هارنس لزوماً قرار نیست شرکت‌های یکپارچه‌ساز رو حذف کنه.

ممکنه اتفاق مهم‌تر این باشه که نقش اون‌ها رو تغییر بده.

یعنی به‌جای اینکه فقط سیستم‌های مختلف رو به هم متصل کنیم، سیستمی داشته باشیم که بتونه بخشی از کار واقعی سازمان رو هماهنگ و اجرا کنه.

در مدل قبلی، خروجی اصلی یکپارچه‌سازی بود.

در مدل جدید، خروجی می‌تونه اجرای واقعی کار باشه.

و اگر این تغییر در مقیاس سازمانی جدی بشه، شاید سؤال اصلی دیگه این نباشه که:

چطور سیستم‌های شرکت رو به هم وصل کنیم؟

بلکه سؤال این باشه:

«چطور هوش مصنوعی رو به سیستم‌ها، داده‌ها و فرایندهای شرکت وصل کنیم تا خودش بخشی از کار رو انجام بده؟»

اگر این اتفاق بیفته، Harness فقط یک ابزار جدید برای یکپارچه‌سازی نیست.

می‌تونه تعریف خودِ یکپارچه‌سازی سیستم‌ها رو تغییر بده.

#هوش_مصنوعی
#ایجنت_هوش_مصنوعی
#مهندسی_هوش_مصنوعی
#اتوماسیون
#نرم_افزار
#سیستم_های_سازمانی
#یکپارچه_سازی_سیستم

#AI
#AIAgents
#AIEngineering
#AIOrchestration
#SystemIntegration
#EnterpriseAI
#Automation
#AIHarness
#Workflow

به نظرم رقابت اصلی آینده‌ی هوش مصنوعی فقط بین مدل‌ها نیست؛ بین اکوسیستم‌هاست.

هرچقدر بیشتر با مدل‌های هوش مصنوعی کار می‌کنیم، مفهوم Open Weight برام جالب‌تر می‌شه.

وقتی وزن‌های یک مدل منتشر می‌شن، می‌تونیم اون رو روی سیستم خودمون اجرا کنیم، Fine-tune کنیم و حتی محصولات جدیدی روی اون بسازیم.

اما چیزی که به نظرم خیلی‌ها نادیده می‌گیرن اینه که راز اصلی یک مدل زبانی، فقط فایل نهایی وزن‌ها نیست.

بخش سخت ماجرا پشت صحنه اتفاق می‌افته:

🔹 داده‌های آموزشی
🔹 پایپلاین های داده
🔹 روش‌های فیلتر کردن داده
🔹 روش آموزش
🔹 تکنیک‌های بهینه‌سازی
🔹 زیرساخت محاسباتی

شرکت‌های بزرگ معمولاً همین بخش‌ها رو محرمانه نگه می‌دارن.

بنابراین خیلی از مدل‌هایی که بهشون می‌گیم باز، در واقع نتیجه رو در اختیار ما می‌ذارن، نه دستور ساختش رو.

اینجا یک سؤال جالب مطرح می‌شه:

اگر OpenAI یا Anthropic روزی وزن مدل‌هاشون رو منتشر کنن، آیا واقعاً ضربه‌ی بزرگی به خودشون می‌زنن؟

یا برعکس، بسته نگه داشتن مدل‌ها باعث می‌شه مدل‌های Open Weight بخش بیشتری از اکوسیستم رو تصاحب کنن؟

به نظرم ممکنه آینده کمی شبیه رقابت iOS و Android بشه.

چند پلتفرم بسته و قدرتمند در رأس بازار،

اما بخش بزرگی از توسعه‌دهنده‌ها و محصولات روی مدل‌های Open Weight ساخته بشن.

شاید حتی در آینده چیزی شبیه این ببینیم:

۸۰٪ اکوسیستم روی مدل‌های Open Weight

۲۰٪ روی پلتفرم‌های اختصاصی

چون در دنیای تکنولوژی، باز بودن همیشه به معنی ساخت بهترین محصول نیست؛

گاهی یعنی ساختن بزرگ‌ترین اکوسیستم.

#هوش_مصنوعی
#مدل_زبانی
#مدل_باز
#یادگیری_ماشین
#برنامه_نویسی
#هوش_مصنوعی_مولد

#AI
#LLM
#OpenWeights
#OpenSourceAI
#MachineLearning
#GenerativeAI
#AIEngineering

به نظرم مشکل Hallucination حتی سال آینده هم کاملاً حل نمی‌شه. 🤔

اما شاید یک تغییر مهم اتفاق بیفته.

بخشی از چیزهایی که امروز بهشون می‌گیم Hallucination، دیگه از خود AI نمیان؛ از برداشت اشتباه انسان‌ها از خروجی AI میان.

هرچقدر مدل‌ها توانمندتر بشن، خروجی‌هاشون هم پیچیده‌تر و تخصصی‌تر می‌شه.

مشکل اینجاست که ممکنه کاربر نتونه تشخیص بده یک پاسخ دقیقاً کجا درست، کجا ناقص و کجا اشتباهه.

در نتیجه، حتی اگر مدل واقعاً بهتر شده باشه، باز هم ممکنه چیزی که کاربر نمی‌فهمه رو به‌عنوان «توهم مدل» تفسیر کنه.

به نظرم در آینده فقط مسئله‌ی ساخت مدل‌های دقیق‌تر نیست.

باید توانایی انسان برای ارزیابی، راستی‌آزمایی و درک خروجی مدل‌ها هم بیشتر بشه.

هوش بهتر می‌شه؛

اما فهمیدن AI هم باید همراهش رشد کنه.

#هوش_مصنوعی
#مدل_زبانی
#یادگیری_ماشین
#تفکر_انتقادی
#هوش_مصنوعی_مولد

#AI
#LLM
#MachineLearning
#CriticalThinking
#GenerativeAI
#AIEngineering

اگر هنوز فکر می‌کنی هوش مصنوعی متن‌باز داره عقب می‌مونه، شاید مشکل از اون نباشه.

مدل‌های متن‌باز و Open Weight با سرعت زیادی دارن پیشرفت می‌کنن.

مدل‌هایی که چند وقت پیش برای استفاده‌ی جدی ضعیف به نظر می‌رسیدن، امروز می‌تونن در Coding، استدلال، اجرای محلی و ساخت Agentهای هوش مصنوعی کاملاً جدی باشن.

به نظرم مسئله اینجاست که بعضی‌ها هنوز دارن اکوسیستم Open Source رو با تصویری که چند سال پیش داشتن قضاوت می‌کنن.

مدل‌ها تغییر کردن.

ابزارها تغییر کردن.

هزینه‌ی اجرا پایین‌تر اومده.

و مهم‌تر از همه، دسترسی به مدل‌ها خیلی بیشتر شده.

پس اگر هنوز فکر می‌کنی Open Source AI عقب مونده، شاید وقتشه دوباره بازار رو بررسی کنی.

شاید مدل‌ها عقب نمونده باشن؛

شاید ما هنوز متوجه سرعت حرکتشون نشدیم.

#هوش_مصنوعی
#هوش_مصنوعی_متن_باز
#مدل_زبانی
#برنامه_نویسی
#یادگیری_ماشین
#هوش_مصنوعی_مولد

#AI
#OpenSourceAI
#OpenWeight
#LLM
#MachineLearning
#GenerativeAI
#AIEngineering

به نظرم خیلی‌ها هنوز GLM-5.3 رو جدی نگرفتن.

چیزی که بیشتر از همه توجهم رو جلب کرده، فقط عملکرد این مدل نیست؛ نسبت عملکرد به اندازه‌ی مدلشه.

این GLM با حدود ۷۴۳ میلیارد پارامتر، طبق این ادعا می‌تونه به عملکرد مدل‌هایی نزدیک بشه که چندین برابر بزرگ‌تر هستن.

اگر این نتایج در استفاده‌ی واقعی هم تکرار بشن، اتفاق مهمی محسوب می‌شه.

چون ماجرا فقط این نیست که یک مدل ارزون‌تر داریم.

بحث اینه که شاید داریم به نقطه‌ای می‌رسیم که معماری، داده، بهینه‌سازی و روش آموزش می‌تونن اهمیت بیشتری از صرفاً بزرگ‌تر کردن تعداد پارامترها داشته باشن.

برای من جذاب‌ترین بخش ماجرا همین نسبت بین هزینه و عملکرده.

اگر یک مدل کوچک‌تر بتونه بخش قابل‌توجهی از عملکرد مدل‌های بسیار بزرگ‌تر رو ارائه بده، اقتصاد اجرای مدل‌های هوش مصنوعی هم می‌تونه تغییر کنه.

به نظرم خیلی‌ها هنوز متوجه بزرگی این تغییر نشدن.

شاید رقابت آینده فقط بر سر «بزرگ‌ترین مدل» نباشه؛

بلکه بر سر «بهترین عملکرد با کمترین هزینه» باشه.

#هوش_مصنوعی
#مدل_زبانی
#یادگیری_ماشین
#هوش_مصنوعی_مولد
#مدل_متن_باز
#برنامه_نویسی

#AI
#LLM
#GLM
#MachineLearning
#GenerativeAI
#OpenSourceAI
#AIEngineering
#AIEconomics

سباستین راشکا شروع کرده به انتشار ویدئوهای کتاب جدیدش درباره‌ی Reasoning Models.

اگه می‌خواید واقعاً وارد مسیر AI Engineering بشید، این ویدئوها ارزش دیدن دارن.

موضوع فقط استفاده از مدل‌ها نیست؛ بحث اینه که چطور باید با مدل‌های Reasoning عمیق‌تر و مهندسی‌تر فکر کنیم، چطور رفتار اون‌ها رو درک کنیم و چطور ازشون در سیستم‌های واقعی استفاده کنیم.

یعنی به‌جای اینکه فقط بگیم «این مدل جواب خوبی میده»، بریم سراغ اینکه چرا جواب میده، چطور reasoning می‌کنه و چطور میشه این فرآیند رو مهندسی کرد.

🎥 لینک پلی‌لیست:
https://youtube.com/playlist?list=PLfrHAQCRxtUs&si=RDlXAHoMTLFxC8bs

پ.ن. برای کسی که می‌خواد از صرفاً استفاده‌کننده‌ی AI به سمت AI Engineer شدن بره، این جنس محتوا خیلی مهم‌تر از آموزش‌های صرفاً ابزارمحوره.

#AI
#AIEngineering
#ReasoningModels
#LLM
#MachineLearning