یک کوچه و یک سیلی و یک مادر و یک طفل ؛
شرحِ غمِ اَسرارِ مفصل، شدنی نیست ...
 
شهادت مظلومانه پیامبر رحمت و امام حسن مجتبی علیه السلام را گرامی میداریم 🥀🕯

🆔️ intellimage channel:
https://t.me/Intellimage
https://eitaa.com/intellimage

أَلسَّلٰامُ عَلَیکَ یٰا عَلی اِبنِ موسَی أَلرّضٰآ أَلمُرتَضٰی🥀🕯

بعضی کلمه ها ؛ انگار صاحب دارند...
صاحبِ کلمه ی " پناه " تا ابد امام رضا علیه السلام است...

🆔️ intellimage channel:
https://t.me/Intellimage
https://eitaa.com/intellimage

ارزش واقعی چطور در اکوسیستم LLM ها خلق خواهد شد؟

🆔️ intellimage channel:
https://t.me/Intellimage
https://eitaa.com/intellimage

✍ بازار مدل‌های زبانی بزرگ (LLM) در مسیر رشد چشمگیری قرار داره ؛ پیش‌بینی‌ها حاکی از جهش از ۶.۴ میلیارد دلار در سال ۲۰۲۴ به ۳۶.۱ میلیارد دلار تا سال ۲۰۳۰ است.

اما سوال اصلی اینجاست: ارزش واقعی چطور در این زنجیره خلق خواهد شد؟

مدل‌های پایه در حال تبدیل شدن به یک «کالای همگانی» (Commodity) هستند و مزیت رقابتی به سمت لایه‌های بالاتر و تخصصی‌تر حرکت می‌کند.

بر اساس تحلیل‌های موجود، سه روند کلیدی در این چشم‌انداز در حال شکل‌گیری هستند.در ادامه ی مطالب ، هر یک را با نگاهی تحلیلی و مبتنی بر داده ؛ واکاوی می‌کنیم :)

🆔️ intellimage channel:
https://t.me/Intellimage
https://eitaa.com/intellimage

✍ بازار مدل‌های زبانی بزرگ در آستانه‌ی یک تحول ۵.۶ برابریست (از ۶.۴ به ۳۶.۱ میلیارد دلار تا ۲۰۳۰). اما سؤال کلیدی این نیست که آیا رشد می‌کند، بلکه این است: ارزش خلق‌شده در کدام لایه‌ی این اکوسیستم متمرکز خواهد شد؟

در ادامه پست قبل تحلیل عمیق داده‌ها، سه روندِ به‌هم‌تنیده را آشکار می‌کنه که با هم، نقشه‌ی راهِ آینده را ترسیم می‌کنند؛

تخصصی‌سازی اجباری (Forced Specialization) :

مدل‌های عمومی در حال تبدیل به «کالای همگانی» هستند. سازمان‌ها به سرعت به سمت مدل‌های حوزه‌خاص (Domain-Specific) حرکت می‌کنند؛ چون می‌دانند که دقتِ بالاتر با هزینه‌ی بسیار کمتر، تنها از این مسیر ممکن است.

کم شدن هزینه‌ی عملیاتی تا ۹۹٪ و افزایش دقت تا ۴۰٪ در حوزه‌های هدف، این انتقال را غیرقابل‌انکار کرده و مثلاً هزینه‌ی تحلیل قرارداد با GPT-4 (۱۵۰ هزار دلار) در برابر مدل تخصصی (۱۵ هزار دلار)  انتخاب، واضح هست.

🆔️ intellimage channel :
https://t.me/Intellimage
https://eitaa.com/intellimage

در ادامه بررسی می‌کنیم که حاکمیت به‌عنوان دروازه‌بان ورود (Governance as the Gatekeeper) نقش خواهد داشت :

وقتی مدل‌ها وارد حوزه‌های حساس مانند مالی، سلامت و حقوق می‌شوند، قابلیت اعتماد از یک مزیت به یک شرط ضروری برای خرید تبدیل می‌شه.

قوانینی مثل EU AI Act، شفافیت در داده‌های آموزش، قابلیت ممیزی، مدیریت تعصب و امنیت زنجیره‌ی تأمین را به الزامات جدی تبدیل کردند. در این فضا، پلتفرمی که بتواند «حکمرانی قابل‌اعتماد» را ارائه دهد، نه یک گزینه، بلکه تنها گزینه‌ی قابل‌قبول برای سازمان‌های بزرگ خواهد بود.

🆔️ intellimage channel:
https://t.me/Intellimage
https://eitaa.com/intellimage

و مورد دیگه بحث تنوع عمودیِ پذیرش (Vertical Diversity of Adoption)

صنایع مختلف، با سرعت و اولویت‌های کاملاً متفاوت وارد بازی می‌شوند. سلامت، حقوق، مالی و تولید، هرکدام با مسئله‌ی منحصربه‌فرد خود به سراغ LLM می‌روند.

مدل‌های پزشکی تخصصی به دقت ۸۵٪ در آزمون‌های تخصصی می‌رسند، در حالی که مدل‌های عمومی تنها ۷۸٪ عملکرد دارند. در بخش حقوق، تحلیل قراردادها و تحقیقات حقوقی به‌سرعت در حال خودکارسازی است.

قانون "یک راه‌حل برای همه" یک توهم است. ارزش واقعی، درک عمیق از دامنه‌ی مسئله‌ی هر صنعت و طراحی مدلی است که اصطلاحات، داده‌ها و الزامات قانونیِ آن صنعت را بومی‌سازی کرده باشد.

🆔️ intellimage channel:
https://t.me/Intellimage
https://eitaa.com/intellimage

📸 هر سپیده‌دم، یک آرایه‌ از داده‌های نوری است ؛
برای دیدن جهان، پیکسل‌به‌پیکسل :)

🆔️ intellimage channel:
https://t.me/Intellimage
https://eitaa.com/intellimage

آیا می‌توان با چند MRI ناقص و یک برچسب ساده، به عملکرد Fully Supervised رسید؟

در این رویکرد، هر بیمارستان تصاویر MRI موجود خود را به یک ماژول هم‌ترازسازی مدالیته (Modality Alignment Module) می‌دهد. اهمیت این ماژول در این است که مدل نیازی ندارد بداند ورودی دقیقاً از نوع FLAIR، T1ce یا T2 است؛ بلکه صرفاً بر اساس تعداد کانال‌های در دسترس عمل کرده و همه را به یک فضای ویژگی مشترک نگاشت می‌کند. سپس با کمک CAM، نواحی مشکوک به تومور شناسایی می‌شوند.

از سوی دیگر، MOSAIC شامل یک شبکهٔ مستقل برای بخش‌بندی است که نقشه‌های شبه‌دانه‌ای (pseudo-mask) تولیدشده در مرحلهٔ قبل را پالایش کرده و نویزهای آنها را کاهش می‌دهد. این بخش نیز از معماری معلم- شاگرد بهره می‌برد.

نتیجهٔ نهایی نشان می‌دهد که با مدل MOSAIC، چند بیمارستان می‌توانند بدون به‌اشتراک‌گذاری تصاویر واقعی بیماران، تنها با تکیه بر MRIهای ناقص و غیریکسان و با در اختیار داشتن برچسبِ سادهٔ وجود/عدم وجود تومور، به یک مدل بخش‌بندی فدرال دست یابند که عملکردی نزدیک به روش‌های کاملاً نظارت‌شده دارد. نقطهٔ قوت اصلی این روش، هم‌ترازسازی بازنمایی‌های بیمارستان‌ها با استفاده از اطلاعات فشردهٔ حوزهٔ فرکانس است.

🆔️ intellimage channel:
https://t.me/Intellimage
https://eitaa.com/intellimage

✍ درواقع ایده اینجاست که هر بیمارستان، همون MRIهایی که داره رو می‌ده به یک ماژول به اسم Modality Alignment. اینجا دیگه برامون مهم نیست که ورودی دقیقاً FLAIR است یا T1ce یا T2؛ مدل فقط به تعداد کانال‌های موجود نگاه می‌کنه و همه را در یک فضای ویژگی مشترک می‌ریزد. بعدش هم با کمک CAM، نواحی که احتمالاً تومور هستند رو شناسایی می‌کنیم.

تا اینجا کار اولیه انجام شد، اما کیفیت مطلوب نیست. برای همین، MOSAIC یک شبکهٔ سگمنتیشن مجزا داره که این pseudo-maskهای مرحلهٔ اول را پردازش می‌کند، نویزهایشان را می‌گیرد و خروجی را اصلاح می‌کند. این بخش هم با معماری teacher–student جلو می‌رود تا یادگیری پایدارتری داشته باشیم.

نتیجه‌ این هستش که چند بیمارستان می‌توانند، بدون اینکه حتی یک تصویر بیمار را با هم به اشتراک بگذارند، با داده‌های ناقص و نامتجانس و تنها با یک برچسب سادهٔ «تومور داره یا نه»، به مدلی برسند که عملکردش به مدل‌های Fully Supervised نزدیک است.

جالب‌ترین بخش ماجرا، نوآوری اصلی‌اش است: هم‌ترازسازی بازنمایی‌ها با کمک اطلاعات فشردهٔ حوزهٔ فرکانس، که کار را برای مدل خیلی راحت‌تر می‌کند.

🆔️ intellimage channel:
https://t.me/Intellimage
https://eitaa.com/intellimage

🆕️ فاین‌تیون مدل ۸ میلیارد پارامتری روی لپ‌تاپ ۴ گیگابایتی؟

پروژه‌ی متن‌باز «Soup» با ترفند Layer Streaming این کار را ممکن کرده. یعنی لایه‌های مدل یکی‌یکی به حافظه‌ی گرافیکی می‌روند و کل مدل دیگر نباید یکجا در VRAM جا شود.

در نتیجه اجرای Llama 3.1 روی RTX 3050 لپ‌تاپ با فقط ۳.۳۲ گیگابایت مصرف حافظه اجرا می‌شود..

🆔️ intellimage channel:
https://t.me/Intellimage
https://eitaa.com/intellimage

✍ این پروژه اومد که ثابت کنه دیگه برای ورود به دنیای مدل‌های بزرگ، نیازی به قبض‌های نجومی برق ابری یا کارت‌های گرافیک چندهزار دلاری نیست. پروژه‌ی متن‌باز Soup این ادعا را به چالش کشیده و فلسفه‌ی فاین‌تیون را از یک پروسه‌ی سنگین مهندسی، به یک فایل ساده‌ی YAML و یک خط فرمان تقلیل داده است.

اما بیاید عمیق‌تر از ظاهر ساده‌اش نگاه کنیم. نقطه‌ی عطف این پروژه، قابلیت Layer Streaming است؛ یعنی تکنیک انتقال لایه‌به‌لایه از RAM به VRAM.این یعنی معماری حافظه دیگر یک بلوک یکپارچه نیست و مدل می‌تواند نفس‌هایش را به‌صورت تکه‌تکه در حافظه‌ی محدود گرافیکی جا بدهد...

🆔️ intellimage channel:
https://t.me/Intellimage
https://eitaa.com/intellimage

✍ برای من، جایی که این ادعا به اثبات می‌رسد، تست عملی توسعه‌دهندگان است: اجرای Llama 3.1 8B Instruct روی یک RTX 3050 لپ‌تاپی با فقط ۴ گیگابایت VRAM و مصرف حداکثر ۳.۳۲ گیگابایت. این یعنی یک دیتاساینتیست با یک لپ‌تاپ معمولی نیز می‌تواند آزمایش‌های خود را اجرا کند، نه اینکه صرفاً به نوت‌بوک‌های ابری وابسته باشد.

اکوسیستم قابلیت‌های آن هم در نوع خودش مناسبه ، ازجمله :

· پشتیبانی از LoRA و QLoRA برای بهینه‌سازی حافظه

· تنوع در الگوریتم‌های هم‌ترازی (DPO، ORPO، KTO، SimPO) که نشان از انعطاف‌پذیری آن دارد.

· تشخیص خودکار GPU و تنظیم داینامیک Batch Size، نشان از بلوغ مهندسی آن دارد.


🆔️ intellimage channel:
https://t.me/Intellimage
https://eitaa.com/intellimage

✍ این پروژه علاوه بر مزایایی که داره قطعا چالش های خاص خودش رو داره به عنوان مثال این فناوری مسئله‌ی «گنجایش» را حل کرده ، اما مسئله‌ی «زمان» را نه. روی سخت‌افزار ضعیف، فرآیند آموزش به شدت کند خواهد شد. در عمل، شما بین هزینه‌ی خرید GPU و هزینه‌ی وقت (زمان انتظار برای اتمام آموزش) یکی را انتخاب می‌کنید. با این حال، از بین بردن وابستگی به فضای ابری برای پروژه‌های حساس، یک برگ برنده‌ی غیرقابل انکار است.

به نظرم این پروژه یک پیام شفاف به صنعت می‌دهد : عصر حکمرانی هوش مصنوعی روی لپ‌تاپ‌های معمولی، دیگر یک رویا نیست؛ دارد جدی می‌شود.

🆔️ intellimage channel:
https://t.me/Intellimage
https://eitaa.com/intellimage

چرا چندمدالیته؟

پزشکان برای تشخیص، فقط به یک تصویر اکتفا نمی‌کنند؛ بلکه داده‌های بالینی، آزمایشگاهی و سابقه بیمار را هم در نظر می‌گیرند.
مدل‌های هوش مصنوعی نیز وقتی چند منبع داده را همزمان ببینند، عملکرد بهتری دارند.

+ مثال معروف:
تشخیص پنومونی در عکس قفسه‌سینه (CXR) به تنهایی کافی نیست؛ علائمی مثل تب و شمارش گلبول‌های سفید هم لازم است تا افتراق از بیماری‌های مشابه ممکن شود...


🆔️ intellimage channel:
https://t.me/Intellimage
https://eitaa.com/intellimage

✍ در این پردازش ، ۴ استراتژی اصلی انجام شده:

1️⃣ Early Fusion – ترکیب داده‌ها در ابتدای مسیر (قبل از ورود به شبکه)

2️⃣ Late Fusion – پردازش مجزای هر مدالیته و ترکیب در مرحله تصمیم‌گیری (مثلاً رأی‌گیری)

3️⃣ Joint Fusion – ترکیب ویژگی‌های
تصویری و بالینی قبل از ورود به لایه‌های نهایی

4️⃣ Slow Fusion – فیوژن تدریجی در طول شبکه (مخصوص داده‌های ویدئویی و دنباله‌ای)


🆔️ intellimage channel:
https://t.me/Intellimage
https://eitaa.com/intellimage

🆔️ intellimage channel:
https://t.me/Intellimage
https://eitaa.com/intellimage