با معرفی CUDA تو سال ۲۰۰۶، به جز عده خیلی خیلی اندکی از افراد آکادمیک، هیچ کسی توجهی بهش نشون نداد و به نظر میومد همه اون هزینه‌ها و سرمایه‌گذاری‌ها بیهوده بوده.

مثلا اولین گروهی که درخواست استفاده از کودا رو داشتن، دو محقق سرطان سینه بودن که تو بیمارستان عمومی ماساچوست کار می‌کردن و فقط دو تا جی‌پی‌یو می‌خواستن که بتونن اسکنرهاشون رو ارتقا بدن و سریع‌تر تصاویر رو پردازش کنن.

واکنش بازار نسبت به این معرفی جدید و سرمایه‌گذاری بزرگ انویدیا این بود که نه تنها این پلتفرم جدید ارزشی نداره، بلکه انویدیا یک بخشی از ارزش خودش رو با عدم تمرکز از بین برده.

در همین حین AMD پیشنهاد خرید انویدیا رو داده بود که جنسن فقط به یک شرط قبول می‌کرد و اون هم این بود که مدیرعامل مجموعه جدید باشه و وسط قرارداد AMD هم پا شد و رفت رقیب انویدیا یعنی ATI رو خرید و دیگه همه داشتن به این فکر می‌کردن که AMD با بازار بزرگ و سرمایه زیادش به زودی انویدیا رو از صحنه روزگار محو می‌کنه.

فقط تصور کنید که از سال ۲۰۰۸ تا ۲۰۱۰ انویدیا ۸۰٪ کاهش ارزش داشت و این موضوع فقط به بحران مالی مربوط نبود. بلکه هیچ‌کس آینده‌ای که انویدیا در موردش صحبت می‌کرد رو نمی‌تونست ببینه و هیچ شواهدی هم براش وجود نداشت.

اما در این بین این جنسن هوانگ بود که بر خلاف نظر تمام تحلیل‌گرها و سرمایه‌گذارها پافشاری کرد و حتی از سفارش‌های خیلی کوچیک اولیه خوشحال هم می‌شد چون نظریه بازار صفر میلیارد دلاریش رو تایید می‌کردن.

جنسن هوانگ اینطور استدلال می‌کرد که تمام این پلتفرمی که ساختیم و تمام این دنیایی که ممکن کردیم فقط نیاز به یک Killer App داره. کافیه یکی بیاد و یک استفاده‌ای از جی‌پی‌یوهای ما بکنه که توجه همه رو به پتانسیل محصولات ما بکنه. درست مثل بازی‌های کامپیوتری که تبدیل به مهم‌ترین دلیل خرید کارت‌های گرافیکی شدن، کافی بود یک اتفاق جدید و یک بازار جدید کشف بشه.

و در نهایت بعد از حدود ۵ سال صبر، بالاخره تو سال ۲۰۱۲ اون اتفاق مهم افتاد.

عزیزان و دوستان فقط این بحث CUDA یه مقدار زیادی فنیه و هرچقدر هم من تلاش کردم ساده‌ش کنم نمی‌دونم موفق شدم یا نه.
حالا ماجرا اینه که از اینجا به بعد میزان فنی بودن ماجرا قراره بیشتر هم بشه.

یه بازخوردی بدین بعد از خوندن این قسمت که چقدر اصل ماجرا رو تونستین دنبال کنید و براتون درکش راحت بود.

جفری هینتون از اون دست افرادی بود که بین همکارهاش به پافشاری بیش‌ازحد رو ایده‌های شکست‌خورده معروف بود. بیشتر از ۳۰ سال بود که سرسختانه از شبکه‌های عصبی دفاع می‌کرد در حالی که هم صنعت و هم آکادمی مدت‌ها پیش از این ایده عبور کرده بودن.

هینتون ۶۵ ساله، کم کم داشت به این فکر می‌کرد که نکنه تمام عمرش رو اشتباه کرده و فقط فرصت‌های زندگیش رو از دست داده؟

حتی وقتی یکی از دانشجوهاش یعنی الکس کریژوسکی خواست استاد راهنماش بشه بهش هشدار داد که:

حواست باشه، شبکه‌های عصبی دیگه مثل قدیما محبوب نیست!

اما الکس کریژوسکی در کمال تعجب پذیرفته بود و حالا در کنار یکی از دانشجوهای دیگه تو دفتر هینتون به اسم ایلیا ساتسکور داشتن در مورد ایده جدید هینتون به زبان روسی با هم صحبت می‌کردن.

این یه جورایی برای هینتون تبدیل به سرگرمی هم شده بود. یک سوال می‌پرسید و ایلیا و الکس رو به هم می‌کردن و با زبان روسی صحبت می‌کردن و با یک جواب معمولا جالب بر می‌گشتن.

این بار ایده هینتون آموزش یک شبکه عصبی برای پردازش تصویر با استفاده از جی‌پی‌یوهای انویدیا بود.

هینتون از سال ۲۰۰۸ خیلی از CUDA و پتانسیل‌های پردازش موازی هیجانزده شده بود و همه همکارهاش رو ترغیب می‌کرد که از جی‌پی‌یوهای انویدیا استفاده کنن. هرچند حتی خود انویدیا هم خیلی به یادگیری ماشین فکر نمی‌کرد و انگار ایده هینتون برای بازار صفر میلیارد دلاری اون‌ها خیلی کوچیک بود.

حالا اما تو سال ۲۰۱۲ چندتا چیز تغییر کرده بود که به نظر هینتون می‌تونست منجر به یک نتیجه متفاوت بشه.

اگر بخوایم از یک آنالوژی مناسب استفاده کنیم، شاید ایجاد آتش خوب باشه.

برای اینکه آتش ایجاد بشه ما به سه چیز نیاز داریم: گرما، اگسیژن و سوخت.

و دقیقا به همین شکل برای اینکه بتونیم یک مدل هوش مصنوعی رو به خوبی آموزش بدیم یا تولید کنیم به الگوریتم، مقدار زیادی داده و سخت‌افزار مناسب نیاز داریم.

اینکه شبکه‌های عصبی برای چندین دهه جواب نمی‌دادن به این خاطر بود که نه سخت‌افزار مناسبی وجود داشت و نه مقدار داده‌ها زیاد بود و به همین خاطر این ایده تا قبل از دهه ۲۰۰۰ عملا کنار گذاشته شده بود و شرکت‌ها به سراغ الگوریتم‌های دیگه‌ای رفته بودن و به جای اینکه یک شبکه عصبی رو آموزش بدن، قوانین رو بیشتر به صورت دستی داخل کد به مدل می‌دادن.

مثلا فرض کنید یک مدل تصویری دارید که می‌خواید گربه‌ها رو تشخیص بده. به جای اینکه عکس گربه‌ها رو بهش بدید تا خودش آموزش ببینه بهش میگید که یک گربه چه ویژگی‌هایی داره تا طبق اون گربه‌ها رو تشخیص بده.

طبیعتا جفری هینتون با این ایده مخالف بود و عقیده داشت که میشه با تقلید از هوش انسانی این مسئله رو بهتر حل کرد اما حرفش در اون زمان خریداری نداشت.

در واقع طرفداران شبکه‌های عصبی مثل هینتون مثل کسانی بودن که می‌خوان آتیش درست کنن اما فقط بلدن جرقه ایجاد کنن و نه سوخت دارن و نه اکسیژن به مقدار کافی در دسترسه.

تا اینکه تو سال ۲۰۰۶ یک استادیار دانشگاه پرینستون به اسم فی-فی لی (Fei-Fei Li) به این نتیجه رسید که به جای بهینه‌سازی الگوریتم‌ها بهتره که تمرکز رو روی فراهم کردن داده‌های بیشتر بذاره و با استفاده از مکانیکال ترک آمازون و برون‌سپاری تونست تا سال ۲۰۱۰ حدود یازده میلیون عکس تو ۱۵ هزار دسته‌بندی مختلف تهیه کنه و در دسترس عموم قرار بده و در کنار اون یک مسابقه هم به راه انداخت تا گروه‌های مختلف بر اساس دقت تشخیص تصویر الگوریتم‌هاشون رتبه‌بندی بشن و به این شکل ImageNet متولد شد.

در واقع فی فی لی مقادیر بسیار زیادی اکسیژن تولید کرده بود.

سال ۲۰۱۰ که اولین دور رقابت‌ها با ۱۲ تیم برگزار شد، بهترین مدل تونست درصد دقت ۷۱٫۸ درصدی ارائه بده. سال ۲۰۱۱ اما تعداد تیم‌های شرکت‌کننده کم‌تر بود و بهترین مدل با بهبود ۲٫۴ درصدی تونست دقت ۷۴٫۲ درصدی داشته باشه.

و اینجا بود که جفری هینتون و تیمش وارد داستان شدن.

ایده اون‌ها این بود که با پردازش موازی، حالا سوخت کافی برای به راه انداختن یک آتش تمام عیار آماده شده و می‌شه با چندتا جی‌پی‌یو یک شبکه عصبی رقابتی رو آموزش داد که نتیجه بهتری داشته باشه و تو رقابت خودش رو نشون بده.

الکس کریژوسکی و ایلیا ساتسکور هم با فاند ۱۰۰۰ دلاری که داشتن رفتن ۲ تا جی‌پی‌یو GTX 580 خریدن و آخر هفته الکس شروع به کار روی آموزش شبکه عصبی با داده‌های ImageNet کرد و اسم مدل خروجی هم شد AlexNet.

سال ۲۰۱۲ الکس‌نت با بهبود ۱۰٫۵٪ تونست دقت ۸۴٫۷ درصدی ارائه بده و با حدود ۱۵٪ خطا یک پیشرفت عجیب به حساب میومد. اونقدر عجیب که تقریبا کسی باورش نمی‌شد.

فرض کنید تو مسابقه دو صدمتر که همه روی صدم ثانیه‌ها برای شکستن رکورد رقابت می‌کنن، یک نفر با یک ثانیه اختلاف بیاد و رکورد رو جابجا کنه.

در واقع الکس‌نت کار جدیدی نکرده بود. فقط از تمام چیزهایی که از قبل کم کم فراهم شده بود و وجود داشت استفاده کرد و به دنیا نشون داد که شبکه‌های عصبی دیگه ایده‌های دور از دسترس و فانتزی نیستن و همه چیز برای این ایده مهیا شده. حالا هم داده‌های زیادی وجود داشت و هم جی‌پی‌یوهای انویدیا به راحتی در دسترس بودن و از همه مهم‌تر: کاری که قبل‌تر به ۳۰۰ سی‌پی‌یو یا بیشتر نیاز داشت که فقط شرکت‌های خیلی بزرگ می‌تونستن تامینش کنن حالا تو اتاق یک دانشجوی کامپیوتر با دو تا جی‌پی‌یو انجام شده بود!

تیم سه نفره پشت AlexNet به سرعت یک شرکت ثبت کردن و تو مزایده‌ای که بین غول‌های دنیای تکنولوژی بود در نهایت گوگل با پیشنهاد ۴۴ میلیون دلار شرکتشون رو خرید و اون‌ها رو استخدام کرد.

جفری هینتون بعدها برنده جایزه نوبل شد، الکس کریژوسکی چند سال بعد به کلی از دنیای هوش مصنوعی کناره گیری کرد و ایلیا ساتسکور هم به تیم یک استارتاپ بلندپرواز و نه‌چندان شناخته‌شده به اسم OpenAI ملحق شد.

اما بیشتر از این تیم سه نفره همه چیز به سود انویدیا تموم شد.
تقاضا برای جی‌پی‌یوهای انویدیا به سرعت رشد کرد و تمام سرمایه‌گذاری‌های قبلی انویدیا روی Cuda حالا دیگه منطقی به نظر می‌رسید. از اینجا بود که دیگه انویدیا کم کم خودش رو به عنوان یک شرکت تامین کننده سخت افزار هوش مصنوعی معرفی می‌کرد و تمام تمرکزش رو روی این حوزه گذاشت.

نتیجه تمام این‌ها این شد که شرکت‌های بزرگی مثل متا و گوگل شروع کردن به خریدن هرچه بیشتر جی‌پی‌یوهای انویدیا و الگوریتم‌های سرچ و ریکامندیشن شبکه‌های اجتماعی و محتوا هم درست بعد از این جریان رشد محسوسی داشت.

سال ۲۰۱۶، مارک اندریسن که موسس نت اسکیپ و صندوق سرمایه‌گذاری خطرپذیر a16z هست توی مصاحبه با مجله فوربز گفت:

تقریبا تمام استارتاپ‌های یادگیری عمیق (Deep Learning) که روشون سرمایه گذاری کردیم از پلتفرم انویدیا استفاده می‌کنن و انویدیا شبیه به پلتفرم ویندوز تو دهه ۹۰ یا پلتفرم آیفون برای اپلیکیشن‌هاست و اگر ما شرکت هج فاند بودیم تمام پولمون رو رو انویدیا سرمایه گذاری می‌کردیم.

رشد خیره‌کننده انویدیا به قدری بود که در زمان مصاحبه اندریسن، ارزش انویدیا از زمان ورود به بورس ۸۷ برابر شده بود. اما حتی جنسن هوانگ هم در بلندپروازانه‌ترین حالت نمی‌تونست تصور کنه که یک سال بعد جرقه اتفاقی زده می‌شه که طی ۱۰ سال آینده ارزش شرکت رو بیشتر از ۱۰۰ برابر می‌کنه.

یه ویدئوی جدید تو یوتیوب گذاشتم منتها هنوز عمومی منتشر نشده چون یه سری کارهاش مونده.
اما برای شما اینجا لینکش رو می‌ذارم. به هرحال اعضای این کانال یه فرقی باید داشته باشن دیگه 😁.

موضوعش لپتاپ‌های جدید شرکت اپل یعنی Macbook Neo هست که یه داستان و مفهوم جالب پشتشه و خودم اولین بار که با این مفهوم آشنا شدم خیلی ذوق کردم.
امیدوارم به کارتون بیاد.

https://youtu.be/59hJzfYkGeI

پست‌هایی که تا به اینجا توی کانال گذاشتم تقریبا محتوای ۲٫۵ ویدئوی یوتیوبه.

طبق یک حساب سرانگشتی می‌دونم که ویدئوها قراره به این شکل باشن:
• قسمت اول: از تولد انویدیا تا رسیدن به سرعت نور
• قسمت دوم: تولد مفهوم جی‌پی‌یو
• قسمت سوم: از بازار صفر میلیارد دلاری تا فتح تمام دیتاسنترهای دنیا
• قسمت چهارم: نگاهی به زندگی و مدل ذهنی جنسن هوانگ

برنامه‌م اینه که قسمت اول رو هفته آینده بتونم منتشر کنم و البته هر کدوم از قسمت‌های بالا که گفتم ممکنه تغییراتی داشته باشن و حتی با هم ترکیب بشن.

گفتم اینجا یه گزارشی بدم که مشغول چه کارهایی هستم و بگم که قسمت بعدی هم به زودی منتشر می‌شه فقط چون کمی مشغول بودم یه مقدار عقب افتاده.

در حاشیه بگم که یه مقدار نشستم ببینم تو فضای فارسی چه محتواهایی تولید شده در مورد انویدیا که رسیدم به ویدئوی زیر که پربازدیدترینه.

از میزان اطلاعات غلطی که داره ارائه می‌شه واقعا در تعجبم.
حالا خواستین یه نگاهی بندازید اما توصیه می‌کنم وقتتون رو هدر ندید.

یه دلیلی که گفتم تو بخش‌های کوچیک‌تر و زودتر ویدئوها رو منتشر کنم دقیقا همین کویر محتوای با کیفیتیه که تو بخش تکنولوژی یوتیوب فارسی وجود داره.


https://www.youtube.com/watch?v=Zj_l6M7piZA&t=2s

یادتونه تو تاریخچه انویدیا در مورد پایپلاین‌های موازی صحبت کردیم که انویدیا برای اولین بار تو Riva TNT ازش رونمایی کرد؟

برای ویدئو دنبال یه ایده بودم که چطور می‌تونم این رو خوب نشون بدم و راحت متوجه بشه مخاطب که به ذهنم رسید با Claude می‌شه یه Artifact درست کرد که سرعت یک کارت گرافیک معمولی رو با یه کارت گرافیک با دوتا پایپلاین مقایسه کنه که تو چند حرکت میتونه یک فریم با ۳۸۴ تا پیکسل رو بسازه و نتیجه خیلی بامزه شد.

توصیه می‌کنم اگر اون بخش داستان رو خوندید، حتما این رو هم ببینید تا اهمیت کار انویدیا یه مقدار روشن‌تر بشه براتون:

https://claude.ai/public/artifacts/15487e4a-69a0-4b09-af6c-e6caaabf48cc

قسمت اول داستان انویدیا تو یوتیوب منتشر شد،
ممنون می‌شم ببینید و نظر بدید.

و البته ممنون از مجموعه طلاین که اسپانسر این سری ویدئوها شدن 😍

https://youtu.be/nY8a6fyd-0w

قسمت دوم داستان انویدیا همین الان منتشر شد.
امیدوارم از دیدن این ویدئو لذت ببرید.

ممنون می‌شم با دیدن و به اشتراک‌گذاری به دیده شدن بیشتر کمک کنید ♥️



https://youtu.be/sTq9I2dfJgs?is=lZUpVgd6ujaxWa_y

قسمت جدید انویدیا رو همین الان منتشر کردم.
یه مقدار با قسمت‌های قبلی متفاوته.

اگر براتون سواله که:
• کار تو انویدیا چه شکلیه؟
• استراتژی انویدیا برای گرفتن بازارهای مختلف چیه؟
• و خود جنسن چه ویژگی‌های متفاوتی داره؟
این ویدئو براتون خیلی جذاب خواهد بود.

https://www.youtube.com/watch?v=t6iD5NRRPC0

بعد از سال‌ها دوباره یک محتوا با عنوان مدل ذهنی تولید کردم 😁