شرکت انتروپیک خیلی وقت هست که استفاده از مدلهای هوش مصنوعی این شرکت برای توسعه مدلهای رقیب رو در قوانینش ممنوع کرده ولی اعمال این قوانین تنها وابسته به میل استفاده کننده به رعایت این قوانین بود.

ولی حالا با عرضه مدل Fable 5، این شرکت پا رو از این هم فراتر گذاشته و اقدامات حفاظتی جدیدی رو در دل مدل اضافه کرده به طوری که وقتی این مدل تشخیص بده که استفاده کننده در حال توسعه مدل های هوش مصنوعی و یا پیاده سازی اونها در مقیاس وسیع هست، به طور مخفیانه کدهایی که مینویسه ضعیف هستن و درخواست استفاده کننده رو درست پیاده نمیکنن، بدون اینکه اون فرد از انجام اینکار باخبر باشه!

علاوه بر این انتروپیک تمام درخواستها و جوابی که مدل Fable 5 به درخواستها میده رو بهانه های حفظ امنیت و جلوگیری از جیل بریک کردن مدل، جمع اوری میکنه و حتی سازمانها و شرکتهای بزرگ که قوانین بسیار سخت گیرانه ای روی انتقال و حفظ اطلاعات دارن هم از این قاعده مستنثی نیستن و در صورت تمایل به استفاده از این مدل باید این شرط رو بپذیرن.

🔎 jonready

📍 @TechTube

شرکت SpaceX از اولین طراحی ماهواره های این شرکت برای دیتاسنترهای فضایی موسوم به AI1 رونمایی کرده که حداکثر ظرفیت محاسباتی اونها 150 کیلو وات هست و میتونن یک رک سرور از چیپهای هوش مصنوعی انویدیا GB300 رو در خودشون جا بدن (که هر رک شامل 72 چیپ هست) اما امکان قرار دادن چیپهای دیگه هم در اونها وجود داره.

برای تامین انرژی عظیم این چیپها، ماهواره های SpaceX به پنلهای خورشیدی بزرگی مجهز شدن که طول اونها 70 متر هست که از یک هواپیمای بوئینگ 747 هم بلندترن. این چیپها از طریق 110 متر مربع رادیاتورهای مایع، گرمای تولید شده رو دفع میکنن.

این ماهواره ها قرار هست در کارخانه عظیم Gigasat در ایالت تگزاس امریکا در مساحتی حدود 1 کیلومتر مربع ساخته بشن که امکان ساخت اکثریت قطعات این ماهواره ها از جمله پنلهای خورشیدی رو دارا هست.

این شرکت برنامه داره سالانه 1 گیگاوات ظرفیت محاسباتی (تقریبا بیش از 6 هزار ماهواره AI1) در سال تولید و به مدار پرتاب کنه و تا سال 2030 اون رو به 100 گیگاوات در سال ارتقا بده. برای مقایسه دیتاسنتر Colossus 2 این شرکت با داشتن 555 هزار چیپ هوش مصنوعی، ظرفیت 2 گیگاواتی داره. این ماهواره ها از طریق لیزر با هم در ارتباط هستن و از طریق ماهواره های استارلینک با زمین داده رد و بدل میکنن.

از جمله دلایل این شرکت برای راه اندازی دیتاسنترهای فضایی، استفاده بهینه تر از انرژی خورشیدی و عملا نبود هزینه انرژی، عدم نیاز به اجاره یا خرید زمین و همچنین نبود قوانین محدود کننده برای راه اندازی دیتاسنترها (که شهرهای مختلفی در امریکا با راه اندازی اونها مخالف هستن) میشه.

🔎 tomshardware

📍 @TechTube

گوگل از مدل هوش مصنوعی جدید و متن‌باز خودش با اسم DiffusionGemma رونمایی کرده که سرعت تولید متن رو تا ۴ برابر افزایش میده.

این مدل آزمایشی برخلاف مدل‌های زبانی رایج (LLM) که کلمات رو یکی‌یکی و پشت سر هم تولید می‌کنن، از روش دیفیوژن (Text Diffusion) استفاده می‌کنه. در واقع، این مدل می‌تونه یک بلوک کامل از متن رو به صورت هم‌زمان تولید کنه که باعث میشه سرعت پردازش روی کارت‌های گرافیک به شدت بالا بره و از تمام ظرفیت سخت‌افزار استفاده بشه.

این مدل بر پایه معماری قدرتمند Gemma 4 ساخته شده و یک مدل ۲۶ میلیارد پارامتری از نوع Mixture of Experts (MoE) به حساب میاد. نکته قابل توجهش اینه که در زمان اجرا فقط ۳.۸ میلیارد پارامتر رو فعال می‌کنه و به همین دلیل نسخه کوانتایز شده اون به راحتی توی محدودیت حافظه کارت‌های گرافیک مصرفی رده‌بالا جا میشه.

با انتقال گلوگاه پردازش از پهنای باند حافظه به توان محاسباتی، این مدل می‌تونه روی سخت‌افزارهایی مثل RTX 5090 بیش از ۷۰۰ توکن و روی پردازنده‌های قدرتمندتر مثل H100 بیش از ۱۰۰۰ توکن در ثانیه تولید کنه.

از اونجایی که DiffusionGemma در هر مرحله ۲۵۶ توکن رو به صورت موازی می‌سازه، قابلیت‌های جذابی مثل Bi-directional Attention و خوداصلاحی هوشمند رو در اختیار توسعه‌دهنده‌ها قرار میده. این یعنی مدل می‌تونه کل بلوک متن رو یکجا بررسی کنه و اشتباهاتش رو در لحظه برطرف کنه.

این ویژگی‌ها باعث شدن تا مدل برای کارهای غیرخطی مثل ویرایش در لحظه، تکمیل کد و حتی کارهای پیچیده‌تر بسیار عالی عمل کنه؛ هرچند که برای کارهایی که نیازمند بالاترین کیفیت خروجی هستن، همچنان نسخه استاندارد Gemma 4 پیشنهاد میشه.

در حال حاضر، وزن‌های این مدل روی پلتفرم Hugging Face در دسترسه و توسعه‌دهنده‌ها می‌تونن با ابزارهایی مثل MLX و vLLM اون رو اجرا کنن. همچنین گوگل با همکاری انویدیا این مدل رو به صورت ویژه برای سخت‌افزارهای مختلف بهینه‌سازی کرده تا کاربران بتونن بالاترین سرعت و بهترین عملکرد رو روی سیستم‌ها و کارت‌های گرافیک خودشون تجربه کنن.

🔎 Google Blog

📍 @TechTube