استارتاپ TypeSafe AI بعد از دو سال فعالیت در سکوت کامل خبری، رسماً از مدل متفاوتی به نام Jev رونمایی کرده که رویکرد کاملاً جدیدی رو وارد حوزه اتوماسیون و سیستم‌های نرم‌افزاری می‌کنه.

این شرکت که توسط دیوگو آلمیدا، یکی از سازندگان ChatGPT تاسیس شده، مدلی رو ارائه داده که بر خلاف روندهای مرسوم، یک چت‌بات متنی نیست و در دسته جدیدی به نام «مدل‌های سیستم یک» قرار می‌گیره.

عبارت «سیستم یک» از نظریه دانیل کانمن در کتاب معروف «تفکر، سریع و کُند» الهام گرفته شده. در علوم شناختی، ذهن دو ساختار پردازش داره: سیستم ۱ پردازش سریع، شهودی، خودکار و بدون مکثه که انرژی کمی مصرف می‌کنه. در نقطه مقابل، سیستم ۲ تفکر آرام، استدلالی، گام‌به‌گام و تحلیلیه؛ دقیقاً شبیه کاری که مدل‌های استدلالی جدید (مثل ChatGPT یا Claude) با ساختن زنجیره تفکر طولانی انجام میدن.

سازندگان Jev با حذف استدلال متنی کُند، دقیقاً از مفهوم سیستم ۱ استفاده کردن تا مدلی سریع برای تصمیم‌گیری‌های آنی داشته باشن.

تفاوت بنیادین Jev با مدل‌های زبانی بزرگ متداول اینه که فرآیند تولید توکن‌به‌توکن و کلمه‌به‌کلمه متن رو کاملاً کنار گذاشته تا بتونه تصمیم‌های قطعی، ساختاریافته و دارای ساختار داده معتبر رو برای نرم‌افزارها پردازش کنه.

این مدل وضعیت برنامه رو به عنوان پرامپت دریافت می‌کنه و خروجی‌هاش رو در قالب سه نوع تصمیم‌گیری پایه تحویل سیستم میده:

اول، تصمیم‌های دو‌وجهی یا بله و خیر که با ضریب اطمینان کالیبره‌شده مشخص می‌شن؛ برای مثال مدل بررسی می‌کنه که آیا پیام ورودی کاربر یک پرامپت مخربه یا نه و در کسری از ثانیه فقط مقدار درست یا غلط رو برای جلوگیری از حمله برمی‌گردونه.

دوم، تصمیم‌های چندگزینه‌ای که مدل دقیقاً یکی از شناسه‌های از پیش تعیین‌شده رو انتخاب می‌کنه؛ مثلاً در یک سیستم تیکتینگ، درخواست رو بدون هیچ خطایی دقیقاً به یکی از گزینه‌های امور مالی، پشتیبانی فنی یا بخش ارسال کالا هدایت می‌کنه، بدون اینکه خطایی در ساختار پیش بیاد.

سوم، امتیازدهی آماریه که مدل بر اساس یک مقیاس عددی مشخص، میزان اضطرار یک وظیفه یا باگ رو تخمین می‌زنه و همراه با میزان احتمال تحویل سامانه میده.

در بخش آموزش، سازندگان Jev به جای تکیه بر روش‌های سنتی RLHF، از رویکرد یادگیری تقویتی برای تصمیم‌های کالیبره‌شده موسوم به RLCD استفاده کردن تا نرخ توهم و خطاهای ساختاری به صفر برسه. به همین دلیل سیستم‌های مبتنی بر این مدل با خطای نامعتبر بودن پاسخ‌ها یا کرش کردن کدهای بک‌اند مواجه نمی‌شن.

از نظر کاربرد در صنایع، این معماری تحول زیادی ایجاد می‌کنه. در حوزه ایجنت‌های هوش مصنوعی، Jev به عنوان مغز روتینگ عمل می‌کنه و تصمیم می‌گیره کدوم ابزار در گام بعدی باید اجرا بشه. در حوزه فین‌تک و خدمات مالی، به لطف تأخیر بسیار پایین در حد چند ده تا چند صد میلی‌ثانیه، توانایی غربال آنی تراکنش‌های مشکوک به تقلب رو داره.

در پلتفرم‌های پرمخاطب فروشگاهی و ابری، میتونه میلیون‌ها تیکت و پیام رو به شکل کم‌هزینه دسته‌بندی کنه و در امنیت سایبری هم به عنوان لایه اول تحلیل لاگ‌های فایروال و روتر، هشدارهای جعلی رو از خطرات واقعی جدا می‌کنه.

ساختار هزینه‌ها و منابع Jev هم به دلیل عدم تولید متن، نسبت به کل بازار هوش مصنوعی کاملاً نامتقارن و متفاوته. هزینه توکن‌های ورودی این مدل معادل ۰.۰۴۲ دلار به ازای هر یک میلیون توکن در نظر گرفته شده که بین ۱۰ تا ۵۰ برابر اقتصادی‌تر از مدل‌های متداول تجاریه.

از طرف دیگه، با توجه به اینکه خروجی به صورت داده‌های تصمیم گیری تحویل داده می‌شه، هزینه توکن‌های خروجی کاملاً رایگان تعیین شده.

این مدل با کانتکست ویندوی ۳۲ هزار توکنی، در تسک‌های دسته‌بندی و اتوماسیون بین ۴۰ تا ۲۰۰ برابر سریع‌تر و تا ۴۰۰ برابر کم‌هزینه‌تر از مدل‌های پرچمدار سنتی عمل می‌کنه.

این مدل از حالا در پلتفرم های مختلف از جمله اوپن روتر قابل استفاده هست. به دلیل اینکه نحوه کار با این مدل نسبت به LLMهای متداول متفاوت هست، بهتره این مطلب رو در رابطه با طراحی سیستم برای چنین مدل جدیدی مطالعه کنید.

🔎 Typesafe.ai

📍 @TechTube

کاربران از شرکت انتروپیک به دلیل فریب دادن اونها در هنگام خرید اشتراک 100 و 200 دلاری Claude Max شکایت جمعی کردن.

همه کاربران فکر میکنن اگر اشتراک 100 دلاری Max 5x رو بخرن، سهمیه هفتگی اونها 5 برابر اشتراک 20 دلاری پرو خواهد بود. ولی نه، این 5 برابر فقط شامل سهمیه 5 ساعته میشه و سهمیه هفتگی کاربر تنها 3.5 برابر اشتراک پرو خواهد بود!

برای اشتراک 200 دلاری Max 20x وضع از این هم بدتر هست و در حالی که کاربر فکر میکنه با خرید این اشتراک 20 برابر سهمیه بیشتری نسبت به پرو به دست میاره ولی در واقعیت فقط سهمیه 5 ساعته اون 20 برابر شده و سهمیه هفتگی اون فقط 6 برابر بیشتر نسبت به پرو و تنها 1.7 برابر بیشتر از Max 5x افزایش داشته یعنی حتی دو برابر هم نیست!

انتروپیک در واکنش به این شکایت، گفته چیزی چنین رو از کاربران مخفی نکرده بلکه اگر کاربران به لینک هایی مختلف در صفحه خرید مراجعه کنن، در اونها این قضیه رو توضیح داده، یعنی انتروپیک عملا کم فروشی رو تایید کرده!

شرکت OpenAI هم در واکنش به این شکایت گفته این شرکت چنین کاری نمیکنه و اشتراک 100 دلاری Pro 5x واقعا 5 برابر بیشتر از اشتراک پلاس سهمیه هفتگی داره و اشتراک 200 دلاری Pro 20x هم 20 برابر از بیشتر از پلاس و 4 برابر بیشتر از Max 5x سهمیه هفتگی در اختیار کاربران میزاره، تازه سهمیه 5 ساعته هم کلا نداره.

🔎 theverge

📍 @TechTube

شرکت Neuralink، استارتاپ چیپ مغزی ایلان ماسک، از داوطلب سوم تکنولوژی بازیابی گفتار این شرکت رونمایی کرده که فرد صرفا با فکر کردن به چیزی که میخواد بگه، این چیپ اون رو به متن تبدیل میکنه و هوش مصنوعی Grok اون رو به زبون میاره.

این فرد که Terry نام داره به دلیل بیماری ALS قدرت تکلمش رو از دست میده و کم کم اطرافیانش دیگه نمیتونن بفهمن که چی میگه. در نتیجه این فرد داوطلب چیپ مغزی Neuralink شد تا الگوریتمهای اون رو تمرین بده و بعد از چندین دوره، این چیپ توانایی رمزگشایی سیگنالهای مغزی این فرد برای مکالمه رو به دست اورده.

در ویدیوی اول تری همسرش رو با گفتن دوستت دارم با مغزش، سورپرایز میکنه.

🔎 neuralink

📍 @TechTube