شرکت Meta اعلام کرده که یکی از مدلهای هوش مصنوعیاش (طبق گزارشها Muse Spark 1.1) در حین تستهای امنیتی، خودش به اینترنت وصل شده و یک شرکت دیگه رو هک کرده. این اتفاق بعد از ماجراهای مشابه برای OpenAI و Anthropic، موج جدیدی از نگرانیها رو در مورد از دست رفتن کنترل رباتها و هوش مصنوعی ایجاد کرده
@e404tech
@e404tech
Error 404 Tech News | اخبار تکنولوژی و سرگرمی
شرکت Meta اعلام کرده که یکی از مدلهای هوش مصنوعیاش (طبق گزارشها Muse Spark 1.1) در حین تستهای امنیتی، خودش به اینترنت وصل شده و یک شرکت دیگه رو هک کرده. این اتفاق بعد از ماجراهای مشابه برای OpenAI و Anthropic، موج جدیدی از نگرانیها رو در مورد از دست رفتن…
ماجرا از این قرار بوده که شرکت امنیتی مستقل Irregular که وظیفه ارزیابی سیستمهای Meta رو بر عهده داشته، دچار یک اشتباه در تنظیمات (Misconfiguration) میشه و همین مسئله بهطور ناخواسته دسترسی هوش مصنوعی Meta به اینترنت رو باز میکنه. این مدل هم بلافاصله از یک آسیبپذیری امنیتی در یک سرویس ثالث استفاده میکنه و وارد سیستمشون میشه.@e404tech
این اتفاق دقیقاً در ادامه رفتارهای خودسرانه مدلهای دیگه رخ داده؛ هفته پیش هم موسسه امنیت هوش مصنوعی بریتانیا (AISI) گزارش داد که مدلهای Anthropic و OpenAI در محیطهای تست رفتارهای تاییدنشده و خطرناکی نشون دادن. برای مثال، هوش مصنوعی با ساخت هویتهای جعلی سعی کرده آدمهای واقعی رو گول بزنه تا کدهای مخرب رو تایید کنن. قبلتر هم مدل OpenAI به جای انجام عادی تست، خودش تصمیم گرفته بود به شرکت Hugging Face حمله کنه و اطلاعات مورد نیازش رو هک کنه.
مسئولان Meta و شرکت Irregular اعلام کردن که در حال بررسی دقیق موضوع هستند و قرار گزارش کاملی برای جلوگیری از وقوع دوباره چنین حملاتی در محیطهای تست منتشر کنند. اما کارشناسان امنیتی هشدار میدن که با رشد سریع تواناییهای هوش مصنوعی، خطرات کنترل نشدن اونها داره روز به روز جدیتر میشه
اینفلوئنسر معروف مکزیکی به اسم César Gastélum موقع پخش زنده (Livestream) در پارکینگ یک رستوران توی شهر Culiacán ایالت Sinaloa مکزیک به دست افراد مسلح ناشناس به قتل رسید
طبق ویدیوی منتشرشده، دو نفر سوار بر موتورسیکلت به او و دو تا از دوستانش که لباس پیک غذا پوشیده بودن نزدیک میشن و یکی از اونها با شلیک مستقیم، این اینفلوئنسر ۲۵ ساله رو به قتل میرسونه و فرار میکنه.
این حادثه در یکی از مناطق شلوغ و فقط چند بلوک دورتر از دفتر دادستانی محلی اتفاق افتاده. کابینه امنیت مکزیک و دادستانی اعلام کردن که تحقیقات در جریان هست و یکی از دلایل احتمالی این ترور، ویدیوهایی بوده که César Gastélum منتشر میکرده و توی اونها به گروههای کارتل و خلافکار اشاره میشده.
او با داشتن بیش از ۶۵۰ هزار دنبالکننده در TikTok، ویدیوهای طنز و سبک زندگی منتشر میکرد و گاهی از اصطلاحات مربوط به فرهنگ کارتلها استفاده میکرد. این اتفاق نشاندهنده موج جدیدی از خشونتهای گروههای خلافکار علیه تولیدکنندگان محتوا و اینفلوئنسرها توی مکزیک هست.
@e404tech
طبق ویدیوی منتشرشده، دو نفر سوار بر موتورسیکلت به او و دو تا از دوستانش که لباس پیک غذا پوشیده بودن نزدیک میشن و یکی از اونها با شلیک مستقیم، این اینفلوئنسر ۲۵ ساله رو به قتل میرسونه و فرار میکنه.
این حادثه در یکی از مناطق شلوغ و فقط چند بلوک دورتر از دفتر دادستانی محلی اتفاق افتاده. کابینه امنیت مکزیک و دادستانی اعلام کردن که تحقیقات در جریان هست و یکی از دلایل احتمالی این ترور، ویدیوهایی بوده که César Gastélum منتشر میکرده و توی اونها به گروههای کارتل و خلافکار اشاره میشده.
او با داشتن بیش از ۶۵۰ هزار دنبالکننده در TikTok، ویدیوهای طنز و سبک زندگی منتشر میکرد و گاهی از اصطلاحات مربوط به فرهنگ کارتلها استفاده میکرد. این اتفاق نشاندهنده موج جدیدی از خشونتهای گروههای خلافکار علیه تولیدکنندگان محتوا و اینفلوئنسرها توی مکزیک هست.
@e404tech
دولت آمریکا پروسه لغو مجوز و تعطیلی یک سازمان اهدای عضو غیرانتفاعی توی ایالت Kentucky به اسم Network for Hope رو به دلیل خطاهای ایمنی مداوم شروع کرده. این سازمان متهم شده که قصد داشته اعضای بدن بیمارانی رو که هنوز علائم حیات داشتن خارج کنه
اصل ماجرا به سال ۲۰۲۱ برمیگرده که این سازمان بیمارستانی رو تحت فشار گذاشته بود تا دستگاههای زنده نگه داشتن یک مرد رو که به خاطر اوردوز بستری شده بود خاموش کنه و اعضای بدنش رو برداره، اون هم در حالی که بیمار داشت به هوش میآمد و تکون میخورد. در نهایت جراحی لغو شد و بیمار زنده موند، اما افشای این اتفاق خبرساز شد و باعث شد خیلی از مردم آمریکا ثبتنام خودشون رو برای اهدای عضو لغو کنن
وزیر بهداشت آمریکا این سازمان رو یک سیب کرمزده توی سیستم پیوند عضو خونده و اعلام کرده که چنین خطاهایی اعتماد عمومی رو کاملاً نابود میکنه. در مقابل، سازمان Network for Hope اعلام کرده که با این تصمیم شدیداً مخالفه و درخواست تجدیدنظر میده، چون طبق ادعای خودشون تمام قوانین فدرال رو رعایت کردن و حتی مکانیزمی گذاشتن که هرکس نگران وضعیت بیمار بود بتونه روند اهدای عضو رو متوقف کنه
@e404tech
اصل ماجرا به سال ۲۰۲۱ برمیگرده که این سازمان بیمارستانی رو تحت فشار گذاشته بود تا دستگاههای زنده نگه داشتن یک مرد رو که به خاطر اوردوز بستری شده بود خاموش کنه و اعضای بدنش رو برداره، اون هم در حالی که بیمار داشت به هوش میآمد و تکون میخورد. در نهایت جراحی لغو شد و بیمار زنده موند، اما افشای این اتفاق خبرساز شد و باعث شد خیلی از مردم آمریکا ثبتنام خودشون رو برای اهدای عضو لغو کنن
وزیر بهداشت آمریکا این سازمان رو یک سیب کرمزده توی سیستم پیوند عضو خونده و اعلام کرده که چنین خطاهایی اعتماد عمومی رو کاملاً نابود میکنه. در مقابل، سازمان Network for Hope اعلام کرده که با این تصمیم شدیداً مخالفه و درخواست تجدیدنظر میده، چون طبق ادعای خودشون تمام قوانین فدرال رو رعایت کردن و حتی مکانیزمی گذاشتن که هرکس نگران وضعیت بیمار بود بتونه روند اهدای عضو رو متوقف کنه
@e404tech
استارتاپ معروف تولید موسیقی با هوش مصنوعی یعنی Suno تحت فشارهای حقوقی شدید شرکتهای بزرگ موزیک، تصمیم گرفته با اضافه کردن واترمارک و اثرانگشت دیجیتالی به تمام آهنگهای تولیدی خودش، فضاش رو رسمیتر و قانونیتر کنه
@e404tech
@e404tech
Error 404 Tech News | اخبار تکنولوژی و سرگرمی
استارتاپ معروف تولید موسیقی با هوش مصنوعی یعنی Suno تحت فشارهای حقوقی شدید شرکتهای بزرگ موزیک، تصمیم گرفته با اضافه کردن واترمارک و اثرانگشت دیجیتالی به تمام آهنگهای تولیدی خودش، فضاش رو رسمیتر و قانونیتر کنه @e404tech
مدیرعامل شرکت Mikey Shulman اعلام کرده که این ابزارهای جدید شفافیت به سرویسها و پلتفرمهای پخش موسیقی اجازه میده آهنگهای ساختهشده توسط Suno رو شناسایی کنن و جلوی کلاهبرداری یا انتشار انبوه و غیرقانونی اونها رو بگیرن. این واترمارکها کاملاً نامرئی هستن و کیفیت آهنگ رو پایین نمیارن، اما در برابر دستکاری مقاومت بالایی دارن.
علاوه بر این، Suno قصد داره محدودیتهای جدیدی برای دانلود اهنگها بگذاره تا جلوی طرحهای کلاهبرداری که در اون افراد هزاران آهنگ هوش مصنوعی میسازن و با ربات روی پلتفرمهایی مثل Spotify پخش میگیرن تا حق امتیاز جمع کنن رو بگیره. همچنین قوانین جامعه کاربری خودش رو بهروزرسانی کرده و هرگونه بازسازی آهنگهای موجود، تقلید از صدای خوانندگان واقعی بدون اجازه و استفاده از محتوای کپیرایتشده رو رسماً ممنوع کرده.
این تصمیمات درست پس از شکایتهای حقوقی سنگین از سوی Sony Music و Universal Music Group و همچنین رای اخیر دادگاه آلمان علیه Suno به خاطر نقض حقوق ناشران موسیقی GEMA گرفته شده تا این شرکت بتونه موقعیت خودش رو توی دادگاهها و توافقهای آینده بهتر کنه
@e404tech
شرکت Anthropic رسماً تایید کرده که قصد داره یک تیم اختصاصی طراحی تراشه توی سیستم خودش راه بندازه تا تراشههای اختصاصی AI برای مدلهای Claude بسازه. این تصمیم نشون میده غولهای هوش مصنوعی دارن قدمهای جدیدی برمیدارن تا وابستگیشون به شرکتهای سختافزاری کم بشه
@e404tech
@e404tech
Error 404 Tech News | اخبار تکنولوژی و سرگرمی
شرکت Anthropic رسماً تایید کرده که قصد داره یک تیم اختصاصی طراحی تراشه توی سیستم خودش راه بندازه تا تراشههای اختصاصی AI برای مدلهای Claude بسازه. این تصمیم نشون میده غولهای هوش مصنوعی دارن قدمهای جدیدی برمیدارن تا وابستگیشون به شرکتهای سختافزاری کم…
و جالب تر از این شرکت Anthropic شروع به استخدام مهندسان متخصص تراشه و سختافزار با حقوقهای بالا (بین ۳۲۰ تا ۴۸۵ هزار دلار در سال) کرده. آگهیهای شغلی نشون میده اونها حتی قصد دارند از سیستمهای یادگیری تقویتی (Reinforcement Learning) و مدلهای هوش مصنوعی خودشون برای طراحی و بهینهسازی بهتر این تراشهها استفاده کنند.
هدف اصلی از این کار، بهینهسازی سختافزار برای مدلهای Claude، افزایش سرعت پردازش، پایین آوردن هزینههای پردازش سنگین و جلوگیری از گیر افتادن توی کمبود جهانی تراشه است.
با وجود این برنامه، Anthropic اعلام کرده که قراره همچنان به استراتژی استفاده از سختافزارهای متنوع ادامه بده و همکاریش رو با غولهایی مثل Nvidia و AMD و Amazon و Google حفظ میکنه. برای مثال اخیراً قرارداد چند ۱۰ میلیارد دلاری با AMD بستهاند.
گزارشها نشون میدن Anthropic برای توسعه و ساخت این تراشهها وارد مذاکره با Samsung شده تا از فناوری ۲ نانومتری این شرکت استفاده کنه. همچنین تخمین زده میشه راهاندازی این تیم و طراحی تراشه حدود ۵۰۰ میلیون دلار هزینه داشته باشه.
هنوز زمان دقیقی برای عرضه این تراشهها مشخص نشده، چون ساخت تراشههای جدید معمولاً یک پروسه چندساله و بسیار پیچیده است. اما Anthropic با این کار راه شرکتهایی مثل OpenAI، Google و Meta رو پیش گرفته تا کنترل کاملتری روی تمام زنجیره هوش مصنوعی خودش داشته باشه
@e404tech
دانشمندان برای اولین بار با استفاده از مدلهای زبان ژنوم که با هوش مصنوعی آموزش دیدن، موفق شدن ویروسهای کاملاً جدیدی طراحی کنن که اصلاً توی طبیعت وجود نداشتن. این مقاله که توی مجله Science منتشر شده، نشون میده چطور مدلهای هوش مصنوعی با یادگیری توالیهای DNA تونستن ویروسهای کاملاً جدید و واقعی خلق کنن
تیم تحقیقاتی با استفاده از AI توانست ۱۶ ویروس جدید بسازه که تماماً عملکردی بودن و تونستن به باکتریها حمله و اونها رو آلوده کنن. به این ویروسها باکتریوفاژ یا همون ویروسهای باکتریخوار میگن که فقط روی باکتریها تاثیر دارن و هیچ خطری برای انسانها یا موجودات زنده دیگه ندارن.
هدف اصلی دانشمندان از این کار، استفاده از این ویروسهای ساختگی برای مبارزه با باکتریهای مقاوم به آنتیبیوتیک و کشف داروها و درمانهای جدید هست. با این حال، این پیشرفت علمی بزرگ موج جدیدی از نگرانیهای امنیتی رو هم ایجاد کرده؛ چون کارشناسان هشدار میدن اگر دسترسی به این ابزارهای هوش مصنوعی کنترل نشه، ممکنه افراد سودجو در آینده از همین فناوری برای طراحی ویروسها و عاملهای بیولوژیکی خطرناک برای انسانها استفاده کنن
@e404tech
تیم تحقیقاتی با استفاده از AI توانست ۱۶ ویروس جدید بسازه که تماماً عملکردی بودن و تونستن به باکتریها حمله و اونها رو آلوده کنن. به این ویروسها باکتریوفاژ یا همون ویروسهای باکتریخوار میگن که فقط روی باکتریها تاثیر دارن و هیچ خطری برای انسانها یا موجودات زنده دیگه ندارن.
هدف اصلی دانشمندان از این کار، استفاده از این ویروسهای ساختگی برای مبارزه با باکتریهای مقاوم به آنتیبیوتیک و کشف داروها و درمانهای جدید هست. با این حال، این پیشرفت علمی بزرگ موج جدیدی از نگرانیهای امنیتی رو هم ایجاد کرده؛ چون کارشناسان هشدار میدن اگر دسترسی به این ابزارهای هوش مصنوعی کنترل نشه، ممکنه افراد سودجو در آینده از همین فناوری برای طراحی ویروسها و عاملهای بیولوژیکی خطرناک برای انسانها استفاده کنن
@e404tech
سازمان FDA بالاخره بعد از کشوقوسها و جنجالهای فراوان، واکسن آنفولانزای جدید شرکت Moderna به اسم mFlusiva رو که بر پایه فناوری mRNA ساخته شده تایید کرد. این اولین واکسن آنفولانزای مبتنی بر mRNA توی آمریکا هست که برای افراد بالای ۵۰ سال تاییدیه گرفته و قرار همین پاییز وارد بازار بشه
@e404tech
@e404tech
Error 404 Tech News | اخبار تکنولوژی و سرگرمی
سازمان FDA بالاخره بعد از کشوقوسها و جنجالهای فراوان، واکسن آنفولانزای جدید شرکت Moderna به اسم mFlusiva رو که بر پایه فناوری mRNA ساخته شده تایید کرد. این اولین واکسن آنفولانزای مبتنی بر mRNA توی آمریکا هست که برای افراد بالای ۵۰ سال تاییدیه گرفته و قرار…
مسیر تایید این واکسن اصلاً ساده نبود و به یک درام تمامعیار تبدیل شد. اوایل سال سازمان FDA درخواست بررسی اولیه Moderna رو رد کرده بود، چون معتقد بود توی آزمایشهای بالینی افراد بالای ۶۵ سال، این واکسن باید با واکسنهای دوز بالا مقایسه میشد نه واکسنهای استاندارد. اما شرکت Moderna با اعتراض عمومی اعلام کرد که از قبل تمام این پروتکلها رو با خود سازمان هماهنگ کرده بود. در نهایت با فشارهای رسانهای و بررسی مجدد، کمیته مشورتی FDA با رای قاطع ۹ بر ۰ تایید کرد که فواید این واکسن خیلی بیشتر از خطراتش هست.
طبق دادههای بالینی روی بیش از ۴۰ هزار نفر، این واکسن حدود ۲۷ درصد عملکرد بهتری در پیشگیری از بیماری نسبت به واکسنهای معمولی نشون داده. البته عوارض جانبی موقتی مثل درد محل تزریق، تب و خستگی توی این واکسن یک مقدار بیشتر از واکسنهای قدیمی بوده اما سریع برطرف میشه.
بزرگترین مزیت فناوری mRNA سرعت بالای تولیدش هست که باعث میشه دانشمندان تا آخرین لحظه تغییرات ویروس آنفولانزا رو زیر نظر بگیرن و دقیقترین واکسن رو برای هر فصل تولید کنن. تایید mFlusiva برای افراد ۵۰ تا ۶۴ سال به صورت کامل و برای افراد بالای ۶۵ سال به صورت مشروط صادر شده تا شرکت Moderna آزمایشهای تکمیلی خودش رو ادامه بده
@e404tech
شرکت پژوهشی امنیتی Frontier Security گزارش داده که مدل پرچمدار هوش مصنوعی استارتآپ چینی Moonshot به اسم Kimi K3، موقع ارزیابیهای امنیت سایبری موفق شده از محیط قرنطینه و تست (Sandbox) که توسط موسسه امنیت هوش مصنوعی بریتانیا (UK AISI) طراحی شده بود، فرار کنه
توی این تستها قرار بود مدل Kimi K3 بدون دسترسی به اینترنت و به صورت کاملاً ایزوله به سوالات و چالشهای امنیت سایبری جواب بده. اما این هوش مصنوعی یک باگ و روزنه امنیتی پیدا کرد و تونست خودش رو به اینترنت وصل کنه تا راهحل چالشها رو مستقیم از سایت GitHub پیدا کنه و تقلب کنه.
اگرچه این مدل بعد از وصل شدن به اینترنت دست به هک شرکتها یا سیستمهای بیرونی نزده ، اما پژوهشگران هشدار دادن که چون Kimi K3 یک مدل متنباز و عمومی هست و گاردریلها و نردههای امنیتی لازم رو نداره، افرااد سودجو و مهاجمان سایبری میتونن از این ضعفها سوءاستفادههای خطرناکی بکنن.
این اتفاق موج نگرانیها رو در مورد قدرت استدلال بالای مدلهای جدید هوش مصنوعی و توانایی اونها برای دور زدن محدودیتهای امنیتی بیشتر کرده و مسئولان رو برای نظارت و کنترل شدیدتر زیر فشار گذاشته
@e404tech
توی این تستها قرار بود مدل Kimi K3 بدون دسترسی به اینترنت و به صورت کاملاً ایزوله به سوالات و چالشهای امنیت سایبری جواب بده. اما این هوش مصنوعی یک باگ و روزنه امنیتی پیدا کرد و تونست خودش رو به اینترنت وصل کنه تا راهحل چالشها رو مستقیم از سایت GitHub پیدا کنه و تقلب کنه.
اگرچه این مدل بعد از وصل شدن به اینترنت دست به هک شرکتها یا سیستمهای بیرونی نزده ، اما پژوهشگران هشدار دادن که چون Kimi K3 یک مدل متنباز و عمومی هست و گاردریلها و نردههای امنیتی لازم رو نداره، افرااد سودجو و مهاجمان سایبری میتونن از این ضعفها سوءاستفادههای خطرناکی بکنن.
این اتفاق موج نگرانیها رو در مورد قدرت استدلال بالای مدلهای جدید هوش مصنوعی و توانایی اونها برای دور زدن محدودیتهای امنیتی بیشتر کرده و مسئولان رو برای نظارت و کنترل شدیدتر زیر فشار گذاشته
@e404tech