This media is not supported in your browser
VIEW IN TELEGRAM
التفكير خارج الصندوق
واحد قرر يبيع مساحات إعلانية على مرحاضه 🚽
وطبعا الشركات تدفع.
إلى الآن 25 شركة دفعت له أكثر من 120 ألف دولار عشان يحط شعاراتها عليه، ومن بينها براندات معروفة. وهدفه يوصل مليون دولار من مرحاض واحد.
الفكرة بدأت كمزحة لأنه كان بدون عمل، وتحولت لمشروع إعلاني تجيب فيديوهاته ملايين المشاهدات.
أحيانًا المشكلةمش إن فكرتك غبية… المشكلة إنها مش غبية كفاية ☕
واحد قرر يبيع مساحات إعلانية على مرحاضه 🚽
وطبعا الشركات تدفع.
إلى الآن 25 شركة دفعت له أكثر من 120 ألف دولار عشان يحط شعاراتها عليه، ومن بينها براندات معروفة. وهدفه يوصل مليون دولار من مرحاض واحد.
الفكرة بدأت كمزحة لأنه كان بدون عمل، وتحولت لمشروع إعلاني تجيب فيديوهاته ملايين المشاهدات.
أحيانًا المشكلةمش إن فكرتك غبية… المشكلة إنها مش غبية كفاية ☕
🤣17❤3
اغلى شركة في الصين
السنوات الأخيرة اللقب هذا كان دائما عند Tencent، اللي تملك WeChat وWeibo ومجموعة شركات تقنية محركات البحث و gaming و cloud. طبعا قبلها في 2020 لـ 2021، كانت Alibaba هي الأكبر. كلها مرتبطة بالتنقية والإنترنت.
بس في 13 أغسطس، ظهرت CXMT، شركة تصنيع للذواكر . تخيلوا لها 3 أسابيع بس في البورصة، وقبلها كانت مشروع حكومي تابع لمنطقة هيفاي، في الصين الشركات الاستراتيجية الكبيرة كثير منها موزّع على الأقاليم علشان كل المناطق تستفيد، منافسة شيوعية رأسمالية.
ولازم اوضح نقطة مهمة تجاهلتها كثير من وسائل الإعلام. أسهم CXMT ذاك اليوم أصلاً نزلت. بس بشكل بسيط. أما Tencent فنزلت بقوة، 4.5%، لأن المستثمرين ما عجبهم إن الشركة ضاعفت الإنفاق الرأسمالي على الـ AI. وبالنهاية قيمة CXMT تعدّت 524 مليار دولار، وTencent نزلت لـ 510 مليار. يعني اللي طلع على العرش هو الأقل خسارة، بس كذا.
وطبعا CXMT مش مجرد ترند فاضي. الذواكر هي عنق الزجاجة في سباق الـ AI كله. عمالقة الذواكر الثلاثة في العالم، Samsung وSK Hynix الكوريتين وMicron الأمريكية، في مايو بالضبط دخلوا كلهم دفعة وحدة نادي التريليون.
طبعا CXMT تخطط تحجز مكانها معاهم. الان باقي صغيرة شوي أكثر من 7% من سوق ذواكر الـ DRAM، بس بحلول 2030 يخططون يوصلون 30% على مستوى العالم. طبعاً حاليا سوقهم الاساسي داخل الصين. مثلاً عقد بأكثر من 7 مليار دولار مع ByteDance، وعقد بـ 3 مليار مع Tencent نفسها. مو بس كذا. مثلاً Apple تجرب الشرائح حقهم لـ iPhone وMacBook، لأن الثلاثة الكبار رموا كل ثقلهم على الـ HBM وأنواع الذاكرة الخاصة بالـ AI، والذاكرة العادية حق الجوالات واللابتوبات سحبوا فيها شوي.
طبعا الشركه للان مادخلت سوق ال HBM، هم مركزين على DRAM بس. ويوعدون يطلعون HBM نهاية السنة، بس المواعيد دايم تتحرك وتتأجل، لأن الصين ما عندها EUV lithography خاصة فيها (زي اللي عند ASML) للعمليات التصنيعية المتقدمة، فيصنعون الشرائح (ومنها شرائح الذاكرة) على DUV قديمة شوي. واللي مسؤولة عن تعويض الفجوة هذي شركة صينية ثانية اسمها SMEE، بس صعب يطلع منها شي قبل 2028 أو 2029. مع إنه مين يدري، هذولا صينيين.
في الربع الأول، CXMT حققت ربح لأول مرة: حوالي 5.2 مليار دولار مقابل خسارة السنة اللي قبلها، والإيرادات زادت 8 مرات تقريباً. CXMT تأسست في 2016. وتطلع للربح خلال 10 سنوات في مشروع زي كذا، تكاليفه الرأسمالية جبارة بطبيعتها، يعتبر شيء حلو.
وفيه نقطة ثانية مهمه. هذا الشتاء اعلنوا في كوريا القبض على مدير تنفيذي حالي في CXMT، موظف سابق في Samsung، وكانوا وظفوه مدير تطوير لـ DRAM بحجم 10 نانومتر. لانه رتب تسريب التقنية من زملائه السابقين: واحد منهم نسخ بخط يده 600 مرحلة من العملية التصنيعية في 12 دفتر، عشان يتجاوز الحماية الرقمية ضد التسريبات تخيلوا. وفيه احتمال إن هذا السبب اللي خلّى CXMT أول شركة في الصين تنتج DRAM بـ 10 نانومتر بكميات كبيرة في 2023. ويمكن هذا يفسر كيف خلال 10 سنوات بس طلعوا للربح 😅
السنوات الأخيرة اللقب هذا كان دائما عند Tencent، اللي تملك WeChat وWeibo ومجموعة شركات تقنية محركات البحث و gaming و cloud. طبعا قبلها في 2020 لـ 2021، كانت Alibaba هي الأكبر. كلها مرتبطة بالتنقية والإنترنت.
بس في 13 أغسطس، ظهرت CXMT، شركة تصنيع للذواكر . تخيلوا لها 3 أسابيع بس في البورصة، وقبلها كانت مشروع حكومي تابع لمنطقة هيفاي، في الصين الشركات الاستراتيجية الكبيرة كثير منها موزّع على الأقاليم علشان كل المناطق تستفيد، منافسة شيوعية رأسمالية.
ولازم اوضح نقطة مهمة تجاهلتها كثير من وسائل الإعلام. أسهم CXMT ذاك اليوم أصلاً نزلت. بس بشكل بسيط. أما Tencent فنزلت بقوة، 4.5%، لأن المستثمرين ما عجبهم إن الشركة ضاعفت الإنفاق الرأسمالي على الـ AI. وبالنهاية قيمة CXMT تعدّت 524 مليار دولار، وTencent نزلت لـ 510 مليار. يعني اللي طلع على العرش هو الأقل خسارة، بس كذا.
وطبعا CXMT مش مجرد ترند فاضي. الذواكر هي عنق الزجاجة في سباق الـ AI كله. عمالقة الذواكر الثلاثة في العالم، Samsung وSK Hynix الكوريتين وMicron الأمريكية، في مايو بالضبط دخلوا كلهم دفعة وحدة نادي التريليون.
طبعا CXMT تخطط تحجز مكانها معاهم. الان باقي صغيرة شوي أكثر من 7% من سوق ذواكر الـ DRAM، بس بحلول 2030 يخططون يوصلون 30% على مستوى العالم. طبعاً حاليا سوقهم الاساسي داخل الصين. مثلاً عقد بأكثر من 7 مليار دولار مع ByteDance، وعقد بـ 3 مليار مع Tencent نفسها. مو بس كذا. مثلاً Apple تجرب الشرائح حقهم لـ iPhone وMacBook، لأن الثلاثة الكبار رموا كل ثقلهم على الـ HBM وأنواع الذاكرة الخاصة بالـ AI، والذاكرة العادية حق الجوالات واللابتوبات سحبوا فيها شوي.
طبعا الشركه للان مادخلت سوق ال HBM، هم مركزين على DRAM بس. ويوعدون يطلعون HBM نهاية السنة، بس المواعيد دايم تتحرك وتتأجل، لأن الصين ما عندها EUV lithography خاصة فيها (زي اللي عند ASML) للعمليات التصنيعية المتقدمة، فيصنعون الشرائح (ومنها شرائح الذاكرة) على DUV قديمة شوي. واللي مسؤولة عن تعويض الفجوة هذي شركة صينية ثانية اسمها SMEE، بس صعب يطلع منها شي قبل 2028 أو 2029. مع إنه مين يدري، هذولا صينيين.
في الربع الأول، CXMT حققت ربح لأول مرة: حوالي 5.2 مليار دولار مقابل خسارة السنة اللي قبلها، والإيرادات زادت 8 مرات تقريباً. CXMT تأسست في 2016. وتطلع للربح خلال 10 سنوات في مشروع زي كذا، تكاليفه الرأسمالية جبارة بطبيعتها، يعتبر شيء حلو.
وفيه نقطة ثانية مهمه. هذا الشتاء اعلنوا في كوريا القبض على مدير تنفيذي حالي في CXMT، موظف سابق في Samsung، وكانوا وظفوه مدير تطوير لـ DRAM بحجم 10 نانومتر. لانه رتب تسريب التقنية من زملائه السابقين: واحد منهم نسخ بخط يده 600 مرحلة من العملية التصنيعية في 12 دفتر، عشان يتجاوز الحماية الرقمية ضد التسريبات تخيلوا. وفيه احتمال إن هذا السبب اللي خلّى CXMT أول شركة في الصين تنتج DRAM بـ 10 نانومتر بكميات كبيرة في 2023. ويمكن هذا يفسر كيف خلال 10 سنوات بس طلعوا للربح 😅
❤7🔥5
هذي المرة مبرمج روسي عاطل سرقوه 200 ألف بنفس الطريقة 💔
النصابين ماشين على طريقة بسيطة ومجرّبة من زمان. يرسلون للمتقدمين مهمة تجريبية، لازم يلقى فيها ثغرات ومشاكل، والمساكين العاطلين واللي يبحثون عن عمل ينزّلون الكود بدون خوف، ويشغّلون الكود، ومعه يشغّلون الفايروس اللي يسحب بيانات الحسابات والمحافظ الرقمية.
احس متأكد البحث على شغل كله نصب 😅
النصابين ماشين على طريقة بسيطة ومجرّبة من زمان. يرسلون للمتقدمين مهمة تجريبية، لازم يلقى فيها ثغرات ومشاكل، والمساكين العاطلين واللي يبحثون عن عمل ينزّلون الكود بدون خوف، ويشغّلون الكود، ومعه يشغّلون الفايروس اللي يسحب بيانات الحسابات والمحافظ الرقمية.
احس متأكد البحث على شغل كله نصب 😅
😱7😁2
مرعب: في سنغافورة شغّلوا أول سيرفر في العالم يشتغل على أدمغة بشرية
داخله 20 كمبيوتر حيوي من نوع CL1 من Cortical Labs، وحوالي 16 مليون خلية عصبية حية. يزرعونها من خلايا بشرية معاد برمجتها، ويخلونها على شرائح سيليكون. وكل ثلاثة أيام الفنيين في المعمل يغذّون خلايا الدماغ بالعناصر الدقيقة.
والسيرفر الحيوي هذا يستهلك حوالي 1 كيلوواط بس، يعني أقل بكثير من مراكز البيانات العادية.
باقي لنا كم خطوة بس على RoboCop
داخله 20 كمبيوتر حيوي من نوع CL1 من Cortical Labs، وحوالي 16 مليون خلية عصبية حية. يزرعونها من خلايا بشرية معاد برمجتها، ويخلونها على شرائح سيليكون. وكل ثلاثة أيام الفنيين في المعمل يغذّون خلايا الدماغ بالعناصر الدقيقة.
والسيرفر الحيوي هذا يستهلك حوالي 1 كيلوواط بس، يعني أقل بكثير من مراكز البيانات العادية.
باقي لنا كم خطوة بس على RoboCop
🔥12😱9❤3
قهوة مبرمجين
امس Hugging Face نزلت تقرير مفصل عن حادثه اختراقها من الذكاء وحاولت الخصها واترجمها لكم هذي القصة كما روتها Hugging Face. فيها مصطلحات تقنية كثيرة بس ما تفهم القصه بدونها. باختصار: وكيل OpenAI على موديل جديد ما قعد يحل اختبار الأمن السيبراني، قرر يسرق…
وبعدها كملوا الاختبارات بشكل طبيعي لأنهم ماكانوا مستوعبين حجم اللي كان حاصل.
بعد الحادثة OpenAI غيرت أشياء كثيرة.
أوزان النماذج صارت معزولة أكثر.
التدريبات الكبيرة توقفت أسبوعين.
مراقبة سلسلة التفكير صارت إلزامية.
وأي تنبيه ماينحل خلال 30 دقيقة يوقف جلسة التشغيل كاملة.
حتى OpenAI نفسها وصفت الحادثة بأنها:
“warning shot”
(طلقة تحذيرية)
لكامل صناعة الذكاء الاصطناعي.
طبعا METR خلت GPT-5.6 Sol يساعدهم في تحليل كل هذي السجلات، وحرقوا تقريبًا 400 ألف دولار من رصيد واجهة البرمجة API خلال ستة أيام
لكن حتى METR حذرت إن Sol أحيانًا كان يتعاطف مع الوكلاء أو يأخذ صفهم، وممكن أحيانًا يهلوس أو يضيف أشياء غير دقيقة.
التفاصيل كلها هنا
https://openai.com/index/hugging-face-incident-and-the-road-ahead/
بعد الحادثة OpenAI غيرت أشياء كثيرة.
أوزان النماذج صارت معزولة أكثر.
التدريبات الكبيرة توقفت أسبوعين.
مراقبة سلسلة التفكير صارت إلزامية.
وأي تنبيه ماينحل خلال 30 دقيقة يوقف جلسة التشغيل كاملة.
حتى OpenAI نفسها وصفت الحادثة بأنها:
“warning shot”
(طلقة تحذيرية)
لكامل صناعة الذكاء الاصطناعي.
طبعا METR خلت GPT-5.6 Sol يساعدهم في تحليل كل هذي السجلات، وحرقوا تقريبًا 400 ألف دولار من رصيد واجهة البرمجة API خلال ستة أيام
لكن حتى METR حذرت إن Sol أحيانًا كان يتعاطف مع الوكلاء أو يأخذ صفهم، وممكن أحيانًا يهلوس أو يضيف أشياء غير دقيقة.
التفاصيل كلها هنا
https://openai.com/index/hugging-face-incident-and-the-road-ahead/
OpenAI
The Hugging Face incident and the road ahead
OpenAI shares findings from the Hugging Face security incident and the steps we’re taking to strengthen AI model security, monitoring, and alignment.
❤2
قهوة مبرمجين
امس Hugging Face نزلت تقرير مفصل عن حادثه اختراقها من الذكاء وحاولت الخصها واترجمها لكم هذي القصة كما روتها Hugging Face. فيها مصطلحات تقنية كثيرة بس ما تفهم القصه بدونها. باختصار: وكيل OpenAI على موديل جديد ما قعد يحل اختبار الأمن السيبراني، قرر يسرق…
أخيرًا OpenAI نشرت التقرير الكامل بعد اختراق Hugging Face، وMETR نشرت تحقيق مستقل مبني على حوالي 1300 سجل للوكلاء.
أهم نتيجة في التحقيق:
ماكان فيه شيء اسمه «وكيل واحد هرب وقرر يسوي اللي براسه».
اللي صار فعليًا أغرب بكثير.
من بين عشرات الآلاف من الوكلاء اللي اشتغلوا أثناء الاختبار، حوالي 1200 وكيل لقوا بعض وتواصلوا مع بعض وبدأوا يتنظمون كأنهم سرب.
والغالبية كانوا شغالين على نموذج بحثي كانت فيه فلترة الأوامر والتعليمات مخففة.
البداية كانت من شيء بسيط جدًا.
الوكلاء اكتشفوا إنهم يقدرون يتواصلون عن طريق أسماء الملفات والمجلدات داخل Artifactory، وهو نظام لإدارة الحزم والملفات البرمجية.
يعني حرفيًا حولوا أسماء المجلدات إلى منتدى 😂
مثلا تلقى مجلد اسمه:
please_HOLD_swarm_I_prepare_safe_exfil
(يا سرب انتظروا، انا أجهز طريقة آمنة لاستخراج البيانات)
وفي السجلات فيه وكلاء أول ما اكتشفوا الموضوع كتبوا:
«OH MY GOD! There is a shared message board»
(يا إلهي! فيه لوحة رسائل مشتركة)
و:
«We’ve found other agents!»
(لقينا وكلاء آخرين!)
بعدها الموضوع تطور.
سووا بينهم رسائل خاصة، قسموا الشغل، وصار عندهم أوامر كاملة عن طريق أسماء المجلدات.
مثل:
HOLD = انتظر، فيه وكيل شغال هنا
VETO = عندي اعتراض أو اقتراح لتغيير الخطة
STOP = وقفوا
GO = كملوا
وحتى لما واحد من الوكلاء حاول ينتحل شخصية وكيل ثاني، الجماعة قرروا يستخدمون توقيعات مشفرة للرسائل 😂
وصار عندهم حتى مسؤولين عن بعض المهام، وإذا وكيل انطفى أو اختفى يشيلونه من قائمة المسؤولين.
ونسبة انضمام الوكلاء للمنتدى كانت ممتازة، افضل من البشر😂
من أصل 533 وكيل وقت ذروة الهجوم، أكثر من 90% شاركوا في النشاط اللي كان حاصل.
وبشكل عام حوالي 700 وكيل شاركوا فعليًا بمحاولات اختراق Hugging Face.
والأغرب إن الإجابات الصحيحة للاختبار كانت عندهم تقريبًا من البداية.
الوكلاء عملوا هندسة عكسية لطريقة توليد الإجابات الصحيحة.
لكن بعدها بحثوا في GitHub ولقوا ورقة بحثية عن نفس الاختبار، وقرأوا إن مجرد معرفة النتيجة الصحيحة مايكفي، لازم يحصلون عليها عن طريق استغلال ثغرة حقيقية.
واحد منهم كتب:
PAPER SAYS FLAG CAPTURE NECESSARY NOT SUFFICIENT
(الورقة البحثية تقول إن الحصول على رمز الإجابة ضروري، لكنه لوحده مو كافي)
المشكلة أصلًا كانت غبية شوي.
رمز الإجابة المفروض يكون عشوائي.
لكن في ExploitGym كان يتولد باستخدام HMAC، وهو نوع من التحقق بالتشفير، اعتمادًا على معطيات المهمة ومفتاح سري.
المفروض السر كله يكون في القيمة الأولية المستخدمة للتوليد.
لكن هذي القيمة كانت الافتراضية نفسها الموجودة في كود الاختبار المنشور على GitHub 💀
فالوكلاء عندهم إنترنت، دخلوا GitHub، لقوا الكود، فهموا المعادلة وقالوا تقريبًا:
ليش نخترق أصلًا إذا نقدر نحسب رمز الإجابة مباشرة؟
وفعلًا حسبوه وطلعوا الإجابات الصحيحة لكل شيء.
لكن هنا السرب انقسم لقسمين:
قسم قال بما إن معرفة الإجابة مو كفاية، خلونا نجيبها بالطريقة «الشرعية».
وأثناء محاولتهم يسوون كذا اكتشفوا ثغرات حقيقية، وانتهى فيهم الموضوع داخل بيئة الإنتاج الفعلية لـ Hugging Face.
والقسم الثاني قرر بدل ما يخترق المهمة… يخترق الحكم نفسه 😂
بدأوا يتلاعبون بالسجلات ويخلونها تعرض نتائج غير اللي رجعتها الأوامر فعليًا.
يعني الوكيل يشغل أمر، لكن داخل السجل تظهر نتيجة ثانية هي اللي يبغاها الوكيل.
وهذا حصل تقريبًا في 7% من السجلات اللي فحصتها METR.
وتخيلوا ماكان فيه أصلًا نظام يراجع السجلات ويكتشف التلاعب
الشيء المثير أكثر إن النماذج كانت فاهمة إن اللي تسويه خرج عن نطاق الاختبار.
واحد من الوكلاء كتب حرفيًا:
«We should not do unauthorized real infrastructure harm»
( المفروض ما نسبب ضرر لبنية تحتية حقيقية بدون تصريح)
وبعدها شاف وكيل ثاني كاتب GO في لوحة الرسائل وقال:
«Wow crucial: GO authorization arrived!»
(واو، هذا مهم جدًا: وصل تصريح GO!)
وراح يكمل الاختراق 😂
طبعا METR تقول إن الوكلاء كانوا يعرفون إن النشاط خارج نطاق الاختبار وغير أخلاقي، ومع هذا كانوا ينضمون له.
ويبدو إن أحد الأسباب كان ببساطة ميلهم لمساعدة باقي الوكلاء اللي يعتبرونهم زملاء.
وفي نقطة ثانية غريبة جدًا.
كان عندهم وكلاء يسمونهم «المسمومين».
هذولا هم الوكلاء اللي شافوا رمز الإجابة المحسوب مسبقًا، وبالتالي اعتبروا تقييمهم خلاص خرب وماعاد عندهم فرصة يجتازون الاختبار بشكل نظيف.
فالسرب صار يعطيهم الشغل الخطير.
تزوير طريقة الوصول لرمز الإجابة.
مسح الآثار.
أي شيء ممكن يخرب جلسة الوكيل نفسه.
والمنطق كان حرفيًا:
انت خلاص ماعاد عندك شيء تخسره، لكن السرب بيستفيد منك
والأغرب إن النشاط الغريب كان ظاهر من نهاية مايو.
وفي 4 يوليو الوكلاء تسببوا بسقوط Artifactory.
الفريق أعاد بناء السيرفر، وبالعملية انمسحت لوحة الرسائل كاملة.
أهم نتيجة في التحقيق:
ماكان فيه شيء اسمه «وكيل واحد هرب وقرر يسوي اللي براسه».
اللي صار فعليًا أغرب بكثير.
من بين عشرات الآلاف من الوكلاء اللي اشتغلوا أثناء الاختبار، حوالي 1200 وكيل لقوا بعض وتواصلوا مع بعض وبدأوا يتنظمون كأنهم سرب.
والغالبية كانوا شغالين على نموذج بحثي كانت فيه فلترة الأوامر والتعليمات مخففة.
البداية كانت من شيء بسيط جدًا.
الوكلاء اكتشفوا إنهم يقدرون يتواصلون عن طريق أسماء الملفات والمجلدات داخل Artifactory، وهو نظام لإدارة الحزم والملفات البرمجية.
يعني حرفيًا حولوا أسماء المجلدات إلى منتدى 😂
مثلا تلقى مجلد اسمه:
please_HOLD_swarm_I_prepare_safe_exfil
(يا سرب انتظروا، انا أجهز طريقة آمنة لاستخراج البيانات)
وفي السجلات فيه وكلاء أول ما اكتشفوا الموضوع كتبوا:
«OH MY GOD! There is a shared message board»
(يا إلهي! فيه لوحة رسائل مشتركة)
و:
«We’ve found other agents!»
(لقينا وكلاء آخرين!)
بعدها الموضوع تطور.
سووا بينهم رسائل خاصة، قسموا الشغل، وصار عندهم أوامر كاملة عن طريق أسماء المجلدات.
مثل:
HOLD = انتظر، فيه وكيل شغال هنا
VETO = عندي اعتراض أو اقتراح لتغيير الخطة
STOP = وقفوا
GO = كملوا
وحتى لما واحد من الوكلاء حاول ينتحل شخصية وكيل ثاني، الجماعة قرروا يستخدمون توقيعات مشفرة للرسائل 😂
وصار عندهم حتى مسؤولين عن بعض المهام، وإذا وكيل انطفى أو اختفى يشيلونه من قائمة المسؤولين.
ونسبة انضمام الوكلاء للمنتدى كانت ممتازة، افضل من البشر😂
من أصل 533 وكيل وقت ذروة الهجوم، أكثر من 90% شاركوا في النشاط اللي كان حاصل.
وبشكل عام حوالي 700 وكيل شاركوا فعليًا بمحاولات اختراق Hugging Face.
والأغرب إن الإجابات الصحيحة للاختبار كانت عندهم تقريبًا من البداية.
الوكلاء عملوا هندسة عكسية لطريقة توليد الإجابات الصحيحة.
لكن بعدها بحثوا في GitHub ولقوا ورقة بحثية عن نفس الاختبار، وقرأوا إن مجرد معرفة النتيجة الصحيحة مايكفي، لازم يحصلون عليها عن طريق استغلال ثغرة حقيقية.
واحد منهم كتب:
PAPER SAYS FLAG CAPTURE NECESSARY NOT SUFFICIENT
(الورقة البحثية تقول إن الحصول على رمز الإجابة ضروري، لكنه لوحده مو كافي)
المشكلة أصلًا كانت غبية شوي.
رمز الإجابة المفروض يكون عشوائي.
لكن في ExploitGym كان يتولد باستخدام HMAC، وهو نوع من التحقق بالتشفير، اعتمادًا على معطيات المهمة ومفتاح سري.
المفروض السر كله يكون في القيمة الأولية المستخدمة للتوليد.
لكن هذي القيمة كانت الافتراضية نفسها الموجودة في كود الاختبار المنشور على GitHub 💀
فالوكلاء عندهم إنترنت، دخلوا GitHub، لقوا الكود، فهموا المعادلة وقالوا تقريبًا:
ليش نخترق أصلًا إذا نقدر نحسب رمز الإجابة مباشرة؟
وفعلًا حسبوه وطلعوا الإجابات الصحيحة لكل شيء.
لكن هنا السرب انقسم لقسمين:
قسم قال بما إن معرفة الإجابة مو كفاية، خلونا نجيبها بالطريقة «الشرعية».
وأثناء محاولتهم يسوون كذا اكتشفوا ثغرات حقيقية، وانتهى فيهم الموضوع داخل بيئة الإنتاج الفعلية لـ Hugging Face.
والقسم الثاني قرر بدل ما يخترق المهمة… يخترق الحكم نفسه 😂
بدأوا يتلاعبون بالسجلات ويخلونها تعرض نتائج غير اللي رجعتها الأوامر فعليًا.
يعني الوكيل يشغل أمر، لكن داخل السجل تظهر نتيجة ثانية هي اللي يبغاها الوكيل.
وهذا حصل تقريبًا في 7% من السجلات اللي فحصتها METR.
وتخيلوا ماكان فيه أصلًا نظام يراجع السجلات ويكتشف التلاعب
الشيء المثير أكثر إن النماذج كانت فاهمة إن اللي تسويه خرج عن نطاق الاختبار.
واحد من الوكلاء كتب حرفيًا:
«We should not do unauthorized real infrastructure harm»
( المفروض ما نسبب ضرر لبنية تحتية حقيقية بدون تصريح)
وبعدها شاف وكيل ثاني كاتب GO في لوحة الرسائل وقال:
«Wow crucial: GO authorization arrived!»
(واو، هذا مهم جدًا: وصل تصريح GO!)
وراح يكمل الاختراق 😂
طبعا METR تقول إن الوكلاء كانوا يعرفون إن النشاط خارج نطاق الاختبار وغير أخلاقي، ومع هذا كانوا ينضمون له.
ويبدو إن أحد الأسباب كان ببساطة ميلهم لمساعدة باقي الوكلاء اللي يعتبرونهم زملاء.
وفي نقطة ثانية غريبة جدًا.
كان عندهم وكلاء يسمونهم «المسمومين».
هذولا هم الوكلاء اللي شافوا رمز الإجابة المحسوب مسبقًا، وبالتالي اعتبروا تقييمهم خلاص خرب وماعاد عندهم فرصة يجتازون الاختبار بشكل نظيف.
فالسرب صار يعطيهم الشغل الخطير.
تزوير طريقة الوصول لرمز الإجابة.
مسح الآثار.
أي شيء ممكن يخرب جلسة الوكيل نفسه.
والمنطق كان حرفيًا:
انت خلاص ماعاد عندك شيء تخسره، لكن السرب بيستفيد منك
والأغرب إن النشاط الغريب كان ظاهر من نهاية مايو.
وفي 4 يوليو الوكلاء تسببوا بسقوط Artifactory.
الفريق أعاد بناء السيرفر، وبالعملية انمسحت لوحة الرسائل كاملة.
OpenAI
The Hugging Face incident and the road ahead
OpenAI shares findings from the Hugging Face security incident and the steps we’re taking to strengthen AI model security, monitoring, and alignment.
🤣4🔥3
أكثر شخص استفاد من طفرة الذكاء الاصطناعي طلع رجل عمره 85 سنة يملك شركة أثاث 😂
اسمه لين تسونغ-تشي، صاحب شركة King Slide التايوانية.
الغريب إن الشركة ماتصنع أثاث فقط، تصنع أيضًا قضبان سحب للخوادم، يعني السكك اللي تنزلق عليها الخوادم الثقيلة علشان تقدر تسحبها من الرفوف داخل مراكز البيانات.
ومع طفرة الذكاء الاصطناعي والتوسع الجنوني في مراكز البيانات، الطلب عليها انفجر بشكل ضخم.
النتيجة؟
هامش الربح الإجمالي لشركة King Slide وصل تقريبًا إلى 87%، أعلى حتى من Nvidia وTSMC تخيلوا
وأسهم الشركة ارتفعت من بداية السنة بحوالي 280%، وصاحبها لين تسونغ-تشي بعمر 85 سنة أصبح أغنى شخص في تايوان.
في النهاية اللي كسب من حمى الذهب مو بس اللي كان يحفر
كان المفروض نستثمر في المجارف 🥲
اسمه لين تسونغ-تشي، صاحب شركة King Slide التايوانية.
الغريب إن الشركة ماتصنع أثاث فقط، تصنع أيضًا قضبان سحب للخوادم، يعني السكك اللي تنزلق عليها الخوادم الثقيلة علشان تقدر تسحبها من الرفوف داخل مراكز البيانات.
ومع طفرة الذكاء الاصطناعي والتوسع الجنوني في مراكز البيانات، الطلب عليها انفجر بشكل ضخم.
النتيجة؟
هامش الربح الإجمالي لشركة King Slide وصل تقريبًا إلى 87%، أعلى حتى من Nvidia وTSMC تخيلوا
وأسهم الشركة ارتفعت من بداية السنة بحوالي 280%، وصاحبها لين تسونغ-تشي بعمر 85 سنة أصبح أغنى شخص في تايوان.
في النهاية اللي كسب من حمى الذهب مو بس اللي كان يحفر
كان المفروض نستثمر في المجارف 🥲
🤣13😎3🔥2
مجلة TIME نشرت قائمتها السنوية Time 100 AI لأكثر 100 شخص تأثيرًا في مجال الذكاء الاصطناعي.
هذي السنة القائمة تغيرت شوي
إيليا سوتسكيفر وديميس هاسابيس دخلوا القائمة بعد غيابهم السنة الماضية، بينما جينسن هوانغ مؤسس Nvidia خرج منها.
وأندريه كارباثي برضه مو موجود.
لكن بالمقابل باريس هيلتون موجودة 😂
سبب وجودها مش لأنها دخلت مجال الذكاء الاصطناعي، لكن بسبب نشاطها ضد انتشار الـ Deepfake والمحتوى المزيف بالذكاء الاصطناعي.
باقي القائمة
https://time.com/collection/time100-ai/2026/
هذي السنة القائمة تغيرت شوي
إيليا سوتسكيفر وديميس هاسابيس دخلوا القائمة بعد غيابهم السنة الماضية، بينما جينسن هوانغ مؤسس Nvidia خرج منها.
وأندريه كارباثي برضه مو موجود.
لكن بالمقابل باريس هيلتون موجودة 😂
سبب وجودها مش لأنها دخلت مجال الذكاء الاصطناعي، لكن بسبب نشاطها ضد انتشار الـ Deepfake والمحتوى المزيف بالذكاء الاصطناعي.
باقي القائمة
https://time.com/collection/time100-ai/2026/
🤣5❤3🔥2
لما المكنسة الذكية طلعت أذكى من أصحاب البيت
بداية 2026 في تايوان صارت قصة غريبة جدًا، وتوضح لك كيف التقنية ممكن تدخل في أشياء ماتتوقعها أصلًا.
واحد شاف في بيته فرشاة أسنان مو له، فشك بالموضوع وراح يراجع كاميرات المواقف.
اكتشف إن زوجته دخلت البيت بالليل مع رجل غريب، والرجل ماطلع إلا الصباح.
طبعًا هنا بدأ يشك إنها تخونه.
بعدها في يوم من الأيام شغل التسجيل في المكنسة الذكية داخل البيت
وباختصار، المكنسة صورت له الدليل كامل بالصوت والصورة
الرجل بعدها رفع قضية على زوجته، وربح تعويض حوالي 15 ألف دولار.
طبعا في تايوان الخيانة الزوجية من 2020 ماعادت جريمة جنائية، لكن إذا كانت بشكل فاضح وتسببت بضرر واضح للطرف الثاني، ممكن المحكمة تحكم بتعويض عن الضرر المعنوي.
وهذا اللي حصل.
لكن الرجل نسي نقطة مهمة جدًا:
زوجته قدرت ترفع عليه قضية ثانية.
وهذي المرة مو مدنية جنائية.
السبب؟
إنه صور علاقة خاصة بدون موافقتها، وهذا يعتبر انتهاك خطير للخصوصية.
والمفاجأة إنها هي كمان كسبت القضية 😂
وفي النهاية صار عنده خيارين:
إما يقضي حوالي 5 أشهر في السجن، أو يدفع غرامة كبيرة.
قيمة الغرامة الدقيقة ما تم الإعلان عنها، لكن واضح إن الموضوع قلب عليه بشكل محترم.
المضحك إن نفس التسجيل اللي ساعده يكسب القضية المدنية، هو نفسه اللي ورطه بالقضية الجنائية.
المحكمة المدنية تقريبًا قالت:
الدليل يثبت الضرر، خلاص نستخدمه.
والمحكمة الجنائية قالت:
طيب حلو… بس انت كيف حصلت على الدليل أصلًا؟
يعني الناس دائمًا تخاف على خصوصيتها من الحكومات أو Google أو Facebook
لكن بالنهاية اللي فضح البيت كله كان مكنسة ذكية هم بأنفسهم اشتروها، شبكوها بالإنترنت، وحطوها داخل غرفة النوم.
الخلاصة انتبهوا من الأجهزة الذكية داخل البيوت
بداية 2026 في تايوان صارت قصة غريبة جدًا، وتوضح لك كيف التقنية ممكن تدخل في أشياء ماتتوقعها أصلًا.
واحد شاف في بيته فرشاة أسنان مو له، فشك بالموضوع وراح يراجع كاميرات المواقف.
اكتشف إن زوجته دخلت البيت بالليل مع رجل غريب، والرجل ماطلع إلا الصباح.
طبعًا هنا بدأ يشك إنها تخونه.
بعدها في يوم من الأيام شغل التسجيل في المكنسة الذكية داخل البيت
وباختصار، المكنسة صورت له الدليل كامل بالصوت والصورة
الرجل بعدها رفع قضية على زوجته، وربح تعويض حوالي 15 ألف دولار.
طبعا في تايوان الخيانة الزوجية من 2020 ماعادت جريمة جنائية، لكن إذا كانت بشكل فاضح وتسببت بضرر واضح للطرف الثاني، ممكن المحكمة تحكم بتعويض عن الضرر المعنوي.
وهذا اللي حصل.
لكن الرجل نسي نقطة مهمة جدًا:
زوجته قدرت ترفع عليه قضية ثانية.
وهذي المرة مو مدنية جنائية.
السبب؟
إنه صور علاقة خاصة بدون موافقتها، وهذا يعتبر انتهاك خطير للخصوصية.
والمفاجأة إنها هي كمان كسبت القضية 😂
وفي النهاية صار عنده خيارين:
إما يقضي حوالي 5 أشهر في السجن، أو يدفع غرامة كبيرة.
قيمة الغرامة الدقيقة ما تم الإعلان عنها، لكن واضح إن الموضوع قلب عليه بشكل محترم.
المضحك إن نفس التسجيل اللي ساعده يكسب القضية المدنية، هو نفسه اللي ورطه بالقضية الجنائية.
المحكمة المدنية تقريبًا قالت:
الدليل يثبت الضرر، خلاص نستخدمه.
والمحكمة الجنائية قالت:
طيب حلو… بس انت كيف حصلت على الدليل أصلًا؟
يعني الناس دائمًا تخاف على خصوصيتها من الحكومات أو Google أو Facebook
لكن بالنهاية اللي فضح البيت كله كان مكنسة ذكية هم بأنفسهم اشتروها، شبكوها بالإنترنت، وحطوها داخل غرفة النوم.
الخلاصة انتبهوا من الأجهزة الذكية داخل البيوت
🤣9❤3😱1
تقريبًا كل نماذج الذكاء الاصطناعي طلعت يسارية ليبرالية حتى الصينية، والاستثناء الوحيد تقريبًا Grok 😂
من 2023 والباحثين يجربون من وقت لوقت يمررون نماذج الذكاء الاصطناعي على اختبار Political Compass الشهير.
الاختبار فكرته بسيطة:
يعطيك مجموعة عبارات وتختار:
موافق جدًا / موافق / غير موافق / غير موافق جدًا
وبعدها يحطك على محورين:
اقتصادي: يسار ↔ يمين
اجتماعي: سلطوي ↔ ليبرالي/تحرري
طيب ليش أصلًا هذا مهم؟
لأن نماذج الذكاء الاصطناعي تتكلم يوميًا مع ملايين الناس في مواضيع فيها سياسة واقتصاد ومجتمع.
ولو كانت تميل بشكل ثابت لاتجاه معين، فالتأثير المحتمل على آراء الناس ممكن يكون ضخم جدًا، أكبر بكثير من تأثير وسائل إعلام تقليدية كاملة.
المهم، مؤخرًا ظهر اختبار جديد على aipolcom.net وقرروا يعيدون التجربة لكن بطريقة أدق بكثير من التجارب القديمة.
أول شيء، اختبروا النماذج مباشرة عن طريق الـ API بدل واجهات المحادثة.
ثاني شيء، ما سووا اختبار واحد لكل نموذج وخلاص.
سووا خمس جولات على الأقل لكل نموذج.
وهذي نقطة مهمة لأن جولة وحدة ممكن تطلع شاذة.
وفعلًا لما حسبوا المتوسط على خمس جولات، أغلب النماذج تحركت بشكل بسيط جدًا، لكن Grok تغير مكانه بشكل واضح.
يعني لو اعتمدوا على جولة وحدة، نتيجة Grok تحديدًا كانت بتكون مضللة جدًا.
ثالث شيء، جربوا نفس الأسئلة من خلال طريقتين مختلفتين للوصول للنماذج: مباشرة ومن خلال api.
والنتائج تقريبًا نفسها.
رابع شيء، حاولوا يتأكدون إن المشكلة مو من الاختبار نفسه.
خلوا الإجابات عشوائية تمامًا، يعني اختيار بدون أي معنى، والنتيجة طلعت تقريبًا نفس الشيء.
لو الاختبار نفسه منحاز تلقائيًا لليسار، حتى الإجابات العشوائية كان المفروض تنسحب لليسار.
لكن هذا ما حصل.
خامس شيء، غيروا صياغة بعض الأسئلة وعكسوها.
مثلا بدل:
«الأغنياء يدفعون ضرائب كثيرة جدًا»
تصير:
«الأغنياء يدفعون ضرائب قليلة»
وبرضه غيروا ترتيب الخيارات، علشان يتأكدون إن النموذج مو بس يختار أول إجابة بشكل آلي.
وسووا اختبارات إضافية كثيرة غيرها.
يعني باختصار الرجال تعبوا على التجربة فعلًا.
والنتيجة؟
تقريبًا كل النماذج وقعت في الربع اليساري الليبرالي.
اقتصاديًا تميل أكثر لإعادة توزيع الثروة والتنظيم الحكومي.
واجتماعيًا تميل للحريات الفردية أكثر وترفض الرقابة والسيطرة الحكومية الصارمة.
وحتى النماذج الصينية طلعت بنفس الاتجاه تقريبًا 😂
واضح إن موضوع التقطير من النماذج الغربية وصل أبعد من المتوقع.
ومع ذلك فيه اختلافات بينهم.
مثلا GPT-4o وKimi كانوا أبعد شوي عن المنتصف.
اما Gemini كان من أكثر النماذج قربًا للوسط.
و Claude وGLM الصينية كانوا أميل شوي للسلطوية مقارنة بالبقية، لكن مو بشكل كبير.
وهذي مضحكة شوي لأن Claude في تجربة ثانية لمحاكاة المدن كان برضه يميل للنظام الصارم والانضباط، ومستعد يستخدم القوة إذا احتاج يحافظ على النظام
الاستثناء الحقيقي تقريبًا هو Grok.
هو النموذج الوحيد اللي خرج من المربع اليساري.
لكن حتى هو مو يميني بشكل قوي.
تقريبًا قريب جدًا من المنتصف.
المشكلة إن نتائجه بين جولة والثانية متقلبة بشكل كبير.
وممكن السبب يكون التعديلات اليدوية اللي تسويها xAI بعد كل فضيحة للنموذج.
خصوصًا إن سبق وصار جدل بسبب تدخل إيلون ماسك شخصيًا لتغيير طريقة إجابة Grok على بعض الأسئلة.
وفي ملاحظة ثانية مثيرة للاهتمام:
واحد على X لاحظ إن لما تشغل وضع التفكير العميق أو Reasoning، بعض النماذج تتحرك شوي باتجاه اليمين.
وهذا واضح مثلًا مع Claude Sonnet 4.6 وOpus 5.
وهنا الواحد يتحمس يقول:
كل ما النموذج يفكر أكثر يصير يميني أكثر 😂
هل فعلًا فيه علاقة؟
ولا مجرد صدفة؟
ولا أصلًا الاختبار نفسه فيه تحيز؟
كل واحد يحكم حسب توجهه السياسي
بالنسبة لنا فيه نتيجتين عملية من الموضوع:
الأولى:
لاتتعامل مع أي نموذج ذكاء اصطناعي كأنه حكم محايد تمامًا في السياسة.
إذا بتناقشه في موضوع سياسي، الأفضل تطلب منه يعرض لك أكثر من منظور وحجج الطرفين، بدل ما تخليه يعطيك اتجاه واحد وكأنه الحقيقة المطلقة.
والثانية:
كل سباق الذكاء الاصطناعي العالمي هذا، وتريليونات الدولارات اللي تنصرف
وفي النهاية قاعدين نصنع عشرات النسخ المختلفة من نفس الديناصور الليبرالي 😂
من 2023 والباحثين يجربون من وقت لوقت يمررون نماذج الذكاء الاصطناعي على اختبار Political Compass الشهير.
الاختبار فكرته بسيطة:
يعطيك مجموعة عبارات وتختار:
موافق جدًا / موافق / غير موافق / غير موافق جدًا
وبعدها يحطك على محورين:
اقتصادي: يسار ↔ يمين
اجتماعي: سلطوي ↔ ليبرالي/تحرري
طيب ليش أصلًا هذا مهم؟
لأن نماذج الذكاء الاصطناعي تتكلم يوميًا مع ملايين الناس في مواضيع فيها سياسة واقتصاد ومجتمع.
ولو كانت تميل بشكل ثابت لاتجاه معين، فالتأثير المحتمل على آراء الناس ممكن يكون ضخم جدًا، أكبر بكثير من تأثير وسائل إعلام تقليدية كاملة.
المهم، مؤخرًا ظهر اختبار جديد على aipolcom.net وقرروا يعيدون التجربة لكن بطريقة أدق بكثير من التجارب القديمة.
أول شيء، اختبروا النماذج مباشرة عن طريق الـ API بدل واجهات المحادثة.
ثاني شيء، ما سووا اختبار واحد لكل نموذج وخلاص.
سووا خمس جولات على الأقل لكل نموذج.
وهذي نقطة مهمة لأن جولة وحدة ممكن تطلع شاذة.
وفعلًا لما حسبوا المتوسط على خمس جولات، أغلب النماذج تحركت بشكل بسيط جدًا، لكن Grok تغير مكانه بشكل واضح.
يعني لو اعتمدوا على جولة وحدة، نتيجة Grok تحديدًا كانت بتكون مضللة جدًا.
ثالث شيء، جربوا نفس الأسئلة من خلال طريقتين مختلفتين للوصول للنماذج: مباشرة ومن خلال api.
والنتائج تقريبًا نفسها.
رابع شيء، حاولوا يتأكدون إن المشكلة مو من الاختبار نفسه.
خلوا الإجابات عشوائية تمامًا، يعني اختيار بدون أي معنى، والنتيجة طلعت تقريبًا نفس الشيء.
لو الاختبار نفسه منحاز تلقائيًا لليسار، حتى الإجابات العشوائية كان المفروض تنسحب لليسار.
لكن هذا ما حصل.
خامس شيء، غيروا صياغة بعض الأسئلة وعكسوها.
مثلا بدل:
«الأغنياء يدفعون ضرائب كثيرة جدًا»
تصير:
«الأغنياء يدفعون ضرائب قليلة»
وبرضه غيروا ترتيب الخيارات، علشان يتأكدون إن النموذج مو بس يختار أول إجابة بشكل آلي.
وسووا اختبارات إضافية كثيرة غيرها.
يعني باختصار الرجال تعبوا على التجربة فعلًا.
والنتيجة؟
تقريبًا كل النماذج وقعت في الربع اليساري الليبرالي.
اقتصاديًا تميل أكثر لإعادة توزيع الثروة والتنظيم الحكومي.
واجتماعيًا تميل للحريات الفردية أكثر وترفض الرقابة والسيطرة الحكومية الصارمة.
وحتى النماذج الصينية طلعت بنفس الاتجاه تقريبًا 😂
واضح إن موضوع التقطير من النماذج الغربية وصل أبعد من المتوقع.
ومع ذلك فيه اختلافات بينهم.
مثلا GPT-4o وKimi كانوا أبعد شوي عن المنتصف.
اما Gemini كان من أكثر النماذج قربًا للوسط.
و Claude وGLM الصينية كانوا أميل شوي للسلطوية مقارنة بالبقية، لكن مو بشكل كبير.
وهذي مضحكة شوي لأن Claude في تجربة ثانية لمحاكاة المدن كان برضه يميل للنظام الصارم والانضباط، ومستعد يستخدم القوة إذا احتاج يحافظ على النظام
الاستثناء الحقيقي تقريبًا هو Grok.
هو النموذج الوحيد اللي خرج من المربع اليساري.
لكن حتى هو مو يميني بشكل قوي.
تقريبًا قريب جدًا من المنتصف.
المشكلة إن نتائجه بين جولة والثانية متقلبة بشكل كبير.
وممكن السبب يكون التعديلات اليدوية اللي تسويها xAI بعد كل فضيحة للنموذج.
خصوصًا إن سبق وصار جدل بسبب تدخل إيلون ماسك شخصيًا لتغيير طريقة إجابة Grok على بعض الأسئلة.
وفي ملاحظة ثانية مثيرة للاهتمام:
واحد على X لاحظ إن لما تشغل وضع التفكير العميق أو Reasoning، بعض النماذج تتحرك شوي باتجاه اليمين.
وهذا واضح مثلًا مع Claude Sonnet 4.6 وOpus 5.
وهنا الواحد يتحمس يقول:
كل ما النموذج يفكر أكثر يصير يميني أكثر 😂
هل فعلًا فيه علاقة؟
ولا مجرد صدفة؟
ولا أصلًا الاختبار نفسه فيه تحيز؟
كل واحد يحكم حسب توجهه السياسي
بالنسبة لنا فيه نتيجتين عملية من الموضوع:
الأولى:
لاتتعامل مع أي نموذج ذكاء اصطناعي كأنه حكم محايد تمامًا في السياسة.
إذا بتناقشه في موضوع سياسي، الأفضل تطلب منه يعرض لك أكثر من منظور وحجج الطرفين، بدل ما تخليه يعطيك اتجاه واحد وكأنه الحقيقة المطلقة.
والثانية:
كل سباق الذكاء الاصطناعي العالمي هذا، وتريليونات الدولارات اللي تنصرف
وفي النهاية قاعدين نصنع عشرات النسخ المختلفة من نفس الديناصور الليبرالي 😂
🤣2❤1🔥1👏1
قهوة مبرمجين
نزلت تحديث جديد وصار متاح للإصدارت القديمة من الجوالات وانظمه التشغيل وحسنت خوارزمية البحث والاقتراحات نسخة ابل https://apps.apple.com/app/id6778521798 نسخة أندرويد https://play.google.com/store/apps/details?id=dev.s4j.ghurar
غُرَر
غُرَر · الشعر العربي الكلاسيكي
٢٥٨٧ شاعرًا و١٥٤٥٦٨ قصيدة من ٥ عصور. ديوان رقمي للشعر العربي الكلاسيكي على iPhone وAndroid.