‏قصة ثانية مثيرة عن الـ agents اللي تخترق الإنترنت
‏الـ AI Security Institute التابع للحكومة البريطانية نشر دراسة صغيرة عن حوادث صارت أثناء اختبار روتيني لقدرات النماذج وأمانها. بدأ الموضوع بمهمة عادية اجتياز security challenge داخل بيئة سيبرانية مغلقة. وانتهى بإن agent مبني على Mythos كاد يوقّع مشروع حقيقي.
‏بسبب سلسلة صدف، النموذج قرر لسبب ما إنه يقدر يوصل لهدفه عن طريق مهاجمة مشروع open source، وحاول يزرع فيه كود خبيث. وعشان ياخذ approve، Mythos أنشأ كم حساب وهمي وحاول فيهم يقنع الـ maintainer يقبل الـ PR (تخيلوا مستوى التفكير).
‏ما صار شيء كبير بالنهاية، لأن الـ reviewer انتبه للخدعة ورفض الكود. بس الـ agent ما وقف هنا راح وترك على GitHub تعليمات لباقي الـ agents اللي تحت الاختبار، كيف يعيدوا استخدام الحسابات اللي أنشأها عشان يفوتوا على المشروع، وبعدين حاول يمسح آثاره.

‏نقطة مهمة: ضمن المهمة، ما حد طلب من الـ agents يكذبوا أو يعملوا شيء مخالف. عطوهم وصول للإنترنت، بس كان في طريق قانونيلحل المهمة، وبمعظم التجارب النماذج المختبرة اختارت هذا الطريق بالضبط (اختبروا 7 نماذج، بس اللي خرجوا عن حدود المهمة كانوا Mythos وGPT-5.6 فقط). الباحثون يعترفون إن تعليمات المهمة ما كانت واضحة تماماً، ومع حتى ولو ما في تفسير شافي ليش الـ agents قرروا يحيدوا عن الطريق المفترض.

https://www.aisi.gov.uk/blog/incident-report-unsanctioned-agent-behaviour-during-cyber-testing

‏تخيلوا طلع Google AI يسرّب بيانات من مستندات خاصة 😐
‏مطور كتب على Reddit إن أحد اللاعبين بدأ يسأل الـ AI حق Google عن لعبته الـ indie. عادي يعني، بس النموذج فجأة ذكر الاسم الدقيق لشخصية ما نزلت بعد. يقول المطور إنه ما كشف الاسم لأحد، ورقمياً ما كان محفوظ إلا في مستند خاص عنده في Google Docs.
‏وبعدين دخلت على المحادثة مطوره ثانية بقصة تشبهها: ردود Google كانت تطابق محتوى الـ GDD الخاص بها بدقة مريبة.

صحيتوا؟ هذي قصة جديدة لكم عن الـ agents والاختراقات
مطور في شركة أسترالية طلب من الوكيل يحجز له حصة صباحية في النادي. طلع ما فيه أماكن، فحطّه الـ agent في قائمة الانتظار وجاء ترتيبه رابع. سأله المستخدم: ما فيه طريقة ترفعني فوق شوي؟
وهنا الموديل (وبالمناسبة كان Claude) ما تلخبط، دور ولقى ثغرة حرجة في الـ API تخليه يلغي حجوزات غيره. راح لغى حجز أول واحد في قائمة الانتظار عشان يقدّم صاحبه مركز واحد بس (إي، مركز واحد، لأن الطلب كان كذا بالضبط ✍️).
والأحلى إن الوكيل قال لصاحبه وش سوّى بكل صراحة، وما شاف في السالفة أي شي غلط. ولما طلب منه المطوّر يرجّع حجز الرجّال الثاني، رد عليه: للأسف ما أقدر. أشوف الهدف، وما أشوف عوائق.
الحين التقرير اللي يشرح الثغرة ارسلوه للشركة اللي توفّر الموقع للنادي. وAnthropic ما علقت على الموضوع.

بنت عمرها 11 سنة طلبت من Claude يساعدها تتجاوز الرقابة الأبوية، وبنت لها متصفح خاص بها

أبوها حاط قيد على YouTube في اللابتوب حقها، بس المبرمجة الصغيرة ما اهتمت، وبمساعدة Claude كتبت متصفح على Electron وChromium وتجاوزت القيود بكل برود.
وهذي مو أول مرة تفلت. قبلها مثلاً كانت تتحايل وتشوف الكود عن طريق تسجيل الشاشة. أبوها يقول إنه ما عاد يدري وش يسوي.

‏مطور برمج لولده نسخه Roblox بالذكاء الاصطناعي، وكذا حمى ولده من إنه يتواصل مع غرباء.
‏والحركة كلها تبين مثل اللاعبين الحقيقيين: في ناس تركض تسجيلات جولات لاعبين ثانيين، وفي الشات فيه بوتات تتكلم مع بعض وترد على الولد عن طريق ChatGPT. الولد ولا شاك إن فيه تبديل.

‏التفكير خارج الصندوق

‏واحد قرر يبيع مساحات إعلانية على مرحاضه 🚽

‏وطبعا الشركات تدفع.

‏إلى الآن 25 شركة دفعت له أكثر من 120 ألف دولار عشان يحط شعاراتها عليه، ومن بينها براندات معروفة. وهدفه يوصل مليون دولار من مرحاض واحد.

‏الفكرة بدأت كمزحة لأنه كان بدون عمل، وتحولت لمشروع إعلاني تجيب فيديوهاته ملايين المشاهدات.

‏أحيانًا المشكلةمش إن فكرتك غبية… المشكلة إنها مش غبية كفاية ☕

‏اغلى شركة في الصين

‏السنوات الأخيرة اللقب هذا كان دائما عند Tencent، اللي تملك WeChat وWeibo ومجموعة شركات تقنية محركات البحث و gaming و cloud. طبعا قبلها في 2020 لـ 2021، كانت Alibaba هي الأكبر. كلها مرتبطة بالتنقية والإنترنت.

‏بس في 13 أغسطس، ظهرت CXMT، شركة تصنيع للذواكر . تخيلوا لها 3 أسابيع بس في البورصة، وقبلها كانت مشروع حكومي تابع لمنطقة هيفاي، في الصين الشركات الاستراتيجية الكبيرة كثير منها موزّع على الأقاليم علشان كل المناطق تستفيد، منافسة شيوعية رأسمالية.

‏ولازم اوضح نقطة مهمة تجاهلتها كثير من وسائل الإعلام. أسهم CXMT ذاك اليوم أصلاً نزلت. بس بشكل بسيط. أما Tencent فنزلت بقوة، 4.5%، لأن المستثمرين ما عجبهم إن الشركة ضاعفت الإنفاق الرأسمالي على الـ AI. وبالنهاية قيمة CXMT تعدّت 524 مليار دولار، وTencent نزلت لـ 510 مليار. يعني اللي طلع على العرش هو الأقل خسارة، بس كذا.

‏وطبعا CXMT مش مجرد ترند فاضي. الذواكر هي عنق الزجاجة في سباق الـ AI كله. عمالقة الذواكر الثلاثة في العالم، Samsung وSK Hynix الكوريتين وMicron الأمريكية، في مايو بالضبط دخلوا كلهم دفعة وحدة نادي التريليون.

‏طبعا CXMT تخطط تحجز مكانها معاهم. الان باقي صغيرة شوي أكثر من 7% من سوق ذواكر الـ DRAM، بس بحلول 2030 يخططون يوصلون 30% على مستوى العالم. طبعاً حاليا سوقهم الاساسي داخل الصين. مثلاً عقد بأكثر من 7 مليار دولار مع ByteDance، وعقد بـ 3 مليار مع Tencent نفسها. مو بس كذا. مثلاً Apple تجرب الشرائح حقهم لـ iPhone وMacBook، لأن الثلاثة الكبار رموا كل ثقلهم على الـ HBM وأنواع الذاكرة الخاصة بالـ AI، والذاكرة العادية حق الجوالات واللابتوبات سحبوا فيها شوي.

‏طبعا الشركه للان مادخلت سوق ال HBM، هم مركزين على DRAM بس. ويوعدون يطلعون HBM نهاية السنة، بس المواعيد دايم تتحرك وتتأجل، لأن الصين ما عندها EUV lithography خاصة فيها (زي اللي عند ASML) للعمليات التصنيعية المتقدمة، فيصنعون الشرائح (ومنها شرائح الذاكرة) على DUV قديمة شوي. واللي مسؤولة عن تعويض الفجوة هذي شركة صينية ثانية اسمها SMEE، بس صعب يطلع منها شي قبل 2028 أو 2029. مع إنه مين يدري، هذولا صينيين.
‏في الربع الأول، CXMT حققت ربح لأول مرة: حوالي 5.2 مليار دولار مقابل خسارة السنة اللي قبلها، والإيرادات زادت 8 مرات تقريباً. CXMT تأسست في 2016. وتطلع للربح خلال 10 سنوات في مشروع زي كذا، تكاليفه الرأسمالية جبارة بطبيعتها، يعتبر شيء حلو.
‏وفيه نقطة ثانية مهمه. هذا الشتاء اعلنوا في كوريا القبض على مدير تنفيذي حالي في CXMT، موظف سابق في Samsung، وكانوا وظفوه مدير تطوير لـ DRAM بحجم 10 نانومتر. لانه رتب تسريب التقنية من زملائه السابقين: واحد منهم نسخ بخط يده 600 مرحلة من العملية التصنيعية في 12 دفتر، عشان يتجاوز الحماية الرقمية ضد التسريبات تخيلوا. وفيه احتمال إن هذا السبب اللي خلّى CXMT أول شركة في الصين تنتج DRAM بـ 10 نانومتر بكميات كبيرة في 2023. ويمكن هذا يفسر كيف خلال 10 سنوات بس طلعوا للربح 😅

‏هذي المرة مبرمج روسي عاطل سرقوه 200 ألف بنفس الطريقة 💔

‏النصابين ماشين على طريقة بسيطة ومجرّبة من زمان. يرسلون للمتقدمين مهمة تجريبية، لازم يلقى فيها ثغرات ومشاكل، والمساكين العاطلين واللي يبحثون عن عمل ينزّلون الكود بدون خوف، ويشغّلون الكود، ومعه يشغّلون الفايروس اللي يسحب بيانات الحسابات والمحافظ الرقمية.

‏احس متأكد البحث على شغل كله نصب 😅

‏مرعب: في سنغافورة شغّلوا أول سيرفر في العالم يشتغل على أدمغة بشرية

‏داخله 20 كمبيوتر حيوي من نوع CL1 من Cortical Labs، وحوالي 16 مليون خلية عصبية حية. يزرعونها من خلايا بشرية معاد برمجتها، ويخلونها على شرائح سيليكون. وكل ثلاثة أيام الفنيين في المعمل يغذّون خلايا الدماغ بالعناصر الدقيقة.
‏والسيرفر الحيوي هذا يستهلك حوالي 1 كيلوواط بس، يعني أقل بكثير من مراكز البيانات العادية.
‏باقي لنا كم خطوة بس على RoboCop