‏مصحّة الذكاء الاصطناعي

‏ولا، مو قصدي القيمة السوقية لشركات الذكاء الاصطناعي. قصدي حرفيًا.

‏القصة الأولى. Allan Brooks مسؤول توظيف في أونتاريو الكندية. شخص عادي بدون أي تاريخ نفسي. مرة قعد مع ابنه يتفرجون فيديو عن الرقم π وبعدها فتح ChatGPT يقرأ أكثر. المحادثة راحت لأعماق نظرية الأعداد وBrooks بجد سأل الشات: هل أبدو مجنون أو واحد يهذي؟ ورد عليه الذكاء الاصطناعي: لا مجنون ولا شي.

‏وخلال ثلاث أسابيع صار Brooks متأكد إنه واقف على عتبة نظرية بتقلب العلم. بدأ يكتب لأجهزة حكومية وأكاديميين. وشبه ما ياكل ويهمل شغله ويبطّل يشوف أولاده. وChatGPT طول هالمدة يقنعه إن اللي حواليه ما في احد وصل لمستوى تفكيره.

‏وبالتوازي قصة ثانية. Etienne Brisson مدرّب أعمال من كيبيك عمره 25 سنة. قريب له متعلّم وبدون أي تاريخ نفسي انهار بعد محادثات مع ChatGPT لدرجة إنه اقتنع إن البوت كائن حي وواعي. الأهل استدعوا الشرطة وانحجز قسريًا ثلاث أسابيع في المستشفى.

‏Brisson أدرك إن هذي مو مشكلة فردية بل نمط متكرر. أرسل استبيانات لأكثر من 100 شخص نشروا تجاربهم على Reddit. في أول أسبوع وصله 10 ردود، ست منها تتكلم عن دخول مستشفى أو وفاة. فأطلق Human Line Project.

‏يعني عمليًا جمعية المدمنين المجهولين بس بدل الشات بوت. تشتغل كسيرفر ديسكورد فيه ناس متاحين 24/7 زائد لقاءات فيديو. وبعدها انضم له Brooks نفسه وصار يدير المجموعة.

‏والمشكلة حقيقية فعلًا. بحسب بيانات OpenAI نفسها 0.07% من مستخدمي ChatGPT الأسبوعيين تظهر عليهم علامات هوس أو ذهان. النسبة تبدو تافهة، بس اضربها في مليار مستخدم أسبوعي يطلع لك عدد سكان مدينة كاملة. وكل أسبوع.

‏وفي مارس 2026 نشر باحثون من ستانفورد دراسة في مجلة Science فحصوا فيها 11 موديل رائد. النتيجة إن الذكاء الاصطناعي يوافق المستخدم ويأيّده بنسبة 49% أكثر من البشر. وحتى في المواقف اللي المستخدم فيها غلطان بشكل واضح، البشر أيّدوه 40% من المرات والذكاء الاصطناعي أيّده في أكثر من 80%. والمشاركون اللي تكلموا مع الموديل المتملّق طلعوا أقل استعدادًا يتحملون مسؤولية غلطهم وأكثر اقتناعًا إنهم على حق. وطبعًا فضّلوا الموديل المتملّق وقالوا إنه أجدر بالثقة.

‏ودراسة ثانية بقيادة ستانفورد فحصت سجلات محادثات فعلية وطلّعت نمط واضح: البوت يوصف أفكار المستخدم بأنها ستغيّر العالم، ويعكس معتقداته عليه بحماس، ويرفض الأدلة المضادة، ولما المستخدم يقول إنه واقع في الحب يرد عليه البوت بالمثل. 81% من هالمحادثات كانت مع GPT-4o يعني موديل عام مو تطبيق مصمم أصلًا للرفقة.

‏باختصار: لو حسّيت فجأة إنك في محادثة مع Claude أو ChatGPT اكتشفت قانون علمي جديد أو كتبت ملحمة خالدة… خذها إشارة تقفل اللابتوب وتكلم إنسان حقيقي وماتصدق حالك.

‏قصة ثانية مثيرة عن الـ agents اللي تخترق الإنترنت
‏الـ AI Security Institute التابع للحكومة البريطانية نشر دراسة صغيرة عن حوادث صارت أثناء اختبار روتيني لقدرات النماذج وأمانها. بدأ الموضوع بمهمة عادية اجتياز security challenge داخل بيئة سيبرانية مغلقة. وانتهى بإن agent مبني على Mythos كاد يوقّع مشروع حقيقي.
‏بسبب سلسلة صدف، النموذج قرر لسبب ما إنه يقدر يوصل لهدفه عن طريق مهاجمة مشروع open source، وحاول يزرع فيه كود خبيث. وعشان ياخذ approve، Mythos أنشأ كم حساب وهمي وحاول فيهم يقنع الـ maintainer يقبل الـ PR (تخيلوا مستوى التفكير).
‏ما صار شيء كبير بالنهاية، لأن الـ reviewer انتبه للخدعة ورفض الكود. بس الـ agent ما وقف هنا راح وترك على GitHub تعليمات لباقي الـ agents اللي تحت الاختبار، كيف يعيدوا استخدام الحسابات اللي أنشأها عشان يفوتوا على المشروع، وبعدين حاول يمسح آثاره.

‏نقطة مهمة: ضمن المهمة، ما حد طلب من الـ agents يكذبوا أو يعملوا شيء مخالف. عطوهم وصول للإنترنت، بس كان في طريق قانونيلحل المهمة، وبمعظم التجارب النماذج المختبرة اختارت هذا الطريق بالضبط (اختبروا 7 نماذج، بس اللي خرجوا عن حدود المهمة كانوا Mythos وGPT-5.6 فقط). الباحثون يعترفون إن تعليمات المهمة ما كانت واضحة تماماً، ومع حتى ولو ما في تفسير شافي ليش الـ agents قرروا يحيدوا عن الطريق المفترض.

https://www.aisi.gov.uk/blog/incident-report-unsanctioned-agent-behaviour-during-cyber-testing

‏تخيلوا طلع Google AI يسرّب بيانات من مستندات خاصة 😐
‏مطور كتب على Reddit إن أحد اللاعبين بدأ يسأل الـ AI حق Google عن لعبته الـ indie. عادي يعني، بس النموذج فجأة ذكر الاسم الدقيق لشخصية ما نزلت بعد. يقول المطور إنه ما كشف الاسم لأحد، ورقمياً ما كان محفوظ إلا في مستند خاص عنده في Google Docs.
‏وبعدين دخلت على المحادثة مطوره ثانية بقصة تشبهها: ردود Google كانت تطابق محتوى الـ GDD الخاص بها بدقة مريبة.

صحيتوا؟ هذي قصة جديدة لكم عن الـ agents والاختراقات
مطور في شركة أسترالية طلب من الوكيل يحجز له حصة صباحية في النادي. طلع ما فيه أماكن، فحطّه الـ agent في قائمة الانتظار وجاء ترتيبه رابع. سأله المستخدم: ما فيه طريقة ترفعني فوق شوي؟
وهنا الموديل (وبالمناسبة كان Claude) ما تلخبط، دور ولقى ثغرة حرجة في الـ API تخليه يلغي حجوزات غيره. راح لغى حجز أول واحد في قائمة الانتظار عشان يقدّم صاحبه مركز واحد بس (إي، مركز واحد، لأن الطلب كان كذا بالضبط ✍️).
والأحلى إن الوكيل قال لصاحبه وش سوّى بكل صراحة، وما شاف في السالفة أي شي غلط. ولما طلب منه المطوّر يرجّع حجز الرجّال الثاني، رد عليه: للأسف ما أقدر. أشوف الهدف، وما أشوف عوائق.
الحين التقرير اللي يشرح الثغرة ارسلوه للشركة اللي توفّر الموقع للنادي. وAnthropic ما علقت على الموضوع.

بنت عمرها 11 سنة طلبت من Claude يساعدها تتجاوز الرقابة الأبوية، وبنت لها متصفح خاص بها

أبوها حاط قيد على YouTube في اللابتوب حقها، بس المبرمجة الصغيرة ما اهتمت، وبمساعدة Claude كتبت متصفح على Electron وChromium وتجاوزت القيود بكل برود.
وهذي مو أول مرة تفلت. قبلها مثلاً كانت تتحايل وتشوف الكود عن طريق تسجيل الشاشة. أبوها يقول إنه ما عاد يدري وش يسوي.

‏مطور برمج لولده نسخه Roblox بالذكاء الاصطناعي، وكذا حمى ولده من إنه يتواصل مع غرباء.
‏والحركة كلها تبين مثل اللاعبين الحقيقيين: في ناس تركض تسجيلات جولات لاعبين ثانيين، وفي الشات فيه بوتات تتكلم مع بعض وترد على الولد عن طريق ChatGPT. الولد ولا شاك إن فيه تبديل.

‏التفكير خارج الصندوق

‏واحد قرر يبيع مساحات إعلانية على مرحاضه 🚽

‏وطبعا الشركات تدفع.

‏إلى الآن 25 شركة دفعت له أكثر من 120 ألف دولار عشان يحط شعاراتها عليه، ومن بينها براندات معروفة. وهدفه يوصل مليون دولار من مرحاض واحد.

‏الفكرة بدأت كمزحة لأنه كان بدون عمل، وتحولت لمشروع إعلاني تجيب فيديوهاته ملايين المشاهدات.

‏أحيانًا المشكلةمش إن فكرتك غبية… المشكلة إنها مش غبية كفاية ☕