אני רואה ברשת כל מיני פוסטים ותוספות למאמרים שמסבירים כמה לא צריך להיבהל מהסיפור של OpenAI ו-Hugging Face.

הטענה המרכזית שחוזרת על עצמה באותם פוסטים היא שצריך לזכור שמדובר במודלים סטטיסטיים, לא תבוניים, ללא רצון אנושי, המאומנים על המון טקסט ופועלים תוך כדי חיזוי התו הבא וכו' וכו'.

גם אם רצף המילים והמשפטים הזה הוא נכון ברמה הטכנית, ונועד להרגיע אותנו באופן כלשהו. בפרקטיקה ובשטח זה חסר כל ערך, ואולי הגיע הזמן להתחיל להסתכל על הדברים אחרת.

1. אנחנו מנסים להכניס עולם חדש למושגים ישנים.
זה עוזר לנו להרגיש שאנחנו עדיין בסוג של שליטה, כי אנחנו כביכול מכירים את המושגים, ואולי גם קצת מבינים איך זה עובד. ממש קצת.
אבל מגיע שלב שבו אנחנו צריכים להגיד לעצמנו בכנות שעולם חדש דורש מושגים חדשים.
לא הכל אנחנו מבינים, וטכנולוגיות שמתקדמות בקצב פסיכי יכולות לצאת משליטה.

בואו, כל אבות ה-AI אמרו בעצמם, לא פעם ולא פעמיים, שאפילו להם אין באמת מושג איך הדבר הזה עובד....

2. כאנשי סייבר, בצד ההגנה, ההתקפה וכו', לא באמת אכפת לנו אם מדובר במודל סטטיסטי או ברובוט תבוני משוגע סטייל סקיינט.
בסוף אנחנו רוצים להגן על הארגון שלנו, מהתוקפים שבחוץ וממודלים (ותוקפים) מבית...

זה שמדובר במודל חיזוי, לא תבוני, לא מפחית מהסיכון והאיום שלו עלינו, בכהוא זה.

3. אולי מדובר בתעלול שיווקי מתוכנן מראש.
הרי אחרי שקלוד מית'וס ברח מסנדבוקס לפני כמה חודשים, זה לא מפתיע שפתאום גם ChatGPT בורח פתאום מסנדבוקס וכו'.
כולם צריכים להראות שהם הכי טובים. וזה בסדר.

אבל התפקיד שלנו זה בעיקר להבין שיש כאן משהו אחר.
מודלים שבורחים מסנדבוקס במעבדה בעזרת חולשת Zero-Day שהם מוצאים(!), מבצעים תנועה רוחבית, משתמשים בנתוני הזדהות גנובים, פורצים לתשתיות של חברות צד ג' ועוד, והכל באופן אוטונומי לחלוטין, כדי להשיג מטרה כזו או אחרת, זה פסיכי לגמרי.

אז מה עושים? אני מחזיר אתכם לפוסט הקודם שכתבתי בנושא לפני חודש. לא השתנה הרבה מאז.
השאלה החשובה היא מה השתנה אצלכם... 👀

https://t.me/CyberSecurityIL/9248

🚂חברת הרכבות השווייצרית Stadler מדווחת כי סירבה לשלם דמי כופר של 12.3 מיליון דולר.

קבוצת Everest לקחה אחריות למתקפה כשהיא טוענת שפרצה למערכת באמצעותה Stadler מעבירה מידע לספקים וכו'.

ב-Stadler מדווחים כי הפגיעה היא במערכת חיצונית, וכי מערכות ה-IT הפנימיות של החברה, כמו גם הפעילות העסקית, לא נפגעו כלל.

Stadler will not pay any ransom under any circumstances and is therefore not susceptible to extortion.

https://t.me/CyberSecurityIL/9254

- תוכן שיווקי -

בין תשתית, פיתוח ו-AI נוצרים שטחי הפקר. אבל הם לא חייבים להישאר כסיכון ✅

בוובינר המשותף של ELPC, Upwind ו-CYBEROOT נראה איך מחברים בין Security, DevOps ו-AI Governance, מזהים חולשות אבטחת מידע במוצר, מקבלים ויזביליות אמיתית לסביבת הענן, ומבינים בזמן אמת האם התרחש ניסיון חדירה או פעילות חשודה 🛡

ב-50 דקות ממוקדות תקבלו תמונה ברורה של האתגרים, הסיכונים והפתרונות, כולל הדגמת LIVE של Upwind להתמודדות עם חולשות AI והתקפות אמת בסביבות פיתוח ו-Production.

🗓27.7 | יום שני | 10:00

להרשמה לוובינר לחצו כאן 👉

------------------------------
🛡️ מעוניינים לפרסם בערוץ? דברו איתי

🔔🛡️ כמה תזכורות חשובות:

🪙סקר השכר האנונימי בתחום הסייבר מחכה לכם. קחו 2 דקות ותענו עליו כאן ➡️

📰יש לערוץ חשבון Xוויטר שזמין כאן.

🗯יש לערוץ RSS שזמין כאן.

🎙אתר הראיונות עם קבוצות הכופר זמין כאן.

🧠 אני מפעיל מערך פידים עם מידע סייברי ייחודי 24/7 שזמין כאן.