הרגולטור
687 subscribers
317 photos
488 links
בלוג ופודקאסט על מדיניות רגולציה \\ גיא מור \\ https://regulator.online
התכנים משקפים את דעותיי בלבד
Download Telegram
החסרונות האלו מאוד בולטים בתחום הבינה המלאכותית. מאוד מפתה לקבוע מפרט טכני לאלגוריתמים של בינה מלאכותית. זאת אומרת, שהרגולטורים ממש יגדירו איך לתכנן, לפתח, לאמן ולהשתמש בבינה מלאכותית. הגישה הזו יוצרת בעיות בתחומים יותר מוחשיים ומסורתיים כמו תכנון ובניה. בתחום הבינה המלאכותית זה יהיה בין מזיק לבכלל לא אפשרי, בגלל בעיית הקופסה השחורה.

תקני ביצוע
כשרוצים להכווין התנהגות לא חייבים להתייחס לחומרים, תשומות, ותהליכים. אפשרות אחרות היא לדבר על תוצאות. בתחום הרגולציה קוראים לגישה כזו "תקני ביצוע" (performance standards). זאת אומרת - מגדירים תוצאה נדרשת שצריך להשיג או תוצאה אסורה, שאסור שתתרחש. למפוקחים יש חירות וגמישות כיצד לפעול כדי להגיע לתוצאה הנדרשת, בתנאי שהם עומדים בה.
באופן כללי, אני תומך במעבר לתכני ביצוע וחושב שצריך לעשות בהם יותר שימוש על חשבון תקני תהליך (אך לא באופן מוחלט).

אני בספק אם בתחום הבינה המלאכותית ניתן להתבסס רק על תקני ביצוע. הסיבה היא שדי קשה להגדיר תוצאה ברורה שאותה צריך להשיג או שצריך להימנע ממנה. כשקובעים תקן ביצוע אנחנו צריכים להגדיר את היעד ולצידו גם לקבוע מבחן לעמידה ביעד ואת הקריטריונים ואת שיטת המדידה.
בשנים האחרונות רגולטורים ניסו לקבוע תקני ביצוע כחלק מרגולציה על בינה מלאכותית, אבל לעיתים קרובות הם נאלצו להשתמש בתקני ביצוע די כלליים. למשל, כאלו שדיברו על תוצאות "הוגנות". בחלק מהמקרים זה מספיק, אבל לדעתי זה לא נותן מענה לכל הצרכים ברגולציה.
בנוסף, מאוד קשה להגדיר את הרף הנדרש - ואז נשארים עם קריטריונים מאוד לא מוגדרים. מה זה אומר שהמערכת תהיה "בטוחה"? (מהו הרף? מה נחשב מספיק בטוח? מי יקבע את זה בדיעבד?) גמישות היא מטרה חשובה, אבל היא צריכה להגיע עם רמה מסוימת של וודאות ובהירות.

תקני ניהול
דרך שלישית לעצב רגולציה מציעה גישה שונה בתכלית - הרגולטור לא יקבע למפוקחים את התוצאה וגם לא את הדרך. המפוקח הוא שיקבע לעצמו את האמצעים לטיפול בסיכונים. הרגולטור רק יחייב אותו לנתח את הסיכונים ולגבש עבורם תכנית מענה. המפוקח יקבע איך לגשת לסיכונים (דרך הוראת תהליכיות או תוצאתיות) וגם את התוכן שלהן.
לגישה הזו קוראים "תקני ניהול" (management standards). הרעיון הוא שהרגולטור לא מבצע את ניהול הסיכונים, אלא מטיל על המפוקח לבצע את ניהול הסיכונים. המפוקח יבצע הערכה של הסיכונים ויגבש תכנית פעולה (בדרך כלל, באמצעות קביעת נהלים). המעורבות של הרגולטור תהיה ברמות שונות, סביב שאלות כמו - האם המפוקח ביצע הערכת סיכונים, האם הוא גיבש תכנית מענה לסיכונים והאם המפוקח עומד בתכנית שהוא עצמו קבע? לכן רגולציה כזו מגיעה לרוב עם הקמת תהליכי ניהול סיכונים פנימיים וכללי תיעוד.
גישה כזו מטילה על המפוקח לנתח את הפעולות, התהליכים והממשקים כדי לזהות סיכונים, להעריך מה הסיכונים המרכזיים ואז לגבש צעדים לצמצום הסיכונים שהוא זיהה והגדיר. עבודת הניתוח, ההערכה והתכנון היא של המפוקח.

החשיבה על תקני ניהול די חדשה (בת כ-20 שנים). הם בעלי ערך בולט בעיקר במצבים בהם גם תקני תהליך וגם תקני ביצוע לא נותנים מענה מספיק טוב: מצבים שבהם השוק הוא דינמי ומגוון (תקני תהליך לא מתאימים) וגם כשקשה להגדיר או למדוד תוצאה מוגדרת (תקני ביצוע לא מתאימים).
במצבים כאלו, לעיתים אפשר להטיל על המפוקח לבצע את ניהול הסיכונים - ויש מקרים שבהם הוא יוכל לבצע את זה יותר טוב מהרגולטור (זה מצריך מפוקחים מיומנים ומתוחכמים).
משתמשים בגישה כבר לא מעט שנים ברגולציה של בטיחות מזון במפעלים (סוג כזה של תכנית נקרא HACCP).

לפני שנה, נעשה ניסיון לאמץ גישה כזו בתחום הבינה המלאכותית. מכון התקנים האמריקאי (NIST) פרסם מסמך מסגרת לניהול סיכוני בינה מלאכותית. המודל שמוצע במסמך מטיל על החברות המפוקחות לפתח תהליכים, מערכות ולמנות בעלי תפקידים שיזהו ויעריכו סיכונים, ואז יתנו להם מענה. הסטנדרט מדבר גם על נהלים פנימיים, כללים לתיעוד, הדרכות ושהמפוקחים יצטרכו לתעדף את הטיפול בסיכונים - מאפיין מובהק של העברת המשימה מהרגולטור אל המפוקחים. חשוב להבהיר שהמסמך של ה-NIST אינו מחייב. אבל הוא דוגמה מעניינת לאופן שבו אפשר לעצב רגולציה, באופן כללי וספציפית על בינה מלאכותית.

תקני ניהול לא מתאימים לכל מצב, לכל מפוקח ולכל סיכון. אבל בתחום שמתאפיין בכך שאנחנו לא יודעים איך האלגוריתם עובד, כשהאלגוריתמים אוטונומיים, כשהם משתנים באופן תדיר ומאחר שמדובר במערכות מאוד מגוונות - יכול להיות שזה מקרה מתאים (אולי אפילו תגידו - מקרה קלאסי) לאימוץ תקני ניהול.
בעיני האתגר הוא של הרגולטורים, שיצטרכו ללמוד לקבוע וליישם תקני ניהול. נתקלתי בעבר ברגולטורים שאימצו תקני ניהול, אבל בגלל שהם הכירו רק תקני תהליך - הם הפכו את תקני הניהול לתהליכיים ועמוסי בירוקרטיה (למשל, הם דרשו מהמפוקחים להגיש לרגולטור כל הערכת סיכונים וכל תכנית לטיפול בסיכונים, והרגולטור היה משנה את התוכן ומכתיב להם הוראות ספציפיות).


לסיכום
כשבוחנים את כל המאפיינים של הסוגיה ואת האתגרים , אפשר לרכז כמה תובנות ושיעורים שרגולטורים יכולים ליישם כשהם ניגשים לקבוע רגולציה על בינה מלאכותית:

1. להעדיף תקני ביצוע ותקני ניהול, על פני תקני תהליך.
אני ממליץ על זה באופן כללי, אבל במקרה של בינה מלאכותית נראה שזה נכון במיוחד.
להרחבה על אבני הבניין השונות מומלץ לקרוא את נייר המדיניות שכתבתי על הנושא.

2. להשתדל לא להתערב בפיתוח של מערכות.
זה המשך של הנקודה הקודמת - אם מחליטים לקבוע הוראות תהליכיות, עדיף שהן לא יופנו לפיתוח של המערכות. זה גם עולם שהרגולטורים לא ממש שולטים בו, וזה גם אומר ממש להכתיב את הטכנולוגיה. הפוטנציאל לטעות מאוד גדול שם, ובנוסף, רגולציה על פיתוח עלולה ליצור חסמים לטכנולוגיה או להיות אנטי-תחרותית. עדיף לקבוע רגולציה על השימוש והיישום של המערכות, ולא על הפיתוח.

3. לחשוב על תמריצים.
עד עכשיו דיברנו על רגולציה שמופנית באופן ישיר לסיכונים. אבל במקרים רבים הרגולציה מוצלחת בגלל שהיא לא מנסה לעסוק בתופעה הבלתי רצויה עצמה, אלא מטפלת במבנה התמריצים שגורם לשחקנים השונים ליצור תופעות בלתי רצויות ונזקים. זו חשיבה יותר מורכבת, אבל במקרים בהם אפשר לטפל בתמריצים - זה כדאי.

4. דינמיות ושינוי מתמיד.
אנחנו מטפלים בתחום שמתאפיין בקצב שינוי מתמיד. מוצרים חדשים יוצאים לשוק על בסיס שבועי וחדשות דרמטיות מתפרסמות על בסיס חודשי. עד שהשוק הזה יתבסס וקצב השינוי יפחת - צריך רגולציה שתהיה גמישה היום וגם תוכל להשתנות מהר. יש סיכוי שקצב השינוי לא יאט אלא רק יגבר. בכל מקרה, נראה שבתחום הזה שינוי הוא הקבוע היחידי.
🍔 ההמבורגר הזה על אחריותך 🍔
הפוסט מפנה ומבוסס על מקורות מגוונים. מומלץ לקרוא את הפוסט המלא באתר "הרגולטור", שם יש את הלינקים לכל המקורות. גם יותר נוח לקרוא שם.

לקוח נכנס למסעדה במלון הילטון. הוא מזמין המבורגר. "באיזו מידת עשייה תרצה את ההמבורגר שלך?" שואלת המלצרית. "מדיום" הלקוח עונה.
כעבור מספר דקות המלצרית מגישה ללקוח צלחת עם המבורגר בלחמניה, ולצידו צ'יפס.
ההמבורגר נראה מצויין. הלקוח מתחיל לאכול ולהנות מההמבורגר שעשוי בדיוק כמו שהוא אוהב.

אבל מיד המלצרית חוזרת ומגישה ללקוח מסמך משפטי, והוא מתבקש לחתום עליו.
מדובר בכתב ויתור תביעות (waiver). לפי כתב הויתור, הלקוח מוותר על כל תביעה או טענה כלפי המסעדה לגבי נזקים בריאותיים שיגרמו לו כתוצאה מאכילת המבורגר בדרגת עשייה שהיא פחות מ"עשוי היטב" (well-done).
המסמך המשפטי הלחיץ את הלקוח. גם המחשבה שהבשר אולי מסוכן למאכל הרתיעה אותו. ולכן, למרות שהביסים שהוא הספיק לקחת מההמבורגר היו מצויינים - הוא ויתר. הלקוח שילם את החשבון ועזב את המסעדה, בלי לאכול את ההמבורגר ובלי לחתום על המסמך.

הסיפור הזה אמיתי. הוא התרחש לפני שבועיים בטורונטו, קנדה.
הלקוח פרסם אותו באתר reddit והצית דיון סוער. [🔗באתר "הרגולטור" יש לינק לפוסט הזה ולעוד הרבה מקורות שמוזכרים בהמשך, כולל תמונות ותרשימים להמחשה]
אחת הסיבות שהסיפור הזה הקפיץ הרבה אנשים היא שמקובל בעולם להגיש בשר בדרגת עשייה מדיום.

◀️ טעות עסקית
כנראה שהתוצאה של האירוע הזה הייתה ידועה מראש. מנהלי המסעדה בוודאי ידעו שזה מאוד מרתיע לקוחות לחתום על מסמך משפטי באמצע מסעדה. זה בוודאי לא עוזר שהמסמך מעלה את האפשרות שהאוכל יהיה מקולקל.
אגב, אם המסעדנים באמת רוצים להגן על עצמם כנראה שעדיף להם להחתים את הלקוח על כתב הויתור לפני שהוא מזמין את המנה. שזה עוד יותר בירוקרטי ופוגע בחוויה.

מסעדה לא תטרח סתם לשלם לעורך דין שיינסח כתב ויתור תביעות, וגם לפגוע בחוויה של הלקוחות. היא תעשה את זה אם היא חייבת.
או כי מישהו חייב אותה ישירות, או כי היא נאלצת לעשות את זה בגלל אילוץ אחר, למשל חשש מתביעות.
אף מסעדן שפוי לא היה עושה את זה סתם.

מטעם רשת הילטון שמפעילה את המסעדה נמסר (תרגום חופשי שלי): "כשלקוח מבקש מנת בשר בדרגת עשייה הנמוכה מהמינימום שנדרש מאיתנו, המלון מוסר להם כתב ויתור כאמצעי בטיחות מזון. הנוסח של כתב הויתור תואם למה שנהוג לציין בתחתית תפריטים של מסעדות".

והנה קיבלנו רמז לסיבה שהמסעדה עשתה את זה. המסעדה משתמשת בכתב הויתור רק כשהלקוח מבקש רמת עשייה שנמוכה מהמינימום שנדרש מהמסעדה. מי קובע את המינימום *שמחייב* את המסעדה?

◀️ התרומה של הרגולציה
המסעדה לא הכניסה את עצמה לצרה הזו מיוזמתה.

משרד הבריאות של מחוז אונטריו בקנדה (בו טורונטו נמצא) פרסם בשנת 2018 מסמך שקובע כללי בטיחות מזון לעוסקים במזון. באותו מסמך נקבע שבשר בקר יש לבשל לטמפרטורה של לפחות 71 מעלות צלזיוס.

דרישה תואמת מופיעה במסמך נוסף של משרד הבריאות הקנדי (הפדרלי) לעניין בישול, טיפול וסימון בשר. סעיף 1.3 עוסק בסימון ובהנחיות לבישול בבשר. ההמלצה היא לכתוב שיש לבשל בשר עד לטמפרטורה פנימית בטוחה, ובבשר בקר מדובר בטמפרטורה של לפחות 71 מעלות צלזיוס.
זה נוסח הסעיף:
“Health Canada recommends including the following five statements on the Safe Cooking and Handling Label. [...]
3. Cook to a safe internal temperature - ground meat to 71C (160 F), ground poultry to 74 C (165 F).”


דרגת העשייה של בשר מושפעת מהתהליך שהבשר עובר כתוצאה מחימום, זאת אומרת שהיא נקבעת לפי הטמפרטורה של הבשר. דרגת עשייה "מדיום" מתקבלת מבישול לטמפרטורה של 60-65 מעלות צלזיוס. תחממו את הבשר יותר - תקבלו מידת עשייה שונה. הקנדים קובעים שכדי שבשר יהיה בטוח למאכל יש לבשל אותו ל-71 מעלות צלזיוס. ולכן הרגולטור למעשה קובע שלא בטוח לצרוך בשר בדרגת עשייה מדיום (וכמובן גם בכל דרגת עשייה נמוכה יותר).


אגב, בקוד הרגולטורי של קנדה לעסקים שמשווקים ומכינים מזון, בנספח B יש הגדרות לרמות עשייה לפי טמפרטורה. שם מופיע שמידת עשייה "מדיום" בבשר בקר היא 71 מעלות צלזיוס. כל מי שמבין קצת בבשר יודע שזה לא נכון, וב-71 מעלות תקבלו מדיום-וול.
אבל בהקשר הרגולטורי - אם מדיום מתקבל בבישול של 71 מעלות צלזיוס, מה בכלל הבעיה? אם הלקוח הזמין המבורגר במידת עשייה מדיום - שהמסעדה תכין לו "מדיום" של 71 מעלות, ואז היא לא צריכה לקחת סיכון או להחתים לקוחות על טפסים. המסעדה נאלצה לעשות את זה, כי הרגולטור טעה בהגדרה.
הרגולטור כנראה מבין בבטיחות מזון, אבל פחות מבין בקולינריה ומידות עשייה של בשר. זה בסדר, הרגולטור אמור לקבוע כללים ולא להבין בפרקטיקה של ניהול עסקים. ולכן עדיף שהוא לא ייכנס לתחומים שאין לו הבנה, ויכתוב שגיאות במסמכים רשמיים.

◀️ רגולציה או המלצה?
◀️ רגולציה או המלצה?
על פניו המסמכים של מחוז אונטריו ושל משרד הבריאות הקנדי בכלל לא מחייבים. המסמך של מחוז אונטריו מוגדר כ"מדריך" (Guide). המסמך של משרד הבריאות הקנדי הוא נוהל, אבל המילה שמשמשת אותם היא Guidance - מאותו שורש כמו Guide.
אם המסמכים האלו הם רק מסמכי הדרכה, אולי הם רק המלצה? אולי הם לא מחייבים, אלא רק נועדו למסור מידע וולונטרי ולסייע למפוקחים?

זה מזכיר את הנוהג - בעולם וגם בישראל - לעמעם את המעמד של מסמכים רגולטוריים. בעולם משתמשים במונח Guidance. בישראל משתמשים במונח "הנחיה" - שהוא לא "הוראה" וגם לא "המלצה". וככה המעמד של המסמך לא ברור ונוצרת אי וודאות.

אם לשפוט לפי ההחלטה של המסעדה בפועל - למסמכים שהרגולטורים בקנדה פרסמו יש מעמד מחייב, ברמה כלשהי. אחרת המסעדה לא הייתה טורחת להתמודד איתם.

אפשרות אחת היא שהמסמכים האלו מחייבים רגולטורית לכל דבר. זאת אומרת, שהמפקחים של הרגולטור מבצעים פיקוח ואכיפה לפי המסמכים האלו ומטילים סנקציות כאשר יש חריגים מהם.
אפשרות שנייה היא שהרגולטורים לא עוסקים באכיפה של מה שכתוב במסמכים, כי מנגנון האכיפה המרכזי של המסמכים הוא אכיפה אזרחית. זאת אומרת שבלי קשר לאכיפה הממשלתית, אזרח שנפגע יכול לתבוע את המסעדה. ויהיה לכם יותר קל לתבוע את המסעדה אם הרגולטור קבע שבשר שבושל לטמפרטורה שנמוכה מ-71 מעלות צלזיוס אינו בטוח לצריכה.
ואולי גם יש כאן פתח לתובענה ייצוגית, שלקוח אחד יגיש בשם כל מי שאכל בשר במסעדה. תובענה ייצוגית יוצרת סיכון משפטי הרבה יותר גדול.

◀️ הוצאתם לי את התאבון
כל הסיפור הזה עקום. ההתנהלות של המסעדה נשמעת חסרת היגיון ואפילו מטופשת. עד שמבינים שהם כנראה מתגוננים מפיקוח ואכיפה של הממשלה או מתביעות אזרחיות, שמבוססות על נהלים ממשלתיים.

יש סיכון בכל דבר. ובשר שלא בושל היטב עלול להיות גורם סיכון. אבל במסגרת ניהול הסיכונים שרוב הממשלות והאזרחים עושים, אנחנו לא נמנעים באופן מוחלט מבשר שלא בושל למידת עשייה של מדיום-וול. מקובל שקבוצות סיכון כמו נשים בהריון נמנעות מבשר שלא בושל לגמרי, אבל לא מטילים איסור או מגבלה על האוכלוסיה הכללית.
זו גם דוגמה לכך שכל דבר הוא עניין של פשרות ושל עלות-תועלת. בישול בשר למידת מדיום-וול מקטין את הסיכונים התברואתיים, אבל בחלק מהמנות גם הופך את הבשר לקשה, יבש ופחות טעים משמעותית.

אבל יש פה עוד שאלות, למשל - אם זו הרגולציה, למה לא שומעים שזה קורה בכל המסעדות בקנדה או במחוז אונטריו? אני משער שזה קשור ליישום לא עקבי ולא אחיד של הרגולציה בשטח.

הלקוח והגולשים באינטרנט ביקרו את המסעדה על המדיניות הקיצונית שלה. אבל אי אפשר לנתק את זה מהרגולציה. כנראה שהמסעדה נקטה בצעדים קיצוניים בגלל שהיא התמודדה עם מציאות רגולטורית מחמירה ומרחיקת לכת.

__
הפוסט המלא מפורסם באתר "הרגולטור", כולל לינקים למקורות ולפוסטים נוספים בהנושא.
הבוקר נתקלתי במימ הזה, שמצביע על כשל נפוץ של מקבלי ההחלטות (ושל הציבור).
משום מה האופטימיות הזו חוזרת על עצמה בהרבה תחומים.
בפוסט הזה כתבתי על הכשל הזה, באמצעות שני סיפורים על רגולציה עם תוצאות מפתיעות.
תכנית למלחמה במשבר האקלים
לחצו כאן לקריאת הפוסט המלא בבלוג

לפני המלחמה בעזה ולפני הסערה המשפטית בישראל, כולם הוטרדו ממשבר האקלים. ובזמן שאנחנו היינו עסוקים בשחרור חטופים מעזה, התקיימה ועידת COP28, שעסקה בצמצום פליטות פחמן דו חמצני. היעד הרשמי: הגעה לאיפוס פחמן (net zero carbon) עד שנת 2050.

יש מספר צעדים מוכרים שעליהם מדברים: מס על פחמן, פריסת פאנלים סולאריים, התקנת טורבינות רוח והסבת מגזר התחבורה משימוש במנועי בעירה למנועי חשמל.
יש צעד נוסף שלא זוכה לאותם יחסי ציבור, אבל הוא ממלא תפקיד מרכזי בצמצום פליטות הפחמן: מעבר לשימוש באנרגיה גרעינית (להרחבה - ראו את סדרת הפוסט בנושא).
נראה שלמרות הפחד המסורתי מאנרגיה גרעינית, לאט לאט הציבור והממשלות משתחררים ממנו. במשך שנים הייתה חלוקה מסורתית ברורה: מי שתמך במדיניות סביבתית גם התנגד לשימוש באנרגיה גרעינית. ולכן כשדיברו על אלטרנטיבה לפחם, נפט וגז - זה תמיד היה פאנלים סולאריים וטורבינות רוח.
אבל נראה שזה משתנה. בוועידת COP28 הכירו לראשונה בחשיבות הקריטית של אנרגיה גרעינית לצמצום סיכוני משבר האקלים.


היתרונות של אנרגיה גרעינית

1. מינימום פליטות פחמן.
גרעין הוא מקור האנרגיה שיוצרת הכי מעט פליטות פחמן. לא רק בשלב הייצור, אלא בניתוח מחזור חיים מלא (full life cycle). אם נשווה אנרגיה גרעינית לפאנלים סולאריים - שימוש בפאנלים סולאריים יצריך פי 17 יותר חומרים ופי 46 יותר שטח אדמה, בהשוואה לאנרגיה גרעינית. יותר חומר ויותר אדמה = יותר פליטות פחמן, יותר חתימה סביבתית ויותר עלויות.


2. יותר אנרגיה בפחות מחיר ופחות זיהום.
קילו אורניום מאפשר לייצר בערך פי שני מיליון יותר אנרגיה מקילו נפט (זה נקרא גם צפיפות אנרגטית). וכמובן שזה ייצור אנרגיה נטול פליטת זיהומים (חלקיקים) וגם נטול פליטות פחמן.
זה אומר שבנוסף ליעילות של האנרגיה הגרעינית עצמה, היא גם חוסכת את הצורך לשנע דלקים (ואת העלות שנלווית לשינוע). במונח של נפח - חתיכת אורניום בגודל של תפוח, שקולה למספר חביות נפט. זה דרמטי בעלויות בשינוע ובחתימה הסביבתית של השינוע.
למידע נוסף על אנרגיה גרעינית, אני ממליץ על מאגר המידע של הסוכנות הבין-לאומית לאנרגיה גרעינית.

3. אמינות ויציבות.
אנרגיה גרעינית לא תלויה במשתנים חיצוניים כמו מזג אוויר. האלטרנטיבות הירוקות האחרות הן פאנלים סולאריים - שלא פעילים בלילה, כשיש עננות או אובך; וטורבינות רוח - שלא פעילות כשאין רוח.
אם אנחנו מחפשים מקור אנרגיה מרכזי, ולא מקור אנרגיה שישמש ל-5% מייצור החשמל שלנו, אנחנו צריכים מקור אמיר ויציב, שלא יגרום להפסקות חשמל כשיש עננים או כשהרוח נחלשת*. אנרגיה גרעינית היא מקור האנרגיה הירוק האמין ביותר.

* פתרונות אגירת אנרגיה מיועדים לתת לכך מענה. אבל כיום הם מאוד יקרים, מוגבלים בקיבולת שלהם וכרוכים בעוד קשיים ישומיים.

4. זמינות בטווח הארוך.
כיום אנרגיה גרעינית מבוססת על אורניום ופלוטוניום. בעתיד היא כנראה תתבסס על חומרים אחרים, כמו תוריום. אורניום הוא אחד היסודות הנפוצים שאפשר למצוא. יש כל כך הרבה אורניום שהוא יכול להספיק לנו למאות שנים. המחקר העדכני יותר עוסק בשימוש ביסוד אחר - תוריום - שהוא הרבה יותר בטוח מאורניום (בלתי אפשרי להשתמש בו לשימושים צבאיים) והוא גם הרבה יותר נפוץ בטבע.

ומה לגבי החסרונות? הערה על הסיכונים
עצם השימוש באנרגיה גרעינית לא יוצר פליטת חלקיקים או פליטת פחמן. גרעין היא אנרגיה נקייה - גם מבחינה סביבתית (חלקיקים מזהמים) וגם מבחינה אקלימית (פחמן דו חמצני וגזי חממה אחרת).
הסיכון הוא לא בשדה הסביבתי, אלא בשדה הבטיחות, כי מדובר בחומרים רדיואקטיביים (שמייצרים פסולת רדיואקטיביים, ויכולים להביא לתקריות חמורות כפי שקרה בצ'רנוביל למשל). מצד שני, אנרגיה גרעינית מייצרת מעט פסולת (כי צריך מעט חומר, ראו מעלה). ובהחלט צריך לטפל בהם באופן זהיר, למשל לאחסן את הפסולת במקום בטוח (מתקני אחסון מבטון).
רק שזה מה שעושים כבר בערך 70 שנים. מדינות מסביב לעולם (כמו צרפת ופינלנד) שמשתמשות באנרגיה גרעינית בנו וממשיכות לבנות אתרי אחסון לפסולת רדיואקטיבית. צרפת מבססת כ-75% מהאנרגיה שלה על מקורות גרעיניים, זאת אומרת כבר הרבה שנים יש שם המון תחנות כוח גרעיניות פעילות, שגם מייצרות פסולת. שמעתם על זיהום בגלל פסולת רדיואקטיבית בצרפת? מה לגבי סלובקיה, הונגריה, בלגיה, צ'כיה, שוויץ או נורבגיה?
נראה שזה בהחלט ישים לאסוף את מעט הפסולת הרדיואקטיבית ולשמור אותה היטב במתקנים ממוגנים.
איפה אנחנו היום?
כיום אנרגיה גרעינית מהווה כ-10% מסך צריכת האנרגיה שלנו. ואם מסתכלים רק על אנרגיות ירוקות: האנושות מייצרת בערך 25% מהאנרגיה הירוקה שלה (זאת אומרת, אנרגיה דלת פחמן) ממקורות גרעיניים. אפשר להרחיב את השימוש באנרגיה הגרעינית - גם על חשבון אנרגיות פוסיליות וגם על חשבון אנרגיות ירוקות אחרות (שהן יותר יקרות ויותר מזהמות).
אני לא אומר שזה צריך להיות מקור האנרגיה היחיד שלנו. זה יהיה קו קיצוני וגם לא חכם, כי אנחנו זקוקים לתמהיל אנרגטי מגוון.
אבל יש יתרונות בהגדלת השימוש באנרגיה גרעינית - כך יותר אנשים יהנו מאנרגיה נגישה וזולה, ופחות אנשים יסבלו מהסיכונים המיידיים (כמו זיהום חלקיקי) ומהסיכונים ארוכי הטווח (כמו פליטות גזי חממה).

אז למה זה לא קורה? (ובכל זאת, מה לגבי הסיכונים?)
ולמרות כל הטוב הזה יש סיבה שזה לא קורה. בעיני זו לא סיבה מספיק משכנעת, אבל זו סיבה שצריך להתחשב בה. הפחד. בהיסטוריה התרחשו ארבעה אירועים משמעותיים שעיצבו את התודעה ואת הפחד מאנרגיה גרעינית (היו עוד, אבל יש ארבעה אירועים מוכרים שצרובים בתודעה הקולקטיבית).
- האירוע הראשון הוא הטלת הפצצות הגרעיניות על הירושימה ונגסקי באוגוסט 1945. העולם הכיר את הטכנולוגיה הגרעינית קודם כל ככלי נשק צבאי, ואחר כך למד שיש לה שימושים אזרחיים.
- האירוע השני הייתה תקלה בתחנות הכוח בארה"ב ב- three miles island, ב-1979. לא מדובר באירוע עם נזקים חמורים, אבל הכשלים בהקמה, בתפעול ובניהול התקרית המחישה את הסיכונים וחידדה את החששות.
- האירוע השלישי היה התאונה הקטלנית בצ'רנוביל, ב-1979. זו התאונה עם הנזק הממשי ביותר. היא התרחשה בכור שלא עמד בסטנדרטים מינימליים (בכל זאת, חצר אחורית של ברית המועצות). האירוע הזה הוא באמת תמרור אזהרה חמור. למזלנו, בשאר העולם לא בונים ולא מתחזקים כורים בסטנדרט הזה. רוב העולם עשה עבודה יותר טובה גם קודם.
- האירוע הרביעי הוא התקרית בפוקושימה יפן בשנת 2011. רק שזה לא באמת היה אירוע גרעיני. האזור ספג רעידת אדמה וצונאמי, שפגעו בתפקוד של הכור. אבל למרות זאת, המנהלים של הכור הצליחו להשתלט על האירוע. זאת אומרת, למרות נסיבות חיצוניות הרבה יותר חמורות מאשר בצ'רנוביל, התוצאה הייתה טובה בהרבה.

בשורה התחתונה - אנשים מפחדים מאנרגיה גרעינית. אנחנו מפחדים מהמילה "רדיואקטיבי", וגם מבלבלים בין אנרגיה גרעינית אזרחית לבין נשק צבאי (למרות שתחנת כוח אזרחית לא יכולה להתפוצץ כמו נשק גרעיני צבאי). ובאופן כללי יש תחושה שגם אם ההסתברות לאירוע נמוכה, החומרה בוודאות מאוד גבוהה.

האתגר שעומד בפני העולם, כדי לאמץ אנרגיה גרעינית מורכב מפערים של חוסר אמון, וגם השקעה בתחנות הכוח הגרעיניות. ככל שנשקיע בבטיחות (לא בהכרח בהחמרה בסטנדרטים, אלא דווקא בתקשור של רמת הבטיחות) - נוכל לבנות אמון.

תכנית שלושת השלבים
אז איך עושים את זה? לפני שלוש וחצי שנים פרסמתי סדרת פוסטים בשם "האנרגיה של העתיד". הגעתי למסקנה שאנרגיה גרעינית חייבת להיות חלק ממקורות האנרגיה שלנו. השאלה הגדולה היא איך מגיעים לשם. מאחר שיש פה שינוי גדול שמערב מחקר, בנייה, רגולציה, ניהול ותקשור סיכונים וגם אמון ציבורי - יידרש תהליך הדרגתי. ככה אני מציע לגשת אליו.


שלב 1: הכרה פומבית ביתרונות של אנרגיה גרעינית
תחילה צריך שיותר אנשים ידעו שאנרגיה גרעינית היא מקור אנרגיה אמין וזול, ולא פחות מכך - נטול זיהום סביבתי ודל פחמן. ההבנה הזו צריכה לחלחל לממשלות, יזמים פרטיים, גופי חברה אזרחית (כולל ארגוני סביבה) ובקרב הציבור הרחב.
זה צעד הכרחי כדי שיותר השקעות יופנו לתחום - למטרות מחקר ופיתוח, ולמטרות של הקמת תחנות כוח חדשות.
אני כותב את הפוסט הזה כי נראה שהשלב הזה התחיל - ועידת COP28 של האו"ם הכירה באנרגיה הגרעינית כאמצעי חשוב להתמודדות עם משבר האקלים (אולי זה קשור למחסור באנרגיה שהמלחמה באוקראינה יצרה לאירופים). בכל מקרה, זה צעד פומבי ראשון של שינוי הגישה כלפי גרעין, אחרי שנים שממשלות 'ירוקות' וארגוני סביבה נמנעו מכך.

שלב 2: שינוי מדיניות
ממשלות ושחקנים גדולים אחרים יפעלו באופן ממשי כדי להגביר את השימוש באנרגיה גרעינית. השלב הזה כולל השקעה ציבורית בפרויקטים כאלו. למשל, במקום לסגור תחנות כוח גרעינית (גרמניה, אני מסתכל עליך) - להקים ולפתוח תחנות כוח גרעינית חדשות. השלב הזה יכלול גם הסרה של חסמים רגולטוריים בולטים כדי לאפשר הקמה ותפעול של תחנות. חוץ מממשלות, גם גופים גדולים כמו מוסדות פיננסיים (מממנים של פרויקטים גדולים) ויזמים בתחום - צריכים לדעת שכדאי להם להיכנס לפרויקטים כאלו (מבחינה ציבורית, כלכלית ורגולטורית).
שלב 3: שינוי עומק של הרגולציה
אחרי שהתפיסה הציבורית תותאם, וגם יהיה שינוי מדיניות - יידרש תהליך ממושך ומעמיק של שינוי הרגולציה. במדינות שבהן קיימת רגולציה מכבידה (בראשן ארה"ב) צריך יהיה לצלול לפרטי הפרטים ולתקן את הרגולציה (אפשר גם לכתוב אותה מחדש). במדינות שבהן אין רגולציה - בעיקר כי אנרגיה גרעינית אסורה ולכן לא קיימת - צריך יהיה לייצר מהבסיס רגולציה שתהיה איכותית, תספק בטיחות אבל גם תאפשר גמישות תפעולית והקמה של תחנות בעלויות סבירות. מעבר לעלויות הציות הישירות, הרגולציה גם צריכה להיות צפויה ולספק וודאות.

אתגר גלובלי - פתרון גלובלי?
ואולי זה לא עניין למדינה אחת. כפי שהעיסוק באקלים נתפס כסוגייה גלובלית, גם הפתרונות יכולים (אולי צריכים) להיות גלובליים. אנרגיה גרעינית יכולה להיות אמצעי משמעותי במאמצים בתחום האקלים ובתחום הסביבה. אולי שחקנים עולמיים צריכים לקחת חלק בתהליך. למשל, האו"ם (באמצעות הסוכנות הבין-לאומית לאנרגיה גרעינית - סבא"א) יכול להוביל את המהלך ויגדיר את הסטנדרט שנדרש ממדיניות ומרגולציה בתחום. או שארגונים סביבתיים ידרשו שיפור של הרגולציה על אנרגיה גרעינית כדי שהיא תספק בטיחות, אך במחירים סבירים.

אם אנחנו באמת רציניים לגבי הסוגיה האקלימית אנחנו צריכים מקורות אנרגיה אמינים, בטוחים, זולים וירוקים. יש מקור אנרגיה כזה שיש לו עוד המון פוטנציאל לשיפור עתידי. חבל על הזמן. חבל על כל יום שבו אנחנו לא משתמשים יותר באנרגיה גרעינית במקום פחם, נפט וגז.
זה קורה! חוק ה-AI של אירופה מתקדם לשלב הסופי.
היום שתי הוועדות בפרלמנט האיחוד האירופי אישרו את הנוסח הסופי של החוק.
בקרוב אפרסם סקירה וניתוח של החוק הסופי.

https://www.europarl.europa.eu/news/en/press-room/20240212IPR17618/artificial-intelligence-act-committees-confirm-landmark-agreement
חוק ה-AI של אירופה יוצא לאוויר העולם: מה יש בו?
מומלץ לקרוא את הפוסט המלא באתר

לפני שבוע שתי ועדות של הפרלמנט האירופי אישרו את הפשרה בין הפרלמנט לנציבות (ה"ממשלה") של האיחוד האירופי לגבי החוק. בכך נסללה הדרך לחוקק את החוק ובקרוב מאוד הוא יתקבל באופן רשמי. למי שרוצה להעמיק - כתבתי כאן לפני חצי שנה כאשר הצעת החוק אושרה בפרלמנט האיחוד האירופי. ולפני שלושה שבועות ניתחתי והצגתי איך לדעתי כדאי לבנות את הרגולציה על בינה מלאכותית. [לינקים להכל - באתר האינטרנט]

המטרה של הפוסט הזה היא להציג לכם את החוק שעומד להתקבל, לפי הנוסח שאושר והוסכם.
זו סקירה רוחבית ולא מאוד מעמיקה. כדי שלא להאריך מאוד, לא אוכל להיכנס לכל ההיבטים והסוגיות. אם תכתבו לי שהנושא מעניין אתכם - יש סיכוי שהפוסט הזה יהפוך לסדרה עם עוד חלקים.

מוכנים? בואו נצלול לחוק ונראה מה מחכה לנו.

⬅️ על מה מדובר? מהו חוק ה-AI?
חוק ה-AI הוא המסגרת החוקית-רגולטורית שמיועדת להסדיר את המכירה ואת השימוש בבינה מלאכותית באיחוד האירופי. מטרתו הרשמית היא להבטיח את התפקוד התקין של השוק על ידי קביעת סטנדרטים עבור מערכות בינה מלאכותית במדינות החברות באיחוד האירופי.
זו הרגולציה המקיפה הראשונה בעולם שמתייחסת לסיכונים מבינה מלאכותית ומטפל בהם באמצעות מערכת של חובות ודרישות שמטרתן לשמור על הבריאות, הבטיחות וזכויות יסוד. בגלל שהאיחוד האירופי הוא שוק ענק עם סחר בין-לאומי מפותח ולאור ההגדרות הרחבות בחוק, לחוק צפויות להיות השפעות בקנה מידה עולמי.

⬅️ 1. על מי החוק חל?
ההגדרה בחוק הסופי רחבה מאוד. החוק חל על מערכת בינה מלאכותית ("AI system"). איך החוק מגדיר את זה? ככה:
"a machine-based system designed to operate with varying levels of autonomy and that may exhibit adaptiveness after deployment and that, for explicit or implicit objectives, infers, from the input it receives, how to generate outputs such as predictions, content, recommendations, or decisions that can influence physical or virtual environments"

המוקד של ההגדרה הזו היא האוטונומיות של המערכת. זאת אומרת, המערכת מתפתחת, לומדת ומשתנה. בניגוד למערכת טכנית שהתוצאה או הפלט שלה ודאיים וידועים מראש. עוד מילת מפתח מעניין היא "infers" - בעברית: "מסיק מסקנות". זאת אומרת, אנחנו מדברים על מערכות אוטונומיות שהן גם מערכות חושבות. ההגדרה הזו צלצלה לי מוכר. נראה לי שהם אימצו את ההגדרה של ה-OECD.
ההגדרה בנוסח הסופי שונה מההגדרה בהצעת החוק המקורית, שהתבססה על רשימה יותר סגורה ומוגדרת של טכנולוגיות.
לשינוי ההגדרה יש כמה השפעות: נראה שזו הגדרה רחבה יותר שתחול על יותר מערכות; היא ניטרלית מבחינה טכנולוגית; ובגלל שזו הגדרה מהותית ולא טכנית - נראה שהיא תהיה רלוונטית למשך יותר זמן.

⬅️ 2. המודל המרכזי של החוק: ניהול סיכונים
החוק מתבסס על גישה של ניהול סיכונים. הם חילקו את המערכת והתרחישים השונים לארבע קבוצות:
- סיכון בלתי נסבל (unacceptable risk);
- סיכון גבוה (high risk);
- סיכון נמוך / מוגבל (limited risk);
- סיכון מינימלי / מזערי (minimal risk).

🔸מערכות שיוצרות סיכון בלתי נסבל
מערכות ושימושים שיוצרים סיכון בלתי נסבל יהיו אסורים. בקבוצה הזו נכללים: מערכות שמנצלות חולשות אנושיות (של קבוצה או של הפרט), מערכת ניקוד חברתי, ועוד.
במקור, רשימת האיסורים המוחלטים כללה גם שימוש ב-AI לזיהוי ביומטרי בזמן אמת למטרות אכיפת חוק (למשל, מצלמות שמבצעות זיהוי פנים כדי לאתר פושעים). בחודשים האחרונים היה באירופה דיון מקיף על האיסור הזה, כי הממשלות וגופי אכיפת החוק מאוד רוצים להשתמש ב-AI למלחמה בפשיעה ובטרור.
בנוסח הסופי, ריככו את האיסור והוסיפו חריגים. הוחלט לקבוע חריג לאיסור המוחלט הזה: מותר יהיה להשתמש בזיהוי ביומטרי בנוגע לרשימה של מטרות מותרות כמו חיפוש וזיהוי קורבנות של סחר בבני אדם או עבירות מין; או לצורך מניעת מתקפות טרור. גם כשהחריג חל, ההפעלה שלו לא פשוטה - צריך לבצע בחינה מעמיקה, ולקבל צו שיאשר את זה.

🔸מערכות שיוצרות סיכון גבוה
מערכות שיוצרות סיכון גבוה - יהיו כפופות לשורה של מגבלות, חובות ותנאים. זו ליבת החוק. במקור פרלמנט האיחוד האירופי העריך שרק 20% מהמערכות והמוצרים יפלו לקבוצה הזו. שמעתי הערכות שהמספר האמיתי כנראה גבוה יותר.

🔸מערכת ברמות סיכון נמוכות:
מערכות שיוצרות סיכון נמוך - יהיו כפופות בעיקר לחובות שקיפות (לפי ההערכות של האירופים הרוב המכריע של המערכות נופלות בקבוצה הזו) והוראותיו די פשוטות.
מערכת שיוצרת סיכון מינימלי - על מערכת כאלה אין דרישות מכוח החוק.

עיקר המשחק והדיון הוא בין הקבוצה שבסיכון גבוה לקבוצה שבסיכון נמוך.
⬅️ 3. החובות שחלות על מערכות בסיכון גבוה
גם פה צריך להתחיל בהגדרה - מה היא מערכת בסיכון גבוה? החוק קובע שתי חלופות להגדרה של מערכת ככזו בסיכון גבוה:

- מערכת AI שמיועדת לשמש כמוצר (או רכיב) שכפוף לחקיקה ספציפית של האיחוד האירופי, כמו תעופה, אבטחת רכב, ציוד ימי, צעצועים, מעליות, וציוד מגן אישי.
- מערכות AI שמפורטות בנספח 3 לחוק. הנספח כולל מערכות זיהוי ביומטרי מרחוק (אבל לא בזמן אמת / לאכיפת חוק), מערכות שהן חלק מרכיב בטיחות בתשתיות קריטיות ומערכות שמשמשות בתחומי החינוך, תעסוקה, ניקוד אשראי, אכיפת חוק, הגירה ותהליך דמוקרטי.
אבל תחת החלופה הזו יש חריג: אם המערכת לא יוצרת סיכון משמעותי לבריאות, לבטיחות או לזכויות אדם בסיסיות - היא לא תחשב כמערכת בסיכון גבוה (ותסווג כמערכת בסיכון נמוך). בכל מקרה, גם מערכת שנכנסת תחת החריג, צריכה להירשם כמערכת בסיכון גבוה שקיבלה חריג.
הקבוצה הראשונה מזהה תחומים לפי העובדה שכבר יש עליהם רגולציה, ולכן זה פרוקסי לכך שרמת הסיכון בהם גבוהה. הקבוצה השניה מפנה לרשימה של תחומים רגישים, שמספיק שנוגעים בהם - ומדובר בסיכון גבוה.

ההגדרה לא סגורה לחלוטין ולכן עוד צפויים דיונים סביב הפרשנות של ההוראות והחריגים שלהם. אולי זה יהיה בנהלים של נציבות האיחוד האירופי ואולי זה יגיע גם לבתי המשפט.

למשל, החריג לחלופה השניה (מערכת בתחום רגיש מתוך הרשימה שבנספח 3, אבל שלא יוצרת סיכון לבריאות, בטיחות או זכויות בסיסיות) - יהיה מאוד חשוב. החריג מתאים מאוד למערכות שמבצעות משימה טכנית ו"סגורה", או מערכת שמשלימה פעולה אנושית אבל לא מחליפה שיקול דעת אנושי ולא מבצעת פעולה חדשה, או מערכת שכפופה לבקרה אנושית. מצד שני, אם המערכת מסווגת בני אדם לקטגוריות, למשל באמצעות profiling - היא תחשב מערכת בסיכון גבוה.
הרבה חברות (ומדינות שמשתמשות ב-AI) ירצו להיכנס לגדרי החריג ויטענו שהמערכת שלהן לא מציבות סיכון לבריאות, לבטיחות או לזכויות בסיסיות. זה עומד להיות מוקד מרכזי בעיסוק סביב החוק.

🔸ומה החובות עצמן?
מערכת AI בסיכון גבוה תהיה כפופה למשטר מחמיר של דרישות רבות. למשל - המפעיל / ספק של המערכת נדרש לבצע הערכת סיכונים, להתבסס על מידע באיכות גבוהה, לתעד את ההחלטות המרכזיות בפיתוח ובאימון המערכת (גם במישור האתי וגם במישור הטכנולוגי), לאסוף ולשמור תיעוד על הביצוע של המערכת, לגלות למשתמשים מידע על התכלית של המערכת, לוודא שיש פיקוח אנושי שמסוגל להתערב בפעילות של המערכת ועוד.
דרישה נוספת היא לבדוק מראש שהמערכת עומדת בדרישות של החוק, לפני הפעלה מסחרית שלה ולפני מכירה שלה. כמו שהזכרתי קודם, המערכות ברמת סיכון גבוהה ירשמו במרשם מסודר של האיחוד האירופי שגם יהיה נגיש לציבור.

🔸 ויש עוד חובות: על משתמשים, מפיצים ועוד
בכל הנוגע למערכות בסיכון גבוה, החוק מטיל חובות רבות על המון שחקנים. העיקרון הזה מרחיב מאוד את מעגל המפוקחים. למשל, קניתם מוצר שיש בתוכו רכיב AI - מזל טוב, אתם כפופים לחוק (תרשמו, תתחילו לתעד, תבצעו הערכת סיכונים ועוד ועוד).
החוק מטיל חובות על הספק (provider) של מערכות בסיכון גבוה, וגם על מי שמיישם אותה (deployer). החוק חל גם על מעגל שני: על מי שייבא או מכניס אותה לאיחוד האירופי (importer), למי שמפיץ (distributor). היבואן והמפיץ בעיקר צריכים לאמת שהמערכת שהם מכניסים או משווקים באיחוד האירופי עומדת בכללים. על פניו מצבם הכי טוב כי הם לא "פותחים את הקופסה" ולכן הם נדרשים רק באימות מבחוץ.
המיישם צריך להבטיח שיהיה פיקוח אנושי על המערכת - גם ברמת הביצועים וגם כדי לתעד, לאסוף ולנתח את המידע על הפעילות שלה. חובת שמירת המידע חלה במינימום למשך שישה חודשים.
⬅️ 4. חובות מיוחדות על ממשלות וגופים פיננסים
אם גוף ציבורי או גוף פיננסי (למשל, בנק או חברת ביטוח) רוצים להשתמש במערכת AI בסיכון גבוה - חלות עליהן בנוסף עוד הוראות. בדרך כלל הגופים האלו יפלו בקלות לאחת ההגדרות של מערכת בסיכון גבוה.
הם נדרשים לבצע מראש הערכת השפעות על זכויות בסיסיות, או בקיצור - FRIA. זה האח הקטן והטרי של הערכת השפעות רגולציה (RIA - regulatory impact assessment). החוק מגדיר מסגרת לביצוע ה-FIRA: זיהוי הסיכונים, זיהוי הגופים שחשופים לסיכון (וניתוח לאילו קבוצות הם משתייכים), הגדרת אמצעי בקרה, עצמאיים, הגדרת צעדים לצמצום הסיכון, בחינת תדירות השימוש הצפוי במערכת ועוד. זה כאב ראש משמעותי, וכמובן שברגע שהחובה הזו קיימת, אותם גופים חשופים לתביעות בטענה שהם לא ביצוע את ה-FIRA כמו שנדרש לפי החוק.

⬅️5. הזכות לקבל הסבר על החלטות שהתקבלו
ברקע חקיקת חוק ה-AI עמד דיון משפטי אחר: האם רגולציית הפרטיות של האיחוד האירופי (GDPR) מעניקה לאדם זכות לקבל מידע והסבר על החלטה שמערכת קיבלה לגביו אם בקר אנושי היה מעורב בהחלטה שיש לה משמעות משפטית או משמעות דומה.
למשל, אם בקר אנושי משתמש במערכת AI והתקבלה החלטה לשלול ממני זכות מסוימת - האם יש לי זכות משפטית לקבל הסבר על אופן קבלת ההחלטה? הזכות לקבל הסבר עומדת כמובן במתח ישיר עם בעיית הקופסה השחורה והקושי להסביר החלטות של מערכות AI.
חוק ה-AI מבהיר את הנקודה הזו: הזכות קיימת ביחס למערכות בסיכון גבוה לפי הרשימה שבנספח 3 לחוק.

התוצאה - בקרוב אנחנו נראה מאבקים משפטיים סביב אנשים פרטיים שדורשים לקבל הסברים להחלטות של מערכת AI, לבין חברות טכנולוגיה וגופים שמשתמשים במערכות האלו, שלא ירצו לחשוף את המידע.
יש סיבות טובות להתנגד לחשוף את המידע. את הראשונה הזכרתי - הקושי למסור מידע על מערכת אטומה שלא לגמרי ברור לנו איך היא מקבלת החלטות. סיבה נוספת היא שאם המידע הזה זמין, הוא עשוי להיות סוד מסחרי. הרי, המוצר הוא מערכת שמקבלת החלטות. אז אם נחייב אותם לחשוף איך המערכת מקבלת החלטות (פרמטרים, שיטת ניתוח) , נוציא את העוקץ.

⬅️6. חובות השקיפות
כל המערכות שכפופות לחוק נדרשות בחובות השקיפות. מערכות בסיכון נמוך יהיו כפופות בעיקר לחובות האלו. ההגדרה בחוק די רחבה והיא תופסת את רוב מה שנשאר ולא נכלל בקטגוריות של סיכון בלתי נסבל (איסור) וסיכון גבוה (מגבלות קשות). תמצאו בתוכה מערכות שאמורות לתקשר ישירות עם בני אדם, מערכות יוצרות (chat GPT, midjourney) ועוד.
במקרים האלו יש חובה ליידע את המשתמש שמולו ניצבת מערכת שיש בה AI.
בנוסף, המידע והפלט של המערכת יהיה צריך לאפשר סימון / זיהוי שמדובר בתוכן שנוצר או שונה על-ידי מערכת AI.
⬅️7. הפיקוח והאכיפה
מי שיפר את החוק חשוף לקנס של עד 35 מיליון אירו או עד 7% מהמחזור העולמי של המפר (שימו לב: לא הרווח, אלא כל המחזור העסקי; ולא רק באירופה, אלא בכל העולם). גובה הקנס יהיה בהתאם לחומרת ההפרה.
החוק יוצר מספר גופים ובעלי תפקידים כמו ה-AI Office וה-AI Board, שלא התעמקתי בהבדל ביניהם. היישום, הפיקוח והאכיפה של החוק יעשו על-ידי הרגולטורים במדינות השונות שחברות באיחוד. בנוסף, מערכת שהחוק מחייב חלק מהמפוקחים לבצע תהליך הערכה עצמית (FRIA) - גם הם לוקחים חלק ביישום של החוק ויהיו בממשק אינטנסיבי עם הרשויות.
בהקשר של היישום והפיקוח, מעניין לציין שהאיחוד האירופי כבר פרסמו באתר שלהם לינק למעין שאלון "בחן את עצמך", שעוזר למפוקח להבין האם המערכת שלו עומדת בהוראות החוק. זה מאוד יפה - מאפשר למפוקח לבדוק את עצמו, ואז כמובן לתקן.

⬅️ 8. מתי החוק יכנס לתוקף?
האירופים יחוקקו את החוק בקרוב. ברגע שזה יקרה, תתחיל ספירה לאחור של מספר מועדים:
- בתוך חצי שנה - ייכנס לתוקף האיסור על שימוש במערכות שיוצרות סיכון קריטי (זאת אומרת שהאיסור המוחלט יכנס לתוקף ראשון);
- בתוך שנתיים (זאת אומרת, 2026) יכנסו לתוקף רוב ההוראות של החוק לגבי מערכות בסיכון נמוך ומערכות בסיכון גבוה שנכללות תחת החלופה הראשונה (פעילות שיש עליה רגולציה מסוג שהוגדר).
- בתוך שלוש שנים (זאת אומרת, 2027) יכנסו לתוקף החובות שחלות על מערכות בסיכון גבוה שנכללות תחת החלופה השניה (תחומים מוגדרים כמו חינוך, תעסוקה, ניקוד אשראי, אכיפת חוק ועוד).
- בתוך ארבע שנים (זאת אומרת, 2028) החוק יחול על מערכות בסיכון גבוה שנמצאות בשימוש של גופים ציבוריים והיו בשימוש לפני שהחוק נכנס לתוקף.
אולי תקופת המעבר הזו תיצור תמריץ לממשלות להפעיל באופן מיידי מערכות כאלו, כדי להנות מהתחולה המאוחרת. האם זה יגרום לגופים הציבוריים להעלות לאוויר מערכות לא בשלות (לא יציבות, לא בטוחות) רק כדי שיהיו בשימוש לפני שהחוק נכנס לתוקף?

זה אומר שייקח קצת זמן, אבל החוק הזה יתחיל לעשות גלים.
ובגלל התחולה הרחבה (הגדרה רחבה + מעגלים של שחקנים) - הוא ישפיע גם מחוץ לאירופה.

⬅️ 9. תם ולא נשלם: סוגיות רוחב נוספות
אפשר להעמיק בחוק הזה עוד ועוד, אבל לסיכום אני רוצה להסתכל רחב. החוק הזה הוא רק חלק בפאזל של החקיקה והרגולציה על בינה מלאכותית. כדי להסדיר את הפעילות הזו ולהתאים את הכללים לעולם עם AI, יהיה צורך בעדכון של עוד רגולציות ועוד חוקים.
למשל:
- סייבר: זה הכי מתבקש. ככל שהעולם הופך יותר דיגיטלי וככל שמערכות דיגיטליות מבצעות פעולות יותר קריטיות, כך הגנת הסייבר הופכת להיות קריטית. אני לא יודע איך, אבל רגולציית הסייבר גם תתאים את עצמה לשינויים שמערכות בינה מלאכותית יביאו.
- קניין רוחני: כל מערכת ה-AI ש"יוצרות", לא באמת יוצרות. הן לומדות טקסטים, תמונות, מוזיקה, ויצירות אחרות - ועל בסיסן יודעות לתת פלט או לנתח משהו. אם אימנתי את מערכת ה-AI על ספר שמישהו כתב או על תמונה שמישהו צייר - מה המשמעות בהיבטי זכויות היוצרים?
- דיני חוזים ודיני נזיקין: להבהיר מי אחראי לנזקים, מצגי שווא, הפרות חוזה ועוד שמבוצעים כאשר מערכת AI מעורבת?

חלק מהפאזל הזה כבר קיים. האיחוד האירופי מרכיב את הרגולציה שלו לעידן הדיגיטלי חתיכה אחר חתיכה. הזכרתי את ה-GDPR לעניין הפרטיות. יש עוד שני חוקים חדשים יותר: ה-Digital Services Act (עוסק בשקיפות ובהגנה על המשתמשים) וה-Digital Markets Act (קובע כללים עבור הפלטפורמות הדיגיטליות, כדי לקדם תחרות).

__
החוק הזה עומד להשפיע על הכלכלה העולמית ועל החברה שלנו.
תהיה לו השפעה דרמטית. לא פחות.
חשוב להבין ולהכיר אותו.
הסקירה כאן היתה מאוד כללית ומבלי להיכנס להמון סוגיות ודילמות שהחוק מעלה.

__
לקריאת הפוסט המלא, עם לינקים למקורות ופוסטים נוספים - מומלץ היכנס לאתר האינטרנט.
הגיע הזמן להפסיק לתת טיפים?

מומלץ לקרוא את הפוסט באתר האינטרנט של "הרגולטור", גם שם יש לינקים למקורות ולפוסטים נוספים בנושא.

כמה טיפ אתם משאירים במסעדות ובבתי קפה? 10%? 12%? 15%?
ועוד שאלה - אתם אוהבים להשאיר טיפ?

בסצנת הפתיחה של הסרט "כלבי אשמורת", הגיבורים של הסרט משלמים את החשבון בדיינר. אחד מהם, מר פינק (Pink), מסביר למה הוא לא משאיר טיפ למלצרית.
בתרגום חופשי שלי:

"אני לא משאיר טיפ בגלל שהחברה אומרת שאני חייב. אני משאיר טיפ כשזה מגיע למישהו. כשמישהו באמת עשה מאמץ מיוחד, מגיע לו לקבל קצת מעבר. אבל לתת טיפ באופן אוטומטי זה סתם לזרוק כסף. מבחינתי הם פשוט עושים את העבודה שלהם. [...]
המלצריות האלו לא גוועות מרעב. הן מרוויחות שכר מינימום. כשאני עבדתי תמורת שכר מינימום לא היה לי את המזל לעבוד במשרה שהחברה החליטה שמגיע לי לקבל עליה טיפ. [...]
ומה לגבי עובדים במקדונלדס? אתם לא מרגישים שאתם צריכים לתת להם טיפ.
גם הם מגישים לכם לאוכל, אז אתם אמורים לתת גם להם טיפ.
אבל לא, החברה אומרת - תנו טיפ לעובדים האלו אבל אל תתנו טיפ לעובדים ההם. זה שטויות"

כשבוחנים את הרגולציה בנושא מגלים שמר פינק לא לגמרי דייק. וגם - שהמצב בישראל יותר טוב מאשר בארצות הברית.

🎬לצפייה במונולוג מתוך הסרט:
https://www.youtube.com/watch?v=M4sTSIYzDIk
⬅️טיפים ושכר העובדים
הסצנה הזו הציפה שאלה טובה וגרמה להרבה אנשים להרהר לגבי הרעיון של טיפים. אפשר לחשוב על טיפ כעל הבעת תודה, כתמריץ כלכלי לעובדים או כדרך לסייע לעובדים להשלים הכנסה. וכמובן מאחורי הכל יש את הנורמה החברתית. אז האם לתת טיפ ומה צריך להיות גובה הטיפ?
בישראל העיסוק בטיפים הוא בעיקר לנותני שירות בענף המזון, זאת אומרת מלצרים וברמנים במסעדות. בארצות הברית הציפייה לתת טיפ יותר רחבה וכולל גם עובדי דלפק בבתי קפה ונהגי מוניות.
אבל כדי להבין את ההקשר האמריקאי אנחנו צריכים לחזור קצת אחורה בזמן.

לפני 150 שנים, לאחר מלחמת האזרחים האמריקאית, העבדות בוטלה. אבל זה לא אומרת שבין לילה הגזענות והעוני שנלווה לעבדות נעלמו. בשנים שלאחר המלחמה אנשים במדינות הדרום השתמשו בכל מיני טכניקות כדי להמיר את העבדות בשליטה כלכלית על האוכלוסייה האפרו-אמריקאית. אחת השיטות הייתה טיפים.

מעסיקים שילמו לעובדים אפרו-אמריקאים שכר מאוד נמוך, שאי אפשר להתקיים ממנו. אותם מעסיקים עודדו את הלקוחות לתת לעובדים טיפ כדי לסייע להם להתקיים. הטיפים שירתו מטרה כפולה - גם ביטאו את התפיסה הגזענית וגם איפשרו למעסיקים להמשיך לחסוך בהוצאות שכר (הם עדיין לא התרגלנו שאותם אנשים הפכו מעבדים לעובדים בשכר).

בתחילת המאה ה-20 נמתחה ביקורת קשה על תרבות הטיפים ועל השימוש בטיפים כדי להתחמק מתשלום לעובדים, בעיקר לעובדים חלשים. כתוצאה מכך, מספר מדינות בארה"ב העבירו חוקים שאסרו על מתן טיפים באופן גורף. בין המדינות האלו היו - ג'ורג'יה (המדינה ה-10 הכי מאוכלסת באותה תקופה), איווה, מיסיסיפי ועוד. מאחר שמדובר בעיקר במדינות מהדרום, אפשר להניח שהיה קשר בין בעיית הגזענות כלפי אפרו-אמריקאים, לבין השימוש הנצלני בטיפים באותם ימים.
בהמשך החוקים האלו בוטלו בגלל קושי לאכוף אותם (וזה כשלעצמו שיעור חשוב - לא לקבוע רגולציה שאי אפשר לאכוף).

⬅️שינוי כיוון בשנות ה-60
המצב השתנה במסגרת גל החקיקה למען זכויות האזרח של שנות ה-60 של המאה ה-20 (רק מאה שנה אחרי שהעבדות בוטלה).
בשנת 1966 תוקן החוק הפדרלי שמסדיר את שכר המינימום ה-Fair Labor Standards Act. לראשונה החוק התייחס לסוגיית הטיפים, אבל תתקשו לנחש איך הם תיקנו אותו.
בחוק נקבעה הוראה מיוחדת לגבי טיפים: אם עובד מקבל באופן קבוע יותר מ-20$ בחודש בטיפים - המעסיק יכול לשלם לו פחות משכר המינימום. החוק למעשה יוצר שתי מדרגות של שכר מינימום - שכר מינימום "רגיל" ושכר מינימום מופחת לעובדים שמקבלים טיפים. כיום לפי החוק הפדרלי שכר המינימום הוא 7.25$ לשעה, אבל אם עובד מקבל טיפים, שכר המינימום הוא רק 2.13$. זה ממש שכר רעב.
כן, החוק הפדרלי מאפשר לשלם לעובד פחות משכר המינימום. וזו הפחתה משמעותית של בערך 75%. ההנחה מאחורי החוק הייתה שהטיפים יפצו על השכר הנמוך והעובד לא יפגע מזה. אבל אם תעשו חישוב מתמטי פשוט תראו שרף של 20$ בחודש לא מבטיח את זה. זה המצב החוקי בארצות הברית גם היום.

שימו לב שכל הדיון כאן מתמקד בעובדים שמשתכרים שכר מינימום, העובדים החלשים שבשוליים. מי שמקבל משכורות נאות ונדיבות לא רלוונטי לדיון הזה.
⬅️הבעיות שנובעות מהתבססות על טיפים
נתחיל בשתי בעיות עם החקיקה האמריקאית. מעבר למובן מאליו, שהחוק הזה לא מגן על העובדים, אלא בעיקר מאפשר פגיעה בהם, יש עוד בעיות.
הבעיה הכי בולטת עם החוק הזה היא שמאז 1966 בוצעו מספר תיקונים כדי להעלות את שכר המינימום הרגיל, אבל לא עדכנו ולא העלו את שכר המינימום המופחת למקבלי טיפים. לכן הפער כל כך גדול היום.
בנוסף, מעסיקים יכולים לנצל את המנגנון הזה ואת המורכבות שבו כדי לשלם לעובדים פחות שכר. למשל, אם יש עובד שרוב השנה מקבל יותר מ-20$ טיפ בחודש, המעסיק ישלם לו שכר מינימום מופחת גם בחודשים בהם אותו עובד לא קיבל טיפים. בכך המעסיק למעשה שולל שכר מהעובדים. חשוב לזכור שלרוב אלו יהיו העובדים הכי חלשים, עם השכר הכי נמוך (רבע משכר המינימום).
יש בארצות הברית מדינות שקובעות שכר מינימום מדינתי גבוה יותר משכר המינימום הפדרלי, אבל זה לא המצב בכל המדינות ולכן ההסדר הפדרלי יוצר עיוות.

הניסיון האמריקאי עם חוקים על שכר וטיפים חושף עוד בעיות עם טיפים:

התבססות על טיפים לצורך השכר העיקרי של העובד עלול לפגוע בעובדים בגלל אפליה בלתי נראית. למשל, מחקר אחד מצא שנהגי מוניות לבנים מקבלים טיפים גבוהים ב-61% יותר מנהגי מוניות אפרו-אמריקאיים. ובמקצועות רבים יש גם הטיות לטובת נשים צעירות (או במילים אחרות - לרעת עובדים מבוגרים יותר). כאשר טיפ הוא מעין "בונוס" מזדמן האפליה תהיה קיימת אך הנזק ממנה יהיה בשוליים. אבל כשטיפים מהווים רכיב מרכזי מתוך השכר של העובד, פער של 61% הוא דרמטי.

בעיה אחרת היא שלעיתים קרובות המעסיק גובה את הטיפ מהלקוח, אבל לא תמיד מעביר את הטיפים לעובדים. מבצע אכיפה של משרד העבודה הפדרלי בארצות הברית העלה ש-84% מהמסעדות לא העבירו את הטיפים לעובדים (בכלל או באופן חלקי).
נראה שבארצות הברית זו בעיית אכיפה: בשש מדינות אין בכלל מפקחים שעוסקים בפיקוח ובאכיפה של הפרות של שכר המינימום, וב-24 מדינות אחרות יש פחות מ-10 מפקחים בכל המדינה.

גם כשהטיפ לא "הולך לאיבוד" בדרך, יש בעיות לגבי החלוקה שלו. אפשרות אחת היא שכל עובד מקבל לכיסו את הטיפ שניתן לו. אבל יש עוד שיטות. אם מחלקים את כל הטיפים בין כל המלצרים - זה אומר שהטיפ יגיע גם למלצר שלא היה בקשר ישיר עם אותו לקוח. ואם ככה, אז אפשר לחלק את הטיפ גם לברמנים, לטבחים, למארחת ולאחראי המשמרת (ובעצם, למה לא לחלק גם למנקים?).
מעבר לשאלה העקרונית למי מגיע לקבל את הטיפ, ברגע שאותם עובדים יקבלו טיפים בהיקף של יותר מ-20$ בחודש, שכר הבסיס שלהם ירד משמעותית. חלוקת הטיפים ל"פול" פוגעת פעמיים - העובד שמתחלק בטיפ נפגע כי חלק קטן מהטיפ מגיע אליו; העובדים שלכאורה נהנים מטיפ של מישהו אחר עלולים להיפגע כי שכר הבסיס שלהם ירד. לכן ייתכן שעדיף שמעגל קטן של עובדים ישמרו לעצמם את הטיפים (ויספגו שכר בסיס נמוך תמורת זה), וכל היתר יהנו משכר בסיס גבוה יותר.

מר פינק היה מתנגד לתיקון משנת 1966. החוק הזה מאפשר למעסיק להפחית את השכר אם העובד מקבל טיפים. במילים אחרות, התיקון הזה מעביר את האחריות לשכר של העובד מהמעסיק אל הלקוח, כי הוא אומר שאם הלקוח משלם טיפ - המעסיק יכול לשלם פחות. זה בדיוק הפוך מהטענה של מר פינק.

ובחזרה ללקוח שמתלבט אם להשאיר טיפ או לא.
בארצות הברית מתן טיפ הוא פחות עניין של הוקרה והערכה, וגם לא של תמריץ או תגמול לעובד שנתן שירות יוצא דופן. הציפייה לשלם טיפ קשורה לכך שעובד שמקבל טיפים, מקבל שכר בסיס נמוך מאוד והוא תלוי בטיפים. הטיפים הפכו למלכודת - במקום להיות סוג של בונוס, הם גורמים להורדת שכר הבסיס ולפגיעה בעובד. ומכאן נובע הלחץ על הלקוח.
⬅️תובנות על טיפים - בכלל ובישראל

1. החקיקה האמריקאית משנות ה-60 נועדה להגן על העובדים, אבל זו "מדיניות בומרנג" מובהקת - מדיניות שהתוצאה שלה הפוכה בדיוק מהמטרה. זה לא אפקט הקוברה, אין פה השפעה בלתי צפויה.
זה ברור וגלוי לעין שיצירת שכר מינימום מופחת תפגע בעובדים.
לכן, אנחנו בישראל יכולים להיות שמחים שאין לנו סטנדרט כפול לגבי שכר מינימום.

2. בגלל שאין בישראל שכר מינימום מופחת למקבלי טיפ, אצלנו הבעיה עם טיפים לא כל כך חמורה. אפשר לטעון שבלי טיפים אותם עובדים ירוויחו מעט, אבל הם לא יקבלו רבע משכר המינימום (בישראל שכר המינימום השעתי הוא 30.61 ש"ח, אז אם נאמץ את המודל האמריקאי, עובד שמקבל טיפים ישתכר רק 7.5 ש"ח לשעה).

3. לאילו עובדים לתת טיפ ולאילו עובדים לא?
אם אתם בארה"ב אפשר למצוא תשובה פשוטה - לעובדים בשכר מינימום מופחת. אבל זו תשובה מעגלית, כי שכר המינימום שלהם מופחת בגלל שהם מקבלים טיפים. אז זה לא עוזר.
אז איך מחליטים? האם משאירים טיפ למלצרים? לברמנים? לבריסטה שמכין לכם את הקפה? למוכרת בחנות הבגדים לספר? לנהג מונית? לפקיד קבלה בבית מלון? לעורך דין?
למה כן? למה לא? לא ממש ברור איך משרטטים את הגבול.
נראה שזו שאלה חברתית ושל העדפה פרטית, ולא שאלת מדיניות. אז בכובע של מדיניות ציבורית נשאיר לכם את ההחלטה הזו.

4. יש בעולם הצעות לאסור מתן טיפ או לחייב שהטיפ יועבר ישירות לעובד ולא דרך המעביד. זה מעורר שאלות אחרת, כמו אופן גביית המס - כי הטיפ הוא הכנסה ואז מישהו צריך לדווח עליה ולנכות מתוכה אחוז מס מסויים. מבחינה בירוקרטית נטו, הכי נוח שהטיפים עוברים דרך המעסיק. אבל יש בזה חסרונות.


לסיכום, מר פינק מאוד משכנע אבל צריך לזכור שהמלצרית שמגישה לו קפה מסתמכת מאוד על הטיפ ממנו, בגלל שהיא מקבלת שכר מינימום מופחת. נראה שמר פינק צודק יותר דווקא לגבי המצב במדינות אחרות, כמו ישראל. אם טרנטינו יעשה סרט בישראל הוא יוכל לתקן את חוסר הדיוק הזה.