ברייקינג ניוז:
נציבות האיחוד האירופי והפרלמנט האירופי הגיעו להסכמה על חוק ה-AI של האיחוד האירופי. המשמעות היא שהחוק צפוי להפוך לעבור סופית בשבועות הקרובים.
כתבתי על טיוטת החוק כאן.
עדיין אין נוסח סופי אבל ממה שהתפרסם, נראה שאלו השינויים המרכזיים בהשוואה לגרסה הקודמת שפורסמה בקיץ:
1. הוחלט להשמיט את האיסור הכללי על ניטור ביומטרי על ידי רשויות אכיפת החוק. בטיוטה שעברה בקיץ היה איסור מוחלט וגורף, שלמשל חסם שימוש בטכנולוגיות זיהוי פנים. האיסור הגורף - כולל במקרים של מלחמה בטרור - זכה לביקורת חריפה.
2. דיוק ושיפור הבדיקה של מערכות בסיסיות (foundation model, כמו chat gpt). חלק מהדרישות יחולו כבר בשלבי הפיתוח של אותן מערכות (זה משמעותי כי רוב ההוראות של החוק חלות על מוצר טכנולוגי מוגמר על השימוש בו).
3. איסור על שימוש ב-AI, לפגיעה בבחירה של אזרחים ועל מניפולציות קוגניטיביות מכוונות.
4. הרחבת ההגדרה של מערכות בסיכון גבוהה, שלכן יהיו כפופות לחובות מחמירות. במקור ההערכה הייתה שעד 20% מהמערכות יכללו בקטגוריה הזו, שעליה יחולו הרבה הגבלות וחובות יקרות. לאור השינוי הזה, האחוז צפוי לעלות, כנראה לכיוון ה-30%.
5. מצד שני, הקלה והבהרה - כל יתר המערכות יהיו כפופות רק לחובות של גילוי ושקיפות. עוד צריך לראות את הנוסח הסופי והאם הם פתרו את הכפילות והסתירות עם ה-GDPR.
6. אכיפה: ניתן יהיה להטיל קנסות של עד 35 מיליון יורו או 7% מהמחזור העולמי של המפר.
אני מזכיר את התחולה הרחבה של החוק - הוא יחול על כל חברה שהמוצר שלה נמצא בשימוש באירופה, וזה מאוד מאוד מרחיב.
נמתין לנוסח הסופי כדי לראות מה בדיוק סוכם ומתי החוק יכנס לתוקף.
נציבות האיחוד האירופי והפרלמנט האירופי הגיעו להסכמה על חוק ה-AI של האיחוד האירופי. המשמעות היא שהחוק צפוי להפוך לעבור סופית בשבועות הקרובים.
כתבתי על טיוטת החוק כאן.
עדיין אין נוסח סופי אבל ממה שהתפרסם, נראה שאלו השינויים המרכזיים בהשוואה לגרסה הקודמת שפורסמה בקיץ:
1. הוחלט להשמיט את האיסור הכללי על ניטור ביומטרי על ידי רשויות אכיפת החוק. בטיוטה שעברה בקיץ היה איסור מוחלט וגורף, שלמשל חסם שימוש בטכנולוגיות זיהוי פנים. האיסור הגורף - כולל במקרים של מלחמה בטרור - זכה לביקורת חריפה.
2. דיוק ושיפור הבדיקה של מערכות בסיסיות (foundation model, כמו chat gpt). חלק מהדרישות יחולו כבר בשלבי הפיתוח של אותן מערכות (זה משמעותי כי רוב ההוראות של החוק חלות על מוצר טכנולוגי מוגמר על השימוש בו).
3. איסור על שימוש ב-AI, לפגיעה בבחירה של אזרחים ועל מניפולציות קוגניטיביות מכוונות.
4. הרחבת ההגדרה של מערכות בסיכון גבוהה, שלכן יהיו כפופות לחובות מחמירות. במקור ההערכה הייתה שעד 20% מהמערכות יכללו בקטגוריה הזו, שעליה יחולו הרבה הגבלות וחובות יקרות. לאור השינוי הזה, האחוז צפוי לעלות, כנראה לכיוון ה-30%.
5. מצד שני, הקלה והבהרה - כל יתר המערכות יהיו כפופות רק לחובות של גילוי ושקיפות. עוד צריך לראות את הנוסח הסופי והאם הם פתרו את הכפילות והסתירות עם ה-GDPR.
6. אכיפה: ניתן יהיה להטיל קנסות של עד 35 מיליון יורו או 7% מהמחזור העולמי של המפר.
אני מזכיר את התחולה הרחבה של החוק - הוא יחול על כל חברה שהמוצר שלה נמצא בשימוש באירופה, וזה מאוד מאוד מרחיב.
נמתין לנוסח הסופי כדי לראות מה בדיוק סוכם ומתי החוק יכנס לתוקף.
הרגולטור - גיא מור
חוק ה-AI עבר בפרלמנט האיחוד האירופי
כמו שהבטחתי בפוסט על תמונת המצב העולמית והמגמות בנושא AI – יש התפתחויות חמות בתחום.הפרלמנט של האיחוד האירופי הצביע ביום רביעי האחרון בעד אישור הצעת חוק הבינה המלאכותית (AI). החוק עובר כעת לדי…
רגולטור הוא לא רופא
מומלץ לקרוא את הפוסט המלא באתר (עם הפניות למקורות ותרשימים שיצרתי)
כשרגולטור קובע כללים, הוא עושה את זה כדי להגן על הציבור. אבל לפעמים יש רגולטורים שמתבלבלים בין תפקידם לקבוע כללי התנהגות, לבין ניסיון לקבל החלטות פרטניות.
טיפול רפואי יצירתי במהלך תקופת הקורונה
במהלך מגיפת הקורונה, מספר רופאים החליטו לרשום למטופלים שלהם תרופה בשם איברמקטין (Ivermectin). המורכבות הייתה בכך שאותה תרופה לא הייתה מיועדת לטיפול בוירוס הקורונה.
לתרופות יש תווית - שבה מוגדרים השימושים המאושרים של אותה תרופה (בקיצור: "התוויה"). בפרקטיקה רופאים מחליטים לתת למטופלים תרופות לשימוש שונה מזה שאושר בתווית (בארה"ב מרחב הגמישות של רופאים שונה מזה שבישראל). רופאים עושים את זה כשיש מידע מבוסס על רמת הבטיחות של תרופה קיימת, במטרה לתת טיפול למחלה שאין לה תרופה אפקטיבית אחרת. לפי מחקר שמצאתי, בארה"ב בערך 20% מהמרשמים הם לשימוש שלא בתווית (זה משתנה בין תרופות, מצבים ולאורך הזמן).
כאשר מגיפת הקורונה התפרצה, ועדיין לא היו טיפוליים יעודיים או חיסונים, רופאים רבים נתנו לחולים טיפולים באמצעות תרופות קיימות, והטיפול בקורונה היה כמובן מחוץ לתווית המקורית.
לאותם רופאים היו סיבות טובות לנסות לרשום איברמקטין כטיפול לקורונה. מספר מחקרים הראו שהתרופה אפקטיבית לטיפול אנטי-ויראלי נגד מגוון וירוסים מאותה משפחה (בהמשך, לאחר שהצטבר ניסיון, נמצא שאיברמקטין לא היה אפקטיבי בטיפול בקורונה - אבל כמובן שאי אפשר היה לדעת את זה מראש).
הרופאים נתקלו בבעיה: ה-FDA הוציא שישה פרסומים שונים לציבור, בהם הוא ממליץ ומזהיר מטופלים לא לקבל איברמקטין כטיפול לקורונה. למשל, אחד הפרסומים התפרסם תחת הנושא "“consumer update” והכותרת שלו הייתה “Why You Should Not Use Ivermectin to Treat or Prevent COVID-19.”
התביעה
מספר רופאים החליטו לתבוע את ה-FDA בגין אותם פרסומים. לרופאים היו שתי טענות. הטענה העיקרית היא שאותם פרסומים הפריעו לרופאים להפעיל שיקול דעת מקצועי-רפואי במתן שירות רפואה, בגלל שהפרסומים של ה-FDA ייעצו לחולי קורונה לא להשתמש באיברמקטין. בעצם הטענה היא שה-FDA ניסה להחליף את הרופאים, ולקבוע איזה טיפול רפואי צריך לתת. כשה-FDA פרסם את הייעוץ הזה, הוא התערב בשיקול הדעת של הרופאים וגם שיבש את התקשורת בין הרופאים לחולים שטופלו על-ידם.
בנוסף, הרופאים טענו שלא הייתה ל-FDA סמכות לפרסם כאלו פרסומים. החוק המרכזי של ה-FDA, ה-Food, Drug and Cosmetic Act, לא העניק לו סמכות לייעץ למטופלים לגבי קבלת טיפול רפואי. וחוק כללי יותר שקובע איך רשויות ציבוריות צריכות לפעול, ה-Administrative Procedure Act (בקיצור - APA), מחייב שכל פעולה של גוף ממשלתי תהיה במסגרת סמכות שנקבעה בחוק.
אותם רופאים טענו שיש להם שיקול דעת לרשום למטופל תרופה מאושרת, לשימוש שונה מזה שנקבע בתווית שלה, ושל-FDA אין סמכות להתערב בזה או לתת ייעוץ רפואי.
במשפט, ה-FDA לא טען שיש לו סמכות לתת ייעוץ רפואי. במקום, הוא הכחיש שאותם פרסומים הכילו ייעוץ (advice). בנוסף, ה-FDA טען שיש לו אחריות וסמכות רחבה להגן על בריאות הציבור, בדומה לרגולטורים אחרים שעשו פעולות רבות במהלך מגיפת הקורונה - כמו לאסור על פינוי שוכרים מבתיהם, לחייב עטיית מסיכות בשדות תעופה ולקבוע חובת התחסנות.
כאן כדאי לציין שאכן היו רגולטורים שהטילו רגולציה רחבה בגלל הקורונה, אבל בתי המשפט בארה"ב ביטלו צעדים רבים כאלו - אם לא הייתה לרגולטור סמכות חוקית מפורשת בנושא (למשל, ביטול האיסור על פינוי שוכרים).
ההחלטה
בית המשפט סיכם את ההחלטה שלו שלו באמירה:
“FDA is not a physician. It has authority to inform, announce, and apprise—but not to endorse, denounce, or advise. The Doctors have plausibly alleged that FDA’s Posts fell on the wrong side of the line between telling about and telling to. As such, the Doctors can use the APA to assert their ultra vires claims against the Agencies and the Officials.
Even tweet-sized doses of personalized medical advice are beyond FDA’s statutory authority.”
ובעברית:
"ה-FDA אינו רופא. יש לו סמכות להודיע, להכריז וליידע - אך לא לאשר, להוקיע או לייעץ. הרופאים טענו באופן סביר שהפרסומים של ה-FDA נפלו בצד הלא נכון של הקו בין לספר על משהו, לבין לייעץ למישהו. לכן, הרופאים יכולים להשתמש ב-APA כדי לטעון את תביעותיהם נגד הסוכנויות והפקידים.
אפילו פרסום בגודל ציוץ [ברשת טוויטר - ג.מ.] שכולל ייעוץ רפואי מותאם אישית הוא מעבר לסמכות החוקית של ה-FDA."
ה-FDA הוא הרגולטור שקובע כללים לשימוש בתרופות ומכשור רפואי, כדי לוודא שהם בטוחים ואפקטיביים. אבל ה-FDA אינו רופא: הוא קובע הוראות כלליות ורוחביות, והוא לא
מומלץ לקרוא את הפוסט המלא באתר (עם הפניות למקורות ותרשימים שיצרתי)
כשרגולטור קובע כללים, הוא עושה את זה כדי להגן על הציבור. אבל לפעמים יש רגולטורים שמתבלבלים בין תפקידם לקבוע כללי התנהגות, לבין ניסיון לקבל החלטות פרטניות.
טיפול רפואי יצירתי במהלך תקופת הקורונה
במהלך מגיפת הקורונה, מספר רופאים החליטו לרשום למטופלים שלהם תרופה בשם איברמקטין (Ivermectin). המורכבות הייתה בכך שאותה תרופה לא הייתה מיועדת לטיפול בוירוס הקורונה.
לתרופות יש תווית - שבה מוגדרים השימושים המאושרים של אותה תרופה (בקיצור: "התוויה"). בפרקטיקה רופאים מחליטים לתת למטופלים תרופות לשימוש שונה מזה שאושר בתווית (בארה"ב מרחב הגמישות של רופאים שונה מזה שבישראל). רופאים עושים את זה כשיש מידע מבוסס על רמת הבטיחות של תרופה קיימת, במטרה לתת טיפול למחלה שאין לה תרופה אפקטיבית אחרת. לפי מחקר שמצאתי, בארה"ב בערך 20% מהמרשמים הם לשימוש שלא בתווית (זה משתנה בין תרופות, מצבים ולאורך הזמן).
כאשר מגיפת הקורונה התפרצה, ועדיין לא היו טיפוליים יעודיים או חיסונים, רופאים רבים נתנו לחולים טיפולים באמצעות תרופות קיימות, והטיפול בקורונה היה כמובן מחוץ לתווית המקורית.
לאותם רופאים היו סיבות טובות לנסות לרשום איברמקטין כטיפול לקורונה. מספר מחקרים הראו שהתרופה אפקטיבית לטיפול אנטי-ויראלי נגד מגוון וירוסים מאותה משפחה (בהמשך, לאחר שהצטבר ניסיון, נמצא שאיברמקטין לא היה אפקטיבי בטיפול בקורונה - אבל כמובן שאי אפשר היה לדעת את זה מראש).
הרופאים נתקלו בבעיה: ה-FDA הוציא שישה פרסומים שונים לציבור, בהם הוא ממליץ ומזהיר מטופלים לא לקבל איברמקטין כטיפול לקורונה. למשל, אחד הפרסומים התפרסם תחת הנושא "“consumer update” והכותרת שלו הייתה “Why You Should Not Use Ivermectin to Treat or Prevent COVID-19.”
התביעה
מספר רופאים החליטו לתבוע את ה-FDA בגין אותם פרסומים. לרופאים היו שתי טענות. הטענה העיקרית היא שאותם פרסומים הפריעו לרופאים להפעיל שיקול דעת מקצועי-רפואי במתן שירות רפואה, בגלל שהפרסומים של ה-FDA ייעצו לחולי קורונה לא להשתמש באיברמקטין. בעצם הטענה היא שה-FDA ניסה להחליף את הרופאים, ולקבוע איזה טיפול רפואי צריך לתת. כשה-FDA פרסם את הייעוץ הזה, הוא התערב בשיקול הדעת של הרופאים וגם שיבש את התקשורת בין הרופאים לחולים שטופלו על-ידם.
בנוסף, הרופאים טענו שלא הייתה ל-FDA סמכות לפרסם כאלו פרסומים. החוק המרכזי של ה-FDA, ה-Food, Drug and Cosmetic Act, לא העניק לו סמכות לייעץ למטופלים לגבי קבלת טיפול רפואי. וחוק כללי יותר שקובע איך רשויות ציבוריות צריכות לפעול, ה-Administrative Procedure Act (בקיצור - APA), מחייב שכל פעולה של גוף ממשלתי תהיה במסגרת סמכות שנקבעה בחוק.
אותם רופאים טענו שיש להם שיקול דעת לרשום למטופל תרופה מאושרת, לשימוש שונה מזה שנקבע בתווית שלה, ושל-FDA אין סמכות להתערב בזה או לתת ייעוץ רפואי.
במשפט, ה-FDA לא טען שיש לו סמכות לתת ייעוץ רפואי. במקום, הוא הכחיש שאותם פרסומים הכילו ייעוץ (advice). בנוסף, ה-FDA טען שיש לו אחריות וסמכות רחבה להגן על בריאות הציבור, בדומה לרגולטורים אחרים שעשו פעולות רבות במהלך מגיפת הקורונה - כמו לאסור על פינוי שוכרים מבתיהם, לחייב עטיית מסיכות בשדות תעופה ולקבוע חובת התחסנות.
כאן כדאי לציין שאכן היו רגולטורים שהטילו רגולציה רחבה בגלל הקורונה, אבל בתי המשפט בארה"ב ביטלו צעדים רבים כאלו - אם לא הייתה לרגולטור סמכות חוקית מפורשת בנושא (למשל, ביטול האיסור על פינוי שוכרים).
ההחלטה
בית המשפט סיכם את ההחלטה שלו שלו באמירה:
“FDA is not a physician. It has authority to inform, announce, and apprise—but not to endorse, denounce, or advise. The Doctors have plausibly alleged that FDA’s Posts fell on the wrong side of the line between telling about and telling to. As such, the Doctors can use the APA to assert their ultra vires claims against the Agencies and the Officials.
Even tweet-sized doses of personalized medical advice are beyond FDA’s statutory authority.”
ובעברית:
"ה-FDA אינו רופא. יש לו סמכות להודיע, להכריז וליידע - אך לא לאשר, להוקיע או לייעץ. הרופאים טענו באופן סביר שהפרסומים של ה-FDA נפלו בצד הלא נכון של הקו בין לספר על משהו, לבין לייעץ למישהו. לכן, הרופאים יכולים להשתמש ב-APA כדי לטעון את תביעותיהם נגד הסוכנויות והפקידים.
אפילו פרסום בגודל ציוץ [ברשת טוויטר - ג.מ.] שכולל ייעוץ רפואי מותאם אישית הוא מעבר לסמכות החוקית של ה-FDA."
ה-FDA הוא הרגולטור שקובע כללים לשימוש בתרופות ומכשור רפואי, כדי לוודא שהם בטוחים ואפקטיביים. אבל ה-FDA אינו רופא: הוא קובע הוראות כלליות ורוחביות, והוא לא
מתאים את הטיפול למטופל ספציפי.
בשונה מה-FDA, רופאים מפעילים שיקול דעת פרטני בבדיקה ובהתאמת הטיפול למטופל שעומד מולם. רופאים חייבים להפעיל שיקול דעת פרטני כדי לספק למטופלים שלהם את הטיפול הרפואי הכי טוב והכי מתאים.
התביעה בארה"ב היא על מספר שאלות, בין היתר - האם ה-FDA הפריע לרופאים לטפל בחולים, בכך שחרג מסמכותו ומתפקידו.
באופן טבעי פסק הדין עוסק בשאלה המשפטית ועוסק בהגדרות חוקיות - בין "to inform" ל-"to advise".
אבל הוא מעלה נקודה עקרונית ומהותית יותר - למה בכלל הפריע לרופאים ולבית המשפט שה-FDA התערב בטיפול הפרטני בחולים?
השאלה הזו נובעת לגבולות התפקיד של הרגולטור.
גבולות התפקיד של הרגולטור
פסק הדין מדבר על ההבחנה בין רגולטור לבין איש מקצוע שמבצע פעולה פרטנית בשטח, במקרה הזה - רופא. ההבחנה הזו רלוונטית לתחומים נוספים, ולא רק ברפואה.
הפער קיים גם בין מהנדס, לבין רגולטור בתחום הבטיחות.
הרגולטור קובע הוראות כלליות, שמבוססות על ניתוח כללי של הסיכונים. הרגולטור לא בוחן כל מפוקח (כל מבנה, כל עסק, כל מוצר, כל עסקה). הרגולטור גם לא מטפל באופן פרטני בכל מפוקח. הכלי שלו גורף ורוחבי. לכן עבודת הרגולטור מצריכה חשיבה מופשטת וכללית.
בשונה מרגולטורים, בעלי המקצוע שנמצאים בשטח מתאימים את הפתרונות למקרה הספציפי והקונקרטי שניצב מולם. הרופא - מתאים את הטיפול הרפואי, המהנדס - מתכנן מפרט הנדסי ספציפי לפי הצרכים של המפעל וכו'.
הרגולטור לא יכול לומר לכל אחד מאיתנו בדיוק איך להתנהג. זה לא ישיג את המטרה, זה יהיה מאוד לא יעיל ויפגע קשות בחירות הפרט.
יחידה ממשלתית, גדולה ככל שתהיה*, לא יכולה לקבוע הוראות פרטניות עבור כל חולה וחולה, או עבור כל מוצר ומוצר (וזה נכון בעוד תחומים: עבור כל עסק, מבנה, שירות או פעילות).
*ויחידות ממשלתיות לרוב מתלוננות על מחסור בכוח אדם, כך שהמצב הוא לא שפע עובדים.
ההבדל בין רגולטור לרופא, מנדס או רואה חשבון
כשרגולטור ניגש לקבוע כללים יש לו שתי אפשרויות מרכזיות: לעסוק במסגרת (ולהשאיר למפוקחים לקבוע את התוכן והפרטים) או להתמקד בסיכונים הקריטיים והמהותיים (ולהשאיר למפוקחים את השאר).
לפעמים יש בלבול.
רגולטור אינו נותן שירותים בשטח (כמו רופא). הוא צריך לקבוע כללי מסגרת רוחביים על בסיס ניתוח מופשט.
וגם ההיפך נכון - איש מקצוע מעולה מהשטח (רופא, מהנדס, כימאי) מאבחן מקרים ובעיות פרטניות ומספק להם טיפול נקודתי. לרוב הוא אינו רגיל לחשוב כמו מי שקובע מדיניות כללית.
התפקיד וסט הכישורים של רגולטור שונים מהתפקיד ומסט הכישורים של איש מקצוע שעובד בשטח.
אבל לעיתים יש בלבול, או עודף מוטיבציה, כמו שקרה ל-FDA.
לפעמים מרוב רצון לעזור, קורות גם טעויות מקצועיות. למשל, כתבתי בעבר על תאונה רגולטורית. ה-CDC פרסם קווים מנחים שהם המלצה בלבד, והמחוקקים במספר מדינות בתוך ארה"ב הפכו אותו לרגולציה מחייבת שדרסה את שיקול הדעת של רופאים.
רגולטורים צריכים להיזהר מפני חציית הגבול בין קביעת הוראות כלליות, לבין להתערבות פרטנית.
לכולנו קורה מידי פעם שאנחנו מאמינים שאנחנו יודעים יותר טוב. מאוד מפתה להיכנס לסוגיה קונקרטית, ולקבוע פתרונות קונקרטיים.
אבל כמו שה-FDA הוא לא רופא. רגולטורים קובעים הוראות כלליות, אבל הם לא גורמי ביצוע.
בשונה מה-FDA, רופאים מפעילים שיקול דעת פרטני בבדיקה ובהתאמת הטיפול למטופל שעומד מולם. רופאים חייבים להפעיל שיקול דעת פרטני כדי לספק למטופלים שלהם את הטיפול הרפואי הכי טוב והכי מתאים.
התביעה בארה"ב היא על מספר שאלות, בין היתר - האם ה-FDA הפריע לרופאים לטפל בחולים, בכך שחרג מסמכותו ומתפקידו.
באופן טבעי פסק הדין עוסק בשאלה המשפטית ועוסק בהגדרות חוקיות - בין "to inform" ל-"to advise".
אבל הוא מעלה נקודה עקרונית ומהותית יותר - למה בכלל הפריע לרופאים ולבית המשפט שה-FDA התערב בטיפול הפרטני בחולים?
השאלה הזו נובעת לגבולות התפקיד של הרגולטור.
גבולות התפקיד של הרגולטור
פסק הדין מדבר על ההבחנה בין רגולטור לבין איש מקצוע שמבצע פעולה פרטנית בשטח, במקרה הזה - רופא. ההבחנה הזו רלוונטית לתחומים נוספים, ולא רק ברפואה.
הפער קיים גם בין מהנדס, לבין רגולטור בתחום הבטיחות.
הרגולטור קובע הוראות כלליות, שמבוססות על ניתוח כללי של הסיכונים. הרגולטור לא בוחן כל מפוקח (כל מבנה, כל עסק, כל מוצר, כל עסקה). הרגולטור גם לא מטפל באופן פרטני בכל מפוקח. הכלי שלו גורף ורוחבי. לכן עבודת הרגולטור מצריכה חשיבה מופשטת וכללית.
בשונה מרגולטורים, בעלי המקצוע שנמצאים בשטח מתאימים את הפתרונות למקרה הספציפי והקונקרטי שניצב מולם. הרופא - מתאים את הטיפול הרפואי, המהנדס - מתכנן מפרט הנדסי ספציפי לפי הצרכים של המפעל וכו'.
הרגולטור לא יכול לומר לכל אחד מאיתנו בדיוק איך להתנהג. זה לא ישיג את המטרה, זה יהיה מאוד לא יעיל ויפגע קשות בחירות הפרט.
יחידה ממשלתית, גדולה ככל שתהיה*, לא יכולה לקבוע הוראות פרטניות עבור כל חולה וחולה, או עבור כל מוצר ומוצר (וזה נכון בעוד תחומים: עבור כל עסק, מבנה, שירות או פעילות).
*ויחידות ממשלתיות לרוב מתלוננות על מחסור בכוח אדם, כך שהמצב הוא לא שפע עובדים.
ההבדל בין רגולטור לרופא, מנדס או רואה חשבון
כשרגולטור ניגש לקבוע כללים יש לו שתי אפשרויות מרכזיות: לעסוק במסגרת (ולהשאיר למפוקחים לקבוע את התוכן והפרטים) או להתמקד בסיכונים הקריטיים והמהותיים (ולהשאיר למפוקחים את השאר).
לפעמים יש בלבול.
רגולטור אינו נותן שירותים בשטח (כמו רופא). הוא צריך לקבוע כללי מסגרת רוחביים על בסיס ניתוח מופשט.
וגם ההיפך נכון - איש מקצוע מעולה מהשטח (רופא, מהנדס, כימאי) מאבחן מקרים ובעיות פרטניות ומספק להם טיפול נקודתי. לרוב הוא אינו רגיל לחשוב כמו מי שקובע מדיניות כללית.
התפקיד וסט הכישורים של רגולטור שונים מהתפקיד ומסט הכישורים של איש מקצוע שעובד בשטח.
אבל לעיתים יש בלבול, או עודף מוטיבציה, כמו שקרה ל-FDA.
לפעמים מרוב רצון לעזור, קורות גם טעויות מקצועיות. למשל, כתבתי בעבר על תאונה רגולטורית. ה-CDC פרסם קווים מנחים שהם המלצה בלבד, והמחוקקים במספר מדינות בתוך ארה"ב הפכו אותו לרגולציה מחייבת שדרסה את שיקול הדעת של רופאים.
רגולטורים צריכים להיזהר מפני חציית הגבול בין קביעת הוראות כלליות, לבין להתערבות פרטנית.
לכולנו קורה מידי פעם שאנחנו מאמינים שאנחנו יודעים יותר טוב. מאוד מפתה להיכנס לסוגיה קונקרטית, ולקבוע פתרונות קונקרטיים.
אבל כמו שה-FDA הוא לא רופא. רגולטורים קובעים הוראות כלליות, אבל הם לא גורמי ביצוע.
לא מצחיק: איסור רגולטורי על שלטים הומוריסטיים
מומלץ לקרוא את הפוסט המלא בבלוג, עם לינקים נוספים
בתוך שנתיים יהיה בארצות הברית איסור פדרלי על שילוט מצחיק בצידי כבישים.
המנהל הפדרלי לכבישים מהירים (U.S. Federal Highway Administration) פרסם לפני חודש מדריך מחייב למערכות שליטה ובקרה בכבישים מהירים.
מדובר במסמך פשוט ותמציתי - רק 1,161 עמודים. המסמך מוקדש כל כולו כדי לקבוע אילו שלטים ומערכות בקרה מותר להציב לצד כבישים מהירים.
הסעיף הכי מעניין במדריך החדש הוא האיסור על שלטים ומסרים הומוריסטיים. לפי מנהל הכבישים המהירים, מסרים הומוריסטיים עלולים להיות לא ברורים או להסיט את תשומת הלב של הנהג - ולכן הוחלט לאסור אותם.
◀️◀️ אסור מצחיק
ההוראות של מנהל הכבישים המהירים קובעות ששילוט לצד הדרך יהיה "פשוט, ישיר, קצר, קריא וברור" (במקור: "simple, direct, brief, legible and clear"). זה מזכיר פוסט שפרסמתי בעבר - על רגולציה באופן כללי ועל שילוט רגולטורי [לינק בבלוג].
יש למנהל הכבישים המהירים עוד הוראה עקרונית: מותר להתקין שילוט רק כאשר מדובר במידע חשוב לנהגים (למשל, מזהיר אותם מסכנה שעלולה לגרום להתנגשות, או תזכורת לחגור חגורות בטיחות).
מסתבר שלרגולטורים מהמדינות עצמן (לא הממשל הפדרלי) יש נטייה להשתמש בחוש הומור כשהם מתקינים שלטים עם מסרים בעד נהיגה בטוחה. יש להם בדיחות חביבות כמו “Visiting in-laws? Slow down, get there late,” (מבקר את חמותך? סע לאט ותגיע מאוחר).
ויש להם משחקי מילים אמריקאיים ולא מצחיקים, כמו “Hocus pocus, drive with focus” או “Hands on the wheel, not your meal”.
אני מסכים שהשניים האחרונים ממש צולעים. אבל לא בטוח שזו סיבה לאסור אותם ברגולציה פדרלית.
◀️◀️ המקרה של מדינת אריזונה
יש מדינות בארה"ב שממש יפגעו מהאיסור הזה.
למשל, באריזונה השלטונות התקינו מעל 300 שלטים אלקטרוניים בכבישים מהירים. מחלקת התחבורה של מדינת אריזונה אפילו מקיימת תחרויות כדי למצוא את המסרים הכי מצחיקים ומקוריים - ואז מפרסמת את המסרים הזוכים על גבי השלטים. לפי האתר שלהם, בתחרות האחרונה הוגשו יותר מ-3,700 הצעות למסרים לפרסום על גבי השלטים.
בחרתי לספר על המהלך של אריזונה כי בעיני יש בו פיצוח יצירתי. בישראל ובעולם אוהבים לומר שצריך לטפל בבעיה באמצעות חינוך וקמפיין הסברה. אבל לעיתים קרובות אלו סתם סיסמאות שלא ברור איך והאם הן יעבדו. לשפוך כסף על קמפיין לא מבטיח שהוא יעבוד.
אבל הרעיון לקיים תחרות סביב השלטים הוא פתרון ממשי להגברת המודעות וההזדהות עם המסר. זו דרך לבחור מסרים מקוריים ואפקטיביים. המסר כמובן יתפרסם בשלט שלצד הדרך. אבל בנוסף, כאשר אנשים מהציבור הכללי ישתתפו בתחרות - העניין שלהם והמודעות יתחזקו.
לדעתי, גם השלט עצמו וכמובן שגם התחרות יהיו כלים מדהימים כדי להגביר מודעות ולחבר את הציבור למסר שעוסק בבטיחות בנהיגה. לכן אני חושב שיכול להיות פה פיצוח אמיתי - באמצעות השלטים, התחרויות ויתר המיזמים שקשורים אליהם.
אז בתוך שנתיים אסור יהיה לפרסם שלטים כאלו. כנראה שיהיה צריך גם להקים יחידת אכיפה שתעסקי רק מפקחים שאין להם חוש הומור.
◀️◀️ שאלות גדולות יותר
ויש שאלה ממסדית. בארצות הברית יש ממשל פדרלי אבל יש גם ממשל מדינתי. ההתערבות של הממשל הפדרלי די דורסת את ההחלטות ואת האוטונומיה של הממשל במדינות. זה מעיד על חוסר אמון (הממשל הפדרלי מתערב כי הוא חושב שהוא יודע יותר טוב). התנהלות כזו מזכירה את העמדה שממשל ביידן הביע בשנה שעברה - שרגולציה פדרלית עדיפה על רגולציה מדינתית. אולי זה המשך של אותה גישה.
זה כביכול סיפור על סוגיה שולית. למי אכפת משלטים עם חוש הומור?
אבל זה סיפור על האופן שבו המדינה מחליטה להתערב או לא. למשל - אני מקבל את האמירה ששלטים מסיטים את תשומת הלב, אבל האם זה מצדיק התערבות (כלשהי) של הממשל? והאם התועלת מאיסור השלטים האלו, גבוהה מהעלות (הפסד היתרונות שבשלטים האלו). זה גם סיפור על נוקשות שאולי מקלקלת תהליכים יפים ויצירתיים.
מומלץ לקרוא את הפוסט המלא בבלוג, עם לינקים נוספים
בתוך שנתיים יהיה בארצות הברית איסור פדרלי על שילוט מצחיק בצידי כבישים.
המנהל הפדרלי לכבישים מהירים (U.S. Federal Highway Administration) פרסם לפני חודש מדריך מחייב למערכות שליטה ובקרה בכבישים מהירים.
מדובר במסמך פשוט ותמציתי - רק 1,161 עמודים. המסמך מוקדש כל כולו כדי לקבוע אילו שלטים ומערכות בקרה מותר להציב לצד כבישים מהירים.
הסעיף הכי מעניין במדריך החדש הוא האיסור על שלטים ומסרים הומוריסטיים. לפי מנהל הכבישים המהירים, מסרים הומוריסטיים עלולים להיות לא ברורים או להסיט את תשומת הלב של הנהג - ולכן הוחלט לאסור אותם.
◀️◀️ אסור מצחיק
ההוראות של מנהל הכבישים המהירים קובעות ששילוט לצד הדרך יהיה "פשוט, ישיר, קצר, קריא וברור" (במקור: "simple, direct, brief, legible and clear"). זה מזכיר פוסט שפרסמתי בעבר - על רגולציה באופן כללי ועל שילוט רגולטורי [לינק בבלוג].
יש למנהל הכבישים המהירים עוד הוראה עקרונית: מותר להתקין שילוט רק כאשר מדובר במידע חשוב לנהגים (למשל, מזהיר אותם מסכנה שעלולה לגרום להתנגשות, או תזכורת לחגור חגורות בטיחות).
מסתבר שלרגולטורים מהמדינות עצמן (לא הממשל הפדרלי) יש נטייה להשתמש בחוש הומור כשהם מתקינים שלטים עם מסרים בעד נהיגה בטוחה. יש להם בדיחות חביבות כמו “Visiting in-laws? Slow down, get there late,” (מבקר את חמותך? סע לאט ותגיע מאוחר).
ויש להם משחקי מילים אמריקאיים ולא מצחיקים, כמו “Hocus pocus, drive with focus” או “Hands on the wheel, not your meal”.
אני מסכים שהשניים האחרונים ממש צולעים. אבל לא בטוח שזו סיבה לאסור אותם ברגולציה פדרלית.
◀️◀️ המקרה של מדינת אריזונה
יש מדינות בארה"ב שממש יפגעו מהאיסור הזה.
למשל, באריזונה השלטונות התקינו מעל 300 שלטים אלקטרוניים בכבישים מהירים. מחלקת התחבורה של מדינת אריזונה אפילו מקיימת תחרויות כדי למצוא את המסרים הכי מצחיקים ומקוריים - ואז מפרסמת את המסרים הזוכים על גבי השלטים. לפי האתר שלהם, בתחרות האחרונה הוגשו יותר מ-3,700 הצעות למסרים לפרסום על גבי השלטים.
בחרתי לספר על המהלך של אריזונה כי בעיני יש בו פיצוח יצירתי. בישראל ובעולם אוהבים לומר שצריך לטפל בבעיה באמצעות חינוך וקמפיין הסברה. אבל לעיתים קרובות אלו סתם סיסמאות שלא ברור איך והאם הן יעבדו. לשפוך כסף על קמפיין לא מבטיח שהוא יעבוד.
אבל הרעיון לקיים תחרות סביב השלטים הוא פתרון ממשי להגברת המודעות וההזדהות עם המסר. זו דרך לבחור מסרים מקוריים ואפקטיביים. המסר כמובן יתפרסם בשלט שלצד הדרך. אבל בנוסף, כאשר אנשים מהציבור הכללי ישתתפו בתחרות - העניין שלהם והמודעות יתחזקו.
לדעתי, גם השלט עצמו וכמובן שגם התחרות יהיו כלים מדהימים כדי להגביר מודעות ולחבר את הציבור למסר שעוסק בבטיחות בנהיגה. לכן אני חושב שיכול להיות פה פיצוח אמיתי - באמצעות השלטים, התחרויות ויתר המיזמים שקשורים אליהם.
אז בתוך שנתיים אסור יהיה לפרסם שלטים כאלו. כנראה שיהיה צריך גם להקים יחידת אכיפה שתעסקי רק מפקחים שאין להם חוש הומור.
◀️◀️ שאלות גדולות יותר
ויש שאלה ממסדית. בארצות הברית יש ממשל פדרלי אבל יש גם ממשל מדינתי. ההתערבות של הממשל הפדרלי די דורסת את ההחלטות ואת האוטונומיה של הממשל במדינות. זה מעיד על חוסר אמון (הממשל הפדרלי מתערב כי הוא חושב שהוא יודע יותר טוב). התנהלות כזו מזכירה את העמדה שממשל ביידן הביע בשנה שעברה - שרגולציה פדרלית עדיפה על רגולציה מדינתית. אולי זה המשך של אותה גישה.
זה כביכול סיפור על סוגיה שולית. למי אכפת משלטים עם חוש הומור?
אבל זה סיפור על האופן שבו המדינה מחליטה להתערב או לא. למשל - אני מקבל את האמירה ששלטים מסיטים את תשומת הלב, אבל האם זה מצדיק התערבות (כלשהי) של הממשל? והאם התועלת מאיסור השלטים האלו, גבוהה מהעלות (הפסד היתרונות שבשלטים האלו). זה גם סיפור על נוקשות שאולי מקלקלת תהליכים יפים ויצירתיים.
הלילה בארה"ב בוצעה לראשונה הוצאה להורג באמצעות גז חנקן.
למה הם עברו לשיטה חדשה?
את התשובה תמצאו בפוסט הזה מלפני שנה - על מלחמת הרגולציה סביב ההוצאות להורג.
בעיני זה אחד הסיפורים הכי מוזרים על רגולציה ועל פעילות ממשלתית.
למה הם עברו לשיטה חדשה?
את התשובה תמצאו בפוסט הזה מלפני שנה - על מלחמת הרגולציה סביב ההוצאות להורג.
בעיני זה אחד הסיפורים הכי מוזרים על רגולציה ועל פעילות ממשלתית.
הרגולטור - גיא מור
מלחמת הרגולציה שמאחורי ההוצאות להורג בארה"ב
יש בארה"ב 24 מדינות שעדיין מבצעות הוצאות להורג. גם הממשל הפדרלי מוציא אנשים להורג בגין פשעים שונים. הדרך הכי נפוצה כיום היא זריקה קטלנית. אבל איך משיגים את הזריקות האלו? הופתעתי לגלות שאין רגו…
איך צריכה להיראות הרגולציה על בינה מלאכותית?
⚠️שימו לב: פוסט מעמיק - מומלץ לקרוא בצורה נוחה באתר האינטרנט (יש גם לינקים למקורות ועוד פוסטים קשורים)
כולם מדברים על הרגולציה של הבינה המלאכותית (AI). באירופה קביעת הרגולציה היא בשלבים מתקדמים, בארצות הברית הרגולציה מתקדמת בקצב איטי יותר. אבל לעולם ברור שזה הדבר הגדול הבא, ובינה מלאכותית מצריכה רגולציה.
היא כרוכה בסיכונים ובהזדמנויות. והיא גם מעוררת שאלות ודילמות מיוחדות (הרחבתי על חלק מהן בסדרת פוסטים על בינה מלאכותית שפרסמתי בשנת 2019).
לפני שנוכל לדבר על הרגולציה בתחום צריך לומר מילה על הסיכונים והאתגרים המרכזיים.
הסיכונים מגוונים - הטעיה ומניפולציה, מעקב והטרדה, פגיעה בזכויות יוצרים, התחזות וזיוף, וגרימת נזק מכוון באמצעות או בעזרת הטכנולוגיה. ויש גם חששות מפני סיכון קיומי.
כמובן שכל הסיכונים האלו נובעים מתוך תכונות של הטכנולוגיה הזו, שיש לה יכולות חזקות בהשוואה למה שהכרנו עד עכשיו.
מקורות האתגר
אלגוריתמים של למידת מכונה מתאמנים על מסדי נתונים גדולים. התכונה הזו הופכת את אותם אלגוריתמים למאוד חזקים. הם יכולים לעשות דברים שבני אדם לא יכולים. אם לפני 60 שנים בני אדם פחדו מרובוטים, שחזקים פיזית יותר מאיתנו, עכשיו אנחנו מתמודדים עם "מכונה" אחרת שנראה שהיא חכמה יותר מאיתנו. ויש משהו מרתיע ב"מכונה" שהתפיסה והתודעה שלה עולות על שלנו.
יש עוד משהו שמגביר - בצדק - את החששות. אנחנו לא באמת מבינים איך האלגוריתמים האלו עובדים. התופעה הזו נקראת גם "בעיית הקופסה השחורה" (כי אנחנו לא יודעים מה קורה בתוך האלגוריתם). למשל, כשמאמנים בינה מלאכותית לזהות מהו "בית" - מראים לה הרבה תמונות של בתים. אבל לא נתנו לה הגדרה של בית. היא למדה לבד מה משותף לבתים שבתמונות. ולא ידוע לנו מה בדיוק היא למדה (אגב, כשחושבים על זה, זה לא מאוד שונה מהאופן שבו בני אדם לומדים).
ברגע שאנחנו לא יודעים איך הבינה המלאכותית עובדת, זה הופך אותה לפחות צפויה, פחות ניתנת לניטור ולבקרה - ולכן בפוטנציאל גם ליותר מסוכנת.
כך למשל, אם אנחנו לא יודעים איך האלגוריתם עובד - יותר קשה לנו לסמוך על כך שהוא יהיה הוגן, לא יפלה ולא ישתמש במידע שאסור לו. אולי האלגוריתם עובד באופן מושלם. אבל במקרים רבים, אנחנו לא יודעים איך הוא עובד וקשה עד בלתי אפשרי לבדוק אם הוא עובד בצורה מושלמת.
העוצמה של האלגוריתמים בשילוב עם האטימות שלהם שלהם יוצרים בעיה ייחודית.
יש לבינה מלאכותית (AI) עוד שלוש תכונות שמוסיפות לאתגר: המערכות הן אוטונומיות, הן מתעדכנות ומשתנות כל הזמן והן מגוונות (יש מגוון רחב של מערכות וכלים, כך שיש בפנינו הרבה בעיות והרבה סיכונים מסוגים שונים). הגיוון נובע משני מקורות - גם מכך שיש הרבה כלים לפתח ולאמן בינה מלאכותית וגם מכך שיש הרבה מטרות ושימושים. למשל, אם ניקח את דוגמת האלגוריתם שמזהה תמונות - יש הבדל בין מודל בינה מלאכותית לזיהוי תמונה שנועד להחליף טייס מטוס, למודל שעוזר לרופאים לפענח ולנתח צילומי C.T לבין מודל שאמור לזהות תוכן פוגעני ברשתות חברתיות. הם פותחו ואומנו למטרות שונות בתכלית. אז הטעויות והשימוש הזדוני בהם יראה אחרת וינבע מסיבות שונות.
ויש עוד משהו שכבר התחיל לקרות ובוודאי יתעצם בעתיד - שילוב במספר כלי בינה מלאכותית (AI). כבר נתקלתי ביוצרים שמשתמשים בכלי אחד כדי לאסוף רעיונות, בכלי אחד כדי להעמיק אותם ובכלי שלישי כדי לאתר שגיאות וללטש את התוצר הסופי. כבר היום יש ארגונים רבים שמחברים ישירות כלי בינה מלאכותית זה לזה.
סיכום ביניים: בינה מלאכותית היא כלי עם עוצמה אדירה, היא אטומה ולא לגמרי מובנת לנו, היא אוטונומית, היא מגוונת מאוד ומשתנה כל הזמן. קשה מאוד לקבוע רגולציה על משהו שלא מובן לנו, עצמאי וכל הזמן זז.
ובשפה של מדיניות ציבורית
עולם הבינה המלאכותית מעסיק בעלי תפקידים מהרבה עולמות. בינה מלאכותית עלולה לייצר סיכוני בטיחות (למשל, מודל שמטיס מטוס במקום טייס או מסייע לו). היא עלולה לפגוע בצרכנים (למשל מודל שמציע שירותי תמחור או משווה בין מוצרים ושירותים, למשל בין חבילות נופש). יש סיכונים להתחזות, מצגי שווא וגניבת זהות (באמצעות זיוף עמוק). היא עלולה לפגוע בזכויות יוצרים (כל תמונה או טקסט שבינה מלאכותית "יוצרת" - לא נוצר יש מאין). וכמובן יש סוגיות רוחביות של אפליה, שוויון, סיכוני סייבר וסיכונים לפרטיות (כמעט כל כלי שאוסף, מעבד ומעביר מידע).
זאת אומרת, אין תחום אחד שהבינה המלאכותית מוגבלת אליו ואין אינטרס ציבורי יחיד שמושפע ממנה. לכן העיסוק בבינה המלאכותית מעצם טיבו מערב מספר רב של שחקנים (מה שיוצר פוטנציאל לסתירות וכפילויות).
⚠️שימו לב: פוסט מעמיק - מומלץ לקרוא בצורה נוחה באתר האינטרנט (יש גם לינקים למקורות ועוד פוסטים קשורים)
כולם מדברים על הרגולציה של הבינה המלאכותית (AI). באירופה קביעת הרגולציה היא בשלבים מתקדמים, בארצות הברית הרגולציה מתקדמת בקצב איטי יותר. אבל לעולם ברור שזה הדבר הגדול הבא, ובינה מלאכותית מצריכה רגולציה.
היא כרוכה בסיכונים ובהזדמנויות. והיא גם מעוררת שאלות ודילמות מיוחדות (הרחבתי על חלק מהן בסדרת פוסטים על בינה מלאכותית שפרסמתי בשנת 2019).
לפני שנוכל לדבר על הרגולציה בתחום צריך לומר מילה על הסיכונים והאתגרים המרכזיים.
הסיכונים מגוונים - הטעיה ומניפולציה, מעקב והטרדה, פגיעה בזכויות יוצרים, התחזות וזיוף, וגרימת נזק מכוון באמצעות או בעזרת הטכנולוגיה. ויש גם חששות מפני סיכון קיומי.
כמובן שכל הסיכונים האלו נובעים מתוך תכונות של הטכנולוגיה הזו, שיש לה יכולות חזקות בהשוואה למה שהכרנו עד עכשיו.
מקורות האתגר
אלגוריתמים של למידת מכונה מתאמנים על מסדי נתונים גדולים. התכונה הזו הופכת את אותם אלגוריתמים למאוד חזקים. הם יכולים לעשות דברים שבני אדם לא יכולים. אם לפני 60 שנים בני אדם פחדו מרובוטים, שחזקים פיזית יותר מאיתנו, עכשיו אנחנו מתמודדים עם "מכונה" אחרת שנראה שהיא חכמה יותר מאיתנו. ויש משהו מרתיע ב"מכונה" שהתפיסה והתודעה שלה עולות על שלנו.
יש עוד משהו שמגביר - בצדק - את החששות. אנחנו לא באמת מבינים איך האלגוריתמים האלו עובדים. התופעה הזו נקראת גם "בעיית הקופסה השחורה" (כי אנחנו לא יודעים מה קורה בתוך האלגוריתם). למשל, כשמאמנים בינה מלאכותית לזהות מהו "בית" - מראים לה הרבה תמונות של בתים. אבל לא נתנו לה הגדרה של בית. היא למדה לבד מה משותף לבתים שבתמונות. ולא ידוע לנו מה בדיוק היא למדה (אגב, כשחושבים על זה, זה לא מאוד שונה מהאופן שבו בני אדם לומדים).
ברגע שאנחנו לא יודעים איך הבינה המלאכותית עובדת, זה הופך אותה לפחות צפויה, פחות ניתנת לניטור ולבקרה - ולכן בפוטנציאל גם ליותר מסוכנת.
כך למשל, אם אנחנו לא יודעים איך האלגוריתם עובד - יותר קשה לנו לסמוך על כך שהוא יהיה הוגן, לא יפלה ולא ישתמש במידע שאסור לו. אולי האלגוריתם עובד באופן מושלם. אבל במקרים רבים, אנחנו לא יודעים איך הוא עובד וקשה עד בלתי אפשרי לבדוק אם הוא עובד בצורה מושלמת.
העוצמה של האלגוריתמים בשילוב עם האטימות שלהם שלהם יוצרים בעיה ייחודית.
יש לבינה מלאכותית (AI) עוד שלוש תכונות שמוסיפות לאתגר: המערכות הן אוטונומיות, הן מתעדכנות ומשתנות כל הזמן והן מגוונות (יש מגוון רחב של מערכות וכלים, כך שיש בפנינו הרבה בעיות והרבה סיכונים מסוגים שונים). הגיוון נובע משני מקורות - גם מכך שיש הרבה כלים לפתח ולאמן בינה מלאכותית וגם מכך שיש הרבה מטרות ושימושים. למשל, אם ניקח את דוגמת האלגוריתם שמזהה תמונות - יש הבדל בין מודל בינה מלאכותית לזיהוי תמונה שנועד להחליף טייס מטוס, למודל שעוזר לרופאים לפענח ולנתח צילומי C.T לבין מודל שאמור לזהות תוכן פוגעני ברשתות חברתיות. הם פותחו ואומנו למטרות שונות בתכלית. אז הטעויות והשימוש הזדוני בהם יראה אחרת וינבע מסיבות שונות.
ויש עוד משהו שכבר התחיל לקרות ובוודאי יתעצם בעתיד - שילוב במספר כלי בינה מלאכותית (AI). כבר נתקלתי ביוצרים שמשתמשים בכלי אחד כדי לאסוף רעיונות, בכלי אחד כדי להעמיק אותם ובכלי שלישי כדי לאתר שגיאות וללטש את התוצר הסופי. כבר היום יש ארגונים רבים שמחברים ישירות כלי בינה מלאכותית זה לזה.
סיכום ביניים: בינה מלאכותית היא כלי עם עוצמה אדירה, היא אטומה ולא לגמרי מובנת לנו, היא אוטונומית, היא מגוונת מאוד ומשתנה כל הזמן. קשה מאוד לקבוע רגולציה על משהו שלא מובן לנו, עצמאי וכל הזמן זז.
ובשפה של מדיניות ציבורית
עולם הבינה המלאכותית מעסיק בעלי תפקידים מהרבה עולמות. בינה מלאכותית עלולה לייצר סיכוני בטיחות (למשל, מודל שמטיס מטוס במקום טייס או מסייע לו). היא עלולה לפגוע בצרכנים (למשל מודל שמציע שירותי תמחור או משווה בין מוצרים ושירותים, למשל בין חבילות נופש). יש סיכונים להתחזות, מצגי שווא וגניבת זהות (באמצעות זיוף עמוק). היא עלולה לפגוע בזכויות יוצרים (כל תמונה או טקסט שבינה מלאכותית "יוצרת" - לא נוצר יש מאין). וכמובן יש סוגיות רוחביות של אפליה, שוויון, סיכוני סייבר וסיכונים לפרטיות (כמעט כל כלי שאוסף, מעבד ומעביר מידע).
זאת אומרת, אין תחום אחד שהבינה המלאכותית מוגבלת אליו ואין אינטרס ציבורי יחיד שמושפע ממנה. לכן העיסוק בבינה המלאכותית מעצם טיבו מערב מספר רב של שחקנים (מה שיוצר פוטנציאל לסתירות וכפילויות).
הרגולטור - גיא מור
איך צריכה להיראות הרגולציה על בינה מלאכותית?
כולם מדברים על הרגולציה של הבינה המלאכותית (AI). באירופה קביעת הרגולציה היא בשלבים מתקדמים, בארצות הברית הרגולציה מתקדמת בקצב איטי יותר. אבל לעולם ברור שזה הדבר הגדול הבא, ובינה מלאכותית מצריכה רגו…
תובנה לעתיד הקרוב: בשנים הקרונות יותר ויותר רגולטורים יקבעו רגולציה על בינה מלאכותית. התערבות של רגולטור כלשהו במטרה לצמצם סיכון מבינה מלאכותית (AI), עלולה בסבירות גבוהה ליצור סיכון חדש או להגביר סיכון קיים - שבתחום עיסוקו של גורם ממשלתי אחר.
הצורך ברגולציה
אני מביא כאן הרבה סיפורים ודוגמאות על כשלי רגולציה. כמו שכתבתי בעבר, זה הרבה יותר מעניין מסיפור על רגולציה שהצליחה וגם מאפשר להפיק תובנות יותר מעניינות ממקרה שבו "הכל בסדר".
אבל זה לא אומר שאני נגד רגולציה באופן גורף.
הבינה המלאכותית מעלה שאלות, סיכונים ואתגרים חדשים. וכשהפעילות במציאות משתנה - עלינו לחשוב על שינוי המסגרת הרגולטורית בהתאם (שינוי זה גם ליצור מסגרת חדשה). הבעיות שלנו השתנו, די מתבקש לחשוב על שינוי של הרגולציה שנקבעה בעולם ללא בינה מלאכותית. תוסיפו לזה ניתוח דינמי (שהבינה המלאכותית תמשיך להתפתח) והמסקנה הזו עוד יותר מתחדדת.
איך לקבוע את הרגולציה על בינה מלאכותית?
נשים בצד עקרונות שדי מובנים מאליהם, כמו שהרגולציה צריכה להשתנות ולהתעדכן באופן מהיר, בגלל שהתחום הזה עדיין לא מוכר לנו מספיק והוא ילך וישתנה באופן תדיר.
כתבתי בעבר על ארבע אבני הבניין של כל רגולציה - דרכים שונות לעצב הוראות רגולטוריות. הבינה המלאכותית היא מקרה בוחן טוב להבחנה בין אותן ארבע אבני בניין.
תקני תהליך
אני לא יודע איך בינה מלאכותית פותרת בעיות, אבל כשבני אדם ניגשים לבעיה הם בדרך כלל חושבים על פתרון מאוד מוחשי. זאת אומרת, הם חושבים על דברים קונקרטים, כמו דוגמאות. למשל - אם אני עובד במשרד ממשלתי ואני מתמודד עם בעיה של דליפות מים, אני קודם כל אחשוב על חובת החלפת הצינורות, שימוש בחומר לאיטום החורים בצינורות וכו'. בדרך כלל המחשבה הראשונה שלי לא תהיה - לשפר את בקרת האיכות בשרשרת הייצור והאספקה של הצינורות, או לשפר את מערך התמריצים של מתקיני הצינורות.
זה קורה משתי סיבות. הראשונה - רגולטורים הם לרוב אנשי מקצוע מדיסיפלינה קונקרטית (כמו הנדסה או רפואה) ולכן הם חושבים באופן טבעי על רגולציה שמבוססת פתרון שהם מכירים מהפרקטיקה שלהם. השנייה - כבני אדם יותר קל לנו לחשוב על פתרון מוחשי וספציפי מאשר פתרון מופשט וכללי.
כשמיישמים את הגישה זו ברגולציה קוראים לה "תקני תהליך" (process standards). לפי הגישה הזו נקבע הוראת שיקבעו אילו פעולות לבצע, באילו חומרים להשתמש, מה צריך להיות תהליך העבודה, מה יהיה המפרט של המוצר או המבנה וכו'. לרגולציה כזו יש לא מעט חסרונות, כמו פגיעה בגמישות, בחדשנות, בתחרות והיא מוגבלת מאוד לדמיון של מי שקבע אותה (להרחבה, מומלץ לקרוא את נייר המדיניות שכתבתי על הנושא - לינק באתר).
הצורך ברגולציה
אני מביא כאן הרבה סיפורים ודוגמאות על כשלי רגולציה. כמו שכתבתי בעבר, זה הרבה יותר מעניין מסיפור על רגולציה שהצליחה וגם מאפשר להפיק תובנות יותר מעניינות ממקרה שבו "הכל בסדר".
אבל זה לא אומר שאני נגד רגולציה באופן גורף.
הבינה המלאכותית מעלה שאלות, סיכונים ואתגרים חדשים. וכשהפעילות במציאות משתנה - עלינו לחשוב על שינוי המסגרת הרגולטורית בהתאם (שינוי זה גם ליצור מסגרת חדשה). הבעיות שלנו השתנו, די מתבקש לחשוב על שינוי של הרגולציה שנקבעה בעולם ללא בינה מלאכותית. תוסיפו לזה ניתוח דינמי (שהבינה המלאכותית תמשיך להתפתח) והמסקנה הזו עוד יותר מתחדדת.
איך לקבוע את הרגולציה על בינה מלאכותית?
נשים בצד עקרונות שדי מובנים מאליהם, כמו שהרגולציה צריכה להשתנות ולהתעדכן באופן מהיר, בגלל שהתחום הזה עדיין לא מוכר לנו מספיק והוא ילך וישתנה באופן תדיר.
כתבתי בעבר על ארבע אבני הבניין של כל רגולציה - דרכים שונות לעצב הוראות רגולטוריות. הבינה המלאכותית היא מקרה בוחן טוב להבחנה בין אותן ארבע אבני בניין.
תקני תהליך
אני לא יודע איך בינה מלאכותית פותרת בעיות, אבל כשבני אדם ניגשים לבעיה הם בדרך כלל חושבים על פתרון מאוד מוחשי. זאת אומרת, הם חושבים על דברים קונקרטים, כמו דוגמאות. למשל - אם אני עובד במשרד ממשלתי ואני מתמודד עם בעיה של דליפות מים, אני קודם כל אחשוב על חובת החלפת הצינורות, שימוש בחומר לאיטום החורים בצינורות וכו'. בדרך כלל המחשבה הראשונה שלי לא תהיה - לשפר את בקרת האיכות בשרשרת הייצור והאספקה של הצינורות, או לשפר את מערך התמריצים של מתקיני הצינורות.
זה קורה משתי סיבות. הראשונה - רגולטורים הם לרוב אנשי מקצוע מדיסיפלינה קונקרטית (כמו הנדסה או רפואה) ולכן הם חושבים באופן טבעי על רגולציה שמבוססת פתרון שהם מכירים מהפרקטיקה שלהם. השנייה - כבני אדם יותר קל לנו לחשוב על פתרון מוחשי וספציפי מאשר פתרון מופשט וכללי.
כשמיישמים את הגישה זו ברגולציה קוראים לה "תקני תהליך" (process standards). לפי הגישה הזו נקבע הוראת שיקבעו אילו פעולות לבצע, באילו חומרים להשתמש, מה צריך להיות תהליך העבודה, מה יהיה המפרט של המוצר או המבנה וכו'. לרגולציה כזו יש לא מעט חסרונות, כמו פגיעה בגמישות, בחדשנות, בתחרות והיא מוגבלת מאוד לדמיון של מי שקבע אותה (להרחבה, מומלץ לקרוא את נייר המדיניות שכתבתי על הנושא - לינק באתר).
החסרונות האלו מאוד בולטים בתחום הבינה המלאכותית. מאוד מפתה לקבוע מפרט טכני לאלגוריתמים של בינה מלאכותית. זאת אומרת, שהרגולטורים ממש יגדירו איך לתכנן, לפתח, לאמן ולהשתמש בבינה מלאכותית. הגישה הזו יוצרת בעיות בתחומים יותר מוחשיים ומסורתיים כמו תכנון ובניה. בתחום הבינה המלאכותית זה יהיה בין מזיק לבכלל לא אפשרי, בגלל בעיית הקופסה השחורה.
תקני ביצוע
כשרוצים להכווין התנהגות לא חייבים להתייחס לחומרים, תשומות, ותהליכים. אפשרות אחרות היא לדבר על תוצאות. בתחום הרגולציה קוראים לגישה כזו "תקני ביצוע" (performance standards). זאת אומרת - מגדירים תוצאה נדרשת שצריך להשיג או תוצאה אסורה, שאסור שתתרחש. למפוקחים יש חירות וגמישות כיצד לפעול כדי להגיע לתוצאה הנדרשת, בתנאי שהם עומדים בה.
באופן כללי, אני תומך במעבר לתכני ביצוע וחושב שצריך לעשות בהם יותר שימוש על חשבון תקני תהליך (אך לא באופן מוחלט).
אני בספק אם בתחום הבינה המלאכותית ניתן להתבסס רק על תקני ביצוע. הסיבה היא שדי קשה להגדיר תוצאה ברורה שאותה צריך להשיג או שצריך להימנע ממנה. כשקובעים תקן ביצוע אנחנו צריכים להגדיר את היעד ולצידו גם לקבוע מבחן לעמידה ביעד ואת הקריטריונים ואת שיטת המדידה.
בשנים האחרונות רגולטורים ניסו לקבוע תקני ביצוע כחלק מרגולציה על בינה מלאכותית, אבל לעיתים קרובות הם נאלצו להשתמש בתקני ביצוע די כלליים. למשל, כאלו שדיברו על תוצאות "הוגנות". בחלק מהמקרים זה מספיק, אבל לדעתי זה לא נותן מענה לכל הצרכים ברגולציה.
בנוסף, מאוד קשה להגדיר את הרף הנדרש - ואז נשארים עם קריטריונים מאוד לא מוגדרים. מה זה אומר שהמערכת תהיה "בטוחה"? (מהו הרף? מה נחשב מספיק בטוח? מי יקבע את זה בדיעבד?) גמישות היא מטרה חשובה, אבל היא צריכה להגיע עם רמה מסוימת של וודאות ובהירות.
תקני ניהול
דרך שלישית לעצב רגולציה מציעה גישה שונה בתכלית - הרגולטור לא יקבע למפוקחים את התוצאה וגם לא את הדרך. המפוקח הוא שיקבע לעצמו את האמצעים לטיפול בסיכונים. הרגולטור רק יחייב אותו לנתח את הסיכונים ולגבש עבורם תכנית מענה. המפוקח יקבע איך לגשת לסיכונים (דרך הוראת תהליכיות או תוצאתיות) וגם את התוכן שלהן.
לגישה הזו קוראים "תקני ניהול" (management standards). הרעיון הוא שהרגולטור לא מבצע את ניהול הסיכונים, אלא מטיל על המפוקח לבצע את ניהול הסיכונים. המפוקח יבצע הערכה של הסיכונים ויגבש תכנית פעולה (בדרך כלל, באמצעות קביעת נהלים). המעורבות של הרגולטור תהיה ברמות שונות, סביב שאלות כמו - האם המפוקח ביצע הערכת סיכונים, האם הוא גיבש תכנית מענה לסיכונים והאם המפוקח עומד בתכנית שהוא עצמו קבע? לכן רגולציה כזו מגיעה לרוב עם הקמת תהליכי ניהול סיכונים פנימיים וכללי תיעוד.
גישה כזו מטילה על המפוקח לנתח את הפעולות, התהליכים והממשקים כדי לזהות סיכונים, להעריך מה הסיכונים המרכזיים ואז לגבש צעדים לצמצום הסיכונים שהוא זיהה והגדיר. עבודת הניתוח, ההערכה והתכנון היא של המפוקח.
החשיבה על תקני ניהול די חדשה (בת כ-20 שנים). הם בעלי ערך בולט בעיקר במצבים בהם גם תקני תהליך וגם תקני ביצוע לא נותנים מענה מספיק טוב: מצבים שבהם השוק הוא דינמי ומגוון (תקני תהליך לא מתאימים) וגם כשקשה להגדיר או למדוד תוצאה מוגדרת (תקני ביצוע לא מתאימים).
במצבים כאלו, לעיתים אפשר להטיל על המפוקח לבצע את ניהול הסיכונים - ויש מקרים שבהם הוא יוכל לבצע את זה יותר טוב מהרגולטור (זה מצריך מפוקחים מיומנים ומתוחכמים).
משתמשים בגישה כבר לא מעט שנים ברגולציה של בטיחות מזון במפעלים (סוג כזה של תכנית נקרא HACCP).
לפני שנה, נעשה ניסיון לאמץ גישה כזו בתחום הבינה המלאכותית. מכון התקנים האמריקאי (NIST) פרסם מסמך מסגרת לניהול סיכוני בינה מלאכותית. המודל שמוצע במסמך מטיל על החברות המפוקחות לפתח תהליכים, מערכות ולמנות בעלי תפקידים שיזהו ויעריכו סיכונים, ואז יתנו להם מענה. הסטנדרט מדבר גם על נהלים פנימיים, כללים לתיעוד, הדרכות ושהמפוקחים יצטרכו לתעדף את הטיפול בסיכונים - מאפיין מובהק של העברת המשימה מהרגולטור אל המפוקחים. חשוב להבהיר שהמסמך של ה-NIST אינו מחייב. אבל הוא דוגמה מעניינת לאופן שבו אפשר לעצב רגולציה, באופן כללי וספציפית על בינה מלאכותית.
תקני ניהול לא מתאימים לכל מצב, לכל מפוקח ולכל סיכון. אבל בתחום שמתאפיין בכך שאנחנו לא יודעים איך האלגוריתם עובד, כשהאלגוריתמים אוטונומיים, כשהם משתנים באופן תדיר ומאחר שמדובר במערכות מאוד מגוונות - יכול להיות שזה מקרה מתאים (אולי אפילו תגידו - מקרה קלאסי) לאימוץ תקני ניהול.
תקני ביצוע
כשרוצים להכווין התנהגות לא חייבים להתייחס לחומרים, תשומות, ותהליכים. אפשרות אחרות היא לדבר על תוצאות. בתחום הרגולציה קוראים לגישה כזו "תקני ביצוע" (performance standards). זאת אומרת - מגדירים תוצאה נדרשת שצריך להשיג או תוצאה אסורה, שאסור שתתרחש. למפוקחים יש חירות וגמישות כיצד לפעול כדי להגיע לתוצאה הנדרשת, בתנאי שהם עומדים בה.
באופן כללי, אני תומך במעבר לתכני ביצוע וחושב שצריך לעשות בהם יותר שימוש על חשבון תקני תהליך (אך לא באופן מוחלט).
אני בספק אם בתחום הבינה המלאכותית ניתן להתבסס רק על תקני ביצוע. הסיבה היא שדי קשה להגדיר תוצאה ברורה שאותה צריך להשיג או שצריך להימנע ממנה. כשקובעים תקן ביצוע אנחנו צריכים להגדיר את היעד ולצידו גם לקבוע מבחן לעמידה ביעד ואת הקריטריונים ואת שיטת המדידה.
בשנים האחרונות רגולטורים ניסו לקבוע תקני ביצוע כחלק מרגולציה על בינה מלאכותית, אבל לעיתים קרובות הם נאלצו להשתמש בתקני ביצוע די כלליים. למשל, כאלו שדיברו על תוצאות "הוגנות". בחלק מהמקרים זה מספיק, אבל לדעתי זה לא נותן מענה לכל הצרכים ברגולציה.
בנוסף, מאוד קשה להגדיר את הרף הנדרש - ואז נשארים עם קריטריונים מאוד לא מוגדרים. מה זה אומר שהמערכת תהיה "בטוחה"? (מהו הרף? מה נחשב מספיק בטוח? מי יקבע את זה בדיעבד?) גמישות היא מטרה חשובה, אבל היא צריכה להגיע עם רמה מסוימת של וודאות ובהירות.
תקני ניהול
דרך שלישית לעצב רגולציה מציעה גישה שונה בתכלית - הרגולטור לא יקבע למפוקחים את התוצאה וגם לא את הדרך. המפוקח הוא שיקבע לעצמו את האמצעים לטיפול בסיכונים. הרגולטור רק יחייב אותו לנתח את הסיכונים ולגבש עבורם תכנית מענה. המפוקח יקבע איך לגשת לסיכונים (דרך הוראת תהליכיות או תוצאתיות) וגם את התוכן שלהן.
לגישה הזו קוראים "תקני ניהול" (management standards). הרעיון הוא שהרגולטור לא מבצע את ניהול הסיכונים, אלא מטיל על המפוקח לבצע את ניהול הסיכונים. המפוקח יבצע הערכה של הסיכונים ויגבש תכנית פעולה (בדרך כלל, באמצעות קביעת נהלים). המעורבות של הרגולטור תהיה ברמות שונות, סביב שאלות כמו - האם המפוקח ביצע הערכת סיכונים, האם הוא גיבש תכנית מענה לסיכונים והאם המפוקח עומד בתכנית שהוא עצמו קבע? לכן רגולציה כזו מגיעה לרוב עם הקמת תהליכי ניהול סיכונים פנימיים וכללי תיעוד.
גישה כזו מטילה על המפוקח לנתח את הפעולות, התהליכים והממשקים כדי לזהות סיכונים, להעריך מה הסיכונים המרכזיים ואז לגבש צעדים לצמצום הסיכונים שהוא זיהה והגדיר. עבודת הניתוח, ההערכה והתכנון היא של המפוקח.
החשיבה על תקני ניהול די חדשה (בת כ-20 שנים). הם בעלי ערך בולט בעיקר במצבים בהם גם תקני תהליך וגם תקני ביצוע לא נותנים מענה מספיק טוב: מצבים שבהם השוק הוא דינמי ומגוון (תקני תהליך לא מתאימים) וגם כשקשה להגדיר או למדוד תוצאה מוגדרת (תקני ביצוע לא מתאימים).
במצבים כאלו, לעיתים אפשר להטיל על המפוקח לבצע את ניהול הסיכונים - ויש מקרים שבהם הוא יוכל לבצע את זה יותר טוב מהרגולטור (זה מצריך מפוקחים מיומנים ומתוחכמים).
משתמשים בגישה כבר לא מעט שנים ברגולציה של בטיחות מזון במפעלים (סוג כזה של תכנית נקרא HACCP).
לפני שנה, נעשה ניסיון לאמץ גישה כזו בתחום הבינה המלאכותית. מכון התקנים האמריקאי (NIST) פרסם מסמך מסגרת לניהול סיכוני בינה מלאכותית. המודל שמוצע במסמך מטיל על החברות המפוקחות לפתח תהליכים, מערכות ולמנות בעלי תפקידים שיזהו ויעריכו סיכונים, ואז יתנו להם מענה. הסטנדרט מדבר גם על נהלים פנימיים, כללים לתיעוד, הדרכות ושהמפוקחים יצטרכו לתעדף את הטיפול בסיכונים - מאפיין מובהק של העברת המשימה מהרגולטור אל המפוקחים. חשוב להבהיר שהמסמך של ה-NIST אינו מחייב. אבל הוא דוגמה מעניינת לאופן שבו אפשר לעצב רגולציה, באופן כללי וספציפית על בינה מלאכותית.
תקני ניהול לא מתאימים לכל מצב, לכל מפוקח ולכל סיכון. אבל בתחום שמתאפיין בכך שאנחנו לא יודעים איך האלגוריתם עובד, כשהאלגוריתמים אוטונומיים, כשהם משתנים באופן תדיר ומאחר שמדובר במערכות מאוד מגוונות - יכול להיות שזה מקרה מתאים (אולי אפילו תגידו - מקרה קלאסי) לאימוץ תקני ניהול.
בעיני האתגר הוא של הרגולטורים, שיצטרכו ללמוד לקבוע וליישם תקני ניהול. נתקלתי בעבר ברגולטורים שאימצו תקני ניהול, אבל בגלל שהם הכירו רק תקני תהליך - הם הפכו את תקני הניהול לתהליכיים ועמוסי בירוקרטיה (למשל, הם דרשו מהמפוקחים להגיש לרגולטור כל הערכת סיכונים וכל תכנית לטיפול בסיכונים, והרגולטור היה משנה את התוכן ומכתיב להם הוראות ספציפיות).
לסיכום
כשבוחנים את כל המאפיינים של הסוגיה ואת האתגרים , אפשר לרכז כמה תובנות ושיעורים שרגולטורים יכולים ליישם כשהם ניגשים לקבוע רגולציה על בינה מלאכותית:
1. להעדיף תקני ביצוע ותקני ניהול, על פני תקני תהליך.
אני ממליץ על זה באופן כללי, אבל במקרה של בינה מלאכותית נראה שזה נכון במיוחד.
להרחבה על אבני הבניין השונות מומלץ לקרוא את נייר המדיניות שכתבתי על הנושא.
2. להשתדל לא להתערב בפיתוח של מערכות.
זה המשך של הנקודה הקודמת - אם מחליטים לקבוע הוראות תהליכיות, עדיף שהן לא יופנו לפיתוח של המערכות. זה גם עולם שהרגולטורים לא ממש שולטים בו, וזה גם אומר ממש להכתיב את הטכנולוגיה. הפוטנציאל לטעות מאוד גדול שם, ובנוסף, רגולציה על פיתוח עלולה ליצור חסמים לטכנולוגיה או להיות אנטי-תחרותית. עדיף לקבוע רגולציה על השימוש והיישום של המערכות, ולא על הפיתוח.
3. לחשוב על תמריצים.
עד עכשיו דיברנו על רגולציה שמופנית באופן ישיר לסיכונים. אבל במקרים רבים הרגולציה מוצלחת בגלל שהיא לא מנסה לעסוק בתופעה הבלתי רצויה עצמה, אלא מטפלת במבנה התמריצים שגורם לשחקנים השונים ליצור תופעות בלתי רצויות ונזקים. זו חשיבה יותר מורכבת, אבל במקרים בהם אפשר לטפל בתמריצים - זה כדאי.
4. דינמיות ושינוי מתמיד.
אנחנו מטפלים בתחום שמתאפיין בקצב שינוי מתמיד. מוצרים חדשים יוצאים לשוק על בסיס שבועי וחדשות דרמטיות מתפרסמות על בסיס חודשי. עד שהשוק הזה יתבסס וקצב השינוי יפחת - צריך רגולציה שתהיה גמישה היום וגם תוכל להשתנות מהר. יש סיכוי שקצב השינוי לא יאט אלא רק יגבר. בכל מקרה, נראה שבתחום הזה שינוי הוא הקבוע היחידי.
לסיכום
כשבוחנים את כל המאפיינים של הסוגיה ואת האתגרים , אפשר לרכז כמה תובנות ושיעורים שרגולטורים יכולים ליישם כשהם ניגשים לקבוע רגולציה על בינה מלאכותית:
1. להעדיף תקני ביצוע ותקני ניהול, על פני תקני תהליך.
אני ממליץ על זה באופן כללי, אבל במקרה של בינה מלאכותית נראה שזה נכון במיוחד.
להרחבה על אבני הבניין השונות מומלץ לקרוא את נייר המדיניות שכתבתי על הנושא.
2. להשתדל לא להתערב בפיתוח של מערכות.
זה המשך של הנקודה הקודמת - אם מחליטים לקבוע הוראות תהליכיות, עדיף שהן לא יופנו לפיתוח של המערכות. זה גם עולם שהרגולטורים לא ממש שולטים בו, וזה גם אומר ממש להכתיב את הטכנולוגיה. הפוטנציאל לטעות מאוד גדול שם, ובנוסף, רגולציה על פיתוח עלולה ליצור חסמים לטכנולוגיה או להיות אנטי-תחרותית. עדיף לקבוע רגולציה על השימוש והיישום של המערכות, ולא על הפיתוח.
3. לחשוב על תמריצים.
עד עכשיו דיברנו על רגולציה שמופנית באופן ישיר לסיכונים. אבל במקרים רבים הרגולציה מוצלחת בגלל שהיא לא מנסה לעסוק בתופעה הבלתי רצויה עצמה, אלא מטפלת במבנה התמריצים שגורם לשחקנים השונים ליצור תופעות בלתי רצויות ונזקים. זו חשיבה יותר מורכבת, אבל במקרים בהם אפשר לטפל בתמריצים - זה כדאי.
4. דינמיות ושינוי מתמיד.
אנחנו מטפלים בתחום שמתאפיין בקצב שינוי מתמיד. מוצרים חדשים יוצאים לשוק על בסיס שבועי וחדשות דרמטיות מתפרסמות על בסיס חודשי. עד שהשוק הזה יתבסס וקצב השינוי יפחת - צריך רגולציה שתהיה גמישה היום וגם תוכל להשתנות מהר. יש סיכוי שקצב השינוי לא יאט אלא רק יגבר. בכל מקרה, נראה שבתחום הזה שינוי הוא הקבוע היחידי.
🍔 ההמבורגר הזה על אחריותך 🍔
הפוסט מפנה ומבוסס על מקורות מגוונים. מומלץ לקרוא את הפוסט המלא באתר "הרגולטור", שם יש את הלינקים לכל המקורות. גם יותר נוח לקרוא שם.
לקוח נכנס למסעדה במלון הילטון. הוא מזמין המבורגר. "באיזו מידת עשייה תרצה את ההמבורגר שלך?" שואלת המלצרית. "מדיום" הלקוח עונה.
כעבור מספר דקות המלצרית מגישה ללקוח צלחת עם המבורגר בלחמניה, ולצידו צ'יפס.
ההמבורגר נראה מצויין. הלקוח מתחיל לאכול ולהנות מההמבורגר שעשוי בדיוק כמו שהוא אוהב.
אבל מיד המלצרית חוזרת ומגישה ללקוח מסמך משפטי, והוא מתבקש לחתום עליו.
מדובר בכתב ויתור תביעות (waiver). לפי כתב הויתור, הלקוח מוותר על כל תביעה או טענה כלפי המסעדה לגבי נזקים בריאותיים שיגרמו לו כתוצאה מאכילת המבורגר בדרגת עשייה שהיא פחות מ"עשוי היטב" (well-done).
המסמך המשפטי הלחיץ את הלקוח. גם המחשבה שהבשר אולי מסוכן למאכל הרתיעה אותו. ולכן, למרות שהביסים שהוא הספיק לקחת מההמבורגר היו מצויינים - הוא ויתר. הלקוח שילם את החשבון ועזב את המסעדה, בלי לאכול את ההמבורגר ובלי לחתום על המסמך.
הסיפור הזה אמיתי. הוא התרחש לפני שבועיים בטורונטו, קנדה.
הלקוח פרסם אותו באתר reddit והצית דיון סוער. [🔗באתר "הרגולטור" יש לינק לפוסט הזה ולעוד הרבה מקורות שמוזכרים בהמשך, כולל תמונות ותרשימים להמחשה]
אחת הסיבות שהסיפור הזה הקפיץ הרבה אנשים היא שמקובל בעולם להגיש בשר בדרגת עשייה מדיום.
◀️ טעות עסקית
כנראה שהתוצאה של האירוע הזה הייתה ידועה מראש. מנהלי המסעדה בוודאי ידעו שזה מאוד מרתיע לקוחות לחתום על מסמך משפטי באמצע מסעדה. זה בוודאי לא עוזר שהמסמך מעלה את האפשרות שהאוכל יהיה מקולקל.
אגב, אם המסעדנים באמת רוצים להגן על עצמם כנראה שעדיף להם להחתים את הלקוח על כתב הויתור לפני שהוא מזמין את המנה. שזה עוד יותר בירוקרטי ופוגע בחוויה.
מסעדה לא תטרח סתם לשלם לעורך דין שיינסח כתב ויתור תביעות, וגם לפגוע בחוויה של הלקוחות. היא תעשה את זה אם היא חייבת.
או כי מישהו חייב אותה ישירות, או כי היא נאלצת לעשות את זה בגלל אילוץ אחר, למשל חשש מתביעות.
אף מסעדן שפוי לא היה עושה את זה סתם.
מטעם רשת הילטון שמפעילה את המסעדה נמסר (תרגום חופשי שלי): "כשלקוח מבקש מנת בשר בדרגת עשייה הנמוכה מהמינימום שנדרש מאיתנו, המלון מוסר להם כתב ויתור כאמצעי בטיחות מזון. הנוסח של כתב הויתור תואם למה שנהוג לציין בתחתית תפריטים של מסעדות".
והנה קיבלנו רמז לסיבה שהמסעדה עשתה את זה. המסעדה משתמשת בכתב הויתור רק כשהלקוח מבקש רמת עשייה שנמוכה מהמינימום שנדרש מהמסעדה. מי קובע את המינימום *שמחייב* את המסעדה?
◀️ התרומה של הרגולציה
המסעדה לא הכניסה את עצמה לצרה הזו מיוזמתה.
משרד הבריאות של מחוז אונטריו בקנדה (בו טורונטו נמצא) פרסם בשנת 2018 מסמך שקובע כללי בטיחות מזון לעוסקים במזון. באותו מסמך נקבע שבשר בקר יש לבשל לטמפרטורה של לפחות 71 מעלות צלזיוס.
דרישה תואמת מופיעה במסמך נוסף של משרד הבריאות הקנדי (הפדרלי) לעניין בישול, טיפול וסימון בשר. סעיף 1.3 עוסק בסימון ובהנחיות לבישול בבשר. ההמלצה היא לכתוב שיש לבשל בשר עד לטמפרטורה פנימית בטוחה, ובבשר בקר מדובר בטמפרטורה של לפחות 71 מעלות צלזיוס.
זה נוסח הסעיף:
“Health Canada recommends including the following five statements on the Safe Cooking and Handling Label. [...]
3. Cook to a safe internal temperature - ground meat to 71C (160 F), ground poultry to 74 C (165 F).”
דרגת העשייה של בשר מושפעת מהתהליך שהבשר עובר כתוצאה מחימום, זאת אומרת שהיא נקבעת לפי הטמפרטורה של הבשר. דרגת עשייה "מדיום" מתקבלת מבישול לטמפרטורה של 60-65 מעלות צלזיוס. תחממו את הבשר יותר - תקבלו מידת עשייה שונה. הקנדים קובעים שכדי שבשר יהיה בטוח למאכל יש לבשל אותו ל-71 מעלות צלזיוס. ולכן הרגולטור למעשה קובע שלא בטוח לצרוך בשר בדרגת עשייה מדיום (וכמובן גם בכל דרגת עשייה נמוכה יותר).
אגב, בקוד הרגולטורי של קנדה לעסקים שמשווקים ומכינים מזון, בנספח B יש הגדרות לרמות עשייה לפי טמפרטורה. שם מופיע שמידת עשייה "מדיום" בבשר בקר היא 71 מעלות צלזיוס. כל מי שמבין קצת בבשר יודע שזה לא נכון, וב-71 מעלות תקבלו מדיום-וול.
אבל בהקשר הרגולטורי - אם מדיום מתקבל בבישול של 71 מעלות צלזיוס, מה בכלל הבעיה? אם הלקוח הזמין המבורגר במידת עשייה מדיום - שהמסעדה תכין לו "מדיום" של 71 מעלות, ואז היא לא צריכה לקחת סיכון או להחתים לקוחות על טפסים. המסעדה נאלצה לעשות את זה, כי הרגולטור טעה בהגדרה.
הרגולטור כנראה מבין בבטיחות מזון, אבל פחות מבין בקולינריה ומידות עשייה של בשר. זה בסדר, הרגולטור אמור לקבוע כללים ולא להבין בפרקטיקה של ניהול עסקים. ולכן עדיף שהוא לא ייכנס לתחומים שאין לו הבנה, ויכתוב שגיאות במסמכים רשמיים.
◀️ רגולציה או המלצה?
הפוסט מפנה ומבוסס על מקורות מגוונים. מומלץ לקרוא את הפוסט המלא באתר "הרגולטור", שם יש את הלינקים לכל המקורות. גם יותר נוח לקרוא שם.
לקוח נכנס למסעדה במלון הילטון. הוא מזמין המבורגר. "באיזו מידת עשייה תרצה את ההמבורגר שלך?" שואלת המלצרית. "מדיום" הלקוח עונה.
כעבור מספר דקות המלצרית מגישה ללקוח צלחת עם המבורגר בלחמניה, ולצידו צ'יפס.
ההמבורגר נראה מצויין. הלקוח מתחיל לאכול ולהנות מההמבורגר שעשוי בדיוק כמו שהוא אוהב.
אבל מיד המלצרית חוזרת ומגישה ללקוח מסמך משפטי, והוא מתבקש לחתום עליו.
מדובר בכתב ויתור תביעות (waiver). לפי כתב הויתור, הלקוח מוותר על כל תביעה או טענה כלפי המסעדה לגבי נזקים בריאותיים שיגרמו לו כתוצאה מאכילת המבורגר בדרגת עשייה שהיא פחות מ"עשוי היטב" (well-done).
המסמך המשפטי הלחיץ את הלקוח. גם המחשבה שהבשר אולי מסוכן למאכל הרתיעה אותו. ולכן, למרות שהביסים שהוא הספיק לקחת מההמבורגר היו מצויינים - הוא ויתר. הלקוח שילם את החשבון ועזב את המסעדה, בלי לאכול את ההמבורגר ובלי לחתום על המסמך.
הסיפור הזה אמיתי. הוא התרחש לפני שבועיים בטורונטו, קנדה.
הלקוח פרסם אותו באתר reddit והצית דיון סוער. [🔗באתר "הרגולטור" יש לינק לפוסט הזה ולעוד הרבה מקורות שמוזכרים בהמשך, כולל תמונות ותרשימים להמחשה]
אחת הסיבות שהסיפור הזה הקפיץ הרבה אנשים היא שמקובל בעולם להגיש בשר בדרגת עשייה מדיום.
◀️ טעות עסקית
כנראה שהתוצאה של האירוע הזה הייתה ידועה מראש. מנהלי המסעדה בוודאי ידעו שזה מאוד מרתיע לקוחות לחתום על מסמך משפטי באמצע מסעדה. זה בוודאי לא עוזר שהמסמך מעלה את האפשרות שהאוכל יהיה מקולקל.
אגב, אם המסעדנים באמת רוצים להגן על עצמם כנראה שעדיף להם להחתים את הלקוח על כתב הויתור לפני שהוא מזמין את המנה. שזה עוד יותר בירוקרטי ופוגע בחוויה.
מסעדה לא תטרח סתם לשלם לעורך דין שיינסח כתב ויתור תביעות, וגם לפגוע בחוויה של הלקוחות. היא תעשה את זה אם היא חייבת.
או כי מישהו חייב אותה ישירות, או כי היא נאלצת לעשות את זה בגלל אילוץ אחר, למשל חשש מתביעות.
אף מסעדן שפוי לא היה עושה את זה סתם.
מטעם רשת הילטון שמפעילה את המסעדה נמסר (תרגום חופשי שלי): "כשלקוח מבקש מנת בשר בדרגת עשייה הנמוכה מהמינימום שנדרש מאיתנו, המלון מוסר להם כתב ויתור כאמצעי בטיחות מזון. הנוסח של כתב הויתור תואם למה שנהוג לציין בתחתית תפריטים של מסעדות".
והנה קיבלנו רמז לסיבה שהמסעדה עשתה את זה. המסעדה משתמשת בכתב הויתור רק כשהלקוח מבקש רמת עשייה שנמוכה מהמינימום שנדרש מהמסעדה. מי קובע את המינימום *שמחייב* את המסעדה?
◀️ התרומה של הרגולציה
המסעדה לא הכניסה את עצמה לצרה הזו מיוזמתה.
משרד הבריאות של מחוז אונטריו בקנדה (בו טורונטו נמצא) פרסם בשנת 2018 מסמך שקובע כללי בטיחות מזון לעוסקים במזון. באותו מסמך נקבע שבשר בקר יש לבשל לטמפרטורה של לפחות 71 מעלות צלזיוס.
דרישה תואמת מופיעה במסמך נוסף של משרד הבריאות הקנדי (הפדרלי) לעניין בישול, טיפול וסימון בשר. סעיף 1.3 עוסק בסימון ובהנחיות לבישול בבשר. ההמלצה היא לכתוב שיש לבשל בשר עד לטמפרטורה פנימית בטוחה, ובבשר בקר מדובר בטמפרטורה של לפחות 71 מעלות צלזיוס.
זה נוסח הסעיף:
“Health Canada recommends including the following five statements on the Safe Cooking and Handling Label. [...]
3. Cook to a safe internal temperature - ground meat to 71C (160 F), ground poultry to 74 C (165 F).”
דרגת העשייה של בשר מושפעת מהתהליך שהבשר עובר כתוצאה מחימום, זאת אומרת שהיא נקבעת לפי הטמפרטורה של הבשר. דרגת עשייה "מדיום" מתקבלת מבישול לטמפרטורה של 60-65 מעלות צלזיוס. תחממו את הבשר יותר - תקבלו מידת עשייה שונה. הקנדים קובעים שכדי שבשר יהיה בטוח למאכל יש לבשל אותו ל-71 מעלות צלזיוס. ולכן הרגולטור למעשה קובע שלא בטוח לצרוך בשר בדרגת עשייה מדיום (וכמובן גם בכל דרגת עשייה נמוכה יותר).
אגב, בקוד הרגולטורי של קנדה לעסקים שמשווקים ומכינים מזון, בנספח B יש הגדרות לרמות עשייה לפי טמפרטורה. שם מופיע שמידת עשייה "מדיום" בבשר בקר היא 71 מעלות צלזיוס. כל מי שמבין קצת בבשר יודע שזה לא נכון, וב-71 מעלות תקבלו מדיום-וול.
אבל בהקשר הרגולטורי - אם מדיום מתקבל בבישול של 71 מעלות צלזיוס, מה בכלל הבעיה? אם הלקוח הזמין המבורגר במידת עשייה מדיום - שהמסעדה תכין לו "מדיום" של 71 מעלות, ואז היא לא צריכה לקחת סיכון או להחתים לקוחות על טפסים. המסעדה נאלצה לעשות את זה, כי הרגולטור טעה בהגדרה.
הרגולטור כנראה מבין בבטיחות מזון, אבל פחות מבין בקולינריה ומידות עשייה של בשר. זה בסדר, הרגולטור אמור לקבוע כללים ולא להבין בפרקטיקה של ניהול עסקים. ולכן עדיף שהוא לא ייכנס לתחומים שאין לו הבנה, ויכתוב שגיאות במסמכים רשמיים.
◀️ רגולציה או המלצה?
◀️ רגולציה או המלצה?
על פניו המסמכים של מחוז אונטריו ושל משרד הבריאות הקנדי בכלל לא מחייבים. המסמך של מחוז אונטריו מוגדר כ"מדריך" (Guide). המסמך של משרד הבריאות הקנדי הוא נוהל, אבל המילה שמשמשת אותם היא Guidance - מאותו שורש כמו Guide.
אם המסמכים האלו הם רק מסמכי הדרכה, אולי הם רק המלצה? אולי הם לא מחייבים, אלא רק נועדו למסור מידע וולונטרי ולסייע למפוקחים?
זה מזכיר את הנוהג - בעולם וגם בישראל - לעמעם את המעמד של מסמכים רגולטוריים. בעולם משתמשים במונח Guidance. בישראל משתמשים במונח "הנחיה" - שהוא לא "הוראה" וגם לא "המלצה". וככה המעמד של המסמך לא ברור ונוצרת אי וודאות.
אם לשפוט לפי ההחלטה של המסעדה בפועל - למסמכים שהרגולטורים בקנדה פרסמו יש מעמד מחייב, ברמה כלשהי. אחרת המסעדה לא הייתה טורחת להתמודד איתם.
אפשרות אחת היא שהמסמכים האלו מחייבים רגולטורית לכל דבר. זאת אומרת, שהמפקחים של הרגולטור מבצעים פיקוח ואכיפה לפי המסמכים האלו ומטילים סנקציות כאשר יש חריגים מהם.
אפשרות שנייה היא שהרגולטורים לא עוסקים באכיפה של מה שכתוב במסמכים, כי מנגנון האכיפה המרכזי של המסמכים הוא אכיפה אזרחית. זאת אומרת שבלי קשר לאכיפה הממשלתית, אזרח שנפגע יכול לתבוע את המסעדה. ויהיה לכם יותר קל לתבוע את המסעדה אם הרגולטור קבע שבשר שבושל לטמפרטורה שנמוכה מ-71 מעלות צלזיוס אינו בטוח לצריכה.
ואולי גם יש כאן פתח לתובענה ייצוגית, שלקוח אחד יגיש בשם כל מי שאכל בשר במסעדה. תובענה ייצוגית יוצרת סיכון משפטי הרבה יותר גדול.
◀️ הוצאתם לי את התאבון
כל הסיפור הזה עקום. ההתנהלות של המסעדה נשמעת חסרת היגיון ואפילו מטופשת. עד שמבינים שהם כנראה מתגוננים מפיקוח ואכיפה של הממשלה או מתביעות אזרחיות, שמבוססות על נהלים ממשלתיים.
יש סיכון בכל דבר. ובשר שלא בושל היטב עלול להיות גורם סיכון. אבל במסגרת ניהול הסיכונים שרוב הממשלות והאזרחים עושים, אנחנו לא נמנעים באופן מוחלט מבשר שלא בושל למידת עשייה של מדיום-וול. מקובל שקבוצות סיכון כמו נשים בהריון נמנעות מבשר שלא בושל לגמרי, אבל לא מטילים איסור או מגבלה על האוכלוסיה הכללית.
זו גם דוגמה לכך שכל דבר הוא עניין של פשרות ושל עלות-תועלת. בישול בשר למידת מדיום-וול מקטין את הסיכונים התברואתיים, אבל בחלק מהמנות גם הופך את הבשר לקשה, יבש ופחות טעים משמעותית.
אבל יש פה עוד שאלות, למשל - אם זו הרגולציה, למה לא שומעים שזה קורה בכל המסעדות בקנדה או במחוז אונטריו? אני משער שזה קשור ליישום לא עקבי ולא אחיד של הרגולציה בשטח.
הלקוח והגולשים באינטרנט ביקרו את המסעדה על המדיניות הקיצונית שלה. אבל אי אפשר לנתק את זה מהרגולציה. כנראה שהמסעדה נקטה בצעדים קיצוניים בגלל שהיא התמודדה עם מציאות רגולטורית מחמירה ומרחיקת לכת.
__
הפוסט המלא מפורסם באתר "הרגולטור", כולל לינקים למקורות ולפוסטים נוספים בהנושא.
על פניו המסמכים של מחוז אונטריו ושל משרד הבריאות הקנדי בכלל לא מחייבים. המסמך של מחוז אונטריו מוגדר כ"מדריך" (Guide). המסמך של משרד הבריאות הקנדי הוא נוהל, אבל המילה שמשמשת אותם היא Guidance - מאותו שורש כמו Guide.
אם המסמכים האלו הם רק מסמכי הדרכה, אולי הם רק המלצה? אולי הם לא מחייבים, אלא רק נועדו למסור מידע וולונטרי ולסייע למפוקחים?
זה מזכיר את הנוהג - בעולם וגם בישראל - לעמעם את המעמד של מסמכים רגולטוריים. בעולם משתמשים במונח Guidance. בישראל משתמשים במונח "הנחיה" - שהוא לא "הוראה" וגם לא "המלצה". וככה המעמד של המסמך לא ברור ונוצרת אי וודאות.
אם לשפוט לפי ההחלטה של המסעדה בפועל - למסמכים שהרגולטורים בקנדה פרסמו יש מעמד מחייב, ברמה כלשהי. אחרת המסעדה לא הייתה טורחת להתמודד איתם.
אפשרות אחת היא שהמסמכים האלו מחייבים רגולטורית לכל דבר. זאת אומרת, שהמפקחים של הרגולטור מבצעים פיקוח ואכיפה לפי המסמכים האלו ומטילים סנקציות כאשר יש חריגים מהם.
אפשרות שנייה היא שהרגולטורים לא עוסקים באכיפה של מה שכתוב במסמכים, כי מנגנון האכיפה המרכזי של המסמכים הוא אכיפה אזרחית. זאת אומרת שבלי קשר לאכיפה הממשלתית, אזרח שנפגע יכול לתבוע את המסעדה. ויהיה לכם יותר קל לתבוע את המסעדה אם הרגולטור קבע שבשר שבושל לטמפרטורה שנמוכה מ-71 מעלות צלזיוס אינו בטוח לצריכה.
ואולי גם יש כאן פתח לתובענה ייצוגית, שלקוח אחד יגיש בשם כל מי שאכל בשר במסעדה. תובענה ייצוגית יוצרת סיכון משפטי הרבה יותר גדול.
◀️ הוצאתם לי את התאבון
כל הסיפור הזה עקום. ההתנהלות של המסעדה נשמעת חסרת היגיון ואפילו מטופשת. עד שמבינים שהם כנראה מתגוננים מפיקוח ואכיפה של הממשלה או מתביעות אזרחיות, שמבוססות על נהלים ממשלתיים.
יש סיכון בכל דבר. ובשר שלא בושל היטב עלול להיות גורם סיכון. אבל במסגרת ניהול הסיכונים שרוב הממשלות והאזרחים עושים, אנחנו לא נמנעים באופן מוחלט מבשר שלא בושל למידת עשייה של מדיום-וול. מקובל שקבוצות סיכון כמו נשים בהריון נמנעות מבשר שלא בושל לגמרי, אבל לא מטילים איסור או מגבלה על האוכלוסיה הכללית.
זו גם דוגמה לכך שכל דבר הוא עניין של פשרות ושל עלות-תועלת. בישול בשר למידת מדיום-וול מקטין את הסיכונים התברואתיים, אבל בחלק מהמנות גם הופך את הבשר לקשה, יבש ופחות טעים משמעותית.
אבל יש פה עוד שאלות, למשל - אם זו הרגולציה, למה לא שומעים שזה קורה בכל המסעדות בקנדה או במחוז אונטריו? אני משער שזה קשור ליישום לא עקבי ולא אחיד של הרגולציה בשטח.
הלקוח והגולשים באינטרנט ביקרו את המסעדה על המדיניות הקיצונית שלה. אבל אי אפשר לנתק את זה מהרגולציה. כנראה שהמסעדה נקטה בצעדים קיצוניים בגלל שהיא התמודדה עם מציאות רגולטורית מחמירה ומרחיקת לכת.
__
הפוסט המלא מפורסם באתר "הרגולטור", כולל לינקים למקורות ולפוסטים נוספים בהנושא.
הבוקר נתקלתי במימ הזה, שמצביע על כשל נפוץ של מקבלי ההחלטות (ושל הציבור).
משום מה האופטימיות הזו חוזרת על עצמה בהרבה תחומים.
בפוסט הזה כתבתי על הכשל הזה, באמצעות שני סיפורים על רגולציה עם תוצאות מפתיעות.
משום מה האופטימיות הזו חוזרת על עצמה בהרבה תחומים.
בפוסט הזה כתבתי על הכשל הזה, באמצעות שני סיפורים על רגולציה עם תוצאות מפתיעות.
תכנית למלחמה במשבר האקלים
לחצו כאן לקריאת הפוסט המלא בבלוג
לפני המלחמה בעזה ולפני הסערה המשפטית בישראל, כולם הוטרדו ממשבר האקלים. ובזמן שאנחנו היינו עסוקים בשחרור חטופים מעזה, התקיימה ועידת COP28, שעסקה בצמצום פליטות פחמן דו חמצני. היעד הרשמי: הגעה לאיפוס פחמן (net zero carbon) עד שנת 2050.
יש מספר צעדים מוכרים שעליהם מדברים: מס על פחמן, פריסת פאנלים סולאריים, התקנת טורבינות רוח והסבת מגזר התחבורה משימוש במנועי בעירה למנועי חשמל.
יש צעד נוסף שלא זוכה לאותם יחסי ציבור, אבל הוא ממלא תפקיד מרכזי בצמצום פליטות הפחמן: מעבר לשימוש באנרגיה גרעינית (להרחבה - ראו את סדרת הפוסט בנושא).
נראה שלמרות הפחד המסורתי מאנרגיה גרעינית, לאט לאט הציבור והממשלות משתחררים ממנו. במשך שנים הייתה חלוקה מסורתית ברורה: מי שתמך במדיניות סביבתית גם התנגד לשימוש באנרגיה גרעינית. ולכן כשדיברו על אלטרנטיבה לפחם, נפט וגז - זה תמיד היה פאנלים סולאריים וטורבינות רוח.
אבל נראה שזה משתנה. בוועידת COP28 הכירו לראשונה בחשיבות הקריטית של אנרגיה גרעינית לצמצום סיכוני משבר האקלים.
היתרונות של אנרגיה גרעינית
1. מינימום פליטות פחמן.
גרעין הוא מקור האנרגיה שיוצרת הכי מעט פליטות פחמן. לא רק בשלב הייצור, אלא בניתוח מחזור חיים מלא (full life cycle). אם נשווה אנרגיה גרעינית לפאנלים סולאריים - שימוש בפאנלים סולאריים יצריך פי 17 יותר חומרים ופי 46 יותר שטח אדמה, בהשוואה לאנרגיה גרעינית. יותר חומר ויותר אדמה = יותר פליטות פחמן, יותר חתימה סביבתית ויותר עלויות.
2. יותר אנרגיה בפחות מחיר ופחות זיהום.
קילו אורניום מאפשר לייצר בערך פי שני מיליון יותר אנרגיה מקילו נפט (זה נקרא גם צפיפות אנרגטית). וכמובן שזה ייצור אנרגיה נטול פליטת זיהומים (חלקיקים) וגם נטול פליטות פחמן.
זה אומר שבנוסף ליעילות של האנרגיה הגרעינית עצמה, היא גם חוסכת את הצורך לשנע דלקים (ואת העלות שנלווית לשינוע). במונח של נפח - חתיכת אורניום בגודל של תפוח, שקולה למספר חביות נפט. זה דרמטי בעלויות בשינוע ובחתימה הסביבתית של השינוע.
למידע נוסף על אנרגיה גרעינית, אני ממליץ על מאגר המידע של הסוכנות הבין-לאומית לאנרגיה גרעינית.
3. אמינות ויציבות.
אנרגיה גרעינית לא תלויה במשתנים חיצוניים כמו מזג אוויר. האלטרנטיבות הירוקות האחרות הן פאנלים סולאריים - שלא פעילים בלילה, כשיש עננות או אובך; וטורבינות רוח - שלא פעילות כשאין רוח.
אם אנחנו מחפשים מקור אנרגיה מרכזי, ולא מקור אנרגיה שישמש ל-5% מייצור החשמל שלנו, אנחנו צריכים מקור אמיר ויציב, שלא יגרום להפסקות חשמל כשיש עננים או כשהרוח נחלשת*. אנרגיה גרעינית היא מקור האנרגיה הירוק האמין ביותר.
* פתרונות אגירת אנרגיה מיועדים לתת לכך מענה. אבל כיום הם מאוד יקרים, מוגבלים בקיבולת שלהם וכרוכים בעוד קשיים ישומיים.
4. זמינות בטווח הארוך.
כיום אנרגיה גרעינית מבוססת על אורניום ופלוטוניום. בעתיד היא כנראה תתבסס על חומרים אחרים, כמו תוריום. אורניום הוא אחד היסודות הנפוצים שאפשר למצוא. יש כל כך הרבה אורניום שהוא יכול להספיק לנו למאות שנים. המחקר העדכני יותר עוסק בשימוש ביסוד אחר - תוריום - שהוא הרבה יותר בטוח מאורניום (בלתי אפשרי להשתמש בו לשימושים צבאיים) והוא גם הרבה יותר נפוץ בטבע.
ומה לגבי החסרונות? הערה על הסיכונים
עצם השימוש באנרגיה גרעינית לא יוצר פליטת חלקיקים או פליטת פחמן. גרעין היא אנרגיה נקייה - גם מבחינה סביבתית (חלקיקים מזהמים) וגם מבחינה אקלימית (פחמן דו חמצני וגזי חממה אחרת).
הסיכון הוא לא בשדה הסביבתי, אלא בשדה הבטיחות, כי מדובר בחומרים רדיואקטיביים (שמייצרים פסולת רדיואקטיביים, ויכולים להביא לתקריות חמורות כפי שקרה בצ'רנוביל למשל). מצד שני, אנרגיה גרעינית מייצרת מעט פסולת (כי צריך מעט חומר, ראו מעלה). ובהחלט צריך לטפל בהם באופן זהיר, למשל לאחסן את הפסולת במקום בטוח (מתקני אחסון מבטון).
רק שזה מה שעושים כבר בערך 70 שנים. מדינות מסביב לעולם (כמו צרפת ופינלנד) שמשתמשות באנרגיה גרעינית בנו וממשיכות לבנות אתרי אחסון לפסולת רדיואקטיבית. צרפת מבססת כ-75% מהאנרגיה שלה על מקורות גרעיניים, זאת אומרת כבר הרבה שנים יש שם המון תחנות כוח גרעיניות פעילות, שגם מייצרות פסולת. שמעתם על זיהום בגלל פסולת רדיואקטיבית בצרפת? מה לגבי סלובקיה, הונגריה, בלגיה, צ'כיה, שוויץ או נורבגיה?
נראה שזה בהחלט ישים לאסוף את מעט הפסולת הרדיואקטיבית ולשמור אותה היטב במתקנים ממוגנים.
לחצו כאן לקריאת הפוסט המלא בבלוג
לפני המלחמה בעזה ולפני הסערה המשפטית בישראל, כולם הוטרדו ממשבר האקלים. ובזמן שאנחנו היינו עסוקים בשחרור חטופים מעזה, התקיימה ועידת COP28, שעסקה בצמצום פליטות פחמן דו חמצני. היעד הרשמי: הגעה לאיפוס פחמן (net zero carbon) עד שנת 2050.
יש מספר צעדים מוכרים שעליהם מדברים: מס על פחמן, פריסת פאנלים סולאריים, התקנת טורבינות רוח והסבת מגזר התחבורה משימוש במנועי בעירה למנועי חשמל.
יש צעד נוסף שלא זוכה לאותם יחסי ציבור, אבל הוא ממלא תפקיד מרכזי בצמצום פליטות הפחמן: מעבר לשימוש באנרגיה גרעינית (להרחבה - ראו את סדרת הפוסט בנושא).
נראה שלמרות הפחד המסורתי מאנרגיה גרעינית, לאט לאט הציבור והממשלות משתחררים ממנו. במשך שנים הייתה חלוקה מסורתית ברורה: מי שתמך במדיניות סביבתית גם התנגד לשימוש באנרגיה גרעינית. ולכן כשדיברו על אלטרנטיבה לפחם, נפט וגז - זה תמיד היה פאנלים סולאריים וטורבינות רוח.
אבל נראה שזה משתנה. בוועידת COP28 הכירו לראשונה בחשיבות הקריטית של אנרגיה גרעינית לצמצום סיכוני משבר האקלים.
היתרונות של אנרגיה גרעינית
1. מינימום פליטות פחמן.
גרעין הוא מקור האנרגיה שיוצרת הכי מעט פליטות פחמן. לא רק בשלב הייצור, אלא בניתוח מחזור חיים מלא (full life cycle). אם נשווה אנרגיה גרעינית לפאנלים סולאריים - שימוש בפאנלים סולאריים יצריך פי 17 יותר חומרים ופי 46 יותר שטח אדמה, בהשוואה לאנרגיה גרעינית. יותר חומר ויותר אדמה = יותר פליטות פחמן, יותר חתימה סביבתית ויותר עלויות.
2. יותר אנרגיה בפחות מחיר ופחות זיהום.
קילו אורניום מאפשר לייצר בערך פי שני מיליון יותר אנרגיה מקילו נפט (זה נקרא גם צפיפות אנרגטית). וכמובן שזה ייצור אנרגיה נטול פליטת זיהומים (חלקיקים) וגם נטול פליטות פחמן.
זה אומר שבנוסף ליעילות של האנרגיה הגרעינית עצמה, היא גם חוסכת את הצורך לשנע דלקים (ואת העלות שנלווית לשינוע). במונח של נפח - חתיכת אורניום בגודל של תפוח, שקולה למספר חביות נפט. זה דרמטי בעלויות בשינוע ובחתימה הסביבתית של השינוע.
למידע נוסף על אנרגיה גרעינית, אני ממליץ על מאגר המידע של הסוכנות הבין-לאומית לאנרגיה גרעינית.
3. אמינות ויציבות.
אנרגיה גרעינית לא תלויה במשתנים חיצוניים כמו מזג אוויר. האלטרנטיבות הירוקות האחרות הן פאנלים סולאריים - שלא פעילים בלילה, כשיש עננות או אובך; וטורבינות רוח - שלא פעילות כשאין רוח.
אם אנחנו מחפשים מקור אנרגיה מרכזי, ולא מקור אנרגיה שישמש ל-5% מייצור החשמל שלנו, אנחנו צריכים מקור אמיר ויציב, שלא יגרום להפסקות חשמל כשיש עננים או כשהרוח נחלשת*. אנרגיה גרעינית היא מקור האנרגיה הירוק האמין ביותר.
* פתרונות אגירת אנרגיה מיועדים לתת לכך מענה. אבל כיום הם מאוד יקרים, מוגבלים בקיבולת שלהם וכרוכים בעוד קשיים ישומיים.
4. זמינות בטווח הארוך.
כיום אנרגיה גרעינית מבוססת על אורניום ופלוטוניום. בעתיד היא כנראה תתבסס על חומרים אחרים, כמו תוריום. אורניום הוא אחד היסודות הנפוצים שאפשר למצוא. יש כל כך הרבה אורניום שהוא יכול להספיק לנו למאות שנים. המחקר העדכני יותר עוסק בשימוש ביסוד אחר - תוריום - שהוא הרבה יותר בטוח מאורניום (בלתי אפשרי להשתמש בו לשימושים צבאיים) והוא גם הרבה יותר נפוץ בטבע.
ומה לגבי החסרונות? הערה על הסיכונים
עצם השימוש באנרגיה גרעינית לא יוצר פליטת חלקיקים או פליטת פחמן. גרעין היא אנרגיה נקייה - גם מבחינה סביבתית (חלקיקים מזהמים) וגם מבחינה אקלימית (פחמן דו חמצני וגזי חממה אחרת).
הסיכון הוא לא בשדה הסביבתי, אלא בשדה הבטיחות, כי מדובר בחומרים רדיואקטיביים (שמייצרים פסולת רדיואקטיביים, ויכולים להביא לתקריות חמורות כפי שקרה בצ'רנוביל למשל). מצד שני, אנרגיה גרעינית מייצרת מעט פסולת (כי צריך מעט חומר, ראו מעלה). ובהחלט צריך לטפל בהם באופן זהיר, למשל לאחסן את הפסולת במקום בטוח (מתקני אחסון מבטון).
רק שזה מה שעושים כבר בערך 70 שנים. מדינות מסביב לעולם (כמו צרפת ופינלנד) שמשתמשות באנרגיה גרעינית בנו וממשיכות לבנות אתרי אחסון לפסולת רדיואקטיבית. צרפת מבססת כ-75% מהאנרגיה שלה על מקורות גרעיניים, זאת אומרת כבר הרבה שנים יש שם המון תחנות כוח גרעיניות פעילות, שגם מייצרות פסולת. שמעתם על זיהום בגלל פסולת רדיואקטיבית בצרפת? מה לגבי סלובקיה, הונגריה, בלגיה, צ'כיה, שוויץ או נורבגיה?
נראה שזה בהחלט ישים לאסוף את מעט הפסולת הרדיואקטיבית ולשמור אותה היטב במתקנים ממוגנים.
איפה אנחנו היום?
כיום אנרגיה גרעינית מהווה כ-10% מסך צריכת האנרגיה שלנו. ואם מסתכלים רק על אנרגיות ירוקות: האנושות מייצרת בערך 25% מהאנרגיה הירוקה שלה (זאת אומרת, אנרגיה דלת פחמן) ממקורות גרעיניים. אפשר להרחיב את השימוש באנרגיה הגרעינית - גם על חשבון אנרגיות פוסיליות וגם על חשבון אנרגיות ירוקות אחרות (שהן יותר יקרות ויותר מזהמות).
אני לא אומר שזה צריך להיות מקור האנרגיה היחיד שלנו. זה יהיה קו קיצוני וגם לא חכם, כי אנחנו זקוקים לתמהיל אנרגטי מגוון.
אבל יש יתרונות בהגדלת השימוש באנרגיה גרעינית - כך יותר אנשים יהנו מאנרגיה נגישה וזולה, ופחות אנשים יסבלו מהסיכונים המיידיים (כמו זיהום חלקיקי) ומהסיכונים ארוכי הטווח (כמו פליטות גזי חממה).
אז למה זה לא קורה? (ובכל זאת, מה לגבי הסיכונים?)
ולמרות כל הטוב הזה יש סיבה שזה לא קורה. בעיני זו לא סיבה מספיק משכנעת, אבל זו סיבה שצריך להתחשב בה. הפחד. בהיסטוריה התרחשו ארבעה אירועים משמעותיים שעיצבו את התודעה ואת הפחד מאנרגיה גרעינית (היו עוד, אבל יש ארבעה אירועים מוכרים שצרובים בתודעה הקולקטיבית).
- האירוע הראשון הוא הטלת הפצצות הגרעיניות על הירושימה ונגסקי באוגוסט 1945. העולם הכיר את הטכנולוגיה הגרעינית קודם כל ככלי נשק צבאי, ואחר כך למד שיש לה שימושים אזרחיים.
- האירוע השני הייתה תקלה בתחנות הכוח בארה"ב ב- three miles island, ב-1979. לא מדובר באירוע עם נזקים חמורים, אבל הכשלים בהקמה, בתפעול ובניהול התקרית המחישה את הסיכונים וחידדה את החששות.
- האירוע השלישי היה התאונה הקטלנית בצ'רנוביל, ב-1979. זו התאונה עם הנזק הממשי ביותר. היא התרחשה בכור שלא עמד בסטנדרטים מינימליים (בכל זאת, חצר אחורית של ברית המועצות). האירוע הזה הוא באמת תמרור אזהרה חמור. למזלנו, בשאר העולם לא בונים ולא מתחזקים כורים בסטנדרט הזה. רוב העולם עשה עבודה יותר טובה גם קודם.
- האירוע הרביעי הוא התקרית בפוקושימה יפן בשנת 2011. רק שזה לא באמת היה אירוע גרעיני. האזור ספג רעידת אדמה וצונאמי, שפגעו בתפקוד של הכור. אבל למרות זאת, המנהלים של הכור הצליחו להשתלט על האירוע. זאת אומרת, למרות נסיבות חיצוניות הרבה יותר חמורות מאשר בצ'רנוביל, התוצאה הייתה טובה בהרבה.
בשורה התחתונה - אנשים מפחדים מאנרגיה גרעינית. אנחנו מפחדים מהמילה "רדיואקטיבי", וגם מבלבלים בין אנרגיה גרעינית אזרחית לבין נשק צבאי (למרות שתחנת כוח אזרחית לא יכולה להתפוצץ כמו נשק גרעיני צבאי). ובאופן כללי יש תחושה שגם אם ההסתברות לאירוע נמוכה, החומרה בוודאות מאוד גבוהה.
האתגר שעומד בפני העולם, כדי לאמץ אנרגיה גרעינית מורכב מפערים של חוסר אמון, וגם השקעה בתחנות הכוח הגרעיניות. ככל שנשקיע בבטיחות (לא בהכרח בהחמרה בסטנדרטים, אלא דווקא בתקשור של רמת הבטיחות) - נוכל לבנות אמון.
תכנית שלושת השלבים
אז איך עושים את זה? לפני שלוש וחצי שנים פרסמתי סדרת פוסטים בשם "האנרגיה של העתיד". הגעתי למסקנה שאנרגיה גרעינית חייבת להיות חלק ממקורות האנרגיה שלנו. השאלה הגדולה היא איך מגיעים לשם. מאחר שיש פה שינוי גדול שמערב מחקר, בנייה, רגולציה, ניהול ותקשור סיכונים וגם אמון ציבורי - יידרש תהליך הדרגתי. ככה אני מציע לגשת אליו.
שלב 1: הכרה פומבית ביתרונות של אנרגיה גרעינית
תחילה צריך שיותר אנשים ידעו שאנרגיה גרעינית היא מקור אנרגיה אמין וזול, ולא פחות מכך - נטול זיהום סביבתי ודל פחמן. ההבנה הזו צריכה לחלחל לממשלות, יזמים פרטיים, גופי חברה אזרחית (כולל ארגוני סביבה) ובקרב הציבור הרחב.
זה צעד הכרחי כדי שיותר השקעות יופנו לתחום - למטרות מחקר ופיתוח, ולמטרות של הקמת תחנות כוח חדשות.
אני כותב את הפוסט הזה כי נראה שהשלב הזה התחיל - ועידת COP28 של האו"ם הכירה באנרגיה הגרעינית כאמצעי חשוב להתמודדות עם משבר האקלים (אולי זה קשור למחסור באנרגיה שהמלחמה באוקראינה יצרה לאירופים). בכל מקרה, זה צעד פומבי ראשון של שינוי הגישה כלפי גרעין, אחרי שנים שממשלות 'ירוקות' וארגוני סביבה נמנעו מכך.
שלב 2: שינוי מדיניות
ממשלות ושחקנים גדולים אחרים יפעלו באופן ממשי כדי להגביר את השימוש באנרגיה גרעינית. השלב הזה כולל השקעה ציבורית בפרויקטים כאלו. למשל, במקום לסגור תחנות כוח גרעינית (גרמניה, אני מסתכל עליך) - להקים ולפתוח תחנות כוח גרעינית חדשות. השלב הזה יכלול גם הסרה של חסמים רגולטוריים בולטים כדי לאפשר הקמה ותפעול של תחנות. חוץ מממשלות, גם גופים גדולים כמו מוסדות פיננסיים (מממנים של פרויקטים גדולים) ויזמים בתחום - צריכים לדעת שכדאי להם להיכנס לפרויקטים כאלו (מבחינה ציבורית, כלכלית ורגולטורית).
כיום אנרגיה גרעינית מהווה כ-10% מסך צריכת האנרגיה שלנו. ואם מסתכלים רק על אנרגיות ירוקות: האנושות מייצרת בערך 25% מהאנרגיה הירוקה שלה (זאת אומרת, אנרגיה דלת פחמן) ממקורות גרעיניים. אפשר להרחיב את השימוש באנרגיה הגרעינית - גם על חשבון אנרגיות פוסיליות וגם על חשבון אנרגיות ירוקות אחרות (שהן יותר יקרות ויותר מזהמות).
אני לא אומר שזה צריך להיות מקור האנרגיה היחיד שלנו. זה יהיה קו קיצוני וגם לא חכם, כי אנחנו זקוקים לתמהיל אנרגטי מגוון.
אבל יש יתרונות בהגדלת השימוש באנרגיה גרעינית - כך יותר אנשים יהנו מאנרגיה נגישה וזולה, ופחות אנשים יסבלו מהסיכונים המיידיים (כמו זיהום חלקיקי) ומהסיכונים ארוכי הטווח (כמו פליטות גזי חממה).
אז למה זה לא קורה? (ובכל זאת, מה לגבי הסיכונים?)
ולמרות כל הטוב הזה יש סיבה שזה לא קורה. בעיני זו לא סיבה מספיק משכנעת, אבל זו סיבה שצריך להתחשב בה. הפחד. בהיסטוריה התרחשו ארבעה אירועים משמעותיים שעיצבו את התודעה ואת הפחד מאנרגיה גרעינית (היו עוד, אבל יש ארבעה אירועים מוכרים שצרובים בתודעה הקולקטיבית).
- האירוע הראשון הוא הטלת הפצצות הגרעיניות על הירושימה ונגסקי באוגוסט 1945. העולם הכיר את הטכנולוגיה הגרעינית קודם כל ככלי נשק צבאי, ואחר כך למד שיש לה שימושים אזרחיים.
- האירוע השני הייתה תקלה בתחנות הכוח בארה"ב ב- three miles island, ב-1979. לא מדובר באירוע עם נזקים חמורים, אבל הכשלים בהקמה, בתפעול ובניהול התקרית המחישה את הסיכונים וחידדה את החששות.
- האירוע השלישי היה התאונה הקטלנית בצ'רנוביל, ב-1979. זו התאונה עם הנזק הממשי ביותר. היא התרחשה בכור שלא עמד בסטנדרטים מינימליים (בכל זאת, חצר אחורית של ברית המועצות). האירוע הזה הוא באמת תמרור אזהרה חמור. למזלנו, בשאר העולם לא בונים ולא מתחזקים כורים בסטנדרט הזה. רוב העולם עשה עבודה יותר טובה גם קודם.
- האירוע הרביעי הוא התקרית בפוקושימה יפן בשנת 2011. רק שזה לא באמת היה אירוע גרעיני. האזור ספג רעידת אדמה וצונאמי, שפגעו בתפקוד של הכור. אבל למרות זאת, המנהלים של הכור הצליחו להשתלט על האירוע. זאת אומרת, למרות נסיבות חיצוניות הרבה יותר חמורות מאשר בצ'רנוביל, התוצאה הייתה טובה בהרבה.
בשורה התחתונה - אנשים מפחדים מאנרגיה גרעינית. אנחנו מפחדים מהמילה "רדיואקטיבי", וגם מבלבלים בין אנרגיה גרעינית אזרחית לבין נשק צבאי (למרות שתחנת כוח אזרחית לא יכולה להתפוצץ כמו נשק גרעיני צבאי). ובאופן כללי יש תחושה שגם אם ההסתברות לאירוע נמוכה, החומרה בוודאות מאוד גבוהה.
האתגר שעומד בפני העולם, כדי לאמץ אנרגיה גרעינית מורכב מפערים של חוסר אמון, וגם השקעה בתחנות הכוח הגרעיניות. ככל שנשקיע בבטיחות (לא בהכרח בהחמרה בסטנדרטים, אלא דווקא בתקשור של רמת הבטיחות) - נוכל לבנות אמון.
תכנית שלושת השלבים
אז איך עושים את זה? לפני שלוש וחצי שנים פרסמתי סדרת פוסטים בשם "האנרגיה של העתיד". הגעתי למסקנה שאנרגיה גרעינית חייבת להיות חלק ממקורות האנרגיה שלנו. השאלה הגדולה היא איך מגיעים לשם. מאחר שיש פה שינוי גדול שמערב מחקר, בנייה, רגולציה, ניהול ותקשור סיכונים וגם אמון ציבורי - יידרש תהליך הדרגתי. ככה אני מציע לגשת אליו.
שלב 1: הכרה פומבית ביתרונות של אנרגיה גרעינית
תחילה צריך שיותר אנשים ידעו שאנרגיה גרעינית היא מקור אנרגיה אמין וזול, ולא פחות מכך - נטול זיהום סביבתי ודל פחמן. ההבנה הזו צריכה לחלחל לממשלות, יזמים פרטיים, גופי חברה אזרחית (כולל ארגוני סביבה) ובקרב הציבור הרחב.
זה צעד הכרחי כדי שיותר השקעות יופנו לתחום - למטרות מחקר ופיתוח, ולמטרות של הקמת תחנות כוח חדשות.
אני כותב את הפוסט הזה כי נראה שהשלב הזה התחיל - ועידת COP28 של האו"ם הכירה באנרגיה הגרעינית כאמצעי חשוב להתמודדות עם משבר האקלים (אולי זה קשור למחסור באנרגיה שהמלחמה באוקראינה יצרה לאירופים). בכל מקרה, זה צעד פומבי ראשון של שינוי הגישה כלפי גרעין, אחרי שנים שממשלות 'ירוקות' וארגוני סביבה נמנעו מכך.
שלב 2: שינוי מדיניות
ממשלות ושחקנים גדולים אחרים יפעלו באופן ממשי כדי להגביר את השימוש באנרגיה גרעינית. השלב הזה כולל השקעה ציבורית בפרויקטים כאלו. למשל, במקום לסגור תחנות כוח גרעינית (גרמניה, אני מסתכל עליך) - להקים ולפתוח תחנות כוח גרעינית חדשות. השלב הזה יכלול גם הסרה של חסמים רגולטוריים בולטים כדי לאפשר הקמה ותפעול של תחנות. חוץ מממשלות, גם גופים גדולים כמו מוסדות פיננסיים (מממנים של פרויקטים גדולים) ויזמים בתחום - צריכים לדעת שכדאי להם להיכנס לפרויקטים כאלו (מבחינה ציבורית, כלכלית ורגולטורית).
שלב 3: שינוי עומק של הרגולציה
אחרי שהתפיסה הציבורית תותאם, וגם יהיה שינוי מדיניות - יידרש תהליך ממושך ומעמיק של שינוי הרגולציה. במדינות שבהן קיימת רגולציה מכבידה (בראשן ארה"ב) צריך יהיה לצלול לפרטי הפרטים ולתקן את הרגולציה (אפשר גם לכתוב אותה מחדש). במדינות שבהן אין רגולציה - בעיקר כי אנרגיה גרעינית אסורה ולכן לא קיימת - צריך יהיה לייצר מהבסיס רגולציה שתהיה איכותית, תספק בטיחות אבל גם תאפשר גמישות תפעולית והקמה של תחנות בעלויות סבירות. מעבר לעלויות הציות הישירות, הרגולציה גם צריכה להיות צפויה ולספק וודאות.
אתגר גלובלי - פתרון גלובלי?
ואולי זה לא עניין למדינה אחת. כפי שהעיסוק באקלים נתפס כסוגייה גלובלית, גם הפתרונות יכולים (אולי צריכים) להיות גלובליים. אנרגיה גרעינית יכולה להיות אמצעי משמעותי במאמצים בתחום האקלים ובתחום הסביבה. אולי שחקנים עולמיים צריכים לקחת חלק בתהליך. למשל, האו"ם (באמצעות הסוכנות הבין-לאומית לאנרגיה גרעינית - סבא"א) יכול להוביל את המהלך ויגדיר את הסטנדרט שנדרש ממדיניות ומרגולציה בתחום. או שארגונים סביבתיים ידרשו שיפור של הרגולציה על אנרגיה גרעינית כדי שהיא תספק בטיחות, אך במחירים סבירים.
אם אנחנו באמת רציניים לגבי הסוגיה האקלימית אנחנו צריכים מקורות אנרגיה אמינים, בטוחים, זולים וירוקים. יש מקור אנרגיה כזה שיש לו עוד המון פוטנציאל לשיפור עתידי. חבל על הזמן. חבל על כל יום שבו אנחנו לא משתמשים יותר באנרגיה גרעינית במקום פחם, נפט וגז.
אחרי שהתפיסה הציבורית תותאם, וגם יהיה שינוי מדיניות - יידרש תהליך ממושך ומעמיק של שינוי הרגולציה. במדינות שבהן קיימת רגולציה מכבידה (בראשן ארה"ב) צריך יהיה לצלול לפרטי הפרטים ולתקן את הרגולציה (אפשר גם לכתוב אותה מחדש). במדינות שבהן אין רגולציה - בעיקר כי אנרגיה גרעינית אסורה ולכן לא קיימת - צריך יהיה לייצר מהבסיס רגולציה שתהיה איכותית, תספק בטיחות אבל גם תאפשר גמישות תפעולית והקמה של תחנות בעלויות סבירות. מעבר לעלויות הציות הישירות, הרגולציה גם צריכה להיות צפויה ולספק וודאות.
אתגר גלובלי - פתרון גלובלי?
ואולי זה לא עניין למדינה אחת. כפי שהעיסוק באקלים נתפס כסוגייה גלובלית, גם הפתרונות יכולים (אולי צריכים) להיות גלובליים. אנרגיה גרעינית יכולה להיות אמצעי משמעותי במאמצים בתחום האקלים ובתחום הסביבה. אולי שחקנים עולמיים צריכים לקחת חלק בתהליך. למשל, האו"ם (באמצעות הסוכנות הבין-לאומית לאנרגיה גרעינית - סבא"א) יכול להוביל את המהלך ויגדיר את הסטנדרט שנדרש ממדיניות ומרגולציה בתחום. או שארגונים סביבתיים ידרשו שיפור של הרגולציה על אנרגיה גרעינית כדי שהיא תספק בטיחות, אך במחירים סבירים.
אם אנחנו באמת רציניים לגבי הסוגיה האקלימית אנחנו צריכים מקורות אנרגיה אמינים, בטוחים, זולים וירוקים. יש מקור אנרגיה כזה שיש לו עוד המון פוטנציאל לשיפור עתידי. חבל על הזמן. חבל על כל יום שבו אנחנו לא משתמשים יותר באנרגיה גרעינית במקום פחם, נפט וגז.
זה קורה! חוק ה-AI של אירופה מתקדם לשלב הסופי.
היום שתי הוועדות בפרלמנט האיחוד האירופי אישרו את הנוסח הסופי של החוק.
בקרוב אפרסם סקירה וניתוח של החוק הסופי.
https://www.europarl.europa.eu/news/en/press-room/20240212IPR17618/artificial-intelligence-act-committees-confirm-landmark-agreement
היום שתי הוועדות בפרלמנט האיחוד האירופי אישרו את הנוסח הסופי של החוק.
בקרוב אפרסם סקירה וניתוח של החוק הסופי.
https://www.europarl.europa.eu/news/en/press-room/20240212IPR17618/artificial-intelligence-act-committees-confirm-landmark-agreement
European Parliament
Artificial Intelligence Act: committees confirm landmark agreement
MEPs have endorsed at committee level the provisional agreement on the Artificial Intelligence Act that ensures safety and complies with fundamental rights.
חוק ה-AI של אירופה יוצא לאוויר העולם: מה יש בו?
מומלץ לקרוא את הפוסט המלא באתר
לפני שבוע שתי ועדות של הפרלמנט האירופי אישרו את הפשרה בין הפרלמנט לנציבות (ה"ממשלה") של האיחוד האירופי לגבי החוק. בכך נסללה הדרך לחוקק את החוק ובקרוב מאוד הוא יתקבל באופן רשמי. למי שרוצה להעמיק - כתבתי כאן לפני חצי שנה כאשר הצעת החוק אושרה בפרלמנט האיחוד האירופי. ולפני שלושה שבועות ניתחתי והצגתי איך לדעתי כדאי לבנות את הרגולציה על בינה מלאכותית. [לינקים להכל - באתר האינטרנט]
המטרה של הפוסט הזה היא להציג לכם את החוק שעומד להתקבל, לפי הנוסח שאושר והוסכם.
זו סקירה רוחבית ולא מאוד מעמיקה. כדי שלא להאריך מאוד, לא אוכל להיכנס לכל ההיבטים והסוגיות. אם תכתבו לי שהנושא מעניין אתכם - יש סיכוי שהפוסט הזה יהפוך לסדרה עם עוד חלקים.
מוכנים? בואו נצלול לחוק ונראה מה מחכה לנו.
⬅️ על מה מדובר? מהו חוק ה-AI?
חוק ה-AI הוא המסגרת החוקית-רגולטורית שמיועדת להסדיר את המכירה ואת השימוש בבינה מלאכותית באיחוד האירופי. מטרתו הרשמית היא להבטיח את התפקוד התקין של השוק על ידי קביעת סטנדרטים עבור מערכות בינה מלאכותית במדינות החברות באיחוד האירופי.
זו הרגולציה המקיפה הראשונה בעולם שמתייחסת לסיכונים מבינה מלאכותית ומטפל בהם באמצעות מערכת של חובות ודרישות שמטרתן לשמור על הבריאות, הבטיחות וזכויות יסוד. בגלל שהאיחוד האירופי הוא שוק ענק עם סחר בין-לאומי מפותח ולאור ההגדרות הרחבות בחוק, לחוק צפויות להיות השפעות בקנה מידה עולמי.
⬅️ 1. על מי החוק חל?
ההגדרה בחוק הסופי רחבה מאוד. החוק חל על מערכת בינה מלאכותית ("AI system"). איך החוק מגדיר את זה? ככה:
"a machine-based system designed to operate with varying levels of autonomy and that may exhibit adaptiveness after deployment and that, for explicit or implicit objectives, infers, from the input it receives, how to generate outputs such as predictions, content, recommendations, or decisions that can influence physical or virtual environments"
המוקד של ההגדרה הזו היא האוטונומיות של המערכת. זאת אומרת, המערכת מתפתחת, לומדת ומשתנה. בניגוד למערכת טכנית שהתוצאה או הפלט שלה ודאיים וידועים מראש. עוד מילת מפתח מעניין היא "infers" - בעברית: "מסיק מסקנות". זאת אומרת, אנחנו מדברים על מערכות אוטונומיות שהן גם מערכות חושבות. ההגדרה הזו צלצלה לי מוכר. נראה לי שהם אימצו את ההגדרה של ה-OECD.
ההגדרה בנוסח הסופי שונה מההגדרה בהצעת החוק המקורית, שהתבססה על רשימה יותר סגורה ומוגדרת של טכנולוגיות.
לשינוי ההגדרה יש כמה השפעות: נראה שזו הגדרה רחבה יותר שתחול על יותר מערכות; היא ניטרלית מבחינה טכנולוגית; ובגלל שזו הגדרה מהותית ולא טכנית - נראה שהיא תהיה רלוונטית למשך יותר זמן.
⬅️ 2. המודל המרכזי של החוק: ניהול סיכונים
החוק מתבסס על גישה של ניהול סיכונים. הם חילקו את המערכת והתרחישים השונים לארבע קבוצות:
- סיכון בלתי נסבל (unacceptable risk);
- סיכון גבוה (high risk);
- סיכון נמוך / מוגבל (limited risk);
- סיכון מינימלי / מזערי (minimal risk).
🔸מערכות שיוצרות סיכון בלתי נסבל
מערכות ושימושים שיוצרים סיכון בלתי נסבל יהיו אסורים. בקבוצה הזו נכללים: מערכות שמנצלות חולשות אנושיות (של קבוצה או של הפרט), מערכת ניקוד חברתי, ועוד.
במקור, רשימת האיסורים המוחלטים כללה גם שימוש ב-AI לזיהוי ביומטרי בזמן אמת למטרות אכיפת חוק (למשל, מצלמות שמבצעות זיהוי פנים כדי לאתר פושעים). בחודשים האחרונים היה באירופה דיון מקיף על האיסור הזה, כי הממשלות וגופי אכיפת החוק מאוד רוצים להשתמש ב-AI למלחמה בפשיעה ובטרור.
בנוסח הסופי, ריככו את האיסור והוסיפו חריגים. הוחלט לקבוע חריג לאיסור המוחלט הזה: מותר יהיה להשתמש בזיהוי ביומטרי בנוגע לרשימה של מטרות מותרות כמו חיפוש וזיהוי קורבנות של סחר בבני אדם או עבירות מין; או לצורך מניעת מתקפות טרור. גם כשהחריג חל, ההפעלה שלו לא פשוטה - צריך לבצע בחינה מעמיקה, ולקבל צו שיאשר את זה.
🔸מערכות שיוצרות סיכון גבוה
מערכות שיוצרות סיכון גבוה - יהיו כפופות לשורה של מגבלות, חובות ותנאים. זו ליבת החוק. במקור פרלמנט האיחוד האירופי העריך שרק 20% מהמערכות והמוצרים יפלו לקבוצה הזו. שמעתי הערכות שהמספר האמיתי כנראה גבוה יותר.
🔸מערכת ברמות סיכון נמוכות:
מערכות שיוצרות סיכון נמוך - יהיו כפופות בעיקר לחובות שקיפות (לפי ההערכות של האירופים הרוב המכריע של המערכות נופלות בקבוצה הזו) והוראותיו די פשוטות.
מערכת שיוצרת סיכון מינימלי - על מערכת כאלה אין דרישות מכוח החוק.
עיקר המשחק והדיון הוא בין הקבוצה שבסיכון גבוה לקבוצה שבסיכון נמוך.
מומלץ לקרוא את הפוסט המלא באתר
לפני שבוע שתי ועדות של הפרלמנט האירופי אישרו את הפשרה בין הפרלמנט לנציבות (ה"ממשלה") של האיחוד האירופי לגבי החוק. בכך נסללה הדרך לחוקק את החוק ובקרוב מאוד הוא יתקבל באופן רשמי. למי שרוצה להעמיק - כתבתי כאן לפני חצי שנה כאשר הצעת החוק אושרה בפרלמנט האיחוד האירופי. ולפני שלושה שבועות ניתחתי והצגתי איך לדעתי כדאי לבנות את הרגולציה על בינה מלאכותית. [לינקים להכל - באתר האינטרנט]
המטרה של הפוסט הזה היא להציג לכם את החוק שעומד להתקבל, לפי הנוסח שאושר והוסכם.
זו סקירה רוחבית ולא מאוד מעמיקה. כדי שלא להאריך מאוד, לא אוכל להיכנס לכל ההיבטים והסוגיות. אם תכתבו לי שהנושא מעניין אתכם - יש סיכוי שהפוסט הזה יהפוך לסדרה עם עוד חלקים.
מוכנים? בואו נצלול לחוק ונראה מה מחכה לנו.
⬅️ על מה מדובר? מהו חוק ה-AI?
חוק ה-AI הוא המסגרת החוקית-רגולטורית שמיועדת להסדיר את המכירה ואת השימוש בבינה מלאכותית באיחוד האירופי. מטרתו הרשמית היא להבטיח את התפקוד התקין של השוק על ידי קביעת סטנדרטים עבור מערכות בינה מלאכותית במדינות החברות באיחוד האירופי.
זו הרגולציה המקיפה הראשונה בעולם שמתייחסת לסיכונים מבינה מלאכותית ומטפל בהם באמצעות מערכת של חובות ודרישות שמטרתן לשמור על הבריאות, הבטיחות וזכויות יסוד. בגלל שהאיחוד האירופי הוא שוק ענק עם סחר בין-לאומי מפותח ולאור ההגדרות הרחבות בחוק, לחוק צפויות להיות השפעות בקנה מידה עולמי.
⬅️ 1. על מי החוק חל?
ההגדרה בחוק הסופי רחבה מאוד. החוק חל על מערכת בינה מלאכותית ("AI system"). איך החוק מגדיר את זה? ככה:
"a machine-based system designed to operate with varying levels of autonomy and that may exhibit adaptiveness after deployment and that, for explicit or implicit objectives, infers, from the input it receives, how to generate outputs such as predictions, content, recommendations, or decisions that can influence physical or virtual environments"
המוקד של ההגדרה הזו היא האוטונומיות של המערכת. זאת אומרת, המערכת מתפתחת, לומדת ומשתנה. בניגוד למערכת טכנית שהתוצאה או הפלט שלה ודאיים וידועים מראש. עוד מילת מפתח מעניין היא "infers" - בעברית: "מסיק מסקנות". זאת אומרת, אנחנו מדברים על מערכות אוטונומיות שהן גם מערכות חושבות. ההגדרה הזו צלצלה לי מוכר. נראה לי שהם אימצו את ההגדרה של ה-OECD.
ההגדרה בנוסח הסופי שונה מההגדרה בהצעת החוק המקורית, שהתבססה על רשימה יותר סגורה ומוגדרת של טכנולוגיות.
לשינוי ההגדרה יש כמה השפעות: נראה שזו הגדרה רחבה יותר שתחול על יותר מערכות; היא ניטרלית מבחינה טכנולוגית; ובגלל שזו הגדרה מהותית ולא טכנית - נראה שהיא תהיה רלוונטית למשך יותר זמן.
⬅️ 2. המודל המרכזי של החוק: ניהול סיכונים
החוק מתבסס על גישה של ניהול סיכונים. הם חילקו את המערכת והתרחישים השונים לארבע קבוצות:
- סיכון בלתי נסבל (unacceptable risk);
- סיכון גבוה (high risk);
- סיכון נמוך / מוגבל (limited risk);
- סיכון מינימלי / מזערי (minimal risk).
🔸מערכות שיוצרות סיכון בלתי נסבל
מערכות ושימושים שיוצרים סיכון בלתי נסבל יהיו אסורים. בקבוצה הזו נכללים: מערכות שמנצלות חולשות אנושיות (של קבוצה או של הפרט), מערכת ניקוד חברתי, ועוד.
במקור, רשימת האיסורים המוחלטים כללה גם שימוש ב-AI לזיהוי ביומטרי בזמן אמת למטרות אכיפת חוק (למשל, מצלמות שמבצעות זיהוי פנים כדי לאתר פושעים). בחודשים האחרונים היה באירופה דיון מקיף על האיסור הזה, כי הממשלות וגופי אכיפת החוק מאוד רוצים להשתמש ב-AI למלחמה בפשיעה ובטרור.
בנוסח הסופי, ריככו את האיסור והוסיפו חריגים. הוחלט לקבוע חריג לאיסור המוחלט הזה: מותר יהיה להשתמש בזיהוי ביומטרי בנוגע לרשימה של מטרות מותרות כמו חיפוש וזיהוי קורבנות של סחר בבני אדם או עבירות מין; או לצורך מניעת מתקפות טרור. גם כשהחריג חל, ההפעלה שלו לא פשוטה - צריך לבצע בחינה מעמיקה, ולקבל צו שיאשר את זה.
🔸מערכות שיוצרות סיכון גבוה
מערכות שיוצרות סיכון גבוה - יהיו כפופות לשורה של מגבלות, חובות ותנאים. זו ליבת החוק. במקור פרלמנט האיחוד האירופי העריך שרק 20% מהמערכות והמוצרים יפלו לקבוצה הזו. שמעתי הערכות שהמספר האמיתי כנראה גבוה יותר.
🔸מערכת ברמות סיכון נמוכות:
מערכות שיוצרות סיכון נמוך - יהיו כפופות בעיקר לחובות שקיפות (לפי ההערכות של האירופים הרוב המכריע של המערכות נופלות בקבוצה הזו) והוראותיו די פשוטות.
מערכת שיוצרת סיכון מינימלי - על מערכת כאלה אין דרישות מכוח החוק.
עיקר המשחק והדיון הוא בין הקבוצה שבסיכון גבוה לקבוצה שבסיכון נמוך.