האם עע"מ 63194-08-25 נבו בן כהן נ' עיריית ר"ג ואח' הוא קו פרשת-המים בשימוש בבינה מלאכותית במסגרת הליכי משפט ? ימים יגידו. אבל נדמה שביהמ"ש העליון של מדינת ישראל ניסה להעביר כאן מסר חד וברור.
בתמצית:"העירייה עשתה שימוש בלתי מבוקר – שלא לומר מופקר – בבינה מלאכותית, הן ביחסיה הישירים עם אביו של המערער, במענה לבקשתו, הן במסגרת הליכי המשפט. זאת, בהיקף נרחב, ללא כל בקרה אפקטיבית, ובסוגיה מהותית ביותר עבור המערער ואביו – זכאות להסעת הקטין, תלמיד בחינוך מיוחד, לבית הספר. כתוצאה מכך נפלו פגמים רבים ומהותיים במסמכים מטעמה – הן בתשובותיה לאזרח, הן בכתבי בי-דין שהגישה לבית המשפט. בנסיבות אלו, ובהתחשב בכלל השיקולים החלים בכגון דא, כמפורט לעיל, סבורני כי עלינו להעביר מסר חד ובהיר, ולהשית על העירייה הוצאות על הצד הגבוה." (פיסקה 38 לדברי המשנה לנשיא, נעם סולברג)
והתוצאה, מעבר לקבלת הערעור המנהלי עוד בהליכים הקודמים? העירייה חוייבה בתשלום הוצאות על סך של 30,000 ₪.
עיקר הקביעות הנראות בעיניי כמהותיות, בפסק-הדין שנכתב על ידי כבוד המשנה לנשיא, השופט נעם סולברג ועמו הסכימו כבוד השופט עופר גרוסקופף וכבוד השופטת גילה כנפי-שטייניץ -
- "העת לנקוט בסבלנות ובהבנה כלפי כתבי בי-דין שגויים, הנובעים משימוש בלתי מבוקר בבינה מלאכותית במסגרת הליכי משפט – חלפה עברה"
- "שימוש בלתי מבוקר שעושה הרשות בבינה מלאכותית ביחסיה הישירים מול האזרח, הוא בעל דרגה יתרה ומיוחדת של חומרה"
- "החלטה המבוססת ברובה על 'הזיות' בינה מלאכותית, היא החלטה שקשה עד מאוד לראותה כהחלטה הממלאת אחר חובת ההנמקה"
- "בעת הנוכחית החלטה המסתמכת 'באופן עיוור' על מערכת בינה מלאכותית, באה בגדרי קבוצת ההחלטות הניתנות ללא תשומת לב או התחשבות בשיקולים והנתונים הרלבנטיים, ולמעשה, היא החלטה שניתן אף לומר כי מבחינה מהותית, לא הופעל לגביה שיקול דעת כלל; לפיכך, היא באה בנקל תחת כנפיה של עילת השרירות"
- "גם אם במסגרת גיבוש ההחלטה וניסוחהּ נעזרים גורמי המינהל במערכת בינה מלאכותית – וכאמור, בדבר זה, כשלעצמו, אין כל פסול – שומה עליהם לקיים בקרה, לבחון ולוודא. הדברים יפים הן באשר להפעלת שיקול הדעת לגופו, הן לגבי ההנמקה שבבסיס ההחלטה (אדגיש כי אין באמור משום הבעת עמדה בנוגע לשאלה אם גם בהקשרים בהם רמת האמינות של מערכות הבינה המלאכותית תהיה גבוהה מאד, ואף תעלה על זו של בעלי מקצוע אנושיים, תוכלנה רשויות המינהל לקבל החלטות ללא מעורבות אנושית כלל, בפרט בעניינים בעלי השפעה משמעותית על חיי האזרח; עוד חזון למועד)."
- "היבט נוסף שניתן לזקק מן הדיון האמור ומנסיבות העניין, נוגע לדרישת הגילוי בדבר השימוש בבינה מלאכותית. דרישה כאמור טרם נחרתה בשיטת משפטנו, אולם דומה כי בהחלט עשוי להיות היגיון בקביעת חובה כזו, למצער בהקשרים מסוימים, שבהם ההשפעה על האזרח עשויה להיות גדולה. טעם מרכזי לכך, הוא שעשוי להיות בגילוי כאמור כדי לסייע מעט בצמצום פערי הכוחות שעליהם עמדתי לעיל, כך שהאזרח שניתנה בעניינו החלטה תוך שימוש בבינה מלאכותית, יוכל לפחות להיות מודע לכך, מה שישפר קמעא את יכולתו לכלכל צעדיו בהתאם, לבחון את תקינות ההחלטה, ואולי אף להשיג עליה במסלולים המתאימים"
- " שימוש בלתי מבוקר שעושה הרשות בבינה מלאכותית במסגרת יחסיה הישירים עם האזרח, פותח פתח לביקורת שיפוטית מחמירה והדוקה יותר, ועשוי להצדיק, ככלל, סעד משמעותי.. נוכח ההסתברות הנמוכה לכך שההחלטה תהא כפופה למנגנון בקרה חיצוני (ניתן לחשוב על מצב זה כמעין מקרה של 'הרתעת חסר'). מכאן, שעל מנת להבטיח שרשויות מינהליות יסגלו לעצמן דרכי התנהלות ראויות בהקשר זה, ולמנוע מלכתחילה שימוש בלתי מבוקר בבינה מלאכותית ביחסיהן עם האזרח, עליהן לדעת כי החלטותיהן תעמודנה לביקורת שיפוטית דקדקנית ומחמירה, שעלולה לבוא בצדה גם עם סעדים משמעותיים. "
ונביא את הדברים המלאים גם בשם אומרם, פסקאות 22-37 לפסק-דינו של כבוד המשנה לנשיא נועם סולברג:
"שימוש בלתי מבוקר בבינה מלאכותית בגדרי ההליך המשפטי
22. הפסיקה כבר דנה בהרחבה במקרים של הסתמכות על מקורות משפטיים שאינם קיימים, או הבאת ציטוטים שלא היו ולא נבראו במסגרת כתבי טענות, עקב 'הזיות' הבינה המלאכותית. כפי שהבהירה חברתי, השופטת כנפי-שטייניץ:
"עורך דין המגיש כתב בית-דין שתוכנו בדוי, תוך שהוא נסמך על אסמכתאות שאינן קיימות, מועל בחובותיו, כלפי בעל הדין אותו הוא מייצג; כלפי בית המשפט; כלפי הצד שכנגד; וכלפי מקצוע עריכת הדין" (עניין פלונית, פסקה 15; להרחבה, ראו שם, פסקאות 18-16; כן ראו: בג"ץ 23602-01-25 העמותה לקידום זכויות הכלבים נ' שר החקלאות, פסקאות 11-9 (28.2.2025) (להלן: עניין העמותה לקידום זכויות הכלבים)).
התנהלות כאמור, הריהי בבחינת הטעיה חמורה גם של בית המשפט, גם של הצד שכנגד, והיא עולה בנקל כדי שימוש לרעה בהליכי משפט. אבהיר, לא עצם השימוש בבינה מלאכותית הוא הפסול, אלא השימוש בה ללא בקרה מתאימה, המוודאת ומאמתת את נכונות תוצריה.
23. בעניין פלונית, עמד בית המשפט על סל הכלים הרחב הנתון לו, בבואו להתמודד עם כתבי בית דין מטעים כגון דא (ראו שם, פסקאות 25-19; וליישׂוּם קונקרטי, ראו: עניין העמותה לקידום זכויות הכלבים, פסקאות 14-12). בענייננו, בפרט נוכח העובדה שהסכסוך לגופו כבר בא על פתרונו, סבורני כי הכלי המתאים הוא פסיקת הוצאות משפט; וכי עליהן להיות בשיעור מוגבר. טעם עיקרי לכך, הוא שאין עסקינן אך בהפרה של חובת תום הלב הכללית, או של החובה המופשטת קמעא שלא לעשות שימוש לרעה בהליכי משפט; אלא בהפרה של חובה דיונית ברורה וקונקרטית הנגזרת מאותן חובות כלליות, ואשר כבר נקבעה במפורש בפסיקתו של בית משפט זה – החובה שלא להגיש כתבי בית דין שגויים, בכלל זה כאלה המתבססים על 'הזיות' הבינה המלאכותית. כך, מדובר בהפרת חובה שהיתה ידועה אקס-אנטה, ומכאן, שהעירייה ידעה – ולמצער, צריכה היתה לדעת – כי היא מפרה אותה.
24. מצב דברים זה, עשוי ללמד כי החובה האמורה – טרם הופנמה די הצורך; אולי אף נתפסת כ'חסרת שיניים' (לא למותר לציין בהקשר זה, כי הן בעניין פלונית, הן בעניין העמותה לקידום זכויות הכלבים, נהג בית משפט זה בגישה שלפנים משורת הדין, ונמנע מהטלת הוצאות, או הטיל הוצאות בשיעור נמוך, נוכח חדשנותה של ההלכה). הדברים אמורים אף ביתר שאת, נוכח העובדה שהעירייה המשיכה בהתנהלותה הקלוקלת במישור זה, הן בהליך בבית המשפט המחוזי, הן בהליך דנן, אף לאחר שהמערער הצביע עליה במפורש. בעניין העמותה לקידום זכויות הכלבים ציינתי, כי "גם אם עד כה נהג בית משפט זה סבלנות ומתינות בנושא, נוכח העובדה שמדובר בתופעה חדשה – לא לעולם חוסן. מעתה ואילך, יוחזקו העוסקים במלאכה כ'מוּתְרים ועומדים'; התגובה השיפוטית – תשתנה בהתאם" (שם, פסקה 19). בחלוף כשנה, דומני כי העת לנקוט בסבלנות ובהבנה כלפי כתבי בי-דין שגויים, הנובעים משימוש בלתי מבוקר בבינה מלאכותית במסגרת הליכי משפט – חלפה עברה.
25. כחלק מחובתנו לשמור על טיבם והוגנותם של הליכי המשפט, עלינו להקפיד ולוודא כי מערך התמריצים 'מיושר', וכי עשיית שימוש לרעה באותם הליכים – אינה 'משתלמת' (ראו למשל: רע"א 8921/20 SKS Holdings LLC נ' אורן, פסקאות 35-33 (13.5.2021); רע"א 4625/22 נענה נ' כץ, פסקה 47 (10.1.2023)). הגשת כתבי בית דין מטעים, הכוללים שלל אסמכתאות המוליכות את יתר הצדדים, כמו גם את בית המשפט, פעם אחר פעם, בדרך ללא מוצא – מחייבת אפוא תגובה שיפוטית הולמת; הן משיקולי הרתעה והכוונת התנהגות, הן מטעמים של הוגנוּת דיונית. לא ניתן להימנע אפוא בענייננו מפסיקת הוצאות בשיעור ניכר.
26. הדברים יפים בכלל, אולם הם מקבלים משנה תוקף בענייננו, משעסקינן בעירייה, שמוטלת עליה חובת הגינות דיונית מוגברת – חזקה יותר מזו שחלה על אזרח פרטי. אכן, "איננו מדברים בבעל דין פרטי, שגם הוא חייב בתום לב בהתנהלותו, אלא ברשות, שחובת ההגינות שלה היא יסוד מוסד, שאלמלא זאת 'איש את רעהו חיים בלעו' (משנה אבות ג, ב)" (בג"ץ 4284/08 קלפנר נ' חברת דואר ישראל בע"מ, פסקה ל"ו (2010), וראו גם את שלל האסמכתאות שם)). חובה זו, "ברורה [...] כשמש בצהרי היום, עד כי אינה טעונה אסמכתאות" (רע"א 470/08 כרמל התפלה נ' מדינת ישראל, פסקה ט (4.3.2010)); והיא מוטלת על רשויות מקומיות, בדומה לכל רשות מינהלית אחרת (ראו למשל: דנ"מ 5519/15 יונס נ' מי הגליל תאגיד המים והביוב האזורי בע"מ, פסקה 20 (17.12.2019); בר"מ 6878/17 עיריית ראשון לציון נ' נחום, פסקה 44 (6.5.2020)). משאלה הם פני הדברים, פשיטא כי להתנהלות העירייה בדנן נודעת חומרה יתרה.
27. אם כן, כפי שעולה מן האמור, השימוש הבלתי מבוקר שעשתה העירייה בבינה מלאכותית במסגרת הליכי המשפט, שימוש שבעניין דנן עולה לכדי הפקרות – חמור, אינו מתקבל על הדעת; כך לגבי כל בעל דין, ומקל וחומר, נוכח חובת ההגינות המוגברת החלה על רשויות המינהל. אלא שלגבי דידי, אפילו דברים אלה מתגמדים בחומרתם, בהשוואה להתנהלות העירייה ביחסיה הישירים מול המערער. אסביר את דברַי.
שימוש בלתי מבוקר בבינה מלאכותית ביחסי האזרח והרשות המינהלית
28. אחד מן הרציונלים המרכזיים הניצבים בבסיס חובת ההגינות המוגברת המוטלת על רשויות המינהל, הוא פערי הכוח הדרמטיים המתקיימים בין הרשות לבין האזרח:
"היחיד והשלטון אין הם שווי זכויות, אין הם שווי כוחות ואין הם שווי מעמד. [...] השלטון מחזיק בידו רוב כוח, רוב עוצמה ורוב עושר, עד שהיחיד – יהיו כוחו, עוצמתו ועושרו רבים ככל שיהיו – לא ישווה לו ולא ידמה לו. [...] חובת ההגינות שהשלטון חב בה כלפי יחידי החברה נגזרת מהכוח היתר שהשלטון מחזיק בו, מעוצמתו של השלטון כי רבה. חובת ההגינות נועדה לשמש –בצידם של אמצעים אחרים – בלם לכוח ורסן לעוצמה" (בג"ץ 164/97 קונטרם בע"מ נ' משרד האוצר, אגף המכס והמע"מ, פ"ד נב(1) 289, 368-367 (1998); ראו גם שם, עמודים 318-317; כן ראו: יצחק זמיר הסמכות המינהלית כרך ג 1634 (2014); דפנה ברק-ארז משפט מינהלי כרך א 276 (2010)).
29. רציונל זה משמיע, כי עשיית שימוש בלתי מבוקר בבינה מלאכותית, כבעניין דנן, היא בעלת משנה חומרה, כאשר היא מתקיימת ביחסים הישירים שבין הרשות לאזרח. כך, כאשר שימוש כאמור מתבצע במסגרת הליך משפטי, קיימים שני גורמים המגשרים, למצער במידה מסוימת, על פערי הכוח בין הצדדים – עורך הדין של האזרח, ובית המשפט. בהקשר דנן, משמעות הדברים היא שגם אם שימוש כגון דא בבינה מלאכותית, עולה כדי הפרה חמורה של חובה דיונית המוטלת על הצדדים, כמפורט לעיל, הרי שההסתברות שתהיה לכך השפעה בפועל על תוצאת ההליך – אינה גבוהה באופן יחסי. זאת, שכן ניתן להניח, בשלב ראשון, כי עורך הדין ישים לב לדבר ההטעיה – קרי, לאותן אסמכתאות וטענות שמקורן אינו בדין, אלא ב'הזיות' הבינה המלאכותית – ויביא את הדברים לידיעת בית המשפט; ובהחלט סביר כי בשלב שני, גם אם עורך הדין 'יפספס' אותם כשלים, בית המשפט ישית לבו אליהם, ויפסוק בהתאם לדין, מבלי שאותה הטעיה תשפיע על הכרעתו.
30. לעומת זאת, ביחסים הישירים שבין הרשות לאזרח, הנחות אלו, בדבר המחסומים העשויים להגביל את השפעתו המעשית של שימוש בלתי מבוקר בבינה מלאכותית – אינן מתקיימות. כאשר האזרח מקבל מרשות מינהלית החלטה הנראית לכאורה מנומקת ומבוססת על טעמים ואסמכתאות משפטיות, במרבית המקרים, אין ביכולתו להרהר אחריה, ודאי שלא לגלות בכוחות עצמו כי אותם נימוקים, אינם אלא פרי דמיונה של מערכת בינה מלאכותית. מכאן, שלהבדיל ממקרה של שימוש בלתי מבוקר בבינה מלאכותית בגדרי הליך משפטי, באינטראקציה הישירה בין הרשות לאזרח, לשימוש כאמור עשויה בהחלט להיות השפעה של ממש על מצבו של האזרח. למעשה, נוכח האמור, סביר להניח כי במרבית המקרים, החלטת הרשות תישאר לעמוד על מכונה, והאזרח ישלים עמה, אף מבלי לדעת שנעשה לו עוול. זאת, כאשר ההסתברות לכך עולה ביחס הפוך למידת המוּדעוּת, היכולת והמשאבים של האזרח לתקוף את החלטת הרשות, כך שדווקא האזרחים בעלי המוּדעוּת והמשאבים הנמוכים ביותר – הם אלא שצפויים להיפגע יותר מכל.
31. משמעות הדברים היא, ששימוש בלתי מבוקר שעושה הרשות בבינה מלאכותית ביחסיה הישירים מול האזרח, הוא בעל דרגה יתרה ומיוחדת של חומרה. זאת, לבד מן העובדה שהתנהלות כגון דא כרוכה מיניה וביה גם בהפרה של חובות נוספות המוטלות על רשויות המינהל. כך למשל, החלטה המבוססת ברובה על 'הזיות' בינה מלאכותית, היא החלטה שקשה עד מאוד לראותה כהחלטה הממלאת אחר חובת ההנמקה (על הקושי הכללי במישור ההסבר וההנמקה, בכל הנוגע להחלטות שהן תוצר של מערכת בינה מלאכותית, ראו למשל: חופית וסרמן-רוזן "אליה וקוץ בה: הזכות להסברתיות של מערכות בינה מלאכותית" משפט חברה ותרבות ח, 215 (2025)).
32. כמו כן, ובהמשך לאמור, יש רגליים לסברה, כי החלטה כזו לוקה, ככלל, בשרירות. כפי שהיטיב לנסח השופט שמגר, שרירות היא "מעשה שנעשה על-ידי רשות, מבלי לתת את הדעת לנתונים ולנימוקים שלפניה, תוך הסתמכות על כוחה השלטוני ותו לא. לא המירמה שולטת בכיפה במעשה השרירות אלא העדר התחשבות וחוסר תשומת הלב" (בג"ץ 376/81 לוגסי נ' שר התקשורת, פ"ד לו(2) 449, 460 (1981); ראו גם: עע"מ 1930/22 הבית הפתוח בירושלים לגאווה ולסובלנות נ' עיריית ירושלים, פסקה 39 לפסק הדין של חברי, השופט ע' גרוסקופף (11.10.2023); להגדרה דומה לשרירות, המכוונת להתנהלות רשויות האכיפה בתחום המשפט הפלילי, ראו: רע"פ 1611/16 מדינת ישראל נ' ורדי, פסקה 71 והאסמכתאות שם (31.10.2018)). מובן, כי בעת הנוכחית החלטה המסתמכת 'באופן עיוור' על מערכת בינה מלאכותית, באה בגדרי קבוצת ההחלטות הניתנות ללא תשומת לב או התחשבות בשיקולים והנתונים הרלבנטיים, ולמעשה, היא החלטה שניתן אף לומר כי מבחינה מהותית, לא הופעל לגביה שיקול דעת כלל; לפיכך, היא באה בנקל תחת כנפיה של עילת השרירות. הדברים אף מקבלים משנה תוקף, נוכח הקשר ההדוק שבין שרירות לבין העדר הנמקה (על כך ראו, למשל: בג"ץ 6728/06 עמותת "אומץ" (אזרחים למען מינהל תקין וצדק חברתי) נ' ראש ממשלת ישראל, פסקאות 18-14 לחוות הדעת של השופטת נאור (30.11.2006); בג"ץ 143/56 אחג'יג' נ' המפקח על התעבורה, פ"ד יא 370, 372 (1957)).
סבורני, כי ניתן לגזור מן האמור מסקנות מעשיות בשני מישורים.
33. ראשית, ההיבט של החובות הפוזיטיביות החלות על רשויות המינהל, בכל הנוגע לשימוש בבינה מלאכותית. מובן, כי אין זה המקום לדיון ממצה – או אפילו קרוב לכך – בסוגיה זו; בל נשכח, כי עסקינן בערעור שעניינו הוצאות משפט. עם זאת, דומני כי ניתן לחלץ מן המקרה דנן כמה תובנות ראשוניות לגבי עניין זה, במבט צופה פני עתיד.
34. תובנה אחת היא, שכל עוד רמת האמינות של מערכות הבינה המלאכותית מוטלת בספק, באשר הן עודן 'הוזות' מעת לעת, לא ניתן להסכין עם מצב שבו רשות מינהלית מתפרקת משיקול דעתה, ומבססת את החלטתה באופן בלעדי, או כמעט בלעדי, וללא כל בקרה, על פלט של מערכות כאמור (הדרישה למעורבות אנושית בתהליכי קבלת החלטות מסוימים, בדגש על החלטות של רשויות מינהליות, מכונה לרוב בספרות כדרישה ל-human in the loop – דרישה שיכולה לחול הן בשלב קבלת ההחלטה, הן בשלבים מוקדמים יותר של עיצוב האלגוריתם ואימון המערכת; בהקשר האחרון, ראו: ניבה אלקין-קורן ומעיין פרל "בינה מלאכותית: טכנולוגיה משבשת במשפט הישראלי" משפט, חברה ותרבות ח 11, 22 (2025)). זאת בפרט, מקום שבו מדובר בהחלטה מהותית, שלה השפעה ממשית על האזרח (לניתוח היבטים שונים של סוגיה זו, על המורכבויות הרבות ושלל האתגרים שהיא מעוררת, ראו למשל: Rebecca Crootof, Margot E. Kaminski & W. Nicholson Price II, Humans in the Loop, 76 Vand. L. Rev. 429 (2023); Ryan Calo & Danielle Keats Citron, The Automated Administrative State: A Crisis of Legitimacy, 70 Emory L. J. 797 (2021); Amit Haim, The Administrative State and Artificial Intelligence: Toward an Internal Law of Administrative Algorithms, 14 UC Irvine L. Rev. 103 (2024); משרד החדשנות, המדע והטכנולוגיה ומשרד המשפטים עקרונות מדיניות, רגולציה ואתיקה בתחום הבינה המלאכותית 59-53 (2023) (להלן: מסמך מדיניות ורגולציה בתחום הבינה המלאכותית)).
35. כך, גם אם במסגרת גיבוש ההחלטה וניסוחהּ נעזרים גורמי המינהל במערכת בינה מלאכותית – וכאמור, בדבר זה, כשלעצמו, אין כל פסול – שומה עליהם לקיים בקרה, לבחון ולוודא. הדברים יפים הן באשר להפעלת שיקול הדעת לגופו, הן לגבי ההנמקה שבבסיס ההחלטה (אדגיש כי אין באמור משום הבעת עמדה בנוגע לשאלה אם גם בהקשרים בהם רמת האמינות של מערכות הבינה המלאכותית תהיה גבוהה מאד, ואף תעלה על זו של בעלי מקצוע אנושיים, תוכלנה רשויות המינהל לקבל החלטות ללא מעורבות אנושית כלל, בפרט בעניינים בעלי השפעה משמעותית על חיי האזרח; עוד חזון למועד).
36. היבט נוסף שניתן לזקק מן הדיון האמור ומנסיבות העניין, נוגע לדרישת הגילוי בדבר השימוש בבינה מלאכותית. דרישה כאמור טרם נחרתה בשיטת משפטנו, אולם דומה כי בהחלט עשוי להיות היגיון בקביעת חובה כזו, למצער בהקשרים מסוימים, שבהם ההשפעה על האזרח עשויה להיות גדולה. טעם מרכזי לכך, הוא שעשוי להיות בגילוי כאמור כדי לסייע מעט בצמצום פערי הכוחות שעליהם עמדתי לעיל, כך שהאזרח שניתנה בעניינו החלטה תוך שימוש בבינה מלאכותית, יוכל לפחות להיות מודע לכך, מה שישפר קמעא את יכולתו לכלכל צעדיו בהתאם, לבחון את תקינות ההחלטה, ואולי אף להשיג עליה במסלולים המתאימים (ראו והשוו: מסמך מדיניות ורגולציה בתחום הבינה המלאכותית, עמודים 66-63, 86-85; לניתוח מקיף של סוגיית הגילוי והשקיפות, בהקשר של שימוש שעושות רשויות בבינה מלאכותית, ראו: דלית קן-דרור פלדמן, אור סדן, רחלי אדרי-חולתא ואורי סולד "שקיפות בעידן הבינה המלאכותית: המשפט הישראלי" משפט חברה ותרבות ח 253 (2025)). על כל פנים, מובן כי איני קובע מסמרות, והדברים נאמרים בבחינת הערות למחשבה, במבט צופה פני עתיד.
37. המישור השני שלגביו ניתן לגזור מסקנות מעשיות מן הדיון לעיל, נוגע להיקף הביקורת השיפוטית ולסוגיית הסעד. כידוע, היקף הביקורת השיפוטית על פעולתה של רשות מינהלית, כמו גם הסעד שנפסק בגין פגם שנפל בה, קשורים בקשר הדוק לאופיו וטיבו של הפגם. סבורני, כי שימוש בלתי מבוקר שעושה הרשות בבינה מלאכותית במסגרת יחסיה הישירים עם האזרח, פותח פתח לביקורת שיפוטית מחמירה והדוקה יותר, ועשוי להצדיק, ככלל, סעד משמעותי. טעם ראשון לדבר, נעוץ בחומרתה היתרה של התנהלות זו, כמפורט לעיל. טעם שני, טמון בכך שכפי שהוסבר, שימוש לא מבוקר בבינה מלאכותית מגביר את החשד לכך שנפלו פגמים בהליך קבלת ההחלטה, וכי היא לוקה בהעדר הנמקה, שרירות ועוד מרעין בישין. טעם שלישי, הנגזר ישירות מניתוח פערי הכוחות בין הצדדים, מצוי בשיקולי הכוונת התנהגות. כפי שהבהרתי, הדעת נותנת, כי במרבית המקרים, אדם מן היישוב כלל לא יהיה מוּדע לכך שהתקבלה בעניינו החלטה המבוססת על מערכת בינה מלאכותית, וכוללת הטעיות ו'הזיות' שונות; ממילא, במקרים כגון דא, ההחלטה לא תעבור תחת שבט הביקורת השיפוטית, ותיוותר על כנה. משמעות הדבר היא שקיים חשש כי הרשות לא תקפיד די הצורך על הימנעות מהתנהלות כזו, נוכח ההסתברות הנמוכה לכך שההחלטה תהא כפופה למנגנון בקרה חיצוני (ניתן לחשוב על מצב זה כמעין מקרה של 'הרתעת חסר'). מכאן, שעל מנת להבטיח שרשויות מינהליות יסגלו לעצמן דרכי התנהלות ראויות בהקשר זה, ולמנוע מלכתחילה שימוש בלתי מבוקר בבינה מלאכותית ביחסיהן עם האזרח, עליהן לדעת כי החלטותיהן תעמודנה לביקורת שיפוטית דקדקנית ומחמירה, שעלולה לבוא בצדה גם עם סעדים משמעותיים."
כדאי לשים לב גם להערות האגב של כבוד השופטת גילה כנפי-שטייניץ:
- ראשית, כבוד השופטת הצביעה על כך שבהיבט המנהלי - שימוש בלתי מבוקר בבינה מלאכותית עלול "לרדת במקרים מסוימים לשורש הסמכות גופה. שהרי לא אחת שנינו כי כלל יסוד הוא, שרשות אינה רשאית להתפרק משיקול דעתה או לאצול סמכות ללא הסמכה מפורשת..יש המצביעים על כך ששילוב מערכות בינה מלאכותיות בתהליך קבלת החלטות מאתגר איסור זה, שכן הלכה למעשה, החלטות פרטניות, ואף החלטות הנוגעות לעיצוב מדיניות כללית, "מואצלות" לאלגוריתם ובמובלע לספקים הפרטיים המפתחים אותו ... מקום בו מועברת קבלת ההחלטה עצמה לכלי הבינה המלאכותית. במצב דברים זה, שוב לא ניתן להשקיף על השימוש במערכת כ'הסתייעות טכנית' גרידא, מעין שימוש במחשבון, מאגר מידע או כלי ניסוח ... אלא כהעתקת מרכז הכובד של הפעלת שיקול הדעת מן האדם אל כלי הבינה המלאכותית. העברת ההכרעה לבינה מלאכותית המפעילה מעין "שיקול דעת" משלה, עלולה לעלות במקרים מסוימים כדי התפרקות פסולה משיקול הדעת או אצילה אסורה."
כלומר, בהיבט המנהלי השימוש בבינה המלאכותית ללא בקרה, יוצר סיכון מרובע: פגיעה בחובת ההנמקה, שרירות בקבלת ההחלטה התפרקות משיקול הדעת ואולי אף אצילה אסורה. - שנית, כבוד השופטת מציינת, ובצדק כי "יש להיזהר מלקרוא את מודל ה'אדם בלולאה' כהכשר לפיקוח אנושי פורמלי בלבד." אומנם, כדבריה "פיקוח אנושי עשוי, בין היתר, להגביר אחריותיות ובמקרים מסוימים לטייב את איכות ודיוק תוצרי המערכת.... ואולם, הספרות המחקרית העדכנית מלמדת כי דרישה להשגחה אנושית, כשהיא לעצמה, רחוקה מלספק הגנה הולמת מפני כשלים או טעויות של הבינה המלאכותית; ומזהירה מפני הוספה של גורם אנושי לשרשרת קבלת ההחלטות, מבלי ליתן את הדעת למורכבות הממשק שבין אדם לכלי הבינה המלאכותית...כך לדוגמה, ממשק זה סובל פעמים רבות מהטיות קוגניטיביות המאתגרות את יעילות הפיקוח. יש שמפקחים אנושיים נוטים להסתמך יתר על המידה על תוצרי המערכת במקום להפעיל שיקול דעת עצמאי (תופעה המכונה "הטיית האוטומציה" (automation bias)). מן העבר השני, מצביעים מחקרים על נטייה בלתי רציונלית לדחות החלטה שהתקבלה על-ידי מערכת בינה מלאכותית, גם בהיעדר הצדקה לכך (תופעה המכונה סלידה אלגוריתמית (algorithm aversion)...עוד יש ליתן את הדעת לכך שמעורבות אנושית הנעשית ללא האמצעים והידע הנדרשים, לעיתים קרובות נעדרת יכולת ממשית לזהות את טעויותיה או הטיותיה של הבינה המלאכותית ולתקנן. במקרים אחרים, היא אף עשויה לגרוע מאיכות התוצר המתקבל על-ידי הבינה המלאכותית ולקזז מיתרונותיה".
לכן אליבא דהשופטת כנפי-שטייניץ "יש לדרוש, מעבר לחובה עליה עמד חברי, מעורבות משמעותית יותר מצד הרשות. חובה מוגברת זו אינה עשויה מקשה אחת, והיא יכולה ללבוש ולפשוט צורה בהתאם לטיב ההחלטה המינהלית ולמאפייני המערכת בה נעשה שימוש. מבלי למצות, מעורבות זו עשויה להשמיע, בין היתר, שימוש מושכל הכולל היכרות מספקת עם יתרונותיה, מגרעותיה ומגבלותיה של המערכת; וחשוב מכך – כשירות וסמכות לדחות את המלצותיה במקרים המתאימים... היא עשויה להטיל חובה לניטור מתמשך של התוצרים המתקבלים, תוך בחינתם בעין ביקורתית, בין היתר, על דרך השוואתם להחלטות אנושיות דומות. בפרט באשר לסוגיות בעלות השפעה ממשית על הפרט, כבענייננו. אפשר כי על מעורבות זו להתחיל עוד בשלבי עיצוב המערכת והליך למידתה – תוך התאמת מאפייניה לכללי המשפט המינהלי ... לבסוף, ראוי כי טרם הטמעת המערכות, רשויות המדינה יקיימו הליך מקדים במסגרתו ייבחן האם ההחלטה הנדרשת אכן הולמת הסתייעות במודל בינה מלאכותית; ואם המודל הספציפי אמין דיו והולם במאפייניו כדי לסייע בקבלת אותה ההחלטה"
ובשולי הדברים, דומני כי כדאי לשים לב גם להיבט נוסף - שאלת הטלת ההוצאות האישיות:
כבוד המשנה לנשיא, השופט סולברג, כתב כי התלבט אך נמנע "מהטלת הוצאות אישיות על ב"כ העירייה, מכוח סעיף 151(ג) לתקנות". לדעתי היתה זו טעות. מדוע ? נוכח הדרך בה תיאר ביהמ"ש עצמו את הטענה שהעלה בא כוח העיריה על כך שחוזר המנכ"ל המומצא והציטוטים המומצאים מתוך פסקי הדין הם עקב הסתייעות במתמחים.
על כך כתב כבוד המשנה לנשיא, סולברג: "טענה זו – מוטב כי לא היתה נטענת כלל. אף אם הדברים נכונים ברמה העובדתית – ולמען הסר ספק, איני קובע או רומז כי אכן אלה הם פני הדברים – אין בכך כדי להעלות או להוריד. ברי, כי האחריות על שנכתב במסמך המוגש לבית המשפט, מוטלת על עורך הדין החתום עליו. בלשון כללית יותר: הניסיון להטיל את האחריות לטעויות בכתבי בי-דין שמגיש עורך דין על גורמים אחרים – בין אם הם מתמחים הכפופים לעורך הדין המאמן, ובין אם הן מערכות טכנולוגיות של בינה מלאכותית – הוא ניסיון נואל, שיש לדחות מכל וכל. כבעל מקצוע אחראי עורך הדין באופן אישי לאיכות התוצר אשר יוצא תחת ידו, ואין הוא יוצא ידי חובתו בהסתמכו על אחר – בן אנוש או בינת מכונה."
האומנם אפשר לכתוב דברים בטון חמור שכזה, ובמקביל להמשיך להפגין סבלנות כלפי השימוש הבלתי מבוקר בבינה המלאכותית? לטעמי זו היתה סבלנות מופרזת וגם אם היתה כאן החלטה להתחיל באיתות לעולם המשפט הישראלי באמצעות הטלת הוצאות על הרשות, נראה לי שהיה מקום להטיל הוצאות אישיות , ולו בגובה סמלי.
כולי תקווה שבעתיד נראה הטלת הוצאות אישיות על כל מי שעושה שימוש בלתי מבוקר בבינה מלאכותית במסגרת הליכי משפט או החלטות מנהליות.
ונזכיר את לשון תקנה 151 לתקסד"א 2018 למען הבהירות:
"תכלית ההוצאות
151. (א) חיוב בעל דין בתשלום הוצאות נועד לשפות את בעל הדין שכנגד על הוצאותיו בהליך בהתחשב בתוצאותיו, במשאבים שנדרשו לניהולו ובהתנהלות בעלי הדין.
(ב) החלטת בית המשפט בעניין פסיקת ההוצאות ושיעורן תבטא את האיזון הראוי שבין הבטחת זכות הגישה לערכאות, הגנה על זכות הקניין של הפרט ושמירה על שוויון בין בעלי הדין.
(ג)סבר בית המשפט שבעל דין עשה שימוש לרעה בהליכי משפט או לא מילא אחר תקנות אלה, רשאי הוא לחייבו בהוצאות לטובת הנפגע או לטובת אוצר המדינה ובנסיבות מיוחדות אף את בא כוחו."
אין תגובות:
הוסף רשומת תגובה