בינה מלאכותית. צילום: שאטרסטוקחוק הבינה המלאכותית של האיחוד האירופי (EU AI Act) מתחיל לשנות לא רק את פעילותן של חברות הטכנולוגיה הגדולות, אלא גם את הדרך שבה ערים ורשויות מקומיות מטמיעות בינה מלאכותית בשירותים לתושב. בכתבה “How the EU AI Act Is Shaping Municipal Technology Deployments”, שפורסמה באתר Tomorrow.City, בוחנת הכותבת לוסיה בורבאנו (Lucía Burbano) את השלכותיו של החוק על השלטון המקומי ועל פרויקטים של ערים חכמות.
בורבאנו מציינת כי הרשויות המקומיות נמצאות בעמדה ייחודית: הן אינן רק משתמשות במערכות AI, אלא עשויות במקרים מסוימים להיחשב גם כמפתחות או כרוכשות שלהן. כתוצאה מכך, הרגולציה האירופית מטילה עליהן דרישות חדשות בתחומי הממשל, השקיפות וניהול הסיכונים.
לדבריה, מטרת החוק היא להבטיח בטיחות והגנה על זכויות יסוד ולקדם בינה מלאכותית הממוקדת באדם, ובה בעת לאפשר לאירופה להמשיך לקדם אימוץ, השקעות וחדשנות בתחום.
לא כל אלגוריתם מסוכן באותה מידה
אחד העקרונות המרכזיים של החוק הוא חלוקת מערכות הבינה המלאכותית לפי רמת הסיכון שלהן. בורבאנו מציגה בכתבה ארבע קטגוריות: סיכון בלתי מתקבל על הדעת, סיכון גבוה, סיכון מוגבל מבחינת שקיפות וסיכון מזערי או אפסי.
ההבחנה הזאת מקבלת משמעות מוחשית במיוחד ברשות המקומית. מערכת AI המשמשת לשיפור פעולת הרמזורים אינה שקולה למערכת שמדרגת משפחות המבקשות סיוע סוציאלי או דיור ציבורי.
בכתבה מצוין כי מערכות העלולות להשפיע באופן משמעותי על “חייהם, בטיחותם או זכויותיהם של אנשים” מוגדרות כמערכות בסיכון גבוה, ולכן נדרשים לגביהן מנגנוני בקרה מחמירים, תיעוד ופיקוח אנושי. כדוגמה מביאה בורבאנו רשות מקומית המשתמשת באלגוריתם לבחינת בקשות לקבלת הטבות סוציאליות או דיור ציבורי.
בקצה המחמיר ביותר נמצאות מערכות שהשימוש בהן עשוי להיחשב איום על זכויות יסוד. אחת הדוגמאות הרלוונטיות במיוחד לערים היא שימוש בזיהוי ביומטרי בזמן אמת במרחב הציבורי.
עיר חכמה – אבל תחת פיקוח
ההשפעה של החוק עשויה להיות משמעותית במיוחד על תפיסת “העיר החכמה”. בורבאנו מציינת כי עד כה ערים רבות אימצו טכנולוגיות חדשות בעיקר בשל היתרונות שהבטיחו – התייעלות וחיסכון בעלויות. כעת נכנסים למערכת השיקולים גם הסיכון הכרוך במערכת, השפעתה האפשרית על התושבים והאפשרות שתיצור הטיה או אפליה.
המשמעות נוגעת לשורה ארוכה של שירותים עירוניים שכבר משלבים בינה מלאכותית: טיפול בפניות תושבים ובאירועים עירוניים, חיזוי תנועה, אופטימיזציה של צריכת אנרגיה במבני ציבור ותאומים דיגיטליים.
העיקרון, על פי הכתבה, הוא שככל שמערכת AI מסוגלת להשפיע באופן משמעותי יותר על חייו וזכויותיו של אדם, כך גוברת האחריות המוטלת על הרשות המפעילה אותה.
התושב צריך לדעת שהוא מדבר עם מכונה
נדבך נוסף הוא השקיפות. בורבאנו מדגישה כי כאשר תושב מתקשר עם מערכת בינה מלאכותית – למשל צ’אטבוט עירוני או כלי AI גנרטיבי המייצר תשובות או דוחות – עליו לדעת כי מולו עומדת מערכת AI.
אבל השקיפות לבדה אינה מספיקה. על פי הכתבה, החלטות בעלות השלכות משמעותיות אינן יכולות להיות אוטומטיות לחלוטין, ונדרש בהן “meaningful human oversight” – פיקוח אנושי משמעותי. זהו עיקרון בעל משמעות מיוחדת בשלטון המקומי. מערכת יכולה לנתח מידע, לזהות דפוסים ולהמליץ על החלטה, אך כאשר ההחלטה נוגעת לזכויותיו של תושב או לזכאותו לשירות ציבורי, האחריות אינה יכולה לעבור במלואה לאלגוריתם.
גם תנאי המכרזים משתנים
הרגולציה צפויה להשפיע גם על האופן שבו רשויות רוכשות טכנולוגיה. בורבאנו מציינת כי הרשויות המקומיות יצטרכו לדרוש מספקי הטכנולוגיה להוכיח עמידה בחוק ה-AI האירופי.
הדרישה עשויה להיכנס למכרזים בתחומי התחבורה החכמה, הביטחון העירוני, ניהול הפסולת וההתייעלות האנרגטית. בכתבה משווה בורבאנו את משמעות השינוי לזו של תקנות הגנת המידע האירופיות, ה-GDPR: עמידה בחוק ה-AI צפויה להפוך לחלק מהדרישות המשפטיות הבסיסיות המלוות התקשרויות טכנולוגיות.
הרשויות יצטרכו לדעת אילו מערכות AI הן מפעילות
אולי אחד השינויים המעניינים ביותר הוא המעבר מטיפול בכל מערכת בנפרד ליצירת ממשל AI עירוני. על פי הכתבה, רשויות יידרשו לנהל מלאי מסודר של מערכות הבינה המלאכותית שהן מפעילות, לקבוע פרוטוקולים להערכת סיכונים, לבצע ביקורות ובדיקות תקופתיות ולהכשיר את עובדי המגזר הציבורי בתחום הבינה המלאכותית ובדרישות החוק.
חלק מהערים כבר נערכות לכך. בורבאנו מציינת את ברצלונה, שאישרה אסטרטגיית AI עירונית לשנים 2026–2028 המתמקדת בממשל, בשקיפות, בניהול סיכונים ובשימוש אחראי במערכות AI. גם בולוניה ומילאנו פרסמו הנחיות לשימוש בבינה מלאכותית בתהליכים מינהליים ובשירותים ציבוריים.
יישום החוק נעשה בהדרגה. האיסורים על פרקטיקות מסוימות והדרישות לאוריינות AI החלו לחול בפברואר 2025, והוראות הנוגעות למודלים של בינה מלאכותית לשימוש כללי נכנסו לתוקף באוגוסט 2025. מאוגוסט 2026 מתחילות לחול דרישות נוספות הנוגעות למערכות בסיכון גבוה ולשקיפות, והרגולציה אמורה להגיע ליישום מלא באוגוסט 2027.
התמונה שעולה מהכתבה של בורבאנו היא של שינוי בתפיסת העיר החכמה עצמה. השאלה כבר אינה רק מה הטכנולוגיה יכולה לעשות עבור העיר וכמה כסף או זמן היא יכולה לחסוך, אלא גם מי אחראי להחלטות שהיא מקבלת, כיצד מגינים על התושב מפני טעויות והטיות, ועד כמה רשאי השלטון המקומי להעביר סמכויות למערכות אוטומטיות.
ומול המודל האירופי, שמתחיל להציב גבולות ברורים לשימוש של רשויות מקומיות בבינה מלאכותית, עולה המודל הישראלי.
בעוד שבאיחוד האירופי השימוש בבינה מלאכותית כבר מוסדר באמצעות חקיקה רוחבית ומחייבת, בישראל התמונה שונה. נכון ל-2026 אין בישראל חוק כולל המסדיר את הפיתוח והשימוש בבינה מלאכותית בדומה ל-EU AI Act. הגישה שאימצה המדינה עד כה היא רגולציה מבוזרת וענפית, הנשענת על החקיקה הקיימת ועל הנחיות וכללי מדיניות המותאמים לתחומי הפעילות השונים.
הגישה הזאת נקבעה כבר במסמך “עקרונות מדיניות, רגולציה ואתיקה בתחום הבינה המלאכותית”, שפרסמו משרד החדשנות, המדע והטכנולוגיה ומשרד המשפטים בדצמבר 2023. במסמך המליצה המדינה שלא לקדם, בשלב זה, חקיקה רוחבית ייחודית לבינה מלאכותית, אלא להעדיף רגולציה ענפית, שבה כל רגולטור מזהה את הסיכונים בתחום אחריותו ומתאים להם את המענה. לצד זאת הומלץ להשתמש בכלים רגולטוריים גמישים והדרגתיים ולאזן בין עידוד החדשנות לבין הגנה על האדם ועל החברה. (ממשלת ישראלAttachment.png)
הפער בין המודל הישראלי למודל האירופי מקבל משנה חשיבות כאשר מערכות AI נכנסות לפעילותם של גופים ציבוריים ורשויות מקומיות. אלגוריתם המסייע לעובד עירייה לנסח מכתב אינו דומה למערכת שמנתחת מידע על תושבים או מסייעת בקבלת החלטות בתחומי רווחה, חינוך, דיור או שירותים עירוניים. ככל שהמערכות הופכות לחלק מתהליכי קבלת החלטות, מתחדדות שאלות של אחריות, שקיפות, פרטיות, הטיה ופיקוח אנושי.
ביוני 2026 התייחס לכך גם משרד מבקר המדינה במאמר מקצועי שעסק בשימוש בבינה מלאכותית בגופים ציבוריים. מחבריו ציינו במפורש כי “בישראל לא קיים חוק רוחבי בעניין השימוש בבינה המלאכותית, והרגולציה היא מבוזרת וסקטוריאלית”, והזהירו כי שילוב AI בקבלת החלטות של גופים ציבוריים טומן בחובו סיכונים לפגיעה בזכויות האזרח.
ממדיניות כללית לכללי שימוש במגזר הציבורי
אלא שבמקביל להיעדרה של חקיקה כוללת, המדינה מתחילה לבנות תשתית של ממשל AI. במאי 2026 פרסם מערך הדיגיטל הלאומי, בשיתוף מחלקת ייעוץ וחקיקה במשרד המשפטים, את המדריך לשימוש אחראי בבינה מלאכותית במגזר הציבורי. מטרתו היא להטמיע מערכות AI באופן מבוקר לאורך כל מחזור החיים שלהן – משלב האפיון והפיתוח ועד להפעלתן בידי עובדי הציבור – תוך איזון בין התועלת שהן מספקות לבין זיהוי הסיכונים וצמצומם.
במילים אחרות, גם בלי חוק AI ישראלי, מתחילה להתגבש תפיסה שלפיה הכנסת מערכת בינה מלאכותית לארגון ציבורי אינה יכולה להיחשב להחלטה טכנולוגית בלבד. היא מחייבת משילות ארגונית, ניהול סיכונים והגדרה ברורה של האחריות לשימוש במערכת.
לרשויות המקומיות פורסם גם מדריך הפעלה וניהול AI, שמתרגם את העקרונות הללו להמלצות מעשיות. בין היתר נדרשות הרשויות לגבש מדיניות ארגונית ברורה לשימוש בבינה מלאכותית, לקבוע מנגנון פנימי לאישור מערכות ולפיקוח עליהן, להגדיר אילו כלי AI חיצוניים מותרים לשימוש ולהדריך את העובדים בנוגע לסיכוני אבטחת מידע ופרטיות. המדריך ממליץ גם לאסור הזנת מידע רגיש, לרבות מידע אישי, לשירותי AI חיצוניים שאינם מאושרים.
האחריות נשארת בידי הרשות
אחת הנקודות המשמעותיות ביותר בהנחיות לרשויות נוגעת להתקשרות עם חברות טכנולוגיה. על פי המדריך, האחריות על המידע נשארת בידי הארגון גם כאשר הוא משתמש בשירותיו של ספק חיצוני. לכן מומלץ לעדכן את הליכי הרכש ואת שאלוני אבטחת המידע לספקים ולהכניס אליהם דרישות הנוגעות לשימוש בבינה מלאכותית.
בין היתר, המדריך ממליץ להכניס להסכמים סעיף האוסר על ספק להשתמש במידע של הרשות לצורך אימון המודלים הכלליים שלו; לדרוש התחייבות למחיקת המידע לאחר פרק זמן מוגדר; ולחייב את הספק בשקיפות באשר לאופן פעולת מערכת ה-AI ולסיכונים הכרוכים בה. הרשויות מתבקשות גם לבחון את עמידת הספק ברגולציה בינלאומית החלה עליו, ובה
כבר ניתן לזהות קווי דמיון ברורים למגמה האירופית שמתארת לוסיה בורבאנו: גם בישראל שאלת האחריות על AI מתחילה לעבור משולחנו של מנהל מערכות המידע אל שולחנם של היועצים המשפטיים, מנהלי הרכש, ממוני אבטחת המידע והנהלת הרשות.
הפרטיות מספקת כבר היום מסגרת מחייבת
היעדר חוק AI ייעודי אינו משחרר את הרשויות מחובות משפטיות. כאשר מערכת בינה מלאכותית עושה שימוש במידע אישי, חלים עליה דיני הגנת הפרטיות. באפריל 2025 פרסמה הרשות להגנת הפרטיות טיוטת הנחיה שעסקה במפורש בתחולת הוראות חוק הגנת הפרטיות על מערכות בינה מלאכותית. הרשות עמדה על כך שלצד יתרונותיה של הבינה המלאכותית, השימוש בה כרוך בסיכונים משמעותיים המחייבים מענה רגולטורי. טיוטת ההנחיה נועדה להבהיר כיצד עקרונות דיני הפרטיות חלים גם כאשר איסוף המידע, ניתוחו או השימוש בו נעשים באמצעות AI. המשמעות לרשות מקומית ברורה: מידע שנמסר לעירייה לצורך קבלת שירות אינו הופך לחופשי לשימוש משום שהוא מעובד באמצעות אלגוריתם. חובות הנוגעות לפרטיות, לאבטחת מידע ולשימוש במידע ממשיכות לחול גם כאשר הטכנולוגיה שבאמצעותה הוא מעובד משתנה.
בין אירופה לישראל: אותם סיכונים, מסגרת משפטית שונה
למרות ההבדלים הרגולטוריים, העקרונות המתגבשים בישראל דומים בחלקם לאלה שעליהם מבוססת הרגולציה האירופית: ניהול סיכונים, אחריותיות, שקיפות, הגנה על מידע, פיקוח ארגוני, הכשרת עובדים ובקרה על ספקי הטכנולוגיה. גם מסמך המדיניות הישראלי מ-2023 הציב במרכז עקרונות של שמירה על זכויות יסוד, שוויון ומניעת אפליה, שקיפות והסברתיות, אמינות, אבטחה ואחריותיות
אלא שההבדל המרכזי הוא במעמדם של הכללים. באירופה ה-EU AI Act יוצר מסגרת חקיקתית מחייבת, מסווג מערכות על פי רמת הסיכון וקובע חובות ואיסורים בהתאם לסיווגן. בישראל, לעומת זאת, חלק ניכר מהמסגרת הייחודית ל-AI עדיין מבוסס על מדיניות, מדריכים והנחיות, לצד חוקים קיימים ורגולציה ענפית.
הפער הזה נעשה משמעותי יותר ככל שהשימוש בבינה מלאכותית בשלטון המקומי מתרחב. מערכות AI כבר אינן משמשות רק לכתיבת מסמכים או להפעלת צ’אטבוטים. הן מסוגלות לנתח מאגרי מידע, לזהות מגמות, לתעדף משימות ולהמליץ על החלטות. ככל שהן מתקרבות לליבת הפעילות השלטונית – ובמיוחד להחלטות הנוגעות ישירות לתושבים – השאלה אינה עוד אם הרשויות המקומיות ישתמשו בבינה מלאכותית, אלא אילו גבולות ייקבעו לשימוש בה, מי יפקח עליה ומי יישא באחריות כאשר האלגוריתם טועה.
