מטרה
ממשל AI מגשר בין הדרגים הטכנולוגיים, המשפטיים והעסקיים בארגון, ומאפשר לנצל את יתרונות הבינה המלאכותית תוך הגנה על הארגון מפני נזקים כספיים, משפטיים ותדמיתיים.
המסגרת הרגולטורית
ישראל. אין כיום חקיקה ייעודית לבינה מלאכותית. חלים הדינים הכלליים, ובראשם חוק הגנת הפרטיות, וכן עקרונות המדיניות שפרסם משרד החדשנות, המדע והטכנולוגיה, והנחיות רגולטורים מגזריים.
האיחוד האירופי. חוק הבינה המלאכותית (EU AI Act) חל גם על חברות ישראליות שמשווקות מערכות AI באיחוד או שתוצרי המערכות שלהן משמשים בו. תיקון שנכנס לתוקף ביולי 2026 דחה את מועדי החובות למערכות בסיכון גבוה: דצמבר 2027 למערכות עצמאיות, ואוגוסט 2028 למערכות שמשולבות במוצרים מוסדרים. חלק מהחובות, כמו האיסורים על שימושים מסוימים, כבר חלות.
תקנים. ISO/IEC 42001 (מערכת ניהול AI) ו-NIST AI RMF הם מסגרות וולונטריות שמשמשות יותר ויותר כבסיס בדרישות של לקוחות ומשקיעים.
רכיבי הליבה המרכזיים
ציות לרגולציה וחוק. התאמה לחוקי הגנת הפרטיות, רגולציית AI יעודית, דיני קניין רוחני ואחריות משפטית על תוצרי המערכת.
ניהול סיכונים זיהוי ומזעור סיכונים טכנולוגיים ועסקיים, כגון זליגת מידע ארגוני רגיש, מתקפות סייבר על מודלים, הטיות אלגוריתמיות (Bias) ושימוש בתוצרים שגויים ("הזיות" של המודל).
אתיקה והוגנות. הגדרת קווים אדומים לשימוש בטכנולוגיה, מניעת אפליה בקבלת החלטות אוטומטית (כמו בקבלה לעבודה או בדיקת אשראי) ושמירה על ערכי הארגון.
שקיפות ואחריותיות (Accountability). היכולת להסביר כיצד מערכת ה-AI מקבלת החלטות (Explainable AI), הגילוי הנאות למשתמשים שהם עובדים מול אלגוריתם, והגדרת גורם אנושי האחראי לתוצאות.
ממשל נתונים (Data Governance). פיקוח על מקורות המידע שמשמשים לאימון המודלים או כקלט (Prompts), תוך שמירה על קניין רוחני, סודות מסחריים ופרטיות נושאי המידע.
מתודולוגיית העבודה
מיפוי שימושים. אילו כלים בשימוש, על ידי מי, לאילו משימות ועם איזה מידע. כולל כלים שהוטמעו בתוכנות קיימות.
סיווג סיכון. אילו שימושים מותרים, אילו מחייבים בדיקה ואילו אסורים.
מדיניות וכללים. מדיניות שימוש, כללי הזנת מידע, בקרה אנושית על תוצרים (Human Review) ונוהל חריגים.
ספקים. בחינת תנאי השימוש, שמירת המידע, אימון מודלים והרשאות.
הדרכה וסקירה. הדרכה לפי תפקיד ומנגנון עדכון תקופתי.
תוצרים אפשריים
- מרשם כלים ושימושים
- מדיניות שימוש ב-AI
- תהליך אישור כלים
- הערכת סיכוני AI
- הערכת השפעה על הפרטיות למערכות AI
- התאמה ל-EU AI Act
- ליווי בהטמעת ISO/IEC 42001
- הדרכות להנהלה ולעובדים
חובת הסודיות
למשרדים הכפופים לחובת סודיות יש מסלול ייעודי: AI למשרדים מקצועיים. למשרדי עורכי דין ורואי חשבון המשרד מציע גם סריקה ממוקדת של השימוש ב-AI: מיפוי השימוש בפועל, הפערים המרכזיים וסדר עדיפויות לפעולה.