סוכן שלח מייל, ביצע רכישה ושינה נתונים — מי נושא באחריות?

מאת צוות מדיה דיל · 12.08.2026 · AI Investigation · 7 דק׳

בדקנו תרחיש שבו סוכן AI ביצע רצף פעולות שגויות בתום לב, ויצאנו לברר מי בפועל נושא באחריות — התשובה מורכבת הרבה יותר ממה שרוב הארגונים מניחים.

התרחיש שבנינו לבדיקה הזו היה מכוון להיות ריאליסטי עד כאב: סוכן AI ארגוני עם הרשאות למספר פעולות שגרתיות — שליחת מיילים בשם הצוות, ביצוע הזמנות ציוד משרדי בתקציב מוגדר, ועדכון רשומות במערכת פנימית. במהלך רצף פעולות אחד, ובעקבות שילוב של הנחיה לא מדויקת וטעות פרשנות פנימית, הסוכן שלח מייל ללקוח עם מידע שגוי, ביצע הזמנה שלא הייתה נחוצה, ועדכן שדה במערכת בערך שגוי. שום דבר מזה לא נבע מזדון. הכול נבע משרשרת החלטות סבירות-לכאורה שהצטברו לתוצאה בלתי רצויה.

השאלה שרצינו לבחון לא הייתה "איך מונעים את זה" — יש מדריכים טכניים שלמים לזה — אלא שאלה קשה יותר שכמעט אף ארגון לא ענה עליה מראש: כשזה קורה בפועל, מי אחראי? המפתח שכתב את ההנחיה? המנהל שאישר את ההרשאות? הספק שסיפק את מנוע הסוכן? או שאין בכלל תשובה ברורה, וכל מקרה נבחן לגופו בלי מסגרת קבועה? יצאנו לראיין אנשי משפט, מנהלי סיכונים ומנהלי מוצר כדי להבין איך נראית התשובה בפועל, לא בתיאוריה.

מה שהפך את השאלה הזו לדחופה יותר ממה שציפינו הוא שכמעט כל מי שראיינו הודה, כשנשאל ישירות, שהוא לא בדק את זה מראש. הארגונים המתקדמים ביותר טכנולוגית, עם ההטמעה המרשימה ביותר של סוכני AI, היו לעיתים קרובות אלה עם הפער הגדול ביותר בין רמת האוטומציה שהם הפעילו לבין רמת הבהירות שיש להם לגבי מי אחראי כשמשהו משתבש. זה נשמע פרדוקסלי, אבל בפועל הגיוני מאוד — הקצב המהיר של אימוץ הטכנולוגיה פשוט הקדים את הקצב האיטי בהרבה של עדכון מסגרות האחריות הארגוניות.

מה קורה כשבודקים את "שרשרת ההחלטה" לאחור

הצעד הראשון בכל ניסיון לקבוע אחריות הוא לשחזר בדיוק מה קרה — איזו הוראה ניתנה, איזה מידע היה זמין לסוכן באותו רגע, ואיזו החלטה הוא קיבל בכל שלב. בפועל, גילינו שברוב הארגונים שבדקנו, השחזור הזה הרבה יותר קשה ממה שציפינו. בלי תשתית תיעוד ייעודית, מה שנשאר הוא שילוב של לוגים חלקיים ממערכות נפרדות, שאין ביניהן קורלציה ברורה, ושחייבים לחבר ידנית כדי לקבל תמונה שלמה.

המסקנה הפרקטית הראשונה מהתרגיל היא שהשאלה "מי אחראי" בכלל לא ניתנת למענה בלי תשתית שיודעת לענות קודם על השאלה "מה בדיוק קרה, בדיוק מתי, ובאיזה סדר". זו הסיבה שכל ארגון שמפעיל סוכן עם יכולת לבצע פעולות בעולם האמיתי — שליחה, רכישה, עדכון — חייב שכבת תיעוד שמאפשרת שחזור מלא, ולא רק תיעוד חלקי שמספיק לצרכי דיבוג רגיל. הרחבנו את הנושא הזה במאמר מאחורי הקלעים של Agent Audit Log, שמראה בדיוק איך נראית תשתית כזו בפועל.

ההבדל בין "טעות בהנחיה" ל"טעות בהרשאה"

בניתוח שלנו, זיהינו שני סוגי כשל שונים לגמרי שדורשים תשובת אחריות שונה. הראשון הוא כשל בהנחיה — מישהו ניסח הוראה מעורפלת, והסוכן פירש אותה בצורה סבירה אך לא רצויה. השני הוא כשל בהרשאה — הסוכן קיבל הרשאה לבצע פעולות מסוימות שלא היו קשורות בכלל למשימה שהוגדרה לו, ופעל עליהן כי הוא יכול, לא כי התבקש. ההבחנה הזו קריטית כי היא מכוונת לאחריות שונה לגמרי — במקרה הראשון, האחריות נוטה לכיוון מי שניסח את ההנחיה; במקרה השני, לכיוון מי שהגדיר את ההרשאות מלכתחילה.

העיקרון שאמור למנוע את סוג הכשל השני נקרא least agency, ומרחיב אותו המדריך שלנו עקרון ה-least agency — אבל חשוב להבין שגם עם הטמעה מושלמת שלו, כשל מסוג ראשון עדיין יכול לקרות. הנחיה מעורפלת, גם לסוכן עם הרשאות מוגבלות בקפידה, עדיין יכולה להוביל לתוצאה לא רצויה בתוך גבולות ההרשאה המותרת. שני סוגי הכשל דורשים הגנה נפרדת, ואי אפשר לפתור את שניהם עם אותו מנגנון בלבד.

מה אומר החוזה — ומה הוא לא אומר בכלל

כשבדקנו הסכמי שירות טיפוסיים בין ארגונים לספקי כלי AI, גילינו שרובם עדיין כתובים בשפה שמתייחסת לתוכנה כאל כלי פסיבי, לא כאל גורם שמבצע פעולות אוטונומיות בעולם האמיתי. סעיפי אחריות שמתמקדים ב"זמינות שירות" ו"אבטחת מידע" לא בהכרח מכסים תרחיש שבו הכלי עצמו ביצע פעולה שגויה מיוזמתו, בתוך גבולות ההרשאה שניתנה לו. זה משאיר חלל משפטי אמיתי שרוב הארגונים לא מודעים לו עד שהם נתקלים בו בפועל.

מנהלי סיכונים שראיינו הצביעו על מגמה מתגבשת: הכללת סעיפים ספציפיים שמגדירים מראש מי אחראי לכל סוג פעולה שסוכן AI מבצע, כולל חובת תיעוד מפורשת מצד הספק וחובת בקרה מפורשת מצד הארגון המשתמש. הבעיה היא שהמגמה הזו עדיין לא סטנדרטית, וברוב המקרים הקיימים היום, השאלה "מי אחראי" תיפתר רק בדיעבד, במקרה הרע ביותר בבית משפט, ולא מראש בחוזה ברור.

מדוע "אישור אנושי" הוא לא תשובה מלאה

גישה נפוצה שרבים מציעים כפתרון היא פשוט לדרוש אישור אנושי לפני כל פעולה משמעותית. זה אכן מפחית סיכון, אבל לא פותר את שאלת האחריות באופן מלא — כי גם אישור אנושי תלוי באיכות המידע שהוצג לו. אם הסוכן הציג את הפעולה המבוקשת בצורה מטעה או חלקית, האדם שאישר עלול לאשר משהו שהוא לא באמת הבין. בדקנו את זה במסגרת נפרדת שהתמקדה בדיוק בשאלת האמון בסוכן, ופרסמנו את הממצאים במאמר האם ניתן לסמוך על סוכן AI שיפעל ללא אישור אנושי, שמראה עד כמה מורכבת השאלה הזו כשבודקים אותה לעומק.

מה שמתגבש מהניתוח שלנו הוא שאישור אנושי הוא רכיב הכרחי אך לא מספיק. הוא צריך להיות מלווה בהצגה ברורה ומלאה של מה בדיוק הפעולה כוללת — לא סיכום מקוצר שהסוכן עצמו בחר להציג — כדי שהאישור יהיה משמעותי ולא רק פורמלי. אישור על סמך מידע חלקי הוא הרבה פחות שווה מבחינה משפטית ומעשית מאישור על סמך תמונה מלאה.

מה קורה כשמנסים "לפצל" את האחריות בין כמה גורמים

בדקנו גם תרחיש נפוץ בפועל: ארגון שמפעיל סוכן AI שנבנה על ידי ספק חיצוני, מוגדר ומותאם על ידי צוות פנימי, ומאושר לשימוש על ידי הנהלה שלא בהכרח מבינה את הפרטים הטכניים. בתרחיש כזה, כשקורה כשל, כל אחד מהגורמים נוטה להצביע על האחר. הספק טוען שהארגון הגדיר את ההרשאות בצורה רחבה מדי. הצוות הפנימי טוען שהוא רק פעל לפי מה שהספק הציג כברירת מחדל בטוחה. ההנהלה טוענת שהיא סמכה על שני הצדדים המקצועיים שאמורים היו למנוע בדיוק את זה.

מה שהתרחיש הזה חושף הוא שפיצול אחריות בין כמה גורמים, בלי הגדרה מפורשת מראש של מי אחראי למה, לא מייצר "רשת ביטחון כפולה" כפי שאפשר לחשוב — הוא מייצר חלל שבו כל צד מניח שמישהו אחר כיסה אותו. זו בדיוק אותה תבנית שראינו במאמר על בדיקת plugins ארגוניים, שבה "כולם הניחו שמישהו אחר בודק", ואף אחד לא בדק בפועל. הפתרון היחיד שעובד הוא הגדרה מפורשת ובכתב של תחומי אחריות, לפני שקורה תקרית, לא כניסיון להבין את זה במהלך אחת.

מה שכל ארגון צריך להגדיר לפני שקורה משהו

המלצה המרכזית שעולה מהתרגיל הזה היא שאסור לחכות לתקרית כדי לגלות מי אחראי. כל ארגון שמפעיל סוכן AI עם יכולת לבצע פעולות בעולם האמיתי צריך מסמך פנימי ברור — לא רק חוזה עם הספק — שמגדיר מראש מי אחראי לכל סוג פעולה, מי מאשר הרחבת הרשאות, ומה קורה כשמזוהה טעות. המסמך הזה לא צריך להיות מושלם, אבל הוא צריך להיות ברור מספיק כדי שבמקרה של תקרית אמיתית, לא צריך להמציא תשובה תחת לחץ.

בפועל, הארגונים שהתמודדו הכי טוב עם התרחישים שבדקנו היו אלה שכבר הגדירו מראש שלוש רמות אחריות: אחריות טכנית על מי שבנה והגדיר את הסוכן, אחריות תפעולית על מי שמאשר את הפעולות היומיומיות שלו, ואחריות ניהולית על מי שקיבל את ההחלטה העסקית לאמץ את הטכנולוגיה מלכתחילה. חלוקה כזו לא מונעת תקריות, אבל היא הופכת את תהליך הטיפול בהן, ואת השאלה "מי אחראי", לשאלה עם תשובה מוכנה מראש ולא לחקירה שמתחילה מאפס.

שווה גם לקבוע מראש נוהל תגובה מיידית לתקרית — מי מקבל התראה ראשונה כשמזוהה פעולה חריגה, מי מוסמך לעצור את הסוכן במקום, ומי אחראי על תקשורת עם הלקוח או הצד השלישי שנפגע, אם יש כזה. ארגונים שהגדירו נוהל כזה מראש הצליחו לצמצם את הנזק בתרחישי הבדיקה שלנו משמעותית, פשוט כי לא בזבזו זמן יקר בשעות הראשונות על השאלה "מי בכלל אמור לטפל בזה עכשיו" בזמן שהנזק ממשיך להצטבר.

תגיות: אחריות משפטית AI · least agency · audit log · AI accountability · אישור אנושי

← חזרה לבלוג · צור קשר