סוכנים אוטונומיים נכנסים לארגונים — ומחלקות ה-IT עדיין לא מוכנות

מאת צוות מדיה דיל · 12.08.2026 · AI Trends · 6 דק׳

עובדים כבר מריצים סוכני AI על מערכות הארגון בעצמם, לפעמים בלי אישור, ומחלקות ה-IT מגלות שהמודל הישן של אבטחת מידע לא בנוי בכלל למציאות הזו.

מנהל IT בארגון בינוני מתאר את זה כך: "גיליתי שיש לנו 40 חיבורי AI פעילים למערכות הארגון שאף אחד לא אישר רשמית". זה לא תרחיש חריג — זו התמונה הנפוצה כרגע ברוב הארגונים הבינוניים והגדולים. עובדים, מנהלים, ואפילו צוותי הנדסה שלמים מחברים סוכני AI לכלים ולנתונים ארגוניים בקצב שהרבה יותר מהיר מהיכולת של מחלקת ה-IT להעריך, לאשר, ולפקח על החיבורים האלה. זה בדיוק מה שמכונה "Shadow AI" — גרסה עדכנית של "Shadow IT" הישן, רק שהסיכון הפוטנציאלי גדול בהרבה, כי סוכן AI לא רק "ניגש" למידע — הוא פועל עליו.

למה המודל הישן של אבטחת מידע לא מספיק

אבטחת מידע ארגונית נבנתה במשך עשורים סביב הנחת יסוד ברורה: יש משתמשים אנושיים, יש להם זהות אחת, ומה שהם עושים אפשר לעקוב אחריו לפי אותה זהות. סוכני AI שוברים את ההנחה הזו בכמה כיוונים בו-זמנית. ראשית, סוכן פועל בקצב ובהיקף שבן אדם לא יכול — הוא יכול לבצע אלפי פעולות בדקה, מה שהופך זיהוי חריגה על בסיס "התנהגות חשודה" לקשה הרבה יותר. שנית, סוכן פועל לעיתים בשם משתמש, אבל עם הרשאות שהוגדרו לו בנפרד — מה שיוצר שכבת ביניים חדשה שהמודלים הישנים של הרשאות פשוט לא נועדו לתאר. שלישית, ואולי הכי מטריד, סוכן יכול "להזמין" סוכן אחר לבצע תת-משימה, וברגע שזה קורה, שרשרת האחריות מתחילה להיטשטש: מי בעצם ביצע את הפעולה, ומי אחראי אם היא הייתה שגויה?

הבעיה הזו לא תיאורטית. ארגונים שכבר חוו תקריות עם סוכנים אוטונומיים מדווחים שהאתגר הגדול ביותר בזיהוי הבעיה לא היה למנוע אותה מראש — זה היה בכלל לדעת שהיא קרתה. בלי לוג מסודר של פעולות סוכן, ובלי מנגנון ברור שמזהה מתי סוכן חורג מהתחום שהוגדר לו, ארגונים מגלים בעיות רק אחרי שהנזק כבר נעשה. מי שרוצה להבין את הארכיטקטורה הנדרשת כדי לבנות שכבת בקרה נכונה סביב סוכנים — כולל ניהול הרשאות, תיעוד, ועצירת חירום — ימצא בסיס טוב במדריך ארכיטקטורת ה-Runtime לסוכני AI.

יש כאן גם ממד תרבותי שקל לפספס: הרבה מאוד עובדים, במיוחד בצוותי מוצר והנדסה, מרגישים לחץ ביצועים אמיתי להראות תוצאות מהירות עם AI, ובתחרות הזו הם לא תמיד עוצרים לשאול אם החיבור שהם יוצרים בין כלי AI חיצוני לנתונים ארגוניים רגישים עבר את התהליך הנכון. זו לא רשלנות מכוונת — זו פשוט תוצאה טבעית של תמריצים שלא מתואמים: הארגון דוחף לאימוץ מהיר של AI, אבל לא תמיד בונה במקביל את המסלול המהיר והבטוח לעשות את זה נכון, כך שהעובד נאלץ לבחור בין "לאמץ מהר בלי אישור" לבין "להישאר מאחור בזמן שהתהליך הרשמי נתקע בביורוקרטיה".

זהות לא-אנושית: הבעיה שאף אחד לא פתר עדיין לגמרי

אחד התחומים החמים ביותר בשוק אבטחת המידע הארגונית כרגע הוא ניהול "זהויות לא-אנושיות" — Non-Human Identities. השאלה איך מזהים, מאמתים, ומגבילים סוכן AI בדיוק כמו שמזהים משתמש אנושי, היא שאלה שכל ספק אבטחה גדול משקיע בה משאבים עצומים כרגע, כי היא בבסיס כל שאר הבעיות. בלי זהות ברורה לסוכן, אי אפשר לדעת מה מותר לו, אי אפשר לבטל לו הרשאה בצורה ממוקדת, ואי אפשר לחקור תקרית בדיעבד בצורה אמינה.

מה שמסבך את זה הוא שסוכני AI, בניגוד לעובד אנושי שמתחיל ומסיים תפקיד לפי לוח זמנים ברור, יכולים "להיוולד" ולהיעלם באופן דינמי — סוכן זמני שנוצר לצורך משימה ספציפית ונעלם ברגע שהיא הושלמה. ניהול מחזור חיים כזה, בקנה מידה של אלפי סוכנים זמניים ביום בארגון גדול, דורש תשתית שרוב הארגונים פשוט לא בנו עדיין. אלה שבנו אותה מוקדם נהנים כרגע מיתרון תחרותי משמעותי בקצב שבו הם יכולים לאמץ יכולות AI חדשות בבטחה, בעוד מתחרים נאלצים לעצור ולבנות את התשתית הזו בדיעבד, תחת לחץ ואחרי שכבר נתקלו בבעיה.

מעבר לזיהוי, יש גם שאלה של מחזור חיים מלא: איך בכלל "מפטרים" סוכן שהתברר כמסוכן או לא יעיל, ומוודאים שכל ההרשאות וכל החיבורים שהוא צבר לאורך זמן נסגרים בפועל ולא רק על הנייר. בעולם האנושי יש תהליך אופסבורדינג מסודר שמלווה כל עזיבת עובד — ביטול גישה, החזרת ציוד, סגירת חשבונות. בעולם הסוכנים, תהליך מקביל כמעט ולא קיים ברוב הארגונים כיום, מה שיוצר "זבל דיגיטלי" של הרשאות ישנות שאיש לא זוכר שהן עדיין פעילות, בדיוק כמו חשבונות משתמש ישנים ששכחו לסגור — רק בקנה מידה גדול הרבה יותר ובקצב הצטברות מהיר בהרבה.

הארגונים שסובלים הכי הרבה מהמעבר הזה הם לא אלה שמסרבים לאמץ AI — הם אלה שאימצו אותו מהר מדי בלי לבנות את שכבת הממשל שצריכה לתמוך בו.

מה קורה כשסוכן טועה בקנה מידה ארגוני

הנזק הפוטנציאלי מסוכן שטועה גדול משמעותית מנזק שעובד אנושי בודד עלול לגרום, פשוט בגלל הקנה מידה. עובד שטועה בהזנת נתונים עושה בדרך כלל טעות אחת, שמישהו מזהה ומתקן. סוכן שטועה בלוגיקה שהוא מריץ באלפי חזרות עלול לשכפל את אותה טעות בדיוק אלפי פעמים לפני שמישהו שם לב. זו בדיוק הסיבה שבניית "בלמים" נכונים — הגבלת קצב, בדיקות תקינות אוטומטיות, ואישור אנושי בנקודות קריטיות — היא לא המלצה תיאורטית אלא צורך תפעולי דחוף.

יש כאן גם ממד רגולטורי שהולך ומתחזק: רגולטורים בתחומי הפיננסים, הבריאות והפרטיות כבר מתחילים לדרוש מארגונים להוכיח שיש להם שליטה ובקרה על פעולות שמבוצעות על ידי AI, בדיוק כמו שהם דורשים בקרה על פעולות אנושיות. ארגון שלא יכול להסביר לרגולטור מה בדיוק סוכן AI עשה, למה, ובאיזו סמכות, נמצא בסיכון משמעותי, גם אם הסוכן בפועל לא גרם לנזק. תיעוד ושקיפות הופכים מ"נחמד שיהיה" ל"תנאי הכרחי" בתעשיות מפוקחות.

ראוי לציין שהאתגר הזה לא ייחודי לתעשיות מפוקחות בלבד. גם חברות בתחומים פחות רגולטוריים מגלות שלקוחות ושותפים עסקיים מתחילים לשאול שאלות דומות: האם התשובה שקיבלתי הגיעה מבן אדם או מסוכן, ואם מסוכן — מי אחראי אם היא הייתה שגויה? ציפייה חדשה הולכת ומתגבשת בשוק, לפיה שקיפות לגבי מעורבות AI בתהליך היא לא רק דרישה משפטית אלא סטנדרט בסיסי של אמון עסקי, בדיוק כפי שגילוי ניגוד עניינים הפך עם הזמן לנורמה מקובלת בתחומים רבים אחרים.

מה מחלקות IT מתקדמות עושות אחרת

הארגונים שמובילים בתחום הזה לא מנסים לעצור את אימוץ ה-AI — הם הבינו שזה בלתי אפשרי ובלתי רצוי. במקום זה הם בונים תשתית ממשל שמאפשרת אימוץ מהיר אבל בטוח: רישום מרכזי של כל סוכן פעיל בארגון, מדיניות הרשאות שמוגדרת ברמת התהליך ולא ברמת הכלי, וסביבת בדיקה (sandbox) שבה כל סוכן חדש נבחן לפני שהוא מקבל גישה למערכות ייצור. הם גם משקיעים בהכשרת עובדים — לא רק "איך להשתמש בסוכן AI", אלא גם "מתי לא לחבר סוכן AI למערכת בלי לעבור דרך התהליך המאושר", כי הבעיה המרכזית היום היא לא זדון אלא בורות: עובדים מחברים כלים בתום לב, בלי להבין את היקף הסיכון.

הגישה הזו דורשת שיתוף פעולה הדוק בין צוותי IT, אבטחת מידע, ומחלקות העסק שדוחפות לאימוץ מהיר — שיתוף פעולה שלא תמיד קיים באופן טבעי, כי לכל צד יש אינטרסים שונים ולעיתים מנוגדים לכאורה. הפתרון שעובד הכי טוב בשטח הוא לא לתת ל-IT להיות "השוטר שאומר לא", אלא להפוך אותו לשותף שמאפשר אימוץ מהיר יותר ובטוח יותר בו-זמנית — בדיוק כפי שקרה בעבר במעבר לענן, שגם שם נדרשה תקופת התאמה עד שהאבטחה הפכה למאפשרת ולא לחוסמת. חברות שכבר עברו את המעבר הזה בהצלחה מדווחות שהמפתח היה להקים ועדת היגוי משותפת עם נציגים מכל הצדדים כבר בשלב מוקדם, ולא לחכות לתקרית כדי להתחיל לדבר ביניהם — כי ברגע שתקרית קורית, הדיון הופך מיד להאשמות הדדיות במקום לפתרון בעיות משותף. השאלה איך זה נראה כשצוותי עבודה כוללים גם סוכנים וגם בני אדם באופן קבוע נבחנת במאמר שלנו על צוותים מעורבים של בני אדם וסוכני AI ב-2027, ומי שרוצה להבין את שכבת הפרוטוקולים שמגדירה חלק ניכר מהסיכונים והפתרונות האלה יכול לקרוא את מפת פרוטוקולי ה-AI של 2026.

תגיות: enterprise IT · AI governance · non-human identity · shadow AI · agent security

← חזרה לבלוג · צור קשר