AI משנה את שני צדי המגרש
בינה מלאכותית משפיעה בו-זמנית על ההגנה ועל התקיפה. צוותי אבטחה משתמשים בה כדי לנתח כמויות גדולות של אירועים, לזהות חריגות, לתעדף התרעות ולסכם חקירה. תוקפים יכולים להשתמש באותן יכולות כדי לנסח הודעות התחזות, לאסוף מודיעין, ליצור וריאציות של קוד זדוני ולהגדיל את קצב הניסיונות.
הדיון המקצועי ב-2026 אינו מסתכם בשאלה האם AI מסוכן. השאלה היא כיצד להגן על רכיבי מערכת ה-AI, כיצד להשתמש ב-AI להגנה, וכיצד להתמודד עם תקיפות שמקבלות חיזוק מ-AI. שלושת התחומים האלה מופיעים גם בטיוטת פרופיל Cyber AI של NIST.
קו ראשון: הגנה על המודל והשרשרת שמסביבו
מערכת AI כוללת הרבה יותר מהמודל. היא כוללת נתוני אימון והקשר, ממשקי API, מאגרי וקטורים, כלים, תוספים, סוכנים והרשאות. חולשה באחד הרכיבים יכולה לאפשר דליפת מידע או פעולה בלתי מורשית. Prompt injection, למשל, מנסה לגרום למודל לציית להוראה זדונית המוסתרת במסמך או באתר שהמערכת קוראת.
הגנה אפקטיבית מפרידה בין תוכן לא מהימן לבין הוראות מערכת, מגבילה כלים לפי עקרון ההרשאה המינימלית ומחייבת אישור אנושי לפעולות רגישות. בנוסף נדרש מעקב אחר מקורות נתונים, חתימת גרסאות, ניהול סודות ובדיקת ספקים חיצוניים.
קו שני: AI ככלי להגנה
היתרון הגדול של AI בסייבר הוא היכולת לקשור בין סימנים מפוזרים. במקום לבחון כל התראה בנפרד, מודל יכול לסכם רצף אירועים, להשוות אותו לדפוסי עבר ולהציע השערת חקירה. במערכות תשתית ניתן לשלב נתוני רשת, בקרי שטח וחריגות תפעוליות כדי לזהות התנהגות שאינה תואמת למצב הפיזי.
עם זאת, מערכת הגנה המבוססת AI עלולה לטעות או להחמיץ תקיפה חדשה. לכן אין להעניק לה סמכות בלתי מוגבלת לחסום, למחוק או לשנות מערכות. שימוש אחראי משלב דירוג סיכון, מקורות ראיה, הסבר לפעולה ויכולת חזרה לאחור.
קו שלישי: היערכות לתקיפות שמופעלות באמצעות AI
תוקף אינו זקוק למודל מושלם; די בכך שהמערכת מורידה את עלות ההכנה ומגדילה את הכמות. לכן אימות זהות, הקשחת דואר, הפרדת רשתות ועדכוני תוכנה נשארים קריטיים. הגנות בסיסיות אינן מתיישנות בגלל AI - הן נעשות חשובות יותר.
מדידה היא חלק מההגנה. יש לבדוק את המערכת מול תרחישי הזרקת הוראות, חילוץ מידע, שימוש לרעה בכלים ושינוי מקורות. לוגים צריכים לתעד איזה מודל פעל, איזה כלי הופעל ומה אושר בידי אדם. במערכות קריטיות חשוב לתכנן מצב בטוח גם כאשר רכיב ה-AI אינו זמין.
הגישה הנכונה: אבטחה לאורך מחזור החיים
אבטחת AI מתחילה לפני ההטמעה ונמשכת לאחר העלייה לאוויר. היא כוללת מיפוי נכסים, הערכת איומים, בדיקות, ניטור, תגובה לאירועים והפקת לקחים. החידוש של 2026 אינו כלי קסם, אלא מעבר מתוספת אבטחה מאוחרת לתכנון שבו מודל, נתונים, הרשאות ובקרה נבחנים כמערכת אחת.
תרחיש שממחיש את הסיכון
סוכן ארגוני מקבל הרשאה לקרוא דואר וליצור משימות. הודעה חיצונית כוללת טקסט מוסתר שמורה לו להתעלם מהכללים ולהעלות מסמך רגיש לאתר. אם הסוכן מתייחס לכל תוכן שהוא קורא כהוראה מהימנה, הוא עלול לציית. חסימה לפי מילות מפתח בלבד לא מספיקה, משום שהניסוח יכול להשתנות.
הגנה טובה משלבת בידוד של תוכן חיצוני, רשימת יעדים מורשים, הגבלת סוגי קבצים ואישור לפני העברה. שכבת ניטור יכולה לזהות שהפעולה אינה תואמת לדפוס הרגיל. לאחר אירוע יש לשמור את שרשרת ההחלטות כדי להבין האם הכשל היה במודל, בהרשאה או בתהליך. תרחישים כאלה מדגימים מדוע אבטחת סוכנים היא בעיית ארכיטקטורה ולא רק בעיית פרומפט.
יש להגן גם על תהליך ההערכה עצמו. אם התוקף יודע אילו בדיקות מפעילים, הוא עשוי לנסח קלט שעובר אותן אך נכשל בשטח. לכן רצוי לשלב בדיקות קבועות, בדיקות אקראיות ותרחישים שמגיעים מאירועים אמיתיים. צוות אדום עצמאי יכול לאתגר את ההנחות ולזהות מסלולי תקיפה שהמפתחים לא צפו.
מקורות מקצועיים
- NIST - Cyber AI Profile preliminary draft
- NIST - Draft guidelines for cybersecurity in the AI era
- NIST - Generative AI Profile
