Securing GenAI with Zscaler Zero Trust Architecture
פתרונות האבטחה של חברת Zscaler המיועדים להתמודדות עם האתגרים הכרוכים בשימוש בבינה מלאכותית יוצרת (GenAI) בארגונים. החברה מציעה תשתית של Zero Trust המאפשרת ניטור מלא של תעבורת הנתונים, כולל פענוח הצפנה, כדי למנוע דליפת מידע רגיש ליישומים לא מורשים. באמצעות כלים כמו בידוד דפדפן ומדיניות חסימה חכמה, המערכת מבדילה בין כלי בינה מלאכותית מאושרים לבין כאלו המהווים סיכון. הטכנולוגיה נועדה לספק לארגונים נראות ושליטה מבלי לפגוע ברצף העבודה או בחוויית המשתמש. בסופו של דבר, השירות עוזר למנהלי אבטחה לאכוף משילות על השימוש בבינה מלאכותית ולהגן על הנכסים הדיגיטליים של הארגון מפני איומים חדשים.
Zscaler מסייעת לארגונים לאמץ כלי בינה מלאכותית יוצרת (GenAI) בצורה בטוחה באמצעות ארכיטקטורת ה-Zero Trust Exchange שלה, המאפשרת הגנה מקיפה על נתונים ומערכות מבלי לפגוע בפריון העבודה.
להלן הדרכים המרכזיות שבהן Zscaler מאבטחת את השימוש ב-GenAI:
נראות ובקרה מלאה: Zscaler מספקת נראות לכל אפליקציות ה-AI (ציבוריות ופרטיות) הנמצאות בשימוש בארגון, כולל אפליקציות שאינן מאושרות ("Shadow AI"). המערכת מתעדת כל פרומפט (prompt) ותגובה, מה שמאפשר למנהלי אבטחת מידע (CISO) להבין את דפוסי השימוש ולבנות מדיניות אבטחה מבוססת נתונים.
בדיקת תעבורה מוצפנת (TLS Inspection): רוב האינטראקציות עם כלי AI מתבצעות בתעבורה מוצפנת. Zscaler מבצעת בדיקה מעמיקה ברובד 7 (Layer 7), המאפשרת לה לראות את התוכן של הפרומפטים ולזהות ניסיונות להוצאת מידע רגיש.
מניעת אובדן נתונים (DLP): המערכת מונעת ממשתמשים להדביק או להעלות מידע רגיש (כמו קוד מקור, מידע על מיזוגים ורכישות או נתוני לקוחות) לתוך כלי GenAI. ניתן להגדיר מדיניות המבחינה בין כלים מאושרים (כמו Microsoft Copilot) לכלים לא מאושרים.
בידוד דפדפן (Browser Isolation): טכנולוגיה זו מאפשרת למשתמשים להמשיך לעבוד עם אפליקציות AI תוך חסימת פעולות מסוכנות כמו העתקה והדבקה (Copy-Paste) או העלאת קבצים, ובכך מצמצמת את הסיכון לחשיפת נתונים.
הגנה על מודלי ה-AI (AI Guardrails): Zscaler מציעה "מעקות בטיחות" (Guardrails) החוסמים איומים הייחודיים ל-AI, כגון הזרקת פרומפטים (Prompt Injection), פלטים זדוניים והרעלת נתונים.
חינוך והכוונת משתמשים: במקום חסימה גורפת, המערכת יכולה להציג דפי אזהרה המיידעים את המשתמש על סיכוני האבטחה ומפנים אותו להשתמש בכלים הארגוניים המאושרים והבטוחים.
באמצעות שילוב זה של טכנולוגיות, Zscaler מאפשרת לארגונים להפיק תועלת מה-GenAI תוך שמירה על הנתונים בתוך ה"גן הסגור" של הארגון ומניעת דליפתם לאתרים צד-שלישי.
Zscaler מספקת הגנה ייעודית עבור Microsoft Copilot, הנחשב לכלי GenAI "מאושר" (Sanctioned), כדי לאפשר לארגונים להשתמש בו בבטחה מבלי לסכן נתונים רגישים.
ההגנה הספציפית על Microsoft Copilot מתבצעת באמצעות המנגנונים הבאים:
Microsoft Copilot Data Protection: Zscaler מציעה פתרון ייעודי להגנה על נתונים ב-Copilot, שנועד למנוע חשיפה של מידע רגיש ולאבטח את השימוש בכלי בזמן אמת (Inline).
נראות מלאה (AI Visibility): המערכת מאפשרת לארגון לראות את כל האינטראקציות עם Copilot, כולל תיעוד מלא של כל הפרומפטים (Prompts) והתגובות.
ניתוב משתמשים לשימוש בטוח: Zscaler מסייעת לארגונים להפסיק את ה"מערב הפרוע" של שימוש בכלי AI לא מאושרים. כאשר משתמש מנסה לגשת לכלי AI ציבורי (כמו ChatGPT או Perplexity), המערכת יכולה להציג דף אזהרה המפנה אותו להשתמש ב-Copilot כחלופה הארגונית המאושרת והמאובטחת.
בדיקת תעבורה מוצפנת (TLS Inspection): מאחר שהתקשורת עם Copilot מוצפנת, Zscaler משתמשת ב-Zero Trust Exchange כדי לפענח ולבדוק את התעבורה ברובד 7 (Layer 7). זה מאפשר למערכת לזהות תוכן רגיש בתוך הפרומפטים שנשלחים ל-Copilot ולחסום אותם במידת הצורך.
מניעת אובדן נתונים (DLP): המערכת מוודאת שמידע תאגידי רגיש, כגון מידע על מיזוגים ורכישות (M&A) או "מפתחות הממלכה", לא יוזן לתוך Copilot, גם אם המשתמש מנסה להקליד אותו ידנית או להדביקו.
בדרך זו, Zscaler מאפשרת לארגונים לאמץ את Copilot כדי להגביר את הפריון, תוך שהיא משמשת כ"מעקה בטיחות" המונע מהמידע הארגוני לצאת אל מחוץ לכתלי הארגון
Prompt Injection
Zscaler מזהה וחוסמת הזרקת פרומפטים (Prompt Injection) וניסיונות אחרים לשימוש זדוני ב-AI באמצעות שילוב של נראות עמוקה ומנגנוני הגנה ייעודיים:
בדיקת תעבורה מוצפנת (TLS Inspection): המקורות מדגישים כי כמעט כל האינטראקציות עם כלי AI מתבצעות בתעבורה מוצפנת (TLS). ללא פענוח של תעבורה זו, לא ניתן לראות מה המשתמש כותב. Zscaler משתמשת ב-Zero Trust Exchange כדי לפענח ולבדוק את התעבורה ברובד האפליקציה (Layer 7), מה שמעניק לה נראות מלאה לתוכן הפרומפט (Payload).
בדיקה בזמן אמת (Inline Inspection): הזיהוי מתבצע באופן רציף ובזמן אמת (Inline) על כל פנייה שנשלחת לאפליקציות AI, בין אם הן ציבוריות או פרטיות.
מעקות בטיחות ל-AI (AI Guardrails): Zscaler מפעילה רכיב ייעודי הנקרא AI Guardrails and Model Protection. רכיב זה נועד ספציפית לזהות ולחסום הזרקת פרומפטים, פלטים זדוניים וניסיונות להרעלת נתונים (Data Poisoning).
מדיניות מבוססת הקשר: המערכת מאפשרת להגדיר מדיניות המבוססת על הקשר (Contextual Policies) – מי המשתמש, לאיזו אפליקציה הוא ניגש ומה התוכן שהוא מנסה לשלוח, ובכך היא מזהה חריגות מהשימוש המותר.
לסיכום, היכולת "להציץ" לתוך התעבורה המוצפת ברובד 7 היא קריטית לזיהוי הזרקת פרומפטים, שכן היא מאפשרת ל-Zscaler לבחון את הטקסט עצמו אל מול מודלי הגנה המזהים מניפולציות זדוניות