זינוק של 890% בשימוש ב-AI במגזר העסקי, אבל גם הרבה יותר תקריות אבטחה
דו"ח פאלו אלטו נטוורקס חושף: כל ארגון משתמש בממוצע ב-66 יישומי בינה מלאכותית שונים, מתוכם 6.6 מוגדרים כבעלי סיכון גבוה. כלי הכתיבה והצ'טבוטים מובילים את השימוש הארגוני, בעוד מחלקות ה-IT מתקשות לפקח על האימוץ המהיר של הטכנולוגיה החדשה
היקף השימוש ביישומי בינה מלאכותית גנרטיבית (GenAI) במגזר העסקי זינק בשנה שעברה ב-890%, גם בשעה שמספר תקריות אבטחת המידע שקשורות ליישומים אלו גדל פי 2.5 – כך לפי דו"ח מצב ה-GenAI השנתי של פאלו אלטו נטוורקס, שפורסם השבוע.
הדו"ח מתבסס על ניתוח נתוני תעבורת GenAI בשרתי החברה, שכוללים מידע על השימוש שעשו כ-7,000 מלקוחותיה ביישומים אלו. מידע על תקריות אבטחת מידע נאסף בין ינואר למרץ 2025. הנתון הבולט ביותר בדו"ח הוא זינוק דרמטי של 890% בהיקף השימוש של ארגונים ביישומי GenAI, כאשר עיקרו נרשם ברבעון האחרון של 2024. "הטרנד תודלק על ידי השקעה מוגברת בתחום ברבעון האחרון", נכתב בדו"ח. "זה לא מפתיע שיישומי GenAI מאומצים בקצב שיא ואפילו משולבים בסביבת העבודה הארגונית ללא אישור או פיקוח של מחלקות IT".
בממוצע, בכל ארגון נעשה שימוש ב-66 יישומי GenAI שונים, כאשר בארגונים מסוימים מספר היישומים יכול להגיע למאות. "היקף האימוץ והשימוש מזנק סביב השקה או עדכון של מודלי AI, שכן עסקים ומשתמשים מעריכים את ההשפעה של פיתוחים עדכניים על צרכי התפוקה והחדשנות שלהם. לדוגמה, לאור הביקוש המוגבר אחרי ההשקה של DeepSeek-R1 בינואר 2025, ראינו זינוק משמעותי של 1,800% בתעבורה של דיפסיק בחודשיים שלאחר מכן".
סוג היישומים הפופולרי ביותר, שמייצג 34% מכלל השימושים ב-GenAI, הוא כלים לסיוע בכתיבה (שמסייעים במשימות כמו ניסוח אימיילים או פוסטים, וכתיבת דוחות). במקום השני, עם 28.9% מהיקף השימוש, נמצאים צ'טבוטים, ולאחריהם כלי חיפוש פנים-ארגוניים (10.6%) ופלטפורמות למפתחים (יישומים לסיוע בתכנות וכתיבת קוד) במקום הרביעי עם 10.3%. ארבעה שימושים אלו אחראים ל-83.8% מכלל השימושים הארגונים ב-GenAI.
האימוץ הרחב של GenAI אינו נטול סיכונים, ולפי פאלו אלטו נטוורקס בכל ארגון עושים, בממוצע, שימוש ב-6.6 יישומים שמוגדרים על ידי החברה כבעלי "סיכון גבוה". בהתאם, מספר תקריות דליפת המידע הקשורות ליישומי GenAI, שהחברה זיהתה ומנעה, גדל ברבעון הראשון של 2025 פי 2.5, ועמד על 14% מכלל התקריות שזיהתה החברה.
"AI היא כמו הצעצוע החדש שכולם רוצים לשחק אתו", נכתב בדו"ח. "עם זאת, אנחנו צריכים להיות מודעים לסכנות האפשרויות שמגיעות אתו". לדברי החברה, סכנות אלו כוללות: העדר שקיפות לשימוש ב-AI, שמקשה על צוותי אבטחה לנטר ולשלוט באופן נעשה שימוש בכלי GenAI בארגון; גישה בלי מאושרת וחשיפה של דאטה דרך חשבונות אישיים של משתמשים; אינטראקציות בלתי-מאובטחות עם AI, למשל עם מודלים פרוצים או שעברו מניפולציה ויכולים לשלוח קישורים זדוניים או נוזקות; והתרחבות השימוש בתוספים, בוטים וסוכני AI שיכולים.
"ארגונים רבים אימצו במהירות את הבינה המלאכותית היוצרת, מבלי להבין עד הסוף את הסיכונים הטמונים בה", אמר יוני אלון, סגן נשיא למחקר בפאלו אלטו נטוורקס. "מטרת הדו"ח שלנו היא לבחון את היתרונות, האתגרים, ואת הדרך לאזן בין AI לאבטחה — כדי לאפשר עבודה יעילה לצד שימוש ביתרונות החדשנות בצורה בטוחה".
