Security & Privacy Challenges in Using AIGC & Shadow AI
- Hillel Kobrovski
- לפני 11 שעות
- זמן קריאה 1 דקות
Security & Privacy Challenges in Using AIGC & Shadow AI
IP Infringement - הפרה של קניין רוחני
Copyright & Ownership - הפרת זכויות יוצרים / בעלות על יצירה חדשה
Data Leakage in work process: Patents, Legal contracts, Code - זליגת מידע עסקי רגיש בתהליכי עבודה
Privacy compliance violation - אי-ציות לרגולציה של הגנת פרטיות
Security compliance violation - אי-ציות לרגולציה של אבטחת מידע
Hallucinations & Flawed Decision-Making - הזיות ושימוש במידע שגוי לצורך קבלת החלטות עסקיות
Data poisoning: using in Disinformation / Misinformation / Malinformation - עיצוב והשפעה על דעת קהל באמצעות מידע שגוי \ חסר \ מטעה
Reverse Engineering (Code/Business Process) - ביצוע הנדסה לאחור לקוד \ תהליכים עסקיים מורכבים
Insecure AI-Generated Code / Non-Secure SDLC - כתיבת קוד ללא בדיקת פגיעויות וללא תהליך פיתוח מאובטח
Polymorphic Exploit Mutation - שינוי פרצות אבטחה קיימות ויצירת מוטציות חדשות
AI-Powered Vulnerability Creation - כתיבת פרצות אבטחה חדשות
Bypassing Safeguards / AI Safety - עקיפת מנגנוני בטיחות ושימוש נאות
OSINT AI-Powered & Re-identification - הצלבת מידע גלוי והסקת מידע רגיש גם לאחר אנונימיזציה
Deepfake Creation: Text, Visual Image. Audio, Video, Live Streaming - הפקת תוכן ברמת איכות גבוהה - היעדר יכולת אנושית להבחין מה אמת ומה שקר
The Human Factor: Lack of digital and technological literacy - היעדר אוריינות טכנולוגית הופכת "משתהי אימוץ טכנולוגי" להיות בעלי כישוריים חסרים בעולם העבודה
The human factor: non-criticism / non-doubting - אי ביקורתיות \ אי הטלת ספק במידע המוצג לנו או באפשרויות לפעולה שהבינה מלאכותית מציע לנו לבצע
The shortcut dilemma – the loss of professional skills due to overreliance on AI - היעדר יכולות מקצועיות שנרכשות בניסיון מעשי
Hillel Kobrovski, Last Update: 21.02.26
תגובות