Security & Privacy Challenges in Using AIGC & Shadow AI

Security & Privacy Challenges in Using AIGC & Shadow AI

1. IP Infringement - הפרה של קניין רוחני

   
   

2. Copyright & Ownership - הפרת זכויות יוצרים / בעלות על יצירה חדשה

   
   

3. Data Leakage in work process: Patents, Legal contracts, Code - זליגת מידע עסקי רגיש בתהליכי עבודה

   
   

4. Privacy compliance violation - אי-ציות לרגולציה של הגנת פרטיות

   
   

5. Security compliance violation - אי-ציות לרגולציה של אבטחת מידע

   
   

6. Hallucinations & Flawed Decision-Making - הזיות ושימוש במידע שגוי לצורך קבלת החלטות עסקיות

   
   

7. Data poisoning: using in Disinformation / Misinformation / Malinformation - עיצוב והשפעה על דעת קהל באמצעות מידע שגוי \ חסר \ מטעה

   
   

8. Reverse Engineering (Code/Business Process) - ביצוע הנדסה לאחור לקוד \ תהליכים עסקיים מורכבים

   
   

9. Insecure AI-Generated Code / Non-Secure SDLC - כתיבת קוד ללא בדיקת פגיעויות וללא תהליך פיתוח מאובטח

   
   

10. Polymorphic Exploit Mutation - שינוי פרצות אבטחה קיימות ויצירת מוטציות חדשות

    
    

11. AI-Powered Vulnerability Creation - כתיבת פרצות אבטחה חדשות

    
    

12. Bypassing Safeguards / AI Safety - עקיפת מנגנוני בטיחות ושימוש נאות

    
    

13. OSINT AI-Powered & Re-identification - הצלבת מידע גלוי והסקת מידע רגיש גם לאחר אנונימיזציה

    
    

14. Deepfake Creation: Text, Visual Image. Audio, Video, Live Streaming - הפקת תוכן ברמת איכות גבוהה - היעדר יכולת אנושית להבחין מה אמת ומה שקר

    
    

15. The Human Factor: Lack of digital and technological literacy - היעדר אוריינות טכנולוגית הופכת "משתהי אימוץ טכנולוגי" להיות בעלי כישוריים חסרים בעולם העבודה

    
    

16. The human factor: non-criticism / non-doubting - אי ביקורתיות \ אי הטלת ספק במידע המוצג לנו או באפשרויות לפעולה שהבינה מלאכותית מציע לנו לבצע

    
    

17. The shortcut dilemma – the loss of professional skills due to overreliance on AI - היעדר יכולות מקצועיות שנרכשות בניסיון מעשי

Hillel Kobrovski, Last Update: 21.02.26