New Book: Safeguarding in the Age of AI
- Hillel Kobrovski
- לפני יומיים (2)
- זמן קריאה 2 דקות
הספר "מוגנות בעידן הבינה המלאכותית: לקראת מסגרת הגנה חדשה" (2026), מאת ד"ר תהילה שוורץ אלטשולר ו עו"ד מיכאל סיארה ובהוצאת המכון הישראלי לדמוקרטיה , עוסק באתגר המוגנות האנושית אל מול ההאצה הטכנולוגית חסרת התקדים של מערכות בינה מלאכותית (AI) המשתלבות בכל רובדי החיים.
בחלק הראשון של הספר מציעים נקודת מבט חדשה על בינה מלאכותית, כזו שממוקדת במוגנות: פיזית, רגשית, קוגניטיבית, פיננסית וקבוצתית. דרך פריזמה זו אנו בוחנים מהם "שוברי השוויון" של העידן הנוכחי, מהעברת יכולות קוגניטיביות למכונות, דרך תאומים דיגיטליים, ועד למציאות פיזית-דיגיטלית מעורבת, ועוד. בחלק זה יש המשגה מחדש את המושג "מוגנות" (Safeguarding) כמצב מבני והכרחי לחיים אנושיים בעידן ה-AI. המחקר זונח את העיסוק המופשט ב"סיכונים מערכתיים".
בחלק השני מתמקדים בדרכי התערבות לקידום מוגנות: רגולציה, עיצוב טכנולוגי, חינוך ואוריינות, ומתייחסים לכך שמוגנות ופגיעות אינן מתחלקות באופן שווה בין קבוצות אוכלוסייה שונות. בהתאם, הספר כולל פרקים ייעודיים לארבע קבוצות: זקנים, ילדים, החברה הערבית בישראל והחברה החרדית. בחלק זה יש ניתוח קונקרטי של "פגיעויות אנושיות" (בגוף, בנפש, בקוגניציה, ברכוש ובמרחב החברתי), תוך התמקדות מיוחדת בקבוצות אוכלוסייה בסיכון ייחודי בישראל.
החידוש בספר הוא כפול: הן בניתוח מושגי של אתגרי הבינה המלאכותית, והן בהתייחסות ממוקדת לקבוצות אוכלוסייה שעד כה כמעט ואינן נוכחות בספרות בעברית.
להלן ראשי הפרקים של הספר:
מבוא: הצגת פער הקצב בין ההתפתחות הטכנולוגית למענים הרגולטוריים והחברתיים, והצורך במודלים של "אחריות מדורגת" על מעצבי המערכות.
פרק 1 - המשגה וסוגי פגיעויות: הגדרת המוגנות כהגנה על משאבים חיוניים (גוף, רגש, קוגניציה, פיננסים ומוניטין) ומיפוי 5 קטגוריות מרכזיות של פגיעות.
פרק 2 - סוגי בינה מלאכותית: סקירת 5 טכנולוגיות הליבה המעצבות את המציאות הנוכחית: מערכות חיזוי, AI גנרטיבית ומולטי-מודלית, סוכני AI אוטונומיים, מחשוב רגשי (Affective) ומחשוב מרחבי (Spatial) .
פרק 3 - סיכוני בינה מלאכותית (רקע עיוני): ניתוח סיכונים עדכניים המבוסס על "דוח הבטיחות המדעי הבינלאומי" (בנג'יו, 2025), הכולל ערעור היכולת להבחין בין תוכן אותנטי לסינתטי, טרגוט מניפולטיבי, פשיעת סייבר והטיות אלגוריתמיות.
פרק 4 - תמות חוזרות ברגולציה: מיפוי עקרונות האסדרה המקובלים בעולם, כגון הגנת הפרטיות, אחריותיות (Accountability), שקיפות והסברתיות, ופיקוח אנושי על הטכנולוגיה.
פרק 5 - "שוברי השוויון" בעידן ה-AI: הצגת 7 שינויים דרמטיים המשנים את "חוקי המשחק", ביניהם: העברת פעולות קוגניטיביות למכונה, קבלת החלטות אוטונומית ב"נחילים", זיהוי רגשי על ידי מכונה ויצירת תאומים דיגיטליים המאתגרים את מושג הזהות.
פרק 6 ו-7 - מנגנוני התערבות (תיאור כללי ופרטני): הצגת "אקוסיסטם של התערבויות" הכולל 7 קטגוריות: מחקר, רגולציה מבוססת סיכון, עיצוב טכנולוגי אחראי (Design by Safety), חקיקה פלילית, התערבויות מערכתיות ברווחה וחינוך, אוריינות דיגיטלית ושימוש ב-AI עצמה ככלי מגן.
שער שני - מוגנות של קבוצות ייחודיות: יישום מפת המוגנות על ארבע קבוצות אוכלוסייה בישראל בעלות מאפייני פגיעות ייחודיים: ילדים ונוער, החברה החרדית, החברה הערבית והזקנים.
פרק סיכום: המוגנות כפרויקט טכנו-חברתי מתמשך שמטרתו לשנות את מאזן הכוחות בין האדם לבין המערכות הטכנולוגיות המתווכות את חייו.
עותק דיגיטלי של הספר ניתן להוריד ללא עלות מהאתר של המכון הישראלי לדמוקרטיה
https://www.idi.org.il/books/ Safeguarding in the Age of Artificial Intelligence: Toward a New Framework of Protection | Tehilla Shwartz Altshuler | Michael Sierra
תגובות