ניק בוסטרום - הרגע שבו מכונות יהפכו לחכמות יותר מבני אדם הוא עניין של זמן

הרצאת הטד הבאה הוקלטה ב 2015 אבל היא מרתקת גם היום , בדיון העוסק ביחסי האנושות VS הטכנולוגיה | 16 דקות , סופר מומלץ , לינק לטד כולל כתוביות בעברית מתוך כתבה נהדרת שכתבו על הטד שלו באתר "מגזין מהות החיים"

אם תשאלו את ניק בוסטרום, פילוסוף מאוניברסיטת אוקספורד, הרגע שבו מכונות יהפכו לחכמות יותר מבני אדם הוא עניין של זמן. במוקדם או במאוחר המין האנושי יגיע לנקודת מפנה, שבה הטכנולוגיה שהוא מייצר מצליחה ללמוד ביעילות גבוהה משלו. גבוהה בהרבה. התרחיש העתידני הזה מהווה בסיס לסרטי וספרי מדע בדיוני כבר שנים רבות, ואולם, אם תחפשו בגוגל באילו סרטים או ספרים מדובר, תיווכחו באמצעות אצבעותיכם שהתרחישים הללו כבר ממומשים בחלקם. כשמנוע החיפוש של גוגל ישלים את הטקסט שהקלדתם, הוא יעשה זאת על סמך כל מה שהוא למד על הרגלי החיפוש שלכם בעבר. אם זה גורם לכם לנוע בחוסר נוחות בכיסא, זה טבעי לגמרי, כיוון שלדעתו של בוסטרום אכן צפויים לנו אתגרים גדולים והחשש מפני אובדן שליטה בגורלנו אינו בלתי מתקבל על הדעת.

אבל מה שחשוב לדעת זה שיש לנו מה לעשות בנדון. האחריות היא בידיים שלנו וההחלטות שנקבל עכשיו יכולות להיות קריטיות בעתיד הקרוב או הרחוק. על פי בוסטרום, תהליך הפיכת המכונות לחכמות יותר הוא בלתי נמנע וצריך להשלים עם התרחשותו. אבל כל זמן שהשליטה נמצאת בידינו אנו צריכים לחשוב כיצד לבנות בסיס טכנולוגי חיובי, או במילים אחרות, כיצד ללמד את הטכנולוגיה להיות רגישה לערכים של המין האנושי. אם נשכיל לעצב אותה בדמותנו - ברגע שהיא תהפוך לחכמה יותר מאיתנו - הטכנולוגיה תוכל לשרת את הערכים החיוביים של בני האדם טוב יותר משאנו מסוגלים כיום. ניק בוסטרום מוביל צוות של מתמטיקאים, פילוסופים ומדענים שיושבים באוניברסיטת אוקספורד ומנסים לחקור כיצד יתפתח העתיד של המין האנושי. אחת המסקנות החשובות שהגיע אליהן בוסטרום היא ש"המכונה האולטרה-אינטליגנטית הראשונה, היא ההמצאה האחרונה שהאדם ייצטרך לייצר אי פעם". הוא מתכוון לכך שיגיע הזמן שבו נפתח טכנולוגיה שמתעלה עלינו בבינתה, ומשם היא תיקח את המושכות. התפקיד שלו ושל הצוות שבראשו הוא עומד, הוא להתמודד עם השאלות, התרחישים וההשלכות של עתיד כזה.

בהרצאה מעוררת מחשבה בוסטרום שם את כל הקלפים על השולחן ומצהיר בריש גלי כי המעבר לטכנולוגיה אולטרה-אינטליגנטית מציב סכנות לקיומו של המין האנושי. המשוואה היא פשוטה: כבר היום מחשבים מסוגלים להעביר אותות חשמליים במהירות גבוהה פי כמה מהמוח האנושי. ברגע שהיכולות הללו ישולבו במערכת עם כושר למידה, הטכנולוגיה תחפש את הדרכים היעילות ביותר לבצע את המשימות שלה. היעילות הזאת יכולה לעמוד בניגוד לאינטרסים שלנו.

אם המין האנושי יצליח לרתום טכנולוגיה אולטרה-אינטליגנטית למטרותיו, לבני האדם שיחיו בתקופה הזו צפויה מציאות שאנו לא מסוגלים לדמיין. אם מכונות בעלות אופי אנושי ידעו לשרת את הצרכים שלנו ביעילות וחכמה שעולות פי עשרות מונים על שלנו, הן תוכלנו להביא פיתרון לאתגרים האנושיים הגדולים ביותר – מיישוב כוכבים אחרים בחלל ועד למציאת הנוסחה לאושר. כל זה ייתכן, במידה וניקח אחריות על 'חינוך' חיובי של הטכנולוגיה.

לכתבה המלאה

https://www.eol.co.il/articles/428