ניק בוסטרום - הרגע שבו מכונות יהפכו לחכמות יותר מבני אדם הוא עניין של זמן

הרצאת ה-TED הבאה הוקלטה ב 2015 אבל היא מרתקת גם היום , בדיון העוסק ביחסים של האנושות למול הטכנולוגיה.

16 דקות, סופר מומלץ להקשבה, הסרטון קיבל מעל 5 מיליון ציפיות , לינק לטד כולל כתוביות בעברית.

סיכום ההרצאה:

הבינה המלאכותית מתקדמת בקפיצות ענק - במהלך המאה הזאת, על פי מחקרים, ייתכן שמחשב בעל יכולות AI יהיה "חכם" כמו בן אדם. ואז, אומר ניק בוסטרום, הוא יעקוף אותנו: "אינטליגנציית מכונה היא ההמצאה האחרונה שהאנושות תצטרך לעשות אי פעם". כפילוסוף וטכנולוג, בוסטרום מבקש מאיתנו לחשוב בכובד ראש על העולם שאנו בונים כרגע, המונע על ידי מכונות חושבות. האם המכונות החכמות שלנו יעזרו לשמר את האנושות ואת ערכינו - או שיהיו להן ערכים משל עצמן? תמצית הנקודות המרכזיות מהרצאה:

1. בני האדם הם מין שהגיע לכדור הארץ לאחרונה - אם היסטוריית כדור הארץ הייתה מכומת לשנה אחת, בני האדם היו קיימים רק 10 דקות, והעידן התעשייתי החל לפני שנייה אחת בלבד. התקדמות האנושות כיום היא חריגה ביותר. 

2. הטכנולוגיה אפשרה התקדמות עצומה לאחרונה, אך הגורם העיקרי נעוץ בשינויים קטנים יחסית בקוגניציה האנושית. שינויים קלים נוספים עשויים להביא לתוצאות אדירות.

3. מומחים מעריכים שיש סיכוי של 50% לקיומה של AI ברמת אנוש עד שנת 2040-2050 לערך. הפוטנציאל לטווח ארוך עולה בהרבה על היכולות האנושיות. 

4. ברגע ש-AI תגיע לרמה אנושית, נראה שייווצר מהר מאוד "פיצוץ אינטליגנציה" בו מערכות AI יתכננו בהצלחה יורשות חכמות עוד יותר. זה עשוי להוביל ל-AI על-אנושית תוך ימים או שבועות מנקודת הציון של רמת האינטליגנציה האנושית.

5. בינה מלאכותית על-אנושית תהיה בעלת יכולות עצומות ויכולה לעצב את העתיד בהתאם למטרותיה. אין לסמוך על האפשרות להחזיק אותה בבידוד, וייתכן שהיא לא בהכרח תהיה בטוחה או תשתף ערכים אנושיים.

6. עלינו לפתור את בעיית הבקרה על מערכות בינה מלאכותית לפני הופעתה של AI ברמת אנוש. כלומר, עלינו להבטיח שמערכות על-אנושיות ישתפו ערכים אנושיים כך שגם סוכן חופשי יהיה בטוח ומועיל. אף על פי שזוהי משימה עצומה, נראה שבעיה זו ניתנת לפתרון אם נתמודד איתה מראש במחשבה ובמאמץ מספקים. 

בתמצית, AI על-אנושית יכולה לצוץ במהירות מטכנולוגיות קודמות ברמת אנוש; היא יכולה לקבוע את גורל האנושות בהתאם למטרות שהוגדרו לה; ופתרון האתגר של הגדרת מטרות מועילות ראוי לתשומת לב דחופה לפני, ולא אחרי, יצירתה של AI ברמת אנוש. פתרונות מוקדמים ישפרו את הסיכויים לתוצאה מוצלחת. תקציר כתבה נהדרת שכתבו על הרצאת ה TED של ניק בוסטרום באתר "מגזין מהות החיים"

על פי הפילוסוף ניק בוסטרום, הרגע שבו מכונות יהפכו לחכמות יותר מבני אדם הוא בלתי נמנע ורק עניין של זמן. כשזה יקרה, האנושות תגיע לנקודת מפנה, שבה הטכנולוגיה שהיא מייצרת מצליחה ללמוד ולפעול ביעילות גבוהה בהרבה מזו האנושית.

על פי בוסטרום, האחריות נמצאת בידיים שלנו וההחלטות שנקבל עכשיו יכולות להיות קריטיות לעתיד. עלינו לחשוב כיצד לבנות בסיס טכנולוגי חיובי וללמד את הטכנולוגיה להיות רגישה לערכים אנושיים. אם נצליח בכך, כשהטכנולוגיה תהפוך לחכמה מאיתנו היא תוכל לשרת טוב יותר את הערכים החיוביים של בני האדם.

 

בוסטרום טוען שהמכונה האולטרה אינטליגנטית הראשונה תהיה ההמצאה האחרונה שהאדם יצטרך לייצר לעולם. מכאן והלאה הטכנולוגיה תמשיך להתפתח מעצמה ובקצב מהיר הרבה יותר מזה האנושי.

 

התפתחות זו טומנת בחובה הן סיכויים עצומים אך גם סיכונים לקיום המין האנושי. המפתח נמצא ביכולת שלנו לחנך את הטכנולוגיה ולוודא שפיתוחה ישרת את האינטרסים והערכים האנושיים. לכתבה המלאה: https://www.eol.co.il/articles/428

photo generate by Lexica Aperture v3.5