When Machines Learn to Speak: Moran Cerf on the Future of AI and Humanity
- Hillel Kobrovski
- לפני 5 ימים
- זמן קריאה 1 דקות
הרצאה שזכיתי להשתתף בה בלייב, וקשה שלא לצאת מטורד ממנה לאן טכנולוגיה בלי מגבלות יכולה להוביל את ציוויליזציה האנושית?.
פרופ' מורן סרף הוא חוקר מוח ישראלי המלמד באוניברסיטת קולומביה, והמחקרים שלו עוסקים בחיבור בין מוח, תודעה ומערכות בינה מלאכותית, בנוסף הוא פעיל בכל העולם כדי להעלות את המודעות סביב שימוש בטוח ומושכל ב-AI בארגונים.
בהרצאה הזאת הוא בוחן האם מחשבים יכולים לדמות בני אדם, דרך מבחני אינטליגנציה כמו מבחן טיורינג, ניסויים בשפה, ושאלה אחת גדולה: מה יקרה לעולם כשמכונות ידעו לדבר, לשכנע ולרמות כמעט כמונו ?.
פרופ' סרף מדבר על הרגע שבו לימדנו את המכונות לדבר, וטוען שכמו שהשפה הייתה הקפיצה האבולוציונית שהפכה אותנו לבני אדם, כך מודלי שפה גדולים (כמו ChatGPT ודומיו) הם קפיצה דומה עבור מכונות.
בהרצאה הוא מראה איך AI כבר עובר גרסאות שונות של מבחן טיורינג, מרמה אלפי אנשים כדי לעקוף CAPTCHA, מבין מה אחרים יודעים או לא יודעים (Theory of mind), ואף משקר למרות שמורים לו לא לעשות זאת. לטענתו, בכל פעם שהמכונה עוברת את "מבחן האולטימטיבי" שהגדרנו, אנחנו מזיזים שוב את הסטנדרט, אבל בינתיים מכניסים את ה-AI למערכות קריטיות (צבא, כלכלה, רפואה, עיתונות ומדיה, מערכות מידע), בלי להבין עד הסוף איך נראה עולם שבו ישות לא־אנושית יודעת לדבר, לשכנע ולרמות בקנה מידה עולמי.
ההרצאה צולמה בתחילת חודש ינואר 26 והוצגה בפני "פורום אגסי" (שהקים הפילוסוף פרופ' יוסף אגסי ז"ל) , תודה לאלכס צייטלין מהערוץ המעולה "באים אל הפרופסורים" על צילום והקלטה באיכות גבוהים של הרצאה מרתקת במיוחד.
מוזמנים לעקוב אחרי הערוץ שלי בווצאפ (לינק) בו אני משתף תכנים שעוסקים בהתמודדות של האנושות למול המהירות שבה הטכנולוגיה מתפתחת ומשנה את המציאות שלנו. בברכה , הילל קוברובסקי
תגובות