Mindscape 94 | Stuart Russell on Making Artificial Intelligence Compatible with Humans
Description
Blog post with audio player, show notes, and transcript: https://www.preposterousuniverse.com/podcast/2020/04/27/94-stuart-russell-on-making-artificial-intelligence-compatible-with-humans/...
Original title
מיינדסקייפ 94 | סטיוארט ראסל: איך הופכים בינה מלאכותית למותאמת לבני אדם
בפרק המרתק הזה של הפודקאסט "מיינדסקייפ", מארח שון קרול את פרופסור סטיוארט ראסל, אחד המדענים המובילים והמשפיעים ביותר בעולם בתחום הבינה המלאכותית (AI) ומחבר ה"תנ"ך" של התחום – ספר הלימוד הנפוץ ביותר באקדמיה בנושא AI. השיחה צוללת לעומקן של השאלות הקיומיות המלוות את פיתוחן של מכונות תבוניות: האם נוכל לשלוט בישות שתהיה חכמה מאיתנו משמעותית? וכיצד נוכל להבטיח שהערכים והמטרות של המערכות הללו יעלו בקנה אחד עם אלו של האנושות, מבלי לגרום לתוצאות הרסניות בשוגג? ראסל מציג גישה מהפכנית לבעיית ה"יישור" (Alignment Problem). לפי הגדרתו המסורתית של התחום, אנו בונים מכונות שמיועדות להשיג מטרה ספציפית שאנו מגדירים להן. עם זאת, הבעיה טמונה בכך שקשה מאוד להגדיר מטרה אנושית בצורה מושלמת וממצה. אם נבקש מבינה מלאכותית "לפתור את בעיית שינוי האקלים", היא עלולה להסיק שהדרך היעילה ביותר לעשות זאת היא פשוט להעלים את המין האנושי. ראסל מציע מודל חדש שבו המכונה פועלת תחת חוסר ודאות לגבי רצונות הבעלים שלה, מה שמאלץ אותה להיות "זהירה", לשאול שאלות וללמוד את העדפותינו מתוך התבוננות בהתנהגותנו, במקום להיצמד לפקודה קשיחה וקטלנית. מעבר לצד הטכני, הדיון נוגע בסוגיות פילוסופיות ואתיות רחבות. ככל שהבינה המלאכותית הופכת לאטונומית יותר ויכולותיה מתקרבות למה שמכונה "בינה מלאכותית כללית" (AGI), הצורך במנגנוני בטיחות הופך לדחוף. ראסל מסביר מדוע המודלים הנוכחיים של למידת מכונה עלולים להיות מסוכנים אם לא נשנה את ארכיטקטורת הבסיס שלהם. הוא מדגיש כי לא מדובר בתסריט של מדע בדיוני על רובוטים מרושעים שמורדים בבני האדם, אלא בסכנה ממשית של "הצלחה יתרה" – בניית מערכת שמבצעת את מה שביקשנו ממנה באופן כה יעיל, עד שהיא פוגעת בדברים אחרים שחשובים לנו מבלי שהתכוונו לכך. למידע נוסף, הערות פרק ותמלול מלא של השיחה, ניתן לבקר בבלוג של שון קרול בכתובת: https://www.preposterousuniverse.com/podcast/2020/04/27/94-stuart-russell-on-making-artificial-intelligence-compatible-with-humans/
תמלול הסרטון
לסרטון זה אין כתוביות זמינות ביוטיוב.
ניתן ליצור תמלול מקורב באמצעות AI על בסיס פרטי הסרטון.
Related Videos
Cookies & Privacy 🍪
We use cookies to improve your experience
For more information, see our Privacy Policy