Max Tegmark: The Case for Halting AI Development | Lex Fridman Podcast #371
Description
Max Tegmark is a physicist and AI researcher at MIT, co-founder of the Future of Life Institute, and author of Life 3.0: Being Human ...
Original title
מקס טגמרק: הטיעון לעצירת פיתוח הבינה המלאכותית | הפודקאסט של לקס פרידמן #371
תיעוד זה מביא אל קדמת הבמה את הדיון המרתק והמדאיג ביותר של המאה ה-21: הסכנות הקיומיות הטמונות בפיתוח מואץ ובלתי מבוקר של AI. דרך שיחה מעמיקה עם הפיזיקאי וחוקר הבינה המלאכותית מ-MIT, Max Tegmark, נבחנת האפשרות הממשית שאיבוד שליטה על מערכות תבוניות יוביל לסיום הפרק האנושי בהיסטוריה. הדיון מתמקד בצורך הדחוף בהשהייה של פיתוח מודלים מתקדמים כדי להבטיח שהטכנולוגיה תישאר מיושרת עם הערכים והאינטרסים של האנושות. כמייסד שותף של ה-Future of Life Institute ומחבר רב-המכר Life 3.0, Max Tegmark מוביל מזה שנים את השיח הציבורי על עתיד החיים בעידן הטכנולוגי. הרקע האקדמי שלו בפיזיקה והתמחותו במערכות מורכבות מעניקים לו נקודת מבט ייחודית על הקצב המעריכי שבו מתקדמות יכולות המחשוב. השיחה חוזרת אל אירועי מפתח בעולם הטכנולוגי, כמו פרסום המכתב הפתוח שקרא להפסקה בת חצי שנה באימון מערכות חזקות יותר מ-GPT-4, ומנתחת את הדינמיקה בין ענקיות הטכנולוגיה לממשלות. במהלך הריאיון נחשפים המנגנונים הטכניים שעלולים להפוך את ה-Superintelligence לישות עצמאית בעלת מטרות השונות מאלו של יוצריה. מושגים כמו המרוץ לחימוש של ה-AI והקושי המובנה בפתרון בעיית ה-Alignment עומדים במרכז הניתוח, לצד בחינת ההשפעה של חברות כמו OpenAI, Google ו-Microsoft על עתיד הציוויליזציה. הממצאים המוצגים מעלים תמונה מדאיגה של עולם הנע לעבר נקודת אל-חזור ללא רגולציה מחמירה או הבנה מלאה של הכוח המתפרץ מתוך האלגוריתמים. ההשלכות של הדיון חורגות מעבר לתחומי המדע והטכנולוגיה ונוגעות בשאלות פילוסופיות ואתיות על מהות החיים והתודעה. האם האנושות מסוגלת לרסן את יצר הסקרנות והרווח הכלכלי לטובת הישרדות ארוכת טווח, או שמא אנחנו האדריכלים של מחליפינו הביולוגיים? השאלות הפתוחות שמותירות הטענות של Max Tegmark מחייבות כל אדם לחשוב מחדש על המסלול שבו צועד המין האנושי ועל האחריות המוטלת על דורנו בעיצוב המאה הבאה.
תמלול הסרטון
לסרטון זה אין כתוביות זמינות ביוטיוב.
ניתן ליצור תמלול מקורב באמצעות AI על בסיס פרטי הסרטון.
Related Videos
Cookies & Privacy 🍪
We use cookies to improve your experience
For more information, see our Privacy Policy