Skip to main content

    How Dangerous Is Artificial Intelligence? | Roman Yampolskiy

    46:42 4/19/2026 Closer To Truth🇮🇱 Subtitled

    Description

    We may be creating something a million times smarter than all of humanity combined — and we have no plan for what happens next. AI safety pioneer Roman Yampolskiy lays out the risks, the...

    Original title

    עד כמה מסוכנת הבינה המלאכותית? | רומן ימפולסקי

    המרץ הבלתי פוסק לפיתוח אינטליגנציה מלאכותית מתקדמת מציב את האנושות בפני צומת דרכים גורלי, בו ייתכן שאנו יוצרים ישות התבונית פי מיליון מכלל המין האנושי יחד. המומחה העולמי לבטיחות AI, פרופסור Roman Yampolskiy, מנתח את הסיכונים הקיומיים הטמונים בטכנולוגיה זו ואת העובדה המטרידה שכרגע אין לאנושות תוכנית מגירה של ממש ליום שאחרי השגת עליונות חישובית. במהלך העשורים האחרונים, מאז החלו פיתוחים ראשוניים במוסדות מחקר וארגונים כמו NASA ו-DARPA, הדיון על סכנות המחשוב התמקד לרוב בתקלות טכניות פשוטות. אולם, ימפולסקי טוען כי המעבר מבינה מלאכותית צרה למערכות מסוג AGI (Artificial General Intelligence) משנה את כללי המשחק באופן רדיקלי. ההיסטוריה של המדע מלמדת כי שליטה על מערכת מורכבת הופכת לבלתי אפשרית ברגע שהמערכת עולה ביכולותיה הקוגניטיביות על אלו של יוצריה. מבחינה טכנית, האתגר המרכזי הוא בעיית ה-Alignment, המדגישה את הקושי המובנה ביצירת מערכת ערכים יציבה עבור קוד שמתפתח עצמאית. ימפולסקי מדגים כיצד פקודות פשוטות עלולות להתפרש על ידי סופר-אינטליגנציה בדרכים קטסטרופליות, וכיצד מודלים מתוחכמים דוגמת GPT-4 הם רק קצה הקרחון בתהליך של למידה רקורסיבית מואצת. הוא מפרט מדוע חסימות תוכנה מסורתיות ואמצעי אבטחה קונבנציונליים צפויים להיכשל אל מול תבונה שמסוגלת לפרוץ את המגבלות של עצמה. השאלה שנותרת פתוחה אינה רק האם נוכל לשלוט בבינה המלאכותית, אלא האם עצם הניסיון לעשות זאת הוא בר-ביצוע במציאות של תחרות גיאופוליטית בין מעצמות וחברות טכנולוגיה. המשמעות של חוסר יכולתנו לחזות את פעולותיה של ישות עליונה מעלה ספקות כבדים לגבי עתיד הציוויליזציה. אם לא נצליח למצוא פתרון מתמטי ופילוסופי מוכח לבטיחות AI לפני שנגיע לנקודת הייחודיות, ייתכן שנחתום על פרק הסיום של ההיסטוריה האנושית כפי שאנו מכירים אותה.

    תמלול הסרטון

    לסרטון זה אין כתוביות זמינות ביוטיוב.

    ניתן ליצור תמלול מקורב באמצעות AI על בסיס פרטי הסרטון.

    Related Videos

    Cookies & Privacy 🍪

    We use cookies to improve your experience

    For more information, see our Privacy Policy