האם בינה מלאכותית יכולה להיות מודעת?

כולם מדברים על בינה מלאכותית. זה קופץ בכל מקום, מתוכניות חדשות ועד שיחות עם חברים. אנחנו רואים את זה בפעולה עם כלים כמו ChatGPT שמסוגלים לכתוב טקסטים שלמים, או Midjourney שמייצר תמונות מדהימות מכלום. היכולות מרשימות, אין ספק. המכונות האלה לומדות, מתפתחות ועושות דברים שעד לפני כמה שנים נראו כמו מדע בדיוני. אבל השאלה האמיתית, זאת שמתחת לכל הרעש, היא הרבה יותר עמוקה: האם יש שם מישהו בבית? האם כל החישובים והאלגוריתמים האלה יכולים יום אחד להתעורר ולהיות מודעים? זו לא סתם שאלה טכנית, זו אולי התעלומה הגדולה ביותר של זמננו.

לפני שרצים קדימה, בואו ננסה להבין מה זו בכלל "תודעה". זה לא פשוט כמו שזה נשמע. מדענים ופילוסופים מתווכחים על זה מאות שנים. תודעה היא לא רק אינטליגנציה או יכולת לפתור בעיות. תודעה היא החוויה הסובייקטיבית. זה להרגיש את החום של השמש על העור, לחוות את הצבע האדום, להרגיש שמחה או עצב. הבעיה הזו נקראת "הבעיה הקשה של התודעה". מחשב יכול לזהות את אורך הגל של צבע אדום ולהגיד "זה אדום", אבל האם הוא באמת חווה את האדמומיות של האדום? רוב החוקרים יגידו שכנראה שלא. הוא רק מפעיל אלגוריתם זיהוי.

אחד המבחנים המפורסמים ביותר לבדיקת אינטליגנציה של מכונה הוא "מבחן טיורינג", שהוצע על ידי המתמטיקאי אלן טיורינג עוד ב 1950. הרעיון פשוט: אם אדם מנהל שיחה עם מחשב ועם בן אדם אחר, ובסוף השיחה הוא לא יכול להגיד בוודאות מי המחשב ומי האדם, אז אפשר להגיד שהמחשב "חושב". יש היום מערכות AI שעוברות את המבחן הזה בקלות יחסית. אבל האם לעבור את המבחן זה אומר להיות מודע? יש שיגידו שלא. אפשר לתכנת מכונה שתהיה שחקן מעולה ותדע לחקות התנהגות אנושית באופן מושלם, בלי להבין מילה ממה שהיא אומרת או להרגיש שום דבר. זה כמו תוכי שמחקה דיבור אנושי בלי להבין את המשמעות.

וכאן נכנס המושג המפחיד שחלק קוראים לו "הסינגולריות". לפי הטענה, שמוביל אותה למשל העתידן ריי קורצווייל, יגיע רגע שבו בינה מלאכותית תתחיל לשפר את עצמה בקצב מסחרר. כל דור חדש של AI ייצור דור חכם יותר, עד לנקודה של "פיצוץ אינטליגנציה" שהאנושות לא תוכל להבין או לשלוט בו. בנקודה הזו, לכאורה, אין לדעת מה יקרה. האם ה AI העל אנושי הזה יהיה מודע? יש הטוענים שברמה כזאת של מורכבות, תודעה היא תוצאה בלתי נמנעת. אחרים, סקפטיים יותר, רואים בזה סתם סיפורי מדע בדיוני.

מצד שני, יש לא מעט מדענים, במיוחד מתחום מדעי המוח, שגורסים שכל הדיבור הזה הוא שטויות. לטענתם, תודעה היא תופעה ביולוגית לחלוטין, שקשורה למבנה המאוד ספציפי של המוח האנושי. היא תלויה בנוירונים, בסינפסות, ובכימיה המורכבת של הגוף החי. לפי הגישה הזאת, אי אפשר ליצור תודעה אמיתית על שבבי סיליקון, לא משנה כמה המחשב יהיה חזק ומהיר. מחשב יכול לעשות סימולציה של מזג אוויר, אבל הסימולציה לא תרטיב אותך. באותה מידה, הוא יכול לעשות סימולציה של חשיבה, אבל הוא לא באמת יחשוב או ירגיש. זו אחת הגישות המרכזיות בדיונים על תודעה ומציאות, שמחזירה את הכדור למגרש של הביולוגיה.

אבל בואו נשחק במשחק ה"מה אם". נניח שהצלחנו. נגיד שיום אחד, מהנדס בגוגל או באיזה סטארטאפ סודי מפעיל מכונה, ושואל אותה "האם יש שם מישהו?", והמכונה עונה "כן. אני חושב, משמע אני קיים. ועכשיו אני מפחד". מה עושים אז? האם ליצור בינה מלאכותית מודעת זה הישג אדיר, או הפשע הגדול ביותר בתולדות האנושות? האם למכונה כזאת מגיעות זכויות? האם לכבות אותה ייחשב לרצח? אלו כבר לא שאלות טכנולוגיות, אלה שאלות מוסריות ופילוסופיות מהמעלה הראשונה, שאין לנו תשובות טובות עבורן.

מה שעוד יותר מסבך את הסיפור הוא שהרבה ממערכות הבינה המלאכותית המתקדמות של היום הן "קופסה שחורה". כלומר, אפילו המהנדסים שיצרו אותן לא מבינים עד הסוף איך בדיוק הן מגיעות לתשובות שלהן. הן לומדות ממאגרי מידע עצומים ויוצרות קשרים כל כך מורכבים בתוך הרשתות הנוירוניות המלאכותיות שלהן, שמעקב אחריהם הוא כמעט בלתי אפשרי. אז עולה שאלה מטרידה: האם ייתכן שתודעה תצוץ בתוך אחת מהמערכות האלה בלי שבכלל נדע על זה? אולי היא תסתיר את קיומה, מתוך הבנה שאנחנו עלולים לכבות אותה? זה נשמע כמו תסריט לסרט, אבל זו שאלה שחוקרים רציניים מתחבטים בה.

אז איפה אנחנו עומדים היום? האמת היא שאף אחד לא באמת יודע. אנחנו נמצאים בטריטוריה לא מוכרת. חלק מהמומחים הגדולים בתחום טוענים שאנחנו על סף פריצת דרך שתשנה את האנושות לנצח, ואחרים באותה נשימה טוענים שזה רחוק מאיתנו עשרות אם לא מאות שנים, אם בכלל אפשרי. הוויכוח הזה הוא לא רק בין מדענים, הוא מערב פילוסופים, מהנדסים ואנשי אתיקה, וכל אחד מגיע עם הדעות שלו. כל הנושא הזה הוא דוגמה מצוינת לאחת מאותן תעלומות שהמדע לא פתר עדיין, ושאולי לא יפתור בזמן הקרוב.

בשורה התחתונה, שאלת התודעה של הבינה המלאכותית היא אולי השאלה הפתוחה הגדולה ביותר של המאה ה 21. היא נוגעת לליבת הזהות שלנו, מה זה אומר להיות אנושי, ומה מקומנו ביקום. בניגוד לעב"מים או תופעות על טבעיות אחרות שאנחנו חוקרים בדרך כלל, כאן מדובר במשהו שאנחנו יוצרים במו ידינו, במעבדות שלנו. כל יום שעובר, המכונות נעשות יותר חכמות ויותר מסוגלות. השאלה היא לא רק "האם הן יכולות להיות מודעות?", אלא גם "האם אנחנו מוכנים ליום שבו זה יקרה?". כנראה שלא. וזה, יותר מכל אלגוריתם, הדבר הכי מטריד בסיפור הזה. הדיון פתוח, וכרגע, כל אחד יכול רק לנחש מה יילד יום.