חומר ומחשבה

מבוא בסיפור המדע הבדיוני המפורסם "ארנה" (Arena), שנכתב על־ידי פרדריק בראון (Brown), מתמודדים בן אנוש וחי־זר מגזע הנקרא החיצוניים (the outsiders). סיפור המסגרת של מאבק היחידים הזה הוא התנגשות בין שני הגזעים, שרמתם הטכנולוגית דומה. ישות עליונה מחליטה להכריע במלחמה העומדת להתחיל: במקום לתת לגזעים להילחם עד כי אחד יוכרע והשני ייחלש, כך שלעולם לא יוכל עוד להגשים את ייעודו, היא לוקחת את שני הסיירים לקרב גלדיאטורים שיכריע את גורל המלחמה. איך קשור סיפור מלחמה בחייזרים לספר שעיסוקו תבונה? האדם והחי־זר מוצאים עצמם מופשטים מכליהם ומבגדיהם, בסביבה זרה ועוינת במידה שווה לשניהם, "בתנאים כאלה שכוח פיזי לבדו לא יוכל להכריע את ההתמודדות... תבונה ואומץ יהיו חשובים מכוח." שני מופעים שונים וזרים של תבונה מתמודדים עם סיטואציות בלתי צפויות בסביבות זרות ומאיימות, ונמדדים על־פי הישגיהם. זוהי נקודת התחלה טובה לעיסוק בכלליותה של התבונה. מבלי לפגוע בכבודם האבוד של בעלי החיים שסביבנו, היצור העונה לשם "האדם הנבון" הוא ככל הנראה בעל החי התבוני ביותר על פני הכדור. ככזה, הוא נוטה למדוד את שאר היצורים, בצדק או שלא, לפי אמת מידה זו. מאחר שהניסיון מציג בפנינו רק דוגמה אחת לתבונה - התבונה האנושית - אנחנו נוטים לצמד את שני המושגים תבונה ותבונה אנושית, עד שלהבנתנו הם נהיים לאחד. תבונה היא תבונה אנושית. הספר הזה הוא אסופה של ניסיונות שמטרתם לחשוב על היבטיה השונים של התבונה ולהפשיט אותה ממרכיביה האנושיים, על מנת שנוכל לזהות אותה גם אם ניתקל בה לבושה בלבוש שונה. האדם המודרני איבד את תמימותו זה מכבר. מאות שנים הוא מביט אל הכוכבים ותוהה, וכעת הוא בונה מכונות משוכללות, ושוב, הוא תוהה. איך אדע לזהות תבונה זרה, אל־אנושית? כיצד אדע להבחין כשאוסף המעגלים הסבוך שאותו לימדתי לתמרן מתחים חשמליים יחדל להיות מכונה וייהפך לדבר תבוני עצמאי? כדי שאוכל לעשות זאת, עליי לדעת מהי תבונה. ולא רק תבונה אנושית, משום שהמכונה אינה בן אנוש, ודרי הגלקסיה, אם ישנם כאלה, גם הם לא. איך נוכל להשיג במוחנו מהי תבונה כשלנגד עינינו עומדת רק דוגמה אחת? רק על עצמנו נדע לספר, כי המכונות החכמות שייכות לעתיד או אפילו רק לז'אנר המדע הבדיוני, ומתחת לאורו של הפנס הגדול המאיר אל הכוכבים, עדיין לא נמצא שום מטבע. למזלנו, התבונה האנושית יודעת ללכת אל מעבר למוכר. הדמיון יכול לקחת אותנו אל מחוזות שבינם ובין המציאות יש מעט מהמשותף. כמובן, יהיה מגוחך לחשוב שהדמיון אינו מוגבל בידי התבונה שעושה בו שימוש. החל מהמוכר, הנלמד, הסביבה, התרבות ועד לאקסיומות הלוגיקה ומבנה המוח האנושי, קשה לברוח מעצמך. כל שנותר לנו הוא לנסות להרחיב את גבולות הדמיון, מעט בכל פעם, וכל מרווח קטן שניצור יעניק לנו נקודת מבט חדשה ויספק לבאים אחרינו גבולות רחבים יותר, כפי שאמר סר אייזיק ניוטון, "הרחקתי לראות כי עמדתי על כתפי ענקים." כל אחד מהמאמרים בספר עוסק בנושא הקשור לתבונה. אספתי אותם לשלושה חלקים על־פי הנושאים שבהם הם עוסקים: התבונה האנושית והכללית, התבונה המלאכותית ועל מה ששוכן ליד או מעבר לתבונה. האינטליגנציה האנושית היא נושא שמעסיק אנשים רבים, בעיקר בהקשר האנוכי. האם אני חכם? כמה אני חכם? האם אני חכם כמו אחרים? רבים מאיתנו הוטרדו בשאלות כאלה במהלך חייהם, לפחות על עצמי אדע לספר. המאמר הראשון עוסק בבחינת השאלה הבלתי פתורה, מהי אינטליגנציה. תחילה ננסה להבין מהי האינטליגנציה האנושית, האם אפשר למדוד אותה ואיך ומהם סוגי האינטליגנציה, אבל רובו של המאמר יוקדש לניסיון לספק הגדרה כללית לתבונה, כזו שתהיה מנותקת מהישות האינטליגנטית ותתאים למגוון ישויות, אנושיות, אל־אנושיות, מלאכותיות. המאמר השני עוסק בניסיונה - יש אומרים, חסר הסיכוי - של התבונה לחקור את קיומה שלה, ובאופן כללי יותר, את הקיום בכלל. כלומר, למה יש משהו ולא שום דבר? במטרה ללמוד את מורכבותו של הנושא, ננסה להבין את תשובתו של אחד האנשים האינטליגנטים במדע המודרני של המאה האחרונה. המאמר השלישי עוסק בניסיונה של התבונה למצוא דומים לה שם בחוץ. ליתר דיוק, בשאלתו של הפיזיקאי אנריקו פרמי, "איפה כולם?" כיצד ייתכן שלמרות מספרם העצום של הכוכבים המתאימים לקיום חיים, לא הצלחנו לגלות אף לא ציוויליזציה תבונית? השאלה הזו, שנקראת "פרדוקס פרמי", חושפת את המתח שבין המספרים הגדולים שמציגים מראית עין מסוימת לבין הסיבות האפשריות לתוצאה המתקבלת, כלומר לכך שלא מצאנו עדיין ציוויליזציה כזו. המאמר הרביעי והאחרון בחלק זה עוסק בתפיסה מוטעית, לכאורה, אחרת, כלומר בתפיסה שהתבונה היא במובן מסוים פסגת האבולוציה. במילים אחרות, במאמר זה אני רוצה לבער את התפיסה השגויה שהתבונה היא תוצר מתבקש של אבולוציה ולהראות שבמקרה האנושי היא תוצר מקרי לחלוטין, שללא התרחשותו של אירוע שעיתויו ותוצאותיו ההרסניות היו מקריים, לטאות ענק בעלות תבונה מינימלית היו מהלכות על פני האדמה. החלק השני של הספר עוסק בתבונה המלאכותית. התבונה האנושית יוצרת כלים - שהשימוש בהם, בעצמו, מהווה מדד לאינטליגנציה - ואלה הופכים לתבוניים. לכאורה. בחלק זה נעסוק במגוון נושאים הקשורים לתבונה המלאכותית. המאמר הראשון יעסוק בהיבט המפחיד של התבונה המלאכותית, כלומר בסיכון הקיומי שחוזים רואי השחורות והמוכר לנו מספרי וסרטי המדע הבדיוני: המכונה החכמה הופכת מכלי שרת לשליטת הארץ ובאלימות, מדירה את רגלי האדם. אז, לא בדיוק. המאמר יבחן טיעון ידוע ומעניין, הנקרא "התפוצצות האינטליגנציה" (intelligence explosion), העוסק בהשתפרותן העצמית של מכונות מלאכותיות עד לדרגה שבה הן עוקפות ומשאירות את האנושות הרחק מאחור. מבלי לתת את הדעת יותר מדי לגבי השאלה אם מכונות סופר אינטליגנטיות כאלה יהוו איום, ננסה לבחון לעומק את אפשרויות השיפור העומדות בפני דורות שונים של בינות מלאכותיות ואת המניעים שלהן לבצע שיפורים מסוג זה. המאמרים השני והשלישי יעסקו בהיבטים שונים של אתיקה של מכונות. בראשון שבהם, נעסוק בחלוקה המקובלת בספרות לסוגים שונים של סוכנים מוסריים מלאכותיים עתידיים, באפיון שלהם, בבעיות העולות לגבי אפשרותם או השימוש בהם, ולבסוף גם בשאלה מה טוב יותר לנו, בני האנוש: האם יצירת מכונה משוכללת שתיחשב, לפי קריטריונים מוסריים קיימים, לסוכן מוסרי מלא, תעשה חסד עם בני האנוש? המאמר השלישי והאחרון בחלק זה עוסק בבעיית השליטה: איך נוכל להיות בטוחים שהמכונות המלאכותיות המשוכללות והנבונות שניצור יישארו תחת שליטתנו? התשובה המקובלת כיום היא, באמצעות התאמת ערכיהן לערכי בני אנוש. כלומר, דרך כך שנדאג שהערכים שעל־פיהם יקבלו מכונות אלה החלטות יהיו זהים, או לפחות דומים ככל האפשר, לערכים אנושיים. אבל מה הם אותם ערכים אנושיים? והאם אפשר ללמד מכונות מלאכותיות ערכים? החלק השלישי והאחרון מרחיב את גבולות הדמיון וגולש אל מעבר לתבונה. הוא עוסק ביכולות מנטליות, שהדרך לעשות בהן שימוש אינה עוברת דרך ערוצי התבונה הרגילים: היכולות הפאראנורמליות או פסי (psi), על שם האות היוונית Ψ, הראשונה במילה נפש, פסיכה. מטרתו של המאמר האחרון תהיה לתת לקוראים מבט מפוכח על הפאראפסיכולוגיה, על האישושים, ההתנגדויות והדיון בדבר היותה שדה מחקר מדעי. האם האנומליות שמציגים בפני המדע הסוגים השונים של קשרי מחשבה למחשבה, מחשבה לגוף ומחשבה לעולם, הן חלק ממהפכה מדעית או נס שהמדע אינו יודע להסבירו, בבחינת קסם? או שמא, כפי שטוענים המקטרגים, מדובר בערבוב של שרלטנות ועריכת ניסויים לא מדעית ולקויה? התרבות האנושית מלאה אמרות שפר שנושאן חוכמת האדם. אחרי הכול, היא שמייחדת אותנו משאר בעלי החיים. הספר הזה עוסק בניסיון להפריד בין השניים, התבונה והאדם. רוצה לומר, באפשרותה של התבונה להתקיים בנפרד וללא תלות באדם. וכדי שנדע לזהות את מופעיה השונים, כדאי שנכיר היבטים אחרים, לא מוכרים ואל־אנושיים שלה.