עתיד האנושות: בקרוב המחשבים יהיו חכמים יותר מבני האדם

שני, 17 באוקטובר. המרכז לחינוך מדעי בתל אביב (חמד"ע). 100 איש בגילים שונים מתאספים במקום: בני נוער, סטודנטים, פנסיונרים, וגם מנהלים עסוקים שמבטם לא מש ממכשיר הבלאקברי. כולם הגיעו לאי-כנס הסינגולריות שנערך במסגרת פסטיבל אייקון תל אביב, שכותרתו "נקודת מפגש בין חזונות מדע בדיוני מרחיקי לכת לחזית המדע והטכנולוגיה של היום ומחר". במלים אחרות, מה קורה כשהמדע הבדיוני נהפך למדע.

כשאורי אביב, מנהל פסטיבל אייקון, שלח הזמנה לאירוע, הוא תיאר זאת כך: "בעתיד הקרוב עומד להתרחש מפנה קיצוני בהתפתחות האדם. מדובר בשינוי כה משמעותי עד שאי אפשר אפילו לתאר אותו, אלא רק לצייר בקווים כלליים את הדרך אליו. ניתוח אופי ההתפתחות הטכנולוגית מצביע על כך שבעוד עשורים מעטים, אולי אף בעשור הקרוב, תתרחש קפיצת מדרגה בקיום האנושי ויתחיל עידן חדש לחלוטין".

זה אולי נשמע דמיוני, אבל התיאוריה הזו צוברת יותר ויותר מאמינים, שבטוחים כי האנושות תעבור מהפכה בעשרות השנים הקרובות. השאלה הגדולה מבחינתם היא לא אם זה יקרה, אלא מתי ואיך. תיאוריה זו מכונה "הסינגולריות הטכנולוגית", או בקצרה "הסינגולריות". חסידיה מדברים על כך שבנקודת זמן עתידית כלשהי, המחשבים ייהפכו לחכמים הרבה יותר מבני האדם - וההישג הזה ישנה את העולם ויתחיל עידן חדש. ולמה השם "סינגולריות"? כי לטענתם, מדובר בנקודה ייחודית בהיסטוריה, שפשוט אי אפשר לחזות מה יקרה לאחריה. אם תרצו, מדובר בתחילתו של עולם שמתנהל לפי כללים אחרים לגמרי - ובלתי ידועים עדיין (ראו מסגרת).

הסינגולריות אינה רעיון חדש, אך בחודש האחרון הוא הגיע לישראל בתרועה רמה: בהפרש של שבוע התקיימו שני אירועים שהתמקדו בסינגולריות ומשכו אישי מפתח מהתחום. הראשון היה האי-כנס בחמד"ע, שנפתח בדברים מפי היזם והמשקיע יוסי ורדי. האי-כנס היה שונה ממה שהורגלנו לחשוב על כנסים או סמינרים: התכנים לא נקבעו מראש והאי-כנס נערך בסגנון חופשי. כל אדם שהגיע הציג בחצי דקה את הנושא שתיכנן להרצות עליו, והמשתתפים האחרים היו יכולים לבחור אם להיכנס להרצאה שלו.

הכנס השני, הקונוונציונלי יותר, התקיים במכון ון ליר ב-24 באוקטובר, תחת הכותרת "עתיד האנושות עכשיו". בכנס עסקו בשאלות תיאורטיות ואירחו אנשי אקדמיה מישראל ומהעולם - בהם מייקל ואסאר, נשיא מכון הסינגולריות (ראו מסגרת). בנוסף, במסגרת פסטיבל אייקון התקיימו ערבי עיון נוספים על הסינגולריות, שאירחו אישי ציבור מענפים שונים.

אנשי הסינגולריות טוענים כי המפנה בעתיד האנושות טמון בהתקדמות המדעית, שתואץ ככל שחלק גדול יותר מהמחקר יעבור לידיהן של מכונות - שהיכולת שלהן תעלה בעשרות מונים על זו שאפשרית כיום. העתידן והמדען ריי קורצווייל, שנחשב לאבי התיאוריה לאחר שפירסם כמה ספרים בתחום - בהם "עידן המכונות החושבות" הידוע - מאמין שקצב השינויים הטכנולוגיים בעשורים הקרובים יהיה כל כך מהיר ומרחיק לכת, שעצם הקיום האנושי יעבור שינוי מהותי ובלתי הפיך. לדבריו, אנו נשלב את כוח המוח שלנו, הידע, המיומנויות והמוזרויות האישיות שעושות אותנו אנושיים עם כוח המחשב שלנו, כדי לחשוב, לחקור, לתקשר וליצור בדרכים שאנו בקושי יכולים לדמיין כיום.

קורצווייל טוען כי לפי כל החישובים שביצע, הסינגולריות תתרחש כבר במאה הנוכחית. מגזין "Time" הקדיש לסינגולריות ולקורצווייל כתבה נרחבת בפברואר, תחת הכותרת "2045: The Year Man Becomes Immortal" ("2045: השנה שבה האדם ייהפך לבן-אלמוות"). האם הסינגולריות אכן תתרחש תוך 34 שנה? מי יודע. אינספור משתנים מדעיים, טכנולוגיים, חברתיים ופוליטיים יכולים להשפיע על האירועים.

קורצווייל מעריך שמכונות יגיעו לאינטליגנציה של בני אנוש ב-2030, אבל אנשי טכנולוגיה אחרים נוקבים תאריכים שונים. ג'סטין רטנר, המנהל הטכנולוגי הראשי של אינטל, מאמין שהנקודה שבה אינטליגנציה של בני אנוש ומכונות תתמזג למשהו "גדול יותר" תגיע ב-2048. חוקר הבינה המלאכותית אליעזר יודקובסקי מאמין ש"התפוצצות אינטליגנציה תתרחש ב-2060". מנכ"ל חברת iRobot רודני ברוקס וחוקר הקוגניציה דאגלאס הופסטדטר מאמינים ש"התפוצצות אינטליגנציה" תתרחש בעתיד, אבל כנראה לא במאה ה-21. בכנס על אינטליגנציה שנערך באוניברסיטת אוקספורד, העריכו החוקרים כי יש סיכוי של 50% שלמחשבים תהיה אינטליגציה ברמה אנושית כבר ב-2050. כששאלו אותם מה יקרה ב-2150, ההערכה שזה יהיה המצב קפצה ל-90%.

יש גם חוקרים שטוענים שזה לא יקרה אף פעם. הוברט דרייפוס טען ב-1972, בספרו "What computers can't do: A critique of artificial reason", שמחשבים לא יוכלו לעולם לחקות יכולות קוגניטיביות. אחרים טענו שלמחשבים לעולם לא תהיה מודעות. אבל המאמינים בסינגולריות לא מתמקדים בשאלה אם למחשבים יכולה להיות תודעה, אלא בכך שמחשבים ממשיכים לשכלל את יכולתם לפתור מגוון רחב של בעיות בסביבות משתנות - בדומה לבני אנוש.

ד"ר איתן קריין, העורך המדעי של מגזין "סיינטיפיק אמריקן" בישראל, מאמין שההתפתחויות בכמה מתחומי המדע - ובעיקר במדעי המחשב, חקר המוח, רובוטיקה ובינה מלאכותית - יובילו למצב שבו למחשבים ולמוח האנושי יהיו עוצמות זהות. "מדברים על טווח של 20-30 שנה עד שזה יקרה, אבל זה יכול להיות גם טווח של 20-80 שנה. הכיוון ברור, השאלה היא מתי נגיע לשם.

"אבל יש עוד שאלה מרכזית: איך אתה בכלל מגדיר סינגולריות? האם זה הרגע שבו ייווצר המחשב הראשון שתהיה לו יכולת חישובית כמו למוח האנושי? האם זה המחשב הראשון שמתחבר לבן אדם? האם זה הרגע שבו אפשר יהיה לאחסן את זיכרונות החיים שלנו במחשב? כל אירוע כזה יגיע בנקודת זמן רחוקה יותר. אבל הסינגולריות לא תהיה אירוע חד-פעמי. זה לא יהיה כמו המפץ הגדול".

מחשבים במקום רופאים

רועי צזנה, ד"ר לננו-טכנולוגיה שהתמקד במחקר הנדסת רקמות ותאי גזע עובריים אנושיים וחוקר במרכז לחיזוי טכנולוגי באוניברסיטת תל אביב, אומר שאי אפשר לחזות מה תוליד הסינגולריות ומתי היא תקרה. "אף אחד לא יכול לחזות את העתיד ואף אחד לא יכול לנחש מה יקרה לאחר שהסינגולריות תתרחש. מי שאומר שהוא יודע - עובד עליך. אבל יש לנו אפשרות לבצע ניחושים די טובים. אם שחקן כדורסל נכנס למגרש, אני יכול לנחש בצורה די טובה שהוא ינסה לרוץ ולקלוע לסל של היריבה, כי אני מבין את הכוונות ואת כללי המשחק. אפשר לנחש כך גם לגבי הסינגולריות. זה אמנם תהליך הדרגתי, אבל אנחנו יכולים לבצע לגביה כמה ניחושים די טובים.

"תחת הנחת היסוד שכוח המחשוב ימשיך ויתפתח בהתאם לחוק מור - שקובע כי יחס העלות-ביצועים של שבבי מחשב מכפיל את עצמו מדי שנתיים - סביר להניח שתיווצר בינה מלאכותיות שתוכל לדמות את תהליכי החשיבה של האנושות, שתהיה חזקה יותר מכל אדם. כוח המחשוב יהיה כל כך גדול והתוכנות יהיו כל כך משוכללות, שהם יאפשרו לנו לעשות כל מיני דברים נוספים. תוכנת מחשב כזאת תוכל לא רק לבדוק כמה מכוניות מחכות בצומת ברמזור מסוים, ובהתאם לשנות את קצב ההחלפה מירוק לאדום, אלא גם לתכנן בעצמה את הרמזור של הדור הבא. היא תוכל להוליד את הילד הקיברנטי של עצמה. הבינה המלאכותית תייצר את התוכנה הבת, והיא את התוכנה הנכדה, והיא את התוכנה הנינה, בקצב גובר. ומה שתוכנת בינה מלאכותית אחת תעשה בדור נתון, היא תעשה פי שניים או חמישה או שמונה בדור הבא".

אחת הדוגמאות הטובות לכך, אומר צזנה, היא מחשב בשם ווטסון, שניצח במשחק הטלוויזיה האמריקאי "!Jeopardy" בפברואר. "זה לא שהמחשב גלש באינטרנט במהירות ומצא את המידע. הוא ידע לבצע ניתוח: לקחת מידע מספרים ומאנציקלופדיות ולתרגם אותם לביטים בכדי שיבין אותם בהקשר הנכון. במשחק לא נשאלו רק שאלות טריוויה, אלא גם שאלות יותר מסובכות, למשל מה משותף למקלדת ולחולצה. התשובה היא כפתורים (מקשים באנגלית). זאת שאלה שדורשת חשיבה קצת יצירתית, והמחשב הצליח לעמוד בזה. כשטעה בשאלה אחרת הוא נתן את אותה תשובה שגויה שנתן יריב אנושי.

"עכשיו יבמ נותנת לו להתחיל לעבור על מקרים רפואיים. כמה שזה נשמע מצחיק, הוא יהיה ד"ר האוס הראשון. אז נכון, הוא עדיין דורש כמות חשמל של עיר קטנה. זאת לא הגזמה פראית, דיברתי עם האדם שפיתח אותו. אבל בעוד 10-20 שנה כל אחד יוכל לחייג לרופא, ומחשב מהסוג של ווטסון יאמר לנו לפי התסמינים מה יש לנו. הוא יוכל לזכור את כל המחלות האפשריות ולהצליב את כל המחקרים העדכניים, והוא יוכל לעשות את זה מהר יותר מכל רופא. אולי כבר לא נצטרך רופאים.

"דוגמה אחרת: באוניברסיטה בוויילס פיתחו רובוט בשם אדם, שעושה ניסויים במעבדה בתחום הביולוגיה. הוא לא רק מבצע את הניסויים, אלא גם מתכנן אותם. ביולוגיה היא לא מדע מסובך: אם אתה רוצה לדעת, למשל, מהי ההשפעה של שמרים, יש לך אלפי גנים לבדוק, ואז אתה מחסיר גן מסוים ובודק מה ההשפעה על התרבית. זאת עבודה קשה.

"אבל מה שיפה באדם הוא שבניגוד לדוקטורנטים, שצריכים לישון בלילה, להתעדכן ב-Ynet ולאכול ארוחת צהריים, הוא לא. היד הרובוטית שלו החזיקה 100 מבחנות בבת אחת. הוא לקח 100 דגימות של שמרים ממכלים שונים, ותוך זמן קצר יצר 100 תמיסות. הליך כזה היה לוקח לסטודנט כמה ימים, ואילו הוא עשה את זה בחמש דקות, ובדייקנות גדולה יותר מכל מדען. לאחר מכן הוא בדק את התוצאות, שירטט גרפים ויצר ניסוי שהשווה בין גנים".

מחשבים יכולים לעשות בימינו דברים מרשימים עוד יותר. הם יכולים, למשל, לגרום לבני אדם המתקשרים אתם לחשוב שהם בני אדם בעצמם - כלומר לעבור את מבחן טיורינג, אחת הדרכים המקובלות לבדיקת אינטליגנציה ויכולת לתקשורת אנושית. אלן טיורינג, מתמטיקאי בריטי הנחשב לאבי מדעי המחשב, הגה ב-1950 ניסוי שבו אדם משוחח בשפה טבעית עם שני עמיתים לשיחה הנמצאים בחדרים אחרים - ואחד מהם הוא מחשב. המחשב עובר את המבחן אם האדם לא מצליח לזהות מי מהמשוחחים עמו אינו בשר ודם.

ב-2010, 60 שנה אחרי שטיורינג המציא את המבחן, הצליחה תוכנה לעבור אותו. בשנה זו זכתה תוכנה בשם סוזט, מעשה ידיו של המפתח ברוס וילקוקס, בפרס לובנר - התחרות הרשמית לבדיקת מבחן טיורינג. לאחר 25 דקות של שיחה הצליחה סוזט להטעות את השופטים בשיחה כתובה, ולגרום להם לקבוע שהיא בת אנוש. ב-2008, אגב, הצליחה אחת התוכנות המתמודדות לשטות ברבע מהשופטים.

התוכנות גם יכולות כבר לדבר זו עם זו. במעבדת המכונות היצירתיות באוניברסיטת קורנל נתנו לשתי תוכנות לדבר אחת עם השנייה, והעלו את התוצאה ליוטיוב (tinyurl.com/42xh4sc). הסרטון מציג שיחה מגושמת ומשעשעת למדי, אבל ברור שהיא פותחת פתח לעתיד לא ידוע. למרבה המזל, התוכנות עדיין לא יכולות לרכל עלינו.

שתי הישויות ששוחחו בניסוי של קורנל כללו תוכנת צ'אט אוטומטית (Chatbot) -שמחקה שיחות אנושיות - וכן תוכנה שהמירה טקסט לדיבור ואווטאר אנושי. החוקרים השתמשו בתוכנת צ'אטבוט בשם אלייזה, שיצרה בתחילה שיחה מעט משעממת לטענתם. לכן הם שידרגו לצ'אטבוט מודרני יותר, בשם Cleverbot, שמסוגל להשתפר בלי הפסקה. הבינה המלאכותית שלו נוצרה על ידי חוקר בשם רולו קרפנטר מחברת Existor.

מדברים בהקשר של סינגולריות על הרבה דברים: התפתחות בינה מלאכותית, ממשקי אדם-מכונה, הארכת חיים. מה מכל זה אתה רואה מתקדם ומבשיל יותר מאחרים?

צזנה: "בינה מלאכותית תהיה התחום הראשון שיפתח את השער. חלק אחר בסינגולריות נוגע לביולוגיה, שנזכה בחיי נצח. יהיו מחשבים שיוכלו לערוך ניסויים ביולוגיים ורפואיים ברמה כל כך מורכבת ומסובכת, שאפשר יהיה ליצור תרופות ומסלולים מטבוליים שישפרו את הבריאות ותוחלת החיים.

"אני מסכים עקרונית עם חלק גדול מהניבויים של הסינגולריות, בייחוד בתור חוקר המתמחה בביולוגיה ובהנדסת רקמות. אם יודעים לעבוד עם התאים כמו שצריך, אדם יכול לחיות מאות שנים. אבל רמת המורכבות של ההליכים כדי להגיע לכך היא הרבה יותר גבוהה ממה שיש לנו כיום. אנחנו מגששים באפלה, ואפילו אם תהיה לנו הבינה המלאכותית הטובה ביותר, זה לא יקרה בעשור הקרוב. וגם אם תיצור תרופה או הליך רפואי כזה, איך בדיוק תבדוק אותם? זה לא כמו בניסויים פיסיקליים שבהם אתה רוצה ליצור, למשל, חור תולעת. ניסויים כאלה מחייבים ניסויים קליניים בבני אדם".

אדם לא יבין זאת

אחד מדברי הביקורת הקשים נגד תורת הסינגולריות הוא שהיא מנסה לבצע תחזיות לעתיד על בסיס הישגים מדעיים בעבר. הוויכוח בין מקטרגי וסנגורי התיאוריה לא שכך עם השנים. באוקטובר האחרון פירסם פול אלן, מייסד מיקרוסופט, מאמר חריף באתר Technology Review מבית MIT, תחת הכותרת "הסינגולריות לא קרובה", לקראת כנס שערך בניו יורק המכון לסינגולריות באותו חודש. "עתידנים כמו ורנור וינגר וריי קורצווייל טועים לחשוב שהעולם מתקרב בצעדי ענק לנקודת מפנה, שבה מחשבים ייהפכו לחכמים יותר מבני אנוש. הם מאמינים שמכונות יהיו בעלות אינטליגנציה על-אנושית שהיא בלתי ניתנת לתפישה, כך שאין לנו שום סיכוי לחזות באופן רציונלי איך יושפעו החיים שלנו.

"על ידי עבודה עם סט מודלים והנחות היסטוריות, קורצווייל מחשב שהסינגולריות תגיע ב-2045. אבל התחזית הזאת נראית לא סבירה. כדי שהסינגולריות תקרה ב-2045 צריכות לקרות פריצות דרך יסודיות לא נתפשות ובלתי צפויות", כותב אלן. לדבריו, קורצווייל מסתמך על קצב הקידמה הטכנולוגית שהושגה עד כה כאילו שזהו חוק פיסיקלי, אבל אי אפשר לחזות כך את העתיד.

לפי אלן, "כדי שהסינגולריות תתרחש ב-2045 יש צורך לא רק בשיפור חומרת המחשב, אלא גם בשיפור התוכנה. כדי להשיג את הסינגולריות לא מספיק להריץ את התוכנה בת ימינו מהר יותר - נצטרך לפתח תוכנות חכמות ובעלות יכולות גדולות. יצירת תוכנות כאלה תחייב הבנה מדעית קודמת של יסודות החשיבה האנושית, ואנחנו רק מגרדים את פני השטח בכל קשור לכך".

ליאור זלמנסון, חוקר מדיה חברתית וקהילות וירטואליות בפקולטה למינהל עסקים באוניברסיטת תל אביב, מבקר את התיאורטיקנים שמנסים לנבא מתי תגיע הסינגולריות. "העתידנים מנסים להסיק איך תיראה האנושות ב-2030 ו-2040, אבל זה לא יותר מניחוש מושכל. היכולת לבחון אירועי עבר ולהסיק לגבי העתיד, בוודאי נוכח תיאוריות כמו 'הברבור השחור' (אירוע יוצא דופן בעל השפעה גדולה, שלכאורה לא היה אפשר לנבאו מראש, אך בבחינת ההיסטוריה יש לצפות כי אירועים מעין אלה יקרו אחת לזמן מה), מוכיחה שניבויים ל-30 שנה קדימה חשופים לטעויות".

לקריין אין ספק שהסינגולריות תקרה, אבל גם הוא תוהה מתי בדיוק. "יש אירועים כמו אפקט הברבור השחור שיכולים להפתיע את כולנו. אני לא יודע מתי זה יקרה, אבל נוכח הכיוון שלוקחים המחקר והמדע, אני בטוח שזה יקרה - אלא אם יתרחש אסון כמו פצצה אטומית.

"אין ספק שיהיו הפתעות, כי תמיד קורה משהו שלא צפו אותו. במאה ה-20 היו כאלה שחשבו שהעיר ניו יורק תטבע בהררי חרא של סוסים, מפני שסוסים שימשו ככלי תחבורה. ואז הגיעו המכוניות ושום דבר מזה לא קרה. אם אפשר ללמוד משהו אחד מהעבר זה שהפתעות תמיד יקרו".

ובכל זאת, איך אפשר להסיק מההתקדמות המדעית והטכנולוגית בעבר לגבי העתיד? "בוא נחשוב מה היה לפני 30 שנה. הציבור הרחב לא שמע על אינטרנט ומחשבים אישיים", אומר זלמנסון. "כיום לכל אחד מאתנו יש ממשק, מכשיר הסמארטפון, שמאפשר לנו להתחבר לכל אדם אחר בלי מאמץ. אז אפשר להניח שבעוד 30 שנה, היכולת שלנו לתקשר עם כל אחד בעולם תהיה קלה יותר.

"כיום אנחנו מאחסנים את כל המידע על החיים שלנו בעולם הממוחשב. התמונות, הסרטים, הזיכרונות שלנו - את הכל אנחנו מאחסנים באינטרנט ומשתפים אחרים. אפשר לקחת את התופעות האלה ולבצע תחזיות על איך שהטכנולוגיה תשפיע עלינו. זה לא שהניבויים בעבר לא היו נכונים. חוק מור, למשל, מתקיים כפי שגורדון מור חזה. חלק גדול ממה שחזו סרטי המדע הבדיוני קרה. שיגור לוויינים הוא דוגמה קלאסית לכך. והיו גם טעויות. אני לא עתידן, ואין ספק שהיכולת שלנו לחזות את העתיד מוגבלת, אבל אם אנחנו יכולים לחשוב על סכנות שיקרו בעתיד אז אפשר גם לחשוב על דברים טובים".

האיש הביוני כבר כאן

ראשון, 16 באוקטובר. המקום: סינמטק תל אביב. השופטת דליה דורנר, הרב יובל שרלו ושלל עיתונאים, חוקרים, מדענים וגיקים טכנולוגים מתכנסים כדי להשתתף בערב עיון על סינגולריות במסגרת פסטיבל אייקון. על הפרק כמה נושאים: ממשק מוח-מחשב, הארכת חיים וריפוי הזיקנה. מדברים על "האיש הביוני" שכיכב בטלוויזיה בתחילת שנות ה-70. אז הוא היה מדע בדיוני.

כיום, 40 שנה אחרי, זה כבר מדע. קריין מספק דוגמאות למה שקורה כיום במחקר המדעי שמזכירות באופן מדהים את האיש הביוני. "כבר כיום אנחנו רואים נכים שיכולים להפעיל את גופם באמצעות אביזרים מתוחכמים. יש אנשים שלוקים בתסמונת הנעילה (תסמונת נדירה שבה פגיעה בגזע המוח גורמת לכך שהגוף כולו נהפך למשותק מלבד העפעפיים, בעוד המוח ממשיך לתפקד כרגיל, ג"ג), שיכולים לתקשר באמצעות פיתוחים טכנולוגיים. מדען ברזילאי אחד הבטיח שכאשר תיפתח אליפות העולם הקרובה בכדורגל בברזיל, הוא יראה איך אפשר לשלוט באמצעות המחשבה על שלד רובוטי חיצוני. אני בהחלט רואה שתוכנות מחשב נהפכות למתקדמות יותר באמצעות כוח מחשוב. גוגל כבר הציגה כלי רכב אוטונומי ללא נהג. מכונית כזאת כבר קיימת, השאלה היא כמה מהן יעלו על הכביש".

מבין כל התחזיות והניבויים של הסינגולריות, מה התחזית שנראה שתבשיל בעתיד הכי רחוק?

"שמירת הזיכרון והתודעה במחשב תקרה בעתיד הרחוק יחסית. זה בעצם יאפשר לנו לחיות לנצח. אבל אנחנו עדיין רחוקים מההבנה הביולוגית של התודעה".

באוקטובר קיים ינקי מרגלית, לשעבר מנכ"ל חברת אלדין, מפגש אינטימי בביתו לדיון על סינגולריות, בהשתתפות כ-20 אורחים מענפי ההיי-טק, הקולנוע והאקדמיה. "המטרה היתה לפגוש אנשים מעניינים, לחלוק רעיונות. זאת לא קבוצה עם אג'נדה מסודרת", אומר מרגלית, שנחשב לאחד המאמינים הגדולים בתיאוריית הסינגולריות בישראל.

מרגלית מתכנן לקיים במארס כנס של אוניברסיטת הסינגולריות בישראל. סינגולריטי יוניברסיטי היא תוכנית קיץ ייחודית שמקבצת מדי שנה למשך חודשיים וחצי 80 מדענים, יזמים, פעילים חברתיים ואנשי עסקים, שנבחרו בקפידה מתוך 1,600 מועמדים מכל העולם. בקיץ האחרון נבחרו הישראלים הילל משעל, עמרי יפה וצביקה אורון להשתתף בתוכנית, שמתקיימת בבסיס נאס"א הממוקם בלב עמק הסיליקון וממומנת על ידי נאס"א, גוגל וגופים נוספים. מטרתה של האוניברסיטה היא לחשוף את המשתתפים לטכנולוגיות המתקדמות ולמחקרים העדכניים ביותר בשלל תחומים, ולעזור להם לבצע פרויקטים שיסייעו לפתור את האתגרים שעומדים בפני האנושות בתחומים כמו מים, מזון, אנרגיה וחלל.

מבין הדברים שהסינגולריות מדברת עליהם, במה אתה מאמין?

"מעניין שאתה מנסח כך את השאלה. אמונה היא דבר שדתיים שואלים עליו. אני לא מאמין בכלום. אבל הסינגולריות מבטאת עבורי רעיון שאני מתחבר אליו. אני לא מתחבר לקשקוש על כך שהסינגולריות תוביל אותנו לחיי נצח. לא צריך לקחת מהסינגולריות את האספקט הדתי, את הקביעה שבתאריך מסוים יקרה משהו, אלא לאמץ את הרעיונות הבסיסיים יותר.

"אני לא מאמין שתוך כמה עשרות שנים נביס את המוות, אבל אני כן מאמין שהסינגולריות מבטאת שינוי מהותי. זאת תפישת עולם שאומרת שמכיוון שאנחנו בתהליך האצה, דברים ישתנו מהותית. אנחנו לא שמים לב, אבל אנחנו כבר נמצאים בתוך מהפכה. היא מתרחשת סביבנו כל הזמן. מה שקורה כעת מבחינת פיתוחים טכנולוגיים הוא רק הקצה של ההתחלה, והטכנולוגיה תמשיך להיות יותר ויותר משמעותית בחיינו".

זה נשמע רומנטי, אבל עובדה שלא ניצחנו את הסרטן. היום-יום שלנו לא דומה לחזון הטכנולוגי שהסינגולריות מציעה.

"נהפכנו לחמדנים. לפני 200 שנה היית יכול להיוולד בכפר גרמני ולמות באותו כפר בלי לעזוב אותו. תסתכל על החיים שלנו היום, תסתכל על הילדים שלנו. אנחנו מצפים שהכל יקרה מיידית. רוב האנשים לא מצליחים להדביק את קצב המהפכה. דורות שלמים עדיין לא מתחברים לפיתוחים הטכנולוגיים, אבל ילדים בני שנתיים וחצי מחליקים את האצבע על האייפון בצורה מנוסה וטבעית".

לא עולם לטיפשים

מרגלית מדגיש פן נוסף שבו הטכנולוגיה משפיעה ותוסיף להשפיע על חיינו: הפן המקצועי. לא מעט מקצועות ייעלמו בעשרות השנים הקרובות, הוא אומר, ואחרים יחליפו אותם. "השינוי הדרמטי של הסינגולריות לא יקרה בבת אחת, אלא מתהווה באופן בלתי פוסק. בקצב שבו הבינה המלאכותית מתפתחת, לא נעים לומר, מקצוע כמו עיתונות ילך וייעלם. בעוד 30 שנה רוב האנשים שעוסקים בניתוח של מידע יעברו מהעולם. תראה מה גוגל עשה למקצוע הספרנות. אם פעם ספרנים באוניברסיטאות זכרו בדיוק היכן מונח כל ספר או כתב עת, כיום המחשב עושה את זה. כלי הרכב האוטונומי של גוגל עשוי לייתר את כל מקצוע הנהיגה. יכול להיות שנמצא את עצמנו במצב שבו לא נדע מה לעשות עם אנשים עם מנת משכל נמוכה מ-100".

לא רק מרגלית מוטרד מההשלכות החברתיות שעשויות להיות על האנושות בעידן שבו הטכנולוגיה משתכללת. אחד הפאנלים שנערכו בכנס אייקון עסק בצדק חברתי במאה השנים הבאות. אם ב-200 השנים האחרונות ריפאנו מחלות והכפלנו את תוחלת החיים, פיצחנו את האטום, נחתנו על הירח ופיענחנו את סלילי החיים, לאן מועדות כעת פני האנושות? אם שתלים מצילי חיים ותחליפי גפיים לנפגעי תאונות נוראיות נהפכו עם השנים למתקדמים ולמתוחכמים יותר ויותר - עד כי אדם חסר רגליים יתמודד בשנה הבאה בתחרויות האתלטיקה הקלה באולימפיאדה - האם ראוי לקבוע גבולות לתגבור היכולת האנושית?

ויש שאלות מורכבות עוד יותר. האם הורים יוכלו להימנע מלידתם של לבקנים, או של ילדים בעלי צבע עיניים, שיער או עור מסוימים, שלא לדבר על תכונות אופי? היכן עובר הגבול בין בחירה אישית, הנדסה חברתית ודארוויניזם גנטי? כיצד ייראה עולם עם משאבים מוגבלים, שבו תוחלת החיים הממוצעת היא 200 שנה? אילו דילמות יעמדו בפני נבחרי ציבור ומדינאים, רופאים וחולים, מורים ותלמידים, סבים, הורים וילדים בעולם כזה? אלה שאלות קשות ומורכבות שאין עליהן תשובה ברורה. "אנחנו צפויים לחוות שינויים תרבותיים שקשה מאוד לחזות, כפי שאי אפשר היה לחזות את השינויים שגרם האינטרנט. אני חושש גם מהפער הדיגיטלי. יש אנשים שנמצאים קדימה בטכנולוגיה ויש אנשים שנמצאים הרחק מאחור", אומר קריין.

השאלות הפילוסופיות האלה מעסיקות גם את ד"ר אייל דורון, יוצר טלוויזיה וחוקר. דורון חושב שההשפעה העיקרית של התפתחות הטכנולוגיה היא שהאנושות נהפכת לעדרית. "כולנו נמצאים בכנסיית פייסבוק, הטכנולוגיה גורמת לנו להתגודד יחד. נהפכנו לעדר", הוא קובע. "הדור הצעיר הרבה יותר קבוצתי ואלטרואיסטי מקודמיו, הוא רוצה להיות חלק מקולקטיב. כל הדיבורים על כך שהצעירים נהפכו לנרקסיסטים התנפצו".

אבל התחושה היא שהשינוי הגדול לא קורה. איפה העולם הטכנולוגי המדהים שהבטיחו לנו?

"אני ואתה שייכים לאחד הדורות האחרונים שיחיו את העולם בצורתו הנוכחית. האנושות מתקדמת כל הזמן. השאלה מתי יתחולל המהפך של הסינגולריות דומה לשאלה מתי גרגיר חול נהפך לערימת חול, או מתי איש נהפך לקירח. אין לי ספק שאם היינו מדברים לפני 15 שנה על כל השינויים הטכנולוגיים שמתרחשים כיום, זה היה נשמע הזוי.

"אני לא רוצה להלך אימים, אבל המחשוב יגרום לשינויים דרמטיים באופן שבו אנחנו חיים. לפני 15 שנה לא נראה הגיוני שהכוח המחשובי שיש בסמארטפון יהיה חזק יותר מכל הכוח החישובי שעמד לרשות נאס"א כשהטיסה את האדם הראשון לירח. כשאתה מדבר עם סטודנט לתואר ראשון בהנדסה, והוא מספר לך שבשנה השלישית ללימודיו 20% מהחומר שהוא למד נהפך ללא רלוונטי, אתה מבין לאיזה מצב הגענו. למה אנחנו לא מצליחים לשים אצבע מתי קורה השינוי? כי קשה לנו להרים את הראש מהיום-יום. אבל עוד נתון ועוד נתון, והעסק מצטבר - ואם אתה מסתכל על חמש השנים האחרונות, אתה מבין שמשהו קורה באופן שבו הטכנולוגיה משנה את העולם".

מרגלית לא לבד בארגון קבוצה שמנסה לחבר את מאמיני תורת הסינגולריות. גם זלמנסון מארגן קבוצת דיון בעניין, שעוסקת בעיקר בהיבטיים תיאורטיים. חברים בה אקדמאים, אמנים וסתם חובבי טכנולוגיה ומדע. הוא לא רוצה לכביר עליה מלים, אבל "יכול להיות שבשלב מאוחר יותר אספר עליה לציבור הרחב". לדבריו, לסינגולריות יש לא רק השפעות חברתיות משמעותיות, כפי שמציין דורון, אלא גם השפעות דתיות, מכיוון שלטענתו אפשר להגדיר את הסינגולריות במובנים מסוימים כדת.

"מבחינות רבות הסינגולריות עונה על התנאים שמגדירים אותה ככת. נקודת המפתח שלה היא של הכחשת המוות. הטרנס-הומניסטים מאמינים שכשאדם ומכונה יתאחדו הם יוכלו להאריך את חייהם ולחיות חיי נצח, גם אם המודעות תצטרך לחיות בתוך מחשב", הוא מסביר. "המאמץ ליצור בינה מלאכותית שתתנהג כמו בן אדם ושתעבור את מבחן טיורינג יכולה להעיד על דתיות מסוג חדש, על טכנולוגיה כמושיעת הקיום".

ואם העובדה שתוכנה כבר יכולה להטעות אותנו כך שנחשוב שהיא אנושית אינה הוכחה מספיק טובה למה שאומרים תומכי הסינגולריות, ייתכן שהראיה הכי טובה לרלוונטיות של התיאוריה היא העובדה שיותר ויותר אנשים מתעניינים בה - כנראה כי הם חשים שהיא אומרת משהו על חייהם. "לפני שנה רוב האנשים לא ידעו מהי סינגולריות, וכיום יש כנסים ומפגשים. בהיי-טק מתעסקים בזה. המודעות מתחילה לעלות", אומר קריין. "הנושאים שבלב הסינגולריות, כמו רובוטיקה ואינטליגנציה מלאכותית, נמצאים בלב המחקר המדעי. חקר המוח הוא תחום חם במדע. יותר אנשים קונים רובוטים".

רובוטים לניקוי הבית.

"זאת התחלה".

האם הילדים שלנו יחיו לנצח?

המתמטיקאי ו.ג'. גוד היה הראשון שטבע את המונח "סינגולריות" בהקשר של התקדמות טכנולוגית. מי שהפך אותו לנחלת הכלל (באופן יחסי) היה סופר המדע הבדיוני האמריקאי ורנור וינג', שפירסם ב-1993 מאמר תחת הכותרת "הסינגולריות הטכנולוגית הממשמשת ובאה". וינג' וריי קורצווייל נחשבים כיום לקולות הבולטים של התיאוריה.

התחזיות האלה מתבססות על ההנחה שההתפתחות הטכנולוגית מתקדמת בקצב הנדסי - הרחבה של חוק מור שניסח מייסד אינטל, גורדון מור, ב-1965, שלפיו יחס העלות-ביצועים של שבבי מחשב מכפיל את עצמו מדי כשנתיים. החוק הוכיח את עצמו: תוך פחות מ-50 שנה מוזער כוח המחשוב של מחשב בגודל בניין, שעלה מיליוני דולרים, למחשב בגודל כף יד בעלות של מאות דולרים. כעת צופים כי תוך שנים ספורות אפשר יהיה ליצור עוצמה זהה במחשב בגודל תא דם, שיעלה עשרות דולרים בלבד ויוביל לטשטוש האבחנה בין אדם למכונה ובין מוח למחשב. המחשבים הבאים, כך נראה, יהיו שונים לא רק טכנית, אלא מהותית: אולי הם יהיו מחשבים קוונטיים או ביולוגיים.

המונח "סינגולריות" מתייחס כיום לכמה דיונים עיקריים. הראשון עוסק במה שמכונה "התפוצצות אינטליגנציה": הנקודה שבה המחשבים יהיו חכמים יותר מהאנושות, ויוכלו לשפר את עצמם בכוחות עצמם. לפי המכון העולמי לסינגולריות ולבינה מלאכותית (SIAI), "כשהאנושות תיצור מכונות עם יכולות טובות יותר ממנה, הן ישדרגו את עצמן בכל דור מחדש. בסופו של דבר תיווצר מכונה עם 'סופר-אינטליגנציה'".

כך, לדוגמה, ב-1994 התחרה במשחק שחמט מחשב בשם "כחול עמוק" מתוצרת יבמ, שפותח אך ורק כדי לשחק שחמט - בהשקעה של מיליוני דולרים - עם הרב אומן גארי קספרוב. יכולות החישוב לא עמדו למחשב מול האסטרטגיה של גאון השחמט, והוא הפסיד. כעבור שנתיים התייצב שוב "כחול עמוק" מול קספרוב. אז כבר היתה לו יכולת לחשב 200 מיליון מהלכים בשנייה, ומאה שנות משחקי שחמט הוזנו לזיכרונו. להפתעת רבים, המחשב ניצח.

ב-2011 הצליח מחשב בשם ווטסטון, שנוצר אף הוא על ידי יבמ, לנצח שני אלופים אנושיים בשעשועון האמריקאי הפופולרי "!Jeopardy". איך הוא עשה זאת? מפתחיו סיפקו לו יכולת עיבוד כוללת של 80 טרה-פלופים (Teraflops). טרה-פלופ הוא טריליון פעולות לשנייה. ווטסון, שנקרא על שמו של מייסד יבמ תומס ווטסון, יכול לקרוא 200 עמודי נתונים ולספק תגובות מדויקות תוך שניות. יבמ הודיעה בספטמבר כי הוא יסייע באבחון חולים.

האם מחשבים יכולים ליהפך לחכמים יותר מבני אדם? יש ויכוח ער סביב השאלה הזו, אך נראה כי היום שבו מחשבים יהיו אינטליגנטיים יותר מבני אדם עדיין רחוק. כבר כיום מחשבים חכמים מבני אדם במטלות פרטניות - חישובים ספציפיים, משחק שחמט, חיפוש מידע במרכזי מחשוב עצומים ועוד - אבל ההגדרה של אינטליגנציה רחבה יותר, ונוגעת ליכולת להגיע למטרות שונות במגוון רחב של סביבות. בני אדם יכולים להסתגל למצבים משתנים ולבעיות חדשות, ובניגוד למחשבים, הם מסוגלים לפתור בעיות שהחומרה והתוכנה שלהם לא אומנו להן.

בימים אלה מנסים מדענים לחקות את כל מבנה המוח בפרויקט השאפתני "המוח הכחול", שמרכזו בשווייץ. הרי אם מעגלים ממוחשבים מתקשרים אלה עם אלה מהר יותר מנוירונים, אפשר ליצור רשת מוחית שתפעל מהר יותר מהמוח האנושי. אבל ייתכן שגם אנשים בשר ודם יכולים להרוויח מהפיתוחים האלה. מדענים מנסים להפוך גם את בני האדם לחכמים יותר, באמצעות מה שהם מכנים "שיפור יכולות קוגניטיביות באמצעות תהליכים ביולוגיים". במלים אחרות, הם מנסים למצוא גנים או מולקולות שאפשר לבצע בהם שינוי כדי לשפר את האינטליגנציה שלנו. כבר הוכח, למשל, כי השתלת גן מסוים בעכברים משפרת את הזיכרון שלהם, ויש מחקרים רבים נוספים בתחום. מובן שהעניין מעורר גם שאלות אתיות לא פשוטות.

הסוגיה השנייה שמעניינת את חסידי הסינגולריות היא הממשק המשתכלל בין בני אדם למכונות, ובעיקר בין המוח למחשבים. המדע כבר הצליח, למשל, להחזיר את הראייה לעיוורים באמצעות שבב שמושתל ברשתית העין. גם בישראל קיימים פיתוחים כאלה: חברת ננו-רטינה מהרצליה פיתוח, שהוקמה על ידי היזם יוסי גרוס, מפתחת שתל שיחליף את התאים קולטי האור ברשתית ויספק תמונה בשחור-לבן ברזולוציה של 1,300 פיקסלים. הדור השני של השבבים אמור לספק רזולוציה של 5,000 פיקסלים. בחברה אומרים כי השבב יאפשר למטופלים לזהות פרצופים ולצפות בטלוויזיה. חברת ארגו מדיקל מישראל פיתחה מכשיר שמאפשר למשותקים בשתי הרגליים ללכת מחדש בסיוע קביים.

הסוגיה השלישית שמתייחסים אליה היא ריפוי הזיקנה והארכת חיי האדם. במשך אלפי שנים היתה תוחלת החיים העולמית הממוצעת 35 שנה. תוך פחות מ-200 שנה הצליחו המדע, הטכנולוגיה והרפואה להכפיל אותה ביותר מפי שניים - ורבים מגיעים גם לגיל 100 ומעלה. כעת משערים שבני הדור הנוכחי יזכו לראות את המאה ה-22, ויש גם כאלה שטוענים שבעתיד הלא-כל-כך-רחוק הטכנולוגיה תאפשר לכולנו לחיות חיי נצח. מדענים ורופאים אחרים מציעים להתייחס אל הזיקנה כאל מחלה בת ריפוי. אחד הדוברים הראשיים של תנועה זו הוא ד"ר אוברי דה-גריי, חוקר זיקנה בריטי מקיימברידג', שייסד את קרן מתושלח - שמטרתה להאריך באופן דרמטי את תוחלת החיים.

"ממשלות עלולות ליצור אסון"

אחד האורחים החשובים שהגיעו לכנס על הסינגולריות שנערך במכון ון ליר בירושלים הוא מייקל ואסאר - עתידן, אקטיביסט ויזם שמכהן כיום כנשיא המכון העולמי לסינגולריות ולבינה מלאכותית. המכון הוא ארגון ללא מטרת רווח, שהוקם ב-2000 לשתי מטרות. זהו מכון מחקר לקידום פיתוחה של בינה מלאכותית, אך הוא משמש גם כמוסד ציבורי שמבקש להגביר את המודעות לסיכונים ולאפשרויות הגלומות בה.

המכון מקיים מדי שנה את "פסגת הסינגולריות", כנס בינלאומי שסוקר את ההתפתחויות בחזית המדע. ב-15 באוקטובר נערך הכנס האחרון בניו יורק. העתידן המוכר ריי קורצווייל, אחד הדירקטורים הבכירים בהנהלתו הנוכחית של המכון, השתתף בו.

"אני עוסק בהעלאת המודעות הציבורית לסינגולריות, בקיום מחקרים ובהפקת כנסים מקצועיים", אומר ואסאר. "אחד התחומים שהמדע מתקדם בהם הוא רפואה מותאמת אישית. אני מאמין שתוך זמן קצר נוכל להוסיף לחיינו עשור או שניים בזכות תרופות שמתאימות את עצמן ספציפית אלינו. תוחלת החיים שלנו תגדל ל-100 שנה".

לדברי ואסאר, תפקידו של המכון גם להעלות את המודעות לתרחישים שליליים שעלולים לנבוע מהשתכללות הטכנולוגיה. "אנחנו רוצים לדאוג לכך שהאנושות תשרוד. אני לא אומר שהמכונות ישתלטו על בני אדם ויחשבו שהן עליונות, אבל הממשלות עלולות להתנהג בטיפשות ולהשתמש בטכנולוגיות כדי לגרום לאסון". ואסאר מביע דאגה גם מכך שהמחקר המדעי נהפך לשטחי. "חוקרים מעדיפים לחקות ולא לחדש. הם לא מנסים לעשות ניסויים שיובילו את הסינגולריות קדימה".

בעיה אחרת, לדבריו, היא חוסר המודעות של הציבור לסינגולריות. "אנשים לא יודעים על זה בכלל. יש בעולם אולי 100 איש שמכירים את הנושא באופן מעמיק, עוד 1,000 איש שמודעים לכך, עוד 10,000 שקראו על כך ואולי כמה מיליונים ששמעו על זה משהו. אבל זה די הגיוני. כמה אנשים באמת יודעים מהי תיאוריית האבולוציה?"

כשהוא נשאל לדעתו על אפליקציית הסירי של אייפון, שמאפשרת לבקש בקול מהטלפון לבצע פעולות מסוימות, ואסאר משיב כי "סירי היא בהחלט אפליקציה מרשימה, אבל היא רק עוד טכנולוגיה אחת מרבות שמעידות על התקדמות בינה מלאכותית. בכל שנה יוצאת טכנולוגיה מהסוג של סירי. זה פשוט לא מגיע למודעות של הציבור הרחב".