לפני מותו, פיזיקאי סטיבן הוקינג ראה דברים שרק מעטים אחרים יכלו - טבעו האמיתי של הזמן, מה קורה בתוך חורים שחורים ועוד. האם הוא יכול היה גם לראות את עתיד הבינה המלאכותית?
בין אם מכונות חכמות יהיו המושיעים של האנושות או הרס שלה הוא נושא חם בקרב טכנולוגים סופר חכמים, החל מאלון מאסק (לא אופטימיסט) ועד ביל גייטס ו מארק צוקרברג (אופטימי בזהירות). להוקינג, עם המתנות האינטלקטואליות המדהימות שלו, היה הרבה מה לומר בנושא. אך בניגוד לחלקם, הוא התמקד בפוליטיקה באותה מידה כמו בתכנות.
בין אם שלנו עתיד רווי טק הופך לאוטופיה או דיסטופיה תלוי באופן שבו אנו מתייחסים זה לזה, הזהיר הוקינג ממש לפני מותו.
עידן של שפע או עידן של עוני?
בעוד הוקינג השמיע חששות מפני סוג של עולם אמיתי רובופוקליפסה 
איפה שלנו מכונות חכמות מדליקות אותנו כמו כלבלב שעבר התעללות שגדל לכלב אכזרי (תרחיש הסיוט של מאסק), נראה כי הדאגה העיקרית שלו לגבי עתיד ה- AI היא כיצד להתמודד עם שפע מדהים, עתיד שבו בני אדם די מיותרים. אם רובוטים מייצרים את כל מה שאנחנו צריכים, מה נעשה כל היום ואיך רובנו נרוויח כסף?
זאת, התעקש הוקינג AMA לאחרונה של Reddit (שאל אותי הכל) הייתה השאלה המדאיגה באמת:
'אם מכונות מייצרות את כל מה שאנחנו צריכים, התוצאה תהיה תלויה באופן חלוקת הדברים. כולם יכולים ליהנות מחיי פנאי מפוארים אם חולקים את העושר שמייצר מכונה, או שרוב האנשים יכולים להיות עניים עד מאוד אם בעלי המכונות מצליחים לובי נגד חלוקה מחדש של עושר. '
תמונה של אשתו של השופט מתיס
בקיצור, מה שבסופו של דבר יעמוד בפני חיים של קלות ומימוש עצמי עבור רוב המין האנושי לא יהיה טכנולוגיה, אלא פוליטיקה ופסיכולוגיה. ובעוד הוקינג נראה אופטימי באומץ ביחס ליכולותינו לבנות דברים מדהימים, הוא היה הרבה פחות מדויק ביכולתנו לחלוק את שלל החידוש הזה.
'עד כה נראה כי המגמה היא לעבר האופציה השנייה, כאשר הטכנולוגיה גורמת לאי-שוויון הולך וגובר', המשיך ב- AMA.
דיון מקוון אחד זה היה רחוק מהפעם היחידה שהוא עורר חששות. AI, הוא ניבא לפני כמה שנים בפתיחתו של מרכז מחקר חדש באוקספורד, עשוי לאפשר לנו 'למגר סופית מחלות ועוני. כל היבט בחיינו ישתנה. בקיצור, הצלחה ביצירת AI יכולה להיות האירוע הגדול ביותר בתולדות התרבות שלנו. ' אבל הוא המשיך, 'לצד היתרונות, הבינה המלאכותית תביא גם לסכנות, כמו ... דרכים חדשות עבור מעטים לדכא את הרבים.'
אזהרה לשארנו.
מה שאולי הכי חשוב באזהרות אלה הוא שכולנו צריכים להתחשב בהן. בעוד קריאות מומחים 'מתג להרוג' למודיעין רובוטים הם מרתקים וללא ספק מרתקים מאוד את מיומני הטכנולוגיה, ג'ו או ג'יין הממוצעים ברחוב לא יישאו חלק בעצם התכנון והעסקה של פתרונות טכניים אחרים או סכנות אחרות לסכנות של AI.
אבל כולנו מצביעים (או לפחות שכולנו צריכים), וכולנו לוקחים חלק בדיון הציבורי כיצד לחלוק עושר ולתמוך בפגיעים, או לא. מדי יום אנו מקבלים החלטות לגבי מי שנמצא ב'שבטנו 'וראוי לעזרתנו. אמנם, ככל הנראה, לעולם לא תדע הרבה על הפרטים הטכנולוגיים המחוספסים של בניית AI, אבל אזרח, כנראה שתחשוב איך אנו חולקים את שלל החידושים המבריקים האלה. לוקח כמה דקות לשקול את אזהרותיו של הוקינג היא דרך נהדרת לכבד את מורשתו.
