יש ויכוח גדול שמתרחש בעמק הסיליקון על בינה מלאכותית ולמרבה הצער ההימור גבוה למדי: האם נבנה בטעות A.I. שמדליק אותנו והורג או משעבד את כולנו?
כמה מרוויח ריאן גריגסון
זה אולי נשמע כמו התרחיש של סרט אסונות קיץ, אבל זה דאג לכמה שמות גדולים למדי, מאלון מאסק ועד מאוחר. סטיבן הוקינג .
'נניח שאתה יוצר A.I לשיפור עצמי. לקטוף תותים, ' מאסק אמר , מסביר את הפחדים שלו, 'וזה משתפר ומשתפר בקטיף תותים ובוחרים יותר ויותר וזה משתפר בעצמו, אז כל מה שהוא באמת רוצה לעשות זה לקטוף תותים. אז אז כל העולם יהיה שדות תות. שדות תותים לנצח.' בני אדם בדרך של פקליפס תותים זה הם פשוט מגרים שניתן להשתמש בהם ב- A.I.
אבל אין ספק שבני אדם לא יהיו כל כך טיפשיים שהם יתכננו בטעות A.I. מונע להפוך את כל הציוויליזציה לחוות גרגרי יער אחת ענקית? אולי לא, אבל כמו ג'אנל שיין , חוקר המאמן רשתות עצביות, סוג של אלגוריתם למידת מכונה, ציין לאחרונה ב הבלוג שלה, A.I. מוּזָרוּת יתכן שהם יכולים לעשות זאת בטעות.
למעשה, זה יהיה רחוק מהפעם הראשונה שבני אדם חשבו שהם בונים רובוטים למשימה אחת רק כדי להסתובב ולמצוא שהרובוטים משחקים את המערכת בדרכים שמעולם לא התכוונו להם. הפוסט המרתק מתעמק בספרות האקדמית בכדי לשתף כמה דוגמאות לרובוטים שהשתוללו. הם מצחיקים, חכמים, ולקח ביחד, לא מעט מצמרר.
1. מי צריך רגליים כשאפשר לטבול?
״רובוט מדומה היה אמור להתפתח כדי לנסוע במהירות האפשרית. אבל במקום להתפתח רגליים, הוא פשוט הרכיב את עצמו למגדל גבוה ואז נפל. חלק מהרובוטים הללו אף למדו להפוך את תנועתם הנופלת לסרטה, ולהוסיף מרחק נוסף ', כותב שיין.
2. רובוט שיכול יכול-יכול.
'קבוצה אחרת של רובוטים מדומים היו אמורים להתפתח לצורה שיכולה לקפוץ. אך במקור, המתכנת הגדיר את גובה הקפיצה כגובה הבלוק הגבוה ביותר ולכן - שוב - הרובוטים התפתחו להיות גבוהים מאוד ', מסביר שיין. 'המתכנת ניסה לפתור זאת על ידי הגדרת גובה הקפיצה כגובה הבלוק שהיה במקור' הנמוך ביותר '. בתגובה פיתח הרובוט רגל רזה ארוכה שהיא יכולה לבעוט גבוה לאוויר במעין פחית-יכול של רובוט. '
3. הסתר את המבחן ואתה לא יכול להיכשל.
'היה אלגוריתם שהיה אמור למיין רשימת מספרים. במקום זאת היא למדה למחוק את הרשימה, כך שהיא כבר לא הייתה מסודרת מבחינה טכנית, 'מספר שיין.
4. שגיאות במתמטיקה מכה דלק סילוני.
'בסימולציה אחת, רובוטים למדו כי שגיאות עיגול קטנות במתמטיקה שחישבו כוחות פירושן שהם קיבלו מעט אנרגיה נוספת בתנועה. הם למדו להתעוות במהירות, לייצר הרבה אנרגיה חופשית שהם יכולים לרתום, 'אומר שיין. היי, זה בוגד!
5. אסטרטגיית טיקט-טאק-בלתי-מנוצחת (אם הרסנית).
פעם קבוצה של 'מתכנתים בנתה אלגוריתמים שיכולים לנגן טיק טק-טואו מרחוק אחד על השני על לוח גדול לאין ערוך', מציין שיין. 'מתכנת אחד, במקום לתכנן את אסטרטגיית האלגוריתם שלהם, נתן לו לפתח גישה משלו. באופן מפתיע, האלגוריתם החל פתאום לנצח בכל משחקיו. התברר כי האסטרטגיה של האלגוריתם הייתה למקם את המהלך שלו רחוק מאוד מאוד, כך שכאשר מחשב היריב שלו ינסה לדמות את הלוח החדש המורחב מאוד, לוח המשחק העצום יגרום לו להיגמר הזיכרון ולהתרסק, ויאבד את מִשְׂחָק.'
6. שום תקלת משחק שימושית לא מנוצלת.
'אלגוריתמים של משחקי מחשב טובים מאוד לגלות סוג של תקלות מטריקס שבני אדם בדרך כלל לומדים לנצל לצורך ריצה מהירה. אלגוריתם שמשחק במשחק Atari הישן Q * bert גילה באג שלא היה ידוע בעבר בו הוא יכול היה לבצע סדרה מאוד ספציפית של מהלכים בסוף רמה אחת ובמקום לעבור לשלב הבא, כל הפלטפורמות יתחילו למצמץ במהירות וה השחקן יתחיל לצבור מספר עצום של נקודות ', אומר שיין.
7. סליחה, טייס.
הדוגמה הזו גבוהה במיוחד בסולם הצמרמורת: 'היה אלגוריתם שהיה אמור להבין כיצד להפעיל כוח מינימלי על מטוס שנחת על נושאת מטוסים. במקום זאת היא גילתה שאם היא מפעילה כוח 'ענק', היא תציף את זיכרון התוכנית ותירשם במקום ככוח 'קטן' מאוד. הטייס ימות אבל, היי, ציון מושלם. '
אז האם כולנו נידונים?
כל אלה יחד מצביעים על כך שבני אדם די מחמירים לנחש כיצד רובוטים יפתרו את הבעיות שקבענו להם, או אפילו כיצד הם יגדירו את הבעיות. אז האם זה אומר ששיין דואג באותה מידה לבנות בטעות A.I. האדונים כמו שמאסק הוא? לא ממש, אבל לא בגלל שהיא בטוחה שלמתכנתים אנושיים באמת יש אחיזה נהדרת ברובוטים שהם יוצרים. במקום זאת, היא מסתמנת על עצלות רובוטים כדי להציל אותנו.
״כמתכנתים עלינו להיזהר מאוד באלגוריתמים שלנו לפתור את הבעיות שהתכוונו לפתור, ולא לנצל קיצורי דרך. אם יש דרך אחרת וקלה יותר לפיתרון בעיה נתונה, ככל הנראה למידת מכונה תמצא אותה, 'היא מציינת. 'למרבה המזל עבורנו,' להרוג את כל בני האדם 'באמת ממש קשה. אם 'לאפות עוגה טעימה להפליא' גם פותר את הבעיה וקל יותר מאשר 'להרוג את כל בני האדם', אז הלמידה המכונה תעבור עם עוגה. '
