מבט לאחור

חוקי הרובוטיקה של אייזק אסימוב הם שלושה עקרונות שמופיעים בספריו כמערכת אתית[1] שבני האדם מטביעים בתוך ”המוח” הרובוטי, כדי למנוע מן המכונות לפגוע בבני האדם:

 

החוק הראשון:

רובוט לא יפגע באדם, ולא יאפשר, מתוך חוסר מעשה, שאדם ייפגע

 

החוק השני:

רובוט חייב לציית לפקודות שניתנות לו בידי בני אדם, אלא אם כן פקודות אלה עומדות בסתירה לחוק הראשון

 

החוק השלישי:

רובוט חייב להגן על קיומו, כל עוד הגנה זו אינה עומדת בסתירה לחוק הראשון או לחוק השני

 

אלא שכמעט כל סיפור שבו הם מופיעים מוכיח את ההפך. החוקים אינם פותרים את הבעיה, אלא מייצרים אותה.

עם השתלטות הבינה המלאכותית על כל תחומי חיינו, תהליך שהואץ באמצעות הופעת ChatGPT בשנת 2022, המונח ”רובוט” נדמה מובן מאליו, אך ראשיתו ספרותית לגמרי. הוא נטבע בשנת 1920, בידי קארל צ'אפק במחזהו .R.U.R, שם נגזר מן המילה הצ’כית robota, במשמעות עבודה או עבודת כפייה. אצל צ’אפק, הרובוטים אינם מכונות מתכת אלא יצורים מלאכותיים דמויי אדם, שנועדו לשרת, אך לבסוף מורדים. מעצם הפוטנציאל שיש לרובוטים לעשות דברים שלא נאמרו להם, יוצר צ'אפק מתח בין יצירה לשליטה, בין תועלת לאיום.

אל תוך המסורת הזאת נכנס אסימוב בשנות הארבעים. כדי למנוע מצב שבו הרובוט קם על יוצרו, הוא מציע לצרוב לתוכם מערכת חוקים שתבטיח, לכאורה, את נאמנותם. שלושת חוקי הרובוטיקה נוסחו לראשונה סביב 1941—1942 (ומופיעים בניסוח מלא בסיפור ”סחור סחור” מ־1942), וקובצו מאוחר יותר בקובץ ”אני, רובוט” ב־1950. בניגוד לצ’אפק, אסימוב מבקש לנטרל את חרדת המרד באמצעות לוגיקה. הרובוט איננו ישות מסוכנת מטבעו, אלא מערכת שאפשר לעצב את ערכיה באמצעות חוקים.

אבל כאן בדיוק מתגלה הפרדוקס הספרותי הגדול: החוקים, שנועדו להבטיח יציבות, הם מקור הסיפור. כל סיפור אצל אסימוב הוא ניסוי מחשבתי שבו נוסח החוק נבחן באמצעות מקרה קצה. מהי ”היפגעות”? האם יש למנוע רק נזק מיידי, או גם סבל עתידי? מהו ”אדם”? האם ההגדרה כוללת כל יצור אנושי באשר הוא, או גם את טובת האנושות כשלם? האם חוסר מעשה הוא פעולה? האם אי־התערבות שקולה לגרימת נזק? שאלות אלו אינן טכניות בלבד, אלא גם פילוסופיות, והן מתגלות דרך כשלים, פרשנויות סותרות ומצבים שבהם הרובוט ”נתקע” בין חובות מתנגשות. יש לציין כי גם התרגומים השונים לעברית (עמנואל לוטם, אהרן אמיר, אורי בלסם ועוד) נעים בין ניסוח משפטי בתרגומים אחדים (”לא יאפשר", "במחדל”) לניסוח סיפורי באחרים (”לא יעמוד מנגד”), והבדל זה אינו זניח: הוא משקף את המתח בין חוק כקוד פורמלי לבין חוק כעיקרון מוסרי פתוח לפרשנות.

אסימוב פעל בתוך הקשר, ובתוך ההגות בת זמנו בלט הספר ”קיברנטיקה” של נורברט וינר, שפורסם ב־1948. וינר לא כתב על רובוטים ספרותיים, אלא על מערכות בקרה, משוב ותקשורת בין אדם למכונה. קיברנטיקה עוסקת בשאלה כיצד מערכות שומרות על יציבות באמצעות תיקון עצמי, וכיצד הן ”לומדות” מהסביבה ומאזנות את פעולתן. במובן זה, אסימוב אינו קיברנטיקן, אך הוא קרוב מאוד לרוח התקופה. חוקי הרובוטיקה הם מעין מערכת בקרה מוסרית: הם מגדירים אילוצים שבתוכם הרובוט פועל, בדומה לאופן שבו מערכת קיברנטית פועלת תחת מגבלות של משוב. עם זאת, בעוד וינר מדגיש דינמיות, הסתגלות וזרימה של מידע, אסימוב מתעקש על חוקים קשיחים והיררכיים. המתח בין שני המודלים, חוק מול משוב, מהדהד עד היום בשיח על בינה מלאכותית. אך גם אסימוב עצמו, בהמשך יצירתו, הרחיב את מערכת החוקים עם ”חוק האפס”, שמעמיד את האנושות, כמכלול, מעל האדם הבודד.

 

חוק האפס:

רובוט לא יפגע באנושות, ולא יאפשר, מתוך חוסר מעשה, שהאנושות תיפגע

 

הרחבה זו נולדת מתוך מגבלה פנימית של החוק הראשון: כל עוד הרובוט מחויב רק לאדם היחיד, הוא עלול לקבל החלטות שמונעות פגיעה מיידית בפרט אך מזיקות לאנושות (”כמערכת”) בטווח הארוך. חוק האפס מבקש לפתור את הסתירה הזאת באמצעות מעבר מן היחיד אל הכלל. מרגע זה, הרובוט אינו נשאל רק כיצד להגן על אדם מסוים, אלא כיצד לפעול לטובת האנושות כמכלול, גם כאשר טובת הפרט עומדת מולה. בכך הוא חדל להיות רק מנגנון מוסר טכני ונעשה מעין שחקן פוליטי, המכריע בין אינטרסים מתחרים בשם טוב משותף.

אסימוב הבין שחוקי הרובוטים צריכים לעבור התאמות ככל שהם נטמעים בחיינו, במקרה זה מן האדם הפרטי אל האנושות ככלל. ואומנם, אם נשוב לשאלה הפשוטה לכאורה ”מהו רובוט”, נגלה שהתשובה השתנתה בהדרגה. אצל צ’אפק זהו עבד מלאכותי; אצל אסימוב ישות לוגית הכפופה לחוקים; ואצל וינר חלק ממערכת של תקשורת ובקרה. עם המעבר ממכונות פיזיות למערכות חישוביות, הרובוט כבר לא חייב להיות בעל גוף. הוא נעשה תהליך: מערכת שמפיקה התנהגות מתוך תנאים, מתוך קלט, מתוך סביבה. במובן זה, הוא כבר איננו ישות שפועלת לפי חוקים פנימיים במובן הפשוט, אלא משהו חמקמק יותר, שקשה לתארו במונחים של כלל והוראה. אם כך, מה מחליף את החוק?

 

החוקים כעולם ספרותי

חוקי הרובוטיקה של אסימוב אינם פועלים רק כהצהרה עקרונית, אלא ככלי ניסויי שמתממש מחדש בכל סיפור. כך למשל, בסיפור ”סחור־סחור”, מתגלה לראשונה מצב שבו החוק השני והחוק השלישי מתנגשים. בני האדם מצווים על הרובוט ללכת ולהביא סלניום. לכן, בהתאם לחוק השני, הוא מתקרב לאזור מסוכן, אך סכנת המוות מפעילה את החוק השלישי. הפקודה אינה חזקה דיה לבטל את יצר השימור העצמי, והסכנה אינה מוחלטת דיה כדי לבטל את הציות, ולכן הוא נתקע במסלול מעגלי סביב היעד, מתקרב ומתרחק שוב ושוב. מתברר כי גם היררכיה ברורה אינה מבטיחה פעולה, אלא יכולה לשתק אותה.

במקרה אחר, בסיפור ”שקרן!”, מתערב החוק הראשון בצורה בלתי צפויה. כדי לא לפגוע בבני אדם, הרובוט משקר להם. הרובוט בסיפור הזה ניחן ביכולת לקרוא מחשבות, אך בפועל הוא אומר לכל אדם בדיוק את מה שישמח לשמוע. הוא מתפקד פחות כמו מכונה מוסרית ויותר כמו חבר, באופן שעשוי להזכיר את נחמדות־היתר של הצ'אטים בני זמננו, שמאחוריה יש אינטרס כלכלי ורצון לגרום לנו להתמכר אליהם. במקרה של הרובוט הפגיעה אינה פיזית ומיידית אלא נפשית ועתידית, והחוק, שנועד למנוע פגיעה אבל מובן כמניעת נזק מיידי, מוביל דווקא להטעיה שיטתית ולכאב רב יותר כשהאמת נחשפת בסופו של דבר. הסיפור מגלה עד כמה המושג פגיעה תלוי בפרשנות, ועד כמה חוק מוסרי יכול להפוך למנגנון של הונאה.

אסימוב, שהחל בסיפורים קצרים, הרחיב את היריעה הרעיונית ברומני ”סדרת הרובוטים”, ובראשם ”מערות הפלדה”, ”השמש העירומה”, ”רובוטים של שחר” ו”רובוטים ואימפריה”. כאן החוקים חדלים לתפקד כהגדרה מפורשת והופכים לעקרון פעולה בתוך עולם חברתי מורכב, המעצב יחסי כוח, אמון ופחד בין בני אדם לרובוטים, ואף בין תרבויות שונות של שימוש בטכנולוגיה. במובן זה, המעבר מהסיפורים הקצרים אל הרומנים הוא מעבר מלוגיקה מופשטת אל מציאות פוליטית.

למשל, כאשר נכנס חוק האפס לתמונה, ההכרעה בין טובת האדם הבודד לבין טובת האנושות נעשית בלתי נמנעת. ברגע שהרובוט רשאי או מחויב להעדיף את הכלל, נפתח פתח להקרבת יחידים בשם עיקרון מופשט. בספר ”רובוטים ואימפריה”, רובוט בעל יכולת לשנות מצב נפשי של אדם נמנע מלעשות כן, עד מקרה שבו השינוי הזה עשוי להגביר את שרידותה של האנושות בטווח הארוך. מה שהיה קודם מערכת מגוננת נעשה מערכת שיפוטית, כמעט פוליטית, שבה הרובוט איננו רק מבצע אלא גם מכריע.

לצד הסיפורים הקצרים ורומני ”סדרת הרובוטים”, הופיעו בעברית קבצים נוספים, לעיתים חלקיים, כגון ”בארץ הרובוטים” והרומן ”האדם הפוזיטרוני”. הופעות אלו אינן רק הרחבה כמותית, אלא הדגשה של עיקרון. החוקים אינם סגורים, אלא מתפתחים דרך השימוש בהם. כל מופע נוסף מערער במעט את היציבות שלהם, ומראה כי גם מערכת שנדמית מושלמת על הנייר, נעשית בעייתית כאשר היא פוגשת עולם. כך נבנה פרדוקס עדין. החוקים, שנועדו להבטיח סדר, הופכים למנגנון של אי סדר פורה. הם אינם רק מסגרת מוסרית, אלא מנוע סיפורי, ואולי אף יותר מכך, דרך לחשוב על גבולות ההגדרה עצמה.

 

מן החוק אל ההסתברות

אם אצל אסימוב הרובוט הוא ישות הכפופה לחוקים, הרי שאחרי פריצתה של הבינה המלאכותית לחיינו, השאלה איננה עוד כיצד להגדיר כללים לפעולה, אלא כיצד להבין פעולה שנוצרת מתוך תהליכי אימון, בחירה וסינון של נתונים. במובן זה החוק איננו נעלם, אלא משנה את מקומו. במקום עיקרון גלוי שאפשר לנסח ולבקר, הוא פועל דרך החלטות על מה ללמד את הבינה, אילו דוגמאות לכלול ואילו תוצאות להעדיף. כך האחריות והכוח אינם מתבטאים עוד בניסוח החוק עצמו, אלא בשליטה בתנאים שמעצבים את ההתנהגות. השאלה איננה עוד כיצד להגדיר כללים לפעולה, אלא כיצד להבין פעולה שאינה נובעת מכללים מפורשים. לדוגמה, מנועי שפה כמו ChatGPT מצהירים על העדפה לניסוחים ”זהירים”, מנועי שפה שפותחו בסין משקפים עקרונות אחרים מאלו של המערב, ו־Grok הוצג בידי אילון מאסק, כאלטרנטיבה בעלת ”פחות סינון ויותר חופש ביטוי”.

הבינה המלאכותית נשענת על רשתות עצביות שאינן מאורגנות עוד סביב תחומי ידע ברורים או מערכות כללים. במקום זאת, הן משנות את החיווט הפנימי שלהן בהתאם לדוגמאות שקיבלו, כך שההתנהגות איננה נגזרת מחוקי תוכן, אלא מתהווה מתוך הסתברויות. במובן זה, אפשר לחשוב על מעבר מתפיסה של הרובוט כפועל, ישות שמבצעת הוראות, אל תפיסה שלו כישות מתמטית. הוא אינו יודע או מבין כללים, אלא מחשב את ההמשך הסביר ביותר של הטקסט על בסיס דפוסים שלמד. לכן עדיף לחשוב עליו לא כעל יצור שמציית לחוקים, אלא כמערכת שממפה קלט לפלט: שאלה נכנסת, ותשובה נוצרת מתוך הסתברויות.

רעיון זה, שבו חוקי המציאות מתחלפים בתפיסה הסתברותית, מחלחל גם אל הספרות, שבה הולכת ונשחקת ההנחה של עולם אחד הכפוף לחוק עקבי, ומתחלפת בתיאורים של ריבוי אפשרויות, תחזיות מתחרות, ולעיתים אף מציאויות כפולות ואולי אפילו מרובות ומקבילות. דוגמה ידועה היא הסיפור ”דו”ח מיוחד” מאת פיליפ קיי. דיק, שבו יש מערכת שיודעת לנבא את העתיד כדי למנוע פשעים טרם התרחשותם. אולם כפי שמתגלה, גם כשהמערכת מתנהגת כאילו יש עתיד אחד קבוע מראש, בפועל יש התפלגות של אפשרויות. בספר ”אנומליה” מאת ארווה לה טלייה, סופר שמזוהה יותר עם תנועת האוליפו מאשר עם מדע בדיוני ופנטזיה, קורה פעמיים אירוע יום־יומי שאמור לקרות רק פעם אחת — נחיתה של מטוס נוסעים, לאחר שנעלם מן המכ”ם. המטוס והנוסעים מגיעים בפעם השנייה כשהם שכפול של אלו מן הפעם הראשונה, דבר שמערער את כל הנחות היסוד שלנו לגבי המציאות ובעיקר לגבי עקביותה. הערעור הזה אינו אלא המשכו של המהלך של אסימוב, שבו החוקים מנוסחים כעיקרון ברור, אך נפתחים שוב ושוב לפרשנות, לסתירה ולריבוי.

השינוי בתפיסתנו של הרובוט מגוף מתכתי לישות חישובית אינו מתרחש בבת אחת, עם הופעת הבינה המלאכותית, אלא נשען על שינוי עמוק יותר באופן שבו אנו חושבים על חישוב בכלל. בעולם התכנות, שפות התכנות נחלקות מזה עשרות שנים לשפות ציוויות והכרזתיות. שפות ציוויות (אימפרטיביות), כמו C או Java, מבוססות על פקודות או הוראות: עשה כך ואז כך. לעומתן, שפות הכרזתיות (דקלרטיביות), כמו SQL או Prolog, מגדירות מה רצוי שיקרה, ולא כיצד.

עוד לפני פריצת הבינה המלאכותית, החל תהליך שבו הלכה ונחלשה ההגמוניה של השפות הציוויות, והתפיסה שלנו של המחשב השתנתה: הוא לא רק משרת אותנו ומבצע את מה שאנחנו מצווים עליו, אלא הוא יצור שמייצג קיום בעולם מתמטי. המעבר לבינה מלאכותית מבוססת למידה מעמיק עוד יותר את הפער: הפרומפטים שאנחנו מזינים לצ'אט הרובוטי הם הכרזות של רצוננו, אך מתחת לפני השטח פועלות מערכות שאינן מתארות לא את ה”איך” ולא את ה”מה”, אלא לומדות התאמה בין קלט לפלט מתוך דוגמאות. כעת לראשונה, המחשב, ובעקבותיו הרובוט, קיימים לא רק בצידנו ועבורנו, אלא יש להם משמעות עצמאית שאינה תלויה באנושות.

מודלי השפה הגדולים, ובראשם ChatGPT, אינם ”מבצעים” הוראות במובן הקלאסי, אלא ממשיכים טקסטים על פי הסתברות. אין להם חוקי פעולה פנימיים במובן הנורמטיבי, אלא מבנים סטטיסטיים שמגיבים להקשר. ובכל זאת, המשתמשים נוטים לייחס להם כוונה, הבנה ואפילו אחריות, כאילו היו רובוטים אסימוביים הכפופים לאתיקה פנימית. באופן אירוני, בעוד אסימוב ניסה להכניס מוסר אל תוך המכונה באמצעות חוקים מפורשים, היום אנחנו ניצבים מול רובוטים שאנו מצליחים לאמן או לכפות עליהם דפוסי התנהגות באופן מוגבל בלבד. המחקר העכשווי בבטיחות בינה מלאכותית מבקש לשוב אל רעיון החוק בדרך אחרת: לא כעיקרון פנימי ופשוט, אלא כמערך של אילוצים, הנחיות, סינונים ומנגנוני תיקון שמקיפים את המודל ומכוונים את פעולתו. בפועל, אנו פועלים היום מול מערכות שאין בהן חוקים כאלה כמעט בכלל, ובכל זאת מצפים מהן להתנהג ”כראוי”. במובן זה, השאלה איננה עוד כיצד לתכנת את האתיקה, אלא כיצד לפרש התנהגות של מערכת שאין לה אתיקה פנימית מוגדרת.

ואולי כאן נסגר המעגל: מן החוק אל המשוב, מן המשוב אל ההסתברות, ומן ההסתברות חזרה אל הפרשנות האנושית. הרובוט, שהיה פעם עבד, אחר כך מערכת לוגית, הפך כעת למראה. לא של חוקיו, אלא של ציפיותינו, ושל הפער ביניהן לבין מעשינו. ומכאן שלא רק חוקי הרובוטים השתנו, אלא גם חוקי האדם.

[1] במאמר זה ההתייחסות היא בעיקר לסיפורי הרובוטים המרכזיים של אייזר אסימוב כפי שכונסו בעברית בקובץ "אני רובוט" (ובפרט ”סחור־סחור ו”שקרן!”). נזכרים גם רומנים מרכזיים בסדרת הרובוטים שתורגמו לעברית. שמות היצירות מובאים כפי שתורגמו.