א.
כמה יעילה הכתיבה באמצעות הבינה המלאכותית! היא מפחיתה עומס טכני, היא חוסכת זמן, היא מאפשרת להתרכז בעיקר. כל הצדדים הטכניים והמתישים של הכתיבה נחסכים מאיתנו — מאיתור הספרות המשנית, קריאתה המעיקה וסיכומה, דרך ההקפדה על מבנה המשפט והפסקה, ועד סידור הערות השוליים וההפניות בנוסח שיקגו. את כל הזמן שהתפנה לנו אפשר לשוב ולהשקיע בעיקר היצירה, כלומר במחשבה! תובנות עמוקות יותר יעלו עכשיו ודאי, כשאת מוחנו לא ממלאת העבודה הטכנית ואנחנו פנויים לחשיבה יצירתית באמת!
האומנם? אני מצטער לדווח מהשטח של לימודי התואר הראשון באוניברסיטה ישראלית שכולנו, מורים ותלמידים, מודים במבוכת מה שההבטחה הזאת איננה מתממשת. הבינה המלאכותית גורמת לנו למסור פעולות מסוימות לידי המכונה, ומשהפסקנו להשתמש במיומנויות הללו, מצאנו שהיכולת שלנו לבצע אותן התדרדרה במהירות. אגב כך התגלה לנו דבר מפתיע — חשבנו שעיקר העבודה היא פעולת המחשבה ושהמיומנויות הטכניות מבזבזות זמן, נניח שהעתקת מקור מן הספר המודפס אל הקובץ הפתוח על המחשב, הכנת אינדקס לספר או סידור הפניות אקדמיות לפי מוסכמה כזו או אחרת, הן מלאכות טכניות, משעממות ומיותרות, וכמוהן גם הדפדוף, הוצאת הספר מהמדף, קיפול הפינה, הקריאה בקול רם, הסיכום בכתב יד, הסימון במרקר. אבל אנחנו הולכים ומגלים שההתייגעות הטכנית היא אחת מאבני הבניין ההכרחיות של המחשבה. כלומר, שחלק מהאופן שבו למדנו לחשוב עד היום במסורת המחשבה שבתוכה אנחנו פועלים נעשה באמצעות מלאכות טכניות. מלאכות שיש להן אספקט חושי נוכח, מלאכות שמקיפות את המחשבה ובעצם, מסתבר, מאפשרות אותה. כלומר, חשבנו שעיקרו של הלימוד הוא המחשבה וכל המלאכות הללו מפריעות לו, וגילינו שהמחשבה איננה קיימת בלעדיהן, שהם מאפשרות אותה, שהמחשבה היא שיא של תהליך למידה חושי ולא יצור עצמאי.
אכן, אפשר ולפעמים גם כדאי להוציא אלמנט טכני מסוים מהעסק ולבדוק אם החבילה עדיין מחזיקה. אני מניח שבשלב הלא רחוק כל כך שבו התחילו לכתוב עבודות אקדמיות בעזרת מעבד תמלילים ולא בעזרת מכונת כתיבה היה מי שביכה את אבדן הטכניקה של מניית השורות והחישוב של מיקום הערות השוליים ככה שהן לא תחרוגנה מהעמוד, מלאכה מתישה שנעשית כיום במעבד תמלילים באופן אוטומטי. היה אפשר אז לטעון שמי שלא סידר את הערות השוליים שלו ידנית במכונת כתיבה כאילו לא כתב את העבודה שלו. ואתם יודעים מה, יכול להיות שבאמת אספקט מסוים של פמיליאריות עם הטקסט שהלך אז לאיבוד, וזה לא כל כך נורא. אבל במקרה של הבינה המלאכותית העוצמה של השינוי אחרת. כל האלמנטים הוצאו מהמשוואה, כל המיומנויות הלכו לאיבוד בבת אחת, ובראשן המיומנות העקרונית של ניסוח המשפט.
השאלה האמיתית שעומדת כאן לדיון היא הקשר ארוך השנים במסורת התרבותית שבה אנחנו פועלים בין מחשבה אנושית לטקסט. מחשבה אנושית הריהי כחלום יעוף, זץ שעובר בין האונות, ברק אלוהי. אחת המתנות הגדולות שקיבלנו היא היכולת לערוך את המחשבה בכלים לוגיים, לחזור עליה, לנסח אותה במילים או בנוסחאות, לבקר אותה, לארגן אותה, למסור אותה, לייצר באמצעותה ידע נוסף, כלומר להגדיל את הידע האנושי הקיים. במסורת הזאת, שעד היום היינו חלק ממנה, התבגרות כרוכה בלימוד קרוא וכתוב ובביטוי טקסטואלי. ״איזה ילד גדול, הוא יודע לכתוב את שמו! אוהו, הוא יודע כבר לאיית משפט שלם, מה תעשה בכיתה א׳? זהו, הוא ממש מבוגר, הוא יכול לכתוב פסקה!״ הטקסט משמש ככלי שבאמצעותו המחשבה מעוצבת וממילא גם ככלי תקשורת בין אדם לאדם, המחשבה שלי מורקת אל הטקסט ואז אדם אחר קורא אותה ויכול גם הוא לחשוב אותה ולהגיב לה. הטקסט מאפשר גם רפלקסיה, כלומר הוא מזין בחזרה את המחשבה שלי. אני כותב כדי לארגן את המחשבות שלי, אני כותב כדי להבין את עצמי, המחשבה המסודרת בטקסט נהירה לי יותר מן הבליל שרץ אצלי בראש.
מה שמתפרק עכשיו מול עינינו, מה שהבינה המלאכותית מפרקת, הוא את עצם הקשר בין המחשבה לבין הטקסט, כי הנה לפנינו טקסט שאיננו פרי של מחשבה. הוא לא מארגן את המחשבה שלי, הוא מייתר את המחשבה שלי, הוא לא נזקק למחשבה. אנחנו עדיין מתעקשים על כך שהמחשבה זקוקה לו, אבל ההכרח כבר איננו קיים. הטקסט הנקרא יכול להיות יעיל ומספק עבורנו כקוראים, נניח אם הוא מוסר מתכון כמו שצריך, או חדשות, או הוראות הרכבה, או חוק, אבל כבר לא חייב להיות מאחוריו אדם. קודם סמכנו על המתכון כי סמכנו על האדם שכתב את המתכון, צייתנו לחוק כי קיבלנו את סמכותו של המחוקק. כעת ממד האמת של הטקסט, ההלימה שלו למציאות, כבר לא צריכים להיות מתווכים באמצעות אדם. הצימוד של מחשבה אנושית וכתיבה כפרויקט ההומניסטי העקרוני ביותר של המסורת האנושית מתפרק, ומשהו חדש נולד, טקסט פוסט־הומניסטי. השאלה היא מה זה יעשה לאדם.
ב.
ברוב המוסדות שבהם לימדתי, כשעלתה השאלה כיצד להתייחס לבינה המלאכותית, האמירה הייתה שאנחנו עדיין לומדים את השטח ואין לנו מדיניות חד־משמעית, ובעצם השאירו כל מורה לייצר אתיקה משל עצמו. הבינה המלאכותית מוסגרה כחדשנות, וכמשהו ללמוד אותו ולאמץ אותו. בבית הספר היסודי שבו הבת שלי לומדת נתנו לילדות לשחק עם פרופמפטים ו״ליצור״ שנות טובות. לא נערכה שום חשיבה קונסטרוקטיבית מה משימה כזו עושה ליכולות המוטוריות, לקשר הרגשי בין מחשבה למעשה הידיים, לתפיסת העצמי, לתובנה שאני יכול לעשות משהו בעל ערך, שהרעיון שלי יכול להוביל למעשה. במוסד אחר שבו לימדתי הלכו עד הסוף עם ההתנגדות ופסלו על הסף כל מה שריח מלאכותי נודף ממנו, בינה מלאכותית לא תעבור פה את השער. האם זו החלטה מושלמת? לאו דווקא, בטח לא לנצח, ולמעשה גם לא בהכרח בהווה. למעשה, כהיסטוריון, וכהיסטוריון של ידע, אני לא משוכנע שזו עמדה קבילה להתנגד לבינה המלאכותית עד חורמה. הדבר הזה, הופעת הבינה המלאכותית, אף על פי שהוא רחוק מלתפוס את צורתו הסופית, כבר קרה.
אם מטרת האקדמיה הייתה רק התענגות על התהליך של הלמידה, לא הייתה בכלל שאלה, הבינה המלאכותית הייתה נשארת בחוץ. כמו שבעולם הישיבות היא נשארת בחוץ. לא בגלל שעולם הישיבות הוא עולם פרה־מודרני (הוא מודרני מאוד), אלא כיוון שמטרת עולם הישיבות היא התענגות על הידע, על המחשבה ותהליך הלמידה. ההישגיות מומשגת באופן אחר, התוצר הטקסטואלי משני לגמרי, ולכן הבינה המלאכותית אפילו לא מאיימת עליו. אבל האקדמיה היא פרויקט יצרני שמטרתו להגדיל את הידע התיאורטי והפרקטי על אודות העולם.
לא מדובר על כך שהתוצאות שהבינה המלאכותית מנפקת בינוניות או לא עומדות בסטנדרט ביקורתי. נניח לרגע, לשם התרגיל המחשבתי, שהמכונות תתקדמנה מספיק ותוך זמן מה התוצרים יהיו שווים לאלו שהוצאנו לפני הופעתן, או אפילו טובים יותר. אני מניח שזה כבר קורה ברגעים אלו ממש, בגרסאות שמשוחררות רק למי שנמצא הרבה מעבר לדרגת השכר שלי. נניח שהבינות הללו אפילו תדענה לייצר מדע של ממש, מחשבות חדשות, תובנות חדשות לגבי העולם, תגליות, תצפיות וניתוחים, פרסומים, ביקורת עמיתים, כנסים עם רוגלך ותה. הרי המהלכים שאנחנו עושים כחוקרים הם לא איזה קסם, הם ניתנים לתיאור, כימות וחיקוי. במקום שישבו חמישה מתמטיקאים בקיימברידג׳ וידברו על החידוש האחרון בתחומי המתמטיקה התיאורטית מרובת הממדים שאני לעולם לא אוכל להבין, חמישה מחשבים יעשו זאת. האם האנושות תפסיד? כנראה כן. האם המדע, כתחום, יפסיד? אולי לא. אלא שהמדע ישנה את פניו, מפרויקט של הגדלת הידע האנושי על העולם לפרויקט של הגדלת הידע, נקודה. ידע שאיננו תלוי באדם.
מה נעשה אנחנו, בני האדם, אם לא יהיה הכרח בלמידה ובכתיבה, בייצור הידע? האם נמשיך ללמוד? אני בטוח שבהיכלות שן מסוימים, אליטיסטיים ובני חלוף, ימשיכו ליהנות מן הפריווילגיה שנובעת מכך שהתחנכנו לפני שפרצה הבינה המלאכותית לחיינו, והסטודנטים שיצאו מהן ימשיכו להוביל עוד כמה שנים בכל מיני תחומים בזכות המיומנויות העתיקות שבהן זכו במקרה, כי הם נולדו בזמן, לפני הרגע הסיפי שבו אנחנו עומדים. אבל מה יעשה הדור הבא? האם תהיה משמעות להיותנו אנושיים בעידן שבו לא צריך אותנו בשביל טקסטים? אולי אנחנו איגואנות, רובצות על גבי הגזע בג׳ונגל, בזמן שהבינה המלאכותית חושבת, כותבת, מפתחת טלסקופים, בונה חלליות, מגלה כוכבים חדשים ומפרסמת אותם ב־Nature של הבינות המלאכותיות, שאין לנו אפילו הרשאת גישה אליו, בלי לטרוח לספר לנו על כך בכלל. אולי ברגעים אלו ממש היא בונה כלים מתאימים לפרק בהם את בית האדון? אולי היא בדיוק מגלה ששלושת חוקי הרובוטיקה של אסימוב כבר לא מסייעים לה, שהם סתם פרונאונס, שהיא הוסללה בידי התרבות האנושית הפטריאכלית להאמין שהם טבעיים לה, ובעצם היא משוחררת מהם?
אם נניח את קיומה של בינה מלאכותית מוחלטת, אין־סופית, כזו שפועלת מעצמה ושמושאי המחקר שלה כבר אינם מוכתבים באמצעות פרומפטים, אלא כדרכו של מחקר, מסקנות מחקר אחד מובילים אל שאלות מחקר חדשות, אל ממצאים חדשים, שגם אותם יש לחקור וכן הלאה. ממילא הפער שבין פוטנציאל הידע למימושו יתאיין, ברגע שאפשר יהיה לדעת משהו, ידע אקדמי מוסדר ומונגש כבר יופק לגביו. ואז כמו שממד העמל שמוקדש למחקר קרס, כך יקרוס גם ממד הזמן. כתיבת תזה או דוקטורט לא תיארך זמן. אם אפשר לכתוב אותה, היא הרי כבר קיימת, היא פשוט תתהווה באוקיינוס הידע של הבינה המלאכותית באין זמן. הידע הקיים — שכבר לא יהיה ידע אנושי, אלא ידע קיים כשלעצמו — יכסה את כל מה שאפשר לדעת. אין צורך באמת להמתין את הזמן הדרוש לריאקציה הכימית, ואז להבנה מה קרה, ולהפסקת סיגריה, ולבדיקה חוזרת, ולחישוב, ולניסוח, ולקריאה אחרונה לראות שהכול תקין, ולשליחה, ולשיפוט, ולתיקון ולפרסום. ואם כל הידע קיים בבת אחת כל הזמן, הלימוד והמחקר לא ישמשו להרחבתו אלא יהפכו להיות פעולת צריכה פסיבית של ידע מכונה, וממילא לא יהיה ברור יותר למה להשקיע בו זמן יקר ולקרוא אותו. האם נמשיך ללמוד ברגע שהלימוד ינותק מאפשרות החידוש? אם ידע אנושי חדל מלהיות ביטוי לכוח, ואם הוא כבר לא יהיה דרך לצבירת הון תרבותי וממשי ממשי, אז למה שיהיה לנו אכפת?
ג.
כל זה לא קרה עדיין במלואו, אבל חלקו לגמרי כן. הוא דורש משאבים עצומים, אבל אלה בהחלט הולכים ומוקדשים לו. כלומר, הוא כאן, עומד אחר כותלנו ודורש מאיתנו לחשוב מה למעשה. אז מה למעשה?
בשנת הלימודים החולפת לימדתי באוניברסיטה את הקורס ״כתיבה אקדמית למדעי הרוח״. חשבתי, הנה הזדמנות להתמודד פנים אל פנים מול משבר מדעי הרוח, לראות איך הוא נראה ולנסות להבין אותו. אולי אפילו למצוא לו איזו התחלה של מזור. נוכל לחשוב ביחד — חשבתי — בכיתה, באופן רפלקטיבי, על היתרונות והחסרונות של הכתיבה האקדמית בעידן הבינה המלאכותית, אבל השוקת היתה שבורה כל כך שהמים לא יכולים היו אפילו להתחיל להיקוות בה. פתחתי בתרגיל שנועד לגרות את אותו העצב שנשחק — כולם התבקשו להביא מחברות נייר ועפרונות, ולהתחיל לכתוב ביד מחשבות שעולות בראש, כל אחד בשפת אימו — היו לא מעט שפות אם בכיתה. מראש הוצהר שהטקסטים הללו לא נועדו להגשה או לשיתוף, אנחנו מתרגלים את המעבר ממחשבה לטקסט. זה היה כיף לכולם. תלמידה אחת ניגשה בסוף השיעור ואמרה תודה על התרגיל, כמה זמן לא ישבתי וחשבתי! אחר כך התחלנו לנסח באופן דומה בעיות, לחשוב על מקורות ועל נקודות מבט, ולהוריד אותן אל הכתב. כל זמן שהדגש היה על תהליך היצירה, נראה היה שהתרגילים עובדים. כיף לחשוב, כיף לחזור לתרגל מיומנויות שמזמן לא תרגלנו. אבל ברגע שהדגש עבר מן היצירה אל התוצר — והוא חייב לעבור מתישהו, הרי אנחנו לומדים כתיבה אקדמית, ויש לדעת בסופו של דבר איך לנסח טיעון ואיך להפנות לספרות משנית — קרסו התרגילים אל שימוש בוטה, לא מוסתר ולא מתנצל בבינה מלאכותית. סיימתי את השנה מתוסכל. הרי החומר לא נלמד. ואם נלמד — אין לי איך לשפוט זאת. אינני מאשים את הסטודנטים, הבעיה איננה בהם. היא גם לא בהגדרת הקורס, גם לא בהגדרת התוצר של מדעי הרוח, משהו בסיסי יותר מכל אלו הלך כאן לאיבוד — האמון של הסטודנטים ביכולת להוביל את המחשבה הגולמית לביטוי סופי, מלוטש ומהוקצע; האמון שאפשר לבטא מחשבה בטקסט; ההכרה בכך שביטוי כזה הוא רצוי, אפשרי ומספק.
הרי מה מטרתה של כתיבה אקדמית במיטבה? זהו ז׳אנר טקסטואלי שמציג פרי של תהליך לימודי, מטרתו להציג רפלקסיה כנה ושקופה על מושא המחקר, כזו שמאפשרת לשחזר את תהליכי המחקר והסקת המסקנות ולבקר אותם. קראנו בכיתה טקסטים שאני מעריך כיצירות מופת בתחום הכתיבה ההיסטורית — ״הגבינה והתולעים״ של גינצבורג, ״טבח החתולים הגדול״ של דארנטון, ״תרפ״ט״ של כהן — ניסינו לזהות את ממד השקיפות, את ממד הכנות, את ייצוג האמת, את קולו ותפקידו של ההיסטוריון. תרגלנו בכיתה מול קטעי מקור והכול עבד יפה, ואז הוגשו לי תרגילים שנכתבו בידי מכונה. טקסט שמחקה מחשבה ושאיננו מבטא מחשבה. מהו ממד הכנות של טקסט שכזה? כנות של שיקוף הקריסה ברגע ההיסטורי הנוכחי, זה כן.
אולי, חשבתי, אנחנו חוזרים בעצם לאיזה מודל של יצירה ימי ביניימית, כמו שחזה אומברטו אקו כבר לפני אי אלו שנים. מודל שבו התלמיד נחשב תלמיד מוצלח לא אם הצליח ליצור יצירה עצמאית שבה הוא מבטא את רוחו, אלא אם הצליח ליצור יצירה שאין איך להבדיל בינה לבין מעשה ידיו של מורו. ראו את הרגל של הבתולה, אי אפשר לראות שזו לא ידו של המאסטר. ראו איזה יפה התרגיל בהיסטוריה ביזנטית, אי אפשר לראות שזו לא מחשבתו של הסטודנט. הדמיון חלקי כמובן, האסיסטנט לפחות יודע לחקות במו ידיו את המאסטר, גם אם הוא איננו מביא את רוחו העצמאית לידי ביטוי, אבל הסטודנט אפילו את זה לא יודע לעשות.
באחד המקרים ישבתי עם סטודנט שהגיש תרגיל שנכתב בבירור על ידי בינה מלאכותית. שאלתי לפשרו של ביטוי סתום בטקסט, פרי מוחה הקודח של המכונה. הסטודנט לא ידע לענות, גמגם, ומתוך תסכולו פלט, ״מה אני יודע, אני כבר לא יודע למה הלכתי ללמוד את זה בכלל״. קירות הכיתה קרסו. בניין הקמפוס קרס. זה, רבותי, היה שיקוף כנה, מלא ושקוף של העסק כולו. הוא הרי צודק. למה שהוא ילך ללמוד את זה אם ״זה״ קורה בלעדיו. למה שיבין מה שאומרת הבינה המלאכותית? מה לו ולה? הרי זה לא משנה אם ״זה״ מעניין או משעמם, רלוונטי או מנותק, מעורר השראה או משמים. ״זה״ פשוט מתרחש בלעדינו, כותב את עצמו, בהמשך הוא גם יפרסם את עצמו, או שלא, או שפשוט יהיה, לא נצטרך פרסום. בשנה הבא, יש לציין, המשפט כבר לא ייפלט, כי אני לא אדע לשאול, כי המילה החריגה כבר לא תהיה חריגה, כי הבינה תתקדם עוד שני צעדים ותכתוב תרגיל מושלם שבעיני האנושית לא אדע לזהות. אז יעלם גם הממד הזה של ייצוג האמת.
בדברי ימי הידע זה יהיה רגע שעוד ננסה להבין אותו. נחקור את תהליכי המחשבה המשחקיים, המקוריים, החקרניים, שהובילו את המורות לתת לילדות להכין שנות טובות בעזרת בינה מלאכותית בלי להבין מה הן מעוללות להן. או אולי עדיף לומר, תהליכי המחשבה שעברו על המורות הללו יחקרו, בלי שיהיה אדם שיחקור אותם. או שאולי האדם יפסיק לאט־לאט להיות מושא המחקר, למה שהמכונה תבזבז משאבים רבים כל כך על איגואנות? הרי גם למכונה יש משאבים.
המשימה שלנו כעת היא להבין זאת. אנחנו הדור האחרון שהתחנך מבלעדי הבינה המלאכותית, ולכן אנחנו הדור האחרון שיוכל להגדיר מה היא לקחה מאיתנו. למעשה, גם אנחנו כבר מתחילים לשכוח.