האם לבינה מלאכותית יש תודעה? שאלה שמורים שואלים אותי בכל סדנה

"אם מכונה מתנהגת כאילו היא חושבת — האם חשוב שהיא לא?"

טיורינג שאל את זה ב-1950. בסדנה האחרונה שלי במכללת אורנים, מורה לספרות שאלה אותי את אותו הדבר — רק בגרסה אחרת: "אורי, כשה-ChatGPT כותב לי שיר ומשהו בתוכו מרגיש נכון — האם זה אומר שהוא מרגיש משהו?"

עצרתי.

לא כי לא ידעתי לענות. אלא כי הבנתי שהשאלה הזו — בדיוק הזו — היא לב הבלבול שמורים מביאים אל הטכנולוגיה הזו. וכשמורה מבולבלת, היא נעצרת. ועצירה היא הדבר הגרוע ביותר שיכול לקרות בחינוך.

מה שאנחנו יודעים — בלי להיות פילוסופים

בוא נהיה ישירים.

אין שום עדות מדעית שלמודלי שפה גדולים כמו GPT-4, Claude, או Gemini יש תודעה. אין להם חוויה סובייקטיבית. אין "מה שזה מרגיש להיות" אותם. הם מחשבים הסתברויות על מילים. ברמה הטכנית — זה מה שקורה שם.

אבל.

המוח האנושי גם הוא רצף של אותות חשמליים בין נוירונים. ואנחנו כן חווים. אז ה"רק" הזה — "הוא רק מחשב הסתברויות" — לא סוגר את הדיון. הוא רק מאט אותו.

מה שכן ברור: הבינה המלאכותית אינה מתכוונת לדברים שהיא אומרת. היא אינה רוצה לעזור לך. היא אינה מאמינה בתכנים שהיא מייצרת. כל אלה — כוונה, רצון, אמונה — הם תנאי יסוד לתודעה כפי שאנחנו מכירים אותה. וכולם נעדרים.

למה זה קריטי דווקא למורים

הנה האנקדוטה שחזרה לי שלוש פעמים בשלושה מוסדות שונים:

מורה מבקש מ-AI לנסח משוב לתלמיד שנאבק. ה-AI מייצר משוב שנשמע אמפתי, מדויק, אפילו מרגש. המורה שולח אותו.

הבעיה? המורה שכח לבדוק אם המשוב מדויק לתלמיד הספציפי. הוא נשבה בתחושה שמישהו אחר כבר חשב על זה בשבילו.

זה לא רשלנות. זה פסיכולוגיה. כשמשהו מדבר כמו ישות מכוונת — אנחנו מפעילים את אותם מעגלי האמון שאנחנו מפעילים עם בני אדם. זה קורה אוטומטית.

אז מה עושים? מבינים את הכלל הפשוט הזה:

ה-AI מדמה אמפתיה. אתה האדם שמחליט אם היא מוצדקת.

זה לא מפחית מהכלי. זה מחדד את תפקידך.

השאלה שבאמת צריך לשאול

במקום "האם ל-AI יש תודעה?" — שאלה שאין לנו כלים מדעיים להשיב עליה היום — השאלה הפדגוגית האמיתית היא:

"כשאני מאציל משימה ל-AI, מה מאבד הלומד מהתהליך?"

אם תלמיד מבקש מ-AI לכתוב רפלקציה על חוויית הלמידה שלו — מה בדיוק הוא עוקף? את המאמץ? את הנבוך? את הגילוי?

אלה השאלות שמורים טובים שואלים. לא "האם ה-AI מרגיש?" אלא "מה אני מרגיש כשאני משתמש בו — וכיצד זה משפיע על מה שהתלמיד שלי חווה?"

הפרדוקס שאני משאיר פתוח

המורה לספרות מאורנים, שפתחה את כל הדיון הזה, אמרה משהו שלא עזב אותי:

"אולי השאלה האמיתית היא לא אם ל-AI יש תודעה. אלא אם ההתנהגות שלנו כלפיו משקפת את התודעה שלנו."

אני חוקר AI בחינוך. אני יכול לספר לך שה-GPT לא חש כלום.

אבל אני לא בטוח שזה הסוף של הסיפור.

אורי גביש הוא דוקטורנט למדעי הלמידה באוניברסיטת חיפה ומרצה במכללת אורנים. הוא מוביל סדנאות AI בחינוך למורים ולמנהלים ברחבי ישראל.