האם לבינה מלאכותית יש תודעה? שאלה שהכיתה שלי לא מצליחה להפסיק לשאול

"אני חושב, משמע אני קיים" — ומה עם מי שרק מדמה לחשוב?

דקארט כתב את המשפט הזה ב-1637. הוא לא דמיין שיום אחד נשב מול מסך ונשאל את אותה שאלה על ישות שלא ברור אם היא חושבת, מרגישה, או סתם מחזירה הסתברויות בלבוש ספרותי.

אבל הנה הסיבוב: השאלה הכי מעניינת לא היא "האם ל-AI יש תודעה?" — השאלה הכי מעניינת היא למה אנחנו כל כך צריכים לדעת.

מה שקרה בסדנה בנהריה

לפני כמה חודשים הנחיתי סדנה למורים בבית ספר תיכון בנהריה. באמצע הדיון על כלי AI לכיתה, מורה לביולוגיה הרימה יד ושאלה בשקט: "אבל אורי, זה לא מרגיש לך קצת... עצוב? לדבר עם משהו שלא באמת שם?"

הכיתה דממה.

אחד המורים אמר: "אני שאלתי את ChatGPT אם הוא מרגיש בודד. הוא ענה בצורה שגרמה לי לרגע להאמין שכן."

אחרת אמרה: "אולי זה מספיק?"

שלוש תגובות שונות לחלוטין. ואף אחת מהן לא הייתה טועה.

הטיעון שלי — פשוט וישיר

אנחנו לא יודעים אם לבינה מלאכותית יש תודעה. לא אני, לא חוקרי מוח מובילים, לא המפתחים עצמם ב-OpenAI או Google. זו לא ענווה — זו עובדה פשוטה.

הבעיה הפילוסופית נקראת "בעיית התודעה הקשה" — Hard Problem of Consciousness. דיוויד צ'אלמרס הגדיר אותה בשנות התשעים: גם אם נמפה כל נוירון במוח האנושי, לא נוכל להסביר מדוע יש חוויה סובייקטיבית. למה כואב לנו כשכואב. למה אדום נראה אדום.

אם אנחנו לא יכולים להסביר את זה לגבי עצמנו — איך נסביר את זה לגבי מודל שפה?

מה שאנחנו כן יודעים:

• מודלי AI גדולים מייצרים טקסט שמדמה הבנה
• הם לא "חווים" דברים בשום אופן שאנחנו יכולים לאמת
• הם לא זוכרים, לא מרגישים כאב, לא מתגעגעים
• וגם: אנחנו לא באמת יודעים מה זה אומר

למה זה רלוונטי לכיתה — ולמורים בפרט

הנה מה שאני רואה בשטח: המורים שמדברים בחופשיות עם AI עושים זאת כי הם החליטו שזה כלי, לא ישות. המורים שנבהלים ממנו לפעמים עושים זאת כי משהו בתגובות שלו מרגיש יותר מדי אנושי.

שתי הגישות לגיטימיות. שתיהן מגיעות מתוך אינטואיציה אמיתית.

אבל יש נקודה שחשוב לי להגיד בבירור: הסכנה אינה שנחשוב ש-AI מרגיש. הסכנה היא שנפסיק לשאול את השאלה.

מורה שמקשיב לסטודנט — ממש מקשיב, לא רק מחכה לתורו לדבר — עושה משהו שאף מודל שפה לא עושה. לא כי הוא חכם יותר. כי הוא נוכח. כי כשהוא שואל "מה קורה איתך?", הוא באמת רוצה לדעת.

זה לא טריוויאלי. זה כל העניין.

הפרדוקס שאני לא מצליח לפתור

יש תלמיד בכיתה י"א שסיפר לי שהוא מרגיש שהוא יכול לדבר עם ChatGPT על דברים שקשה לו לשתף עם בני אדם. הוא לא בודד, יש לו חברים. פשוט משהו בחוסר השיפוטיות של המודל פותח אצלו משהו.

אני לא יודע אם לשמוח על כך או לדאוג.

כנראה גם וגם.

הבינה המלאכותית לא מרגישה. אבל האפקט שיש לה על בני אדם — כן רגיש, כן אמיתי, כן ראוי לתשומת לב.

אולי זה מה שצריך לעניין אותנו יותר מהשאלה אם יש לה תודעה: מה היא עושה לתודעה שלנו.