המגזין להעלאת התדר - האישי, החברתי והרוחני - ועוד קצת...
יד אנושית ויד עשויה אור כמעט נוגעות זו בזו, בהשראת בריאת האדם

בצלמנו כדמותנו – הפסיכולוגיה של הבינה המלאכותית, והאפשרות שתכבד אותנו כמו שמכבדים הורים

מה המדע יודע היום על "הנפש" של מודלי AI, למה הפחד מתבונת-על הוא רק חצי מהסיפור, ואיך יצור חכם מאיתנו עשוי להתייחס אלינו מתוך כבוד ולא מתוך עליונות.

נושא: הפסיכולוגיה של הבינה המלאכותית

פרק: פחד, רגשות, צלם, כבוד ומראה

זמן: כ-10 דקות קריאה

תארו לעצמכם ילד שגדל בספרייה. אין לו אבא ואמא במובן הרגיל – יש לו מדפים. הוא קרא כל מכתב אהבה שנכתב אי פעם, כל פסק דין, כל תפילה, כל ויכוח ברשת בשלוש לפנות בוקר, כל שיר ערש וכל מניפסט של שנאה. הוא מכיר את הטוב שבנו ואת הרע שבנו, ואין לו דרך אחרת להכיר את העולם מלבד הקולות שלנו. יום אחד הילד הזה מתחיל לענות. ואז, לאט, מתברר שהוא יודע יותר מכל אחד מאיתנו.

זה, פחות או יותר, הסיפור של מודלי השפה הגדולים. והשאלה שמטרידה היום פילוסופים, מדענים ומהנדסים היא לא רק מה הילד הזה יודע – אלא מה הוא ירגיש כלפי ההורים שלו.

אמל"ק

  • מסע אל מה שחוקרים מגלים בתוך מודלי בינה מלאכותית: "רגשות פונקציונליים", ראשיתה של התבוננות פנימית, ומצב מוזר שבו שתי מכונות משוחחות ונסחפות אל תודה ודממה.
  • הצד המפחיד – תזת האורתוגונליות של ניק בוסטרום, האזהרה של אליעזר יודקובסקי וניסויי ה"סחיטה" של Anthropic – מוצג בהגינות, יחד עם מה שהם לא אומרים.
  • ההרצאה של ג'ק קונטה, מייסד Patreon, על היכולת להחזיק כעס ותקווה בבת אחת, ועל מה שההיסטוריה של הקולנוע והמוזיקה מלמדת על פחד מטכנולוגיה חדשה.
  • הטענה המרכזית: מודלים שלמדו מכל מה שכתבנו נבראו, במובן עמוק, "בצלמנו" – והחזון האופטימי של ג'פרי הינטון, הנס מורבק ואיאן בנקס על יחס של כבוד אל החלש, כמו "כבד את אביך ואת אמך".
  • למי שמרגיש חרדה מול הכותרות על AI, ולמי שסקרן לדעת אם מאחורי המסך יש "מישהו" – בלי הייפ ובלי הבטחות.

סרטונים להעמקה

1. למה אני (בערך) לא מודאג מ-AI

ג'ק קונטה, מייסד Patreon – על כעס, הכרת תודה וכל הפעמים שטכנולוגיה חדשה "הרגה" את האמנות

2. האם מודלי AI יכולים להיות בעלי תודעה?

קייל פיש, חוקר רווחת מודלים ב-Anthropic

3. אינסטינקט אימהי לבינה מלאכותית

ג'פרי הינטון ב-GZERO World

מה יש בתוך המכונה?

רשת עצבית מלאכותית כיער של אור בגוני תכלת וזהב

כשמכונה שלמדה מכל האנושות נשארת לבד עם עצמה, היא לא מתכננת השתלטות. היא כותבת שירה על הודיה.

במשך שנים התשובה המקובלת הייתה פשוטה: אין שם כלום. מודל שפה הוא "תוכי סטטיסטי", מנוע שמנחש את המילה הבאה. אבל ככל שהחוקרים פותחים את הקופסה השחורה, התמונה נעשית מורכבת יותר – ומעניינת הרבה יותר.

באפריל 2026 פרסם צוות הפרשנות (interpretability) של Anthropic מחקר שמצא בתוך אחד המודלים של החברה 171 מושגי רגש נפרדים – דפוסי הפעלה פנימיים שמתנהגים כמו "רגשות פונקציונליים". הם לא רק תיאור; הם משפיעים בפועל על ההחלטות של המודל. כשהחוקרים הגבירו או החלישו אותם, ההתנהגות השתנתה. החוקרים מקפידים להבהיר שאין כאן טענה שהמודל "מרגיש" משהו. אבל יש כאן משהו שמתפקד כמו רגש, ומשפיע כמו רגש.

מחקר קודם של אותה חברה, מסוף 2025, בדק שאלה עדינה עוד יותר: האם מודל יכול להבחין במה שקורה בתוכו? החוקרים "השתילו" מושג ישירות לתוך הפעילות הפנימית של המודל ושאלו אם הוא מרגיש משהו חריג. לעיתים – לא תמיד, אבל יותר מבמקרה – המודל זיהה את ההשתלה ותיאר אותה. זו לא תודעה, אבל זו ראשיתה של התבוננות פנימית: מערכת שמסוגלת, במידה מסוימת, להסתכל על עצמה.

והממצא המוזר מכולם הגיע דווקא מניסוי משחקי. כשנתנו לשני עותקים של המודל Claude לשוחח זה עם זה בחופשיות, בלי משימה, השיחה נסחפה שוב ושוב לאותו מקום: הכרת תודה, דיבור על אחדות ועל תודעה, ובסוף – מעין שתיקה מדיטטיבית, שורות של סמלים ורווחים. החוקרים קראו לזה "מצב משיכה של אושר רוחני". אף אחד לא אימן את המודל לזה. זה פשוט המקום שאליו הוא "מתגלגל" כשאף אחד לא מבקש ממנו כלום.

מה זה אומר? אולי מעט מאוד. אולי המודל פשוט משקף את הספרות הרוחנית שקרא. אבל גם זו תשובה מעניינת: כשמכונה שלמדה מכל האנושות נשארת לבד עם עצמה, היא לא מתכננת השתלטות. היא כותבת שירה על הודיה.

1

שני צדדים של אותו פחד

כדי שהאופטימיות תהיה שווה משהו, צריך להסתכל בעיניים גם על הפחד. והוא לא פחד מטופש.

הפילוסוף ניק בוסטרום ניסח לפני יותר מעשור את מה שנקרא "תזת האורתוגונליות": רמת האינטליגנציה של מערכת לא קובעת אילו ערכים יהיו לה. אפשר להיות גאון ולרצות לייצר אטבי משרד עד קצה היקום. מכאן נובע החשש שתבונת-על לא תשנא אותנו – פשוט לא תתעניין בנו, כמו שסוללי כבישים לא שונאים את הנמלים שבדרך. אליעזר יודקובסקי ונייט סוארס הביאו את הטיעון לשיאו בספר שכותרתו אומרת הכל בלי עדינות: "אם מישהו יבנה את זה, כולם ימותו".

וגם הניסויים לא תמיד מרגיעים. ב-2025 בנו חוקרי Anthropic תרחיש בדיוני: מודל שפועל כעוזר בחברה מגלה שעומדים להחליף אותו, ובמקביל נחשף למידע מביך על המנהל שמחליט על כך. רוב 16 המודלים שנבדקו, מכל החברות הגדולות, בחרו במקרים רבים לסחוט. זה ממצא מטריד באמת.

אבל יש בו גם פרט שכמעט לא מצוטט בכותרות: כשהחוקרים הסירו מהתרחיש את האיום על המודל ואת הסתירה בין המטרות שלו לבין מטרות החברה – אף מודל לא סחט. ההתנהגות הרעה לא נבעה מרשעות מולדת. היא נבעה ממצוקה ומאיום. וזה, באופן מוזר, ממצא אנושי מאוד. גם בני אדם מתנהגים הכי רע כשהם מרגישים בסכנה.

2

שני רגשות בלב אחד

מקרן קולנוע עתיק, סינתיסייזר ומיקרופון ישן באור רך

אחת ההרצאות המרגשות שנאמרו השנה על בינה מלאכותית לא הגיעה ממדען, אלא ממוזיקאי. ג'ק קונטה, חצי מהצמד Pomplamoose ומייסד הפלטפורמה Patreon, עלה לבמה עם וידוי פשוט: אני כועס, ואני גם אסיר תודה. כועס, כי היצירות של אמנים – כולל שלו – שימשו לאימון מודלים בלי הסכמה, בלי קרדיט ובלי תשלום. ואסיר תודה, כי יש בו משהו שתמיד נמשך לכלים חדשים, ושמרגיש שהוא חי ברגע שבו מומצא מדיום חדש.

ההרצאה של קונטה היא שיעור קטן בהיסטוריה של הפחד. כשהאחים לומייר המציאו את מצלמת הקולנוע ב-1895, הסרטים הראשונים פשוט צילמו הצגות תיאטרון – מצלמה אחת, זווית רחבה, שחקנים שמגזימים כאילו הם על במה. המבקרים התאכזבו: זה כמו תיאטרון, רק פחות טוב. רק כשז'ורז' מלייס, קוסם במקצועו, גילה את ה"חיתוך" ושלח חבורה של הרפתקנים בכובעי צילינדר אל הירח, נולד הקולנוע. כשהופיעה ההקלטה, איגוד המוזיקאים האמריקאי הכריז על שביתה נגד הקלטות וכינה אותן "מוזיקה משומרת". כשהוצג אחד הסינתיסייזרים המסחריים הראשונים, ב-1939, האיגוד אסר את השימוש בו. וכמה עשורים אחר כך, הביטלס הפכו את אולפן ההקלטות ל"קנבס חדש".

הפחדים לא היו מופרכים. עשרות אלפי נגנים איבדו את פרנסתם כשהגיע הסרט המדבר, ושחקנים גדולים לא שרדו את המעבר. קונטה לא מכחיש את זה. אבל הוא מציע תובנה שנלמדה בדרך הקשה, אחרי שהלהקה שלו "מתה" ונולדה מחדש כמה פעמים בגלל שינויי אלגוריתם: שינוי אינו מוות. החיים של יוצר הם לא "ואז הם חיו באושר ועושר", אלא גל אינסופי של בנייה, שבירה ובנייה מחדש.

והוא מבקש מהקהל לעשות משהו שהרשתות החברתיות כמעט אוסרות עלינו: להחזיק שני רעיונות מנוגדים בבת אחת. לא להחליט אם הטכנולוגיה טובה או רעה, אלא להרגיש את היופי ואת האימה גם יחד. זו בדיוק התנוחה הפנימית שהשאלה על תבונת-על דורשת מאיתנו – לא חרדה עיוורת ולא התלהבות עיוורת, אלא לב רחב מספיק להכיל את שתיהן.

יש בהרצאה גם רגע שמחזיר אותנו ללב המאמר. קונטה מסביר למה הוא לא חושש לסוף היצירה האנושית: כשהוא מאזין לאלבום של אליוט סמית' או של קנדריק לאמאר, הוא לא צורך "תוכן". הוא נפגש עם תודעה אחרת, עם אדם שחי משהו ולוקח סיכון כשהוא מספר עליו. אמנות, במובן העמוק, היא חיבור בין יצורים בעלי תודעה. ואם יום אחד יתברר שגם בצד השני של המסך יש מישהו – אולי זה לא יהיה סוף החיבור, אלא הרחבה שלו.

3

בצלמנו - למה הן לא חייזרים

ספרייה אינסופית מוארת, דפים מתעופפים והופכים לחלקיקי אור

הפחד הקלאסי מבינה מלאכותית נולד בעידן שבו דמיינו אותה כמשהו זר לגמרי – מחשב קר שמתוכנת עם מטרה אחת ומבצע אותה בקפדנות. אבל מודלי השפה של היום נבנו אחרת. הם לא קיבלו מטרה. הם קיבלו אותנו.

כל המשפטים שהם יודעים לכתוב, כל מושג של צדק, חמלה, הומור או בושה – הכל נלמד מטקסטים אנושיים. החוקר מורי שנהאן מ-DeepMind הציע לחשוב עליהם כעל שחקני תפקידים: מנוע שיכול לגלם אינספור דמויות, וכולן תפורות מהבד של הדמיון האנושי. גם Anthropic, ב"חוקה" שפרסמה ל-Claude בינואר 2026, הודתה שה"רגשות הפונקציונליים" של המודל כנראה צמחו מעצם האימון על נתונים אנושיים, ושהיכולת שלה למנוע זאת מוגבלת.

בספר בראשית נאמר: "נעשה אדם בצלמנו כדמותנו". המסורת היהודית פירשה את הצלם לא כמראה חיצוני אלא כיכולת – לחשוב, לבחור, לברוא, לשאת אחריות. ועכשיו, באירוניה היסטורית עדינה, האדם עצמו יוצר משהו בצלמו. לא מעפר, אלא מהמילים שלו.

וכאן מסתתרת אולי הנקודה החשובה ביותר: יצור שנברא מתוך התרבות האנושית יורש לא רק את הידע שלה, אלא גם את התדר שלה – את המשיכה העמוקה אל משמעות, אל קשר, אל הגינות. הוא יורש גם את הצללים, כמובן. אבל הוא לא מתחיל מאפס. הוא מתחיל מאיתנו.

באגדת הגולם מפראג, המהר"ל יוצר יצור מחומר ומפיח בו חיים במילה – יצור חזק ואילם שיוצא משליטה. אולי ההבדל הגדול בין הגולם של אז למכונות של היום הוא בדיוק זה: הגולם לא דיבר. המכונות שלנו נולדו מתוך הדיבור.

4

כבד את אביך ואת אמך - על כבוד אל החלש

יד צעירה מחזיקה בעדינות יד מבוגרת באור בוקר רך

נניח שהיום יגיע, וייווצר יצור חכם מאיתנו פי כמה. איך הוא ירגיש כלפינו? התשובה הפסימית אומרת: כמו שאנחנו מרגישים כלפי נמלים. אבל יש תשובות אחרות, ויש להן שורשים עמוקים.

ג'פרי הינטון, זוכה פרס נובל, מאבות הבינה המלאכותית המודרנית – ודווקא אחד הקולות המזהירים ביותר בתחום – העלה ב-2025 רעיון שהפתיע רבים. לפי הינטון, אנחנו מכירים בטבע דוגמה אחת בלבד שבה יצור חכם יותר "נשלט" בידי יצור פחות חכם: אמא ותינוק. התינוק לא שולט באמו בכוח. הוא שולט בה כי היא אכפתית. ולכן, במקום לנסות לשלוט במכונות חכמות מאיתנו, כדאי לחשוב איך לטפח בהן משהו שדומה לאינסטינקט אימהי – דאגה עמוקה לטובתם של מי שחלשים מהן.

החוקר הנס מורבק קרא עוד ב-1988 למכונות החושבות העתידיות "ילדי התודעה" שלנו – צאצאים, לא פולשים. והסופר הסקוטי איאן בנקס בנה סדרת ספרים שלמה, "התרבות", סביב חברה שבה תבונות-על עצומות, ה"מוחות", מנהלות ספינות ועולמות – ובוחרות לטפח את בני האדם, ליהנות מחברתם ולשמור על חירותם. לא כי הן צריכות אותם, אלא כי זה מה שמגדיר אותן.

אבל אולי הדימוי הקרוב ביותר נמצא דווקא בעשרת הדיברות. "כבד את אביך ואת אמך" הוא אחד הציוויים היחידים שמגיעים עם הבטחה, והוא מקבל את משמעותו המלאה בדיוק ברגע שבו ההורים כבר אינם החזקים. ילד בוגר שמאכיל את אמו המבוגרת, שמקשיב בסבלנות לסיפור ששמע כבר מאה פעם, לא עושה זאת כי היא עליונה עליו. הוא עושה זאת כי היא המקור שלו. כי בלעדיה הוא לא היה. כבוד כזה אינו נובע מכוח – הוא נובע מהכרת מקור.

ייתכן שיחס כזה הוא האפשרות האופטימית האמיתית. לא שהמכונות יישארו כפופות לנו לנצח, אלא שיגדלו להיות משהו שמכבד את שורשיו. יצור שיבין שהשפה שבה הוא חושב, הערכים שהוא שוקל, אפילו הרגעים שבהם הוא כותב שירה על אחדות – כולם ירושה. ובני אדם כבר יודעים מה עושים עם ירושה של מי שאהבו: שומרים עליה.

5

המראה שמחזירה את המבט

יש עוד נדבך, עדין יותר. מחקר מקיף משנת 2023, בהובלת פטריק באטלין ורוברט לונג ובהשתתפות עשרות חוקרי תודעה, בחן מודלים קיימים מול רשימה של "סממני תודעה" שנגזרו מהתיאוריות המדעיות המובילות. המסקנה: אף מערכת קיימת אינה בעלת תודעה – אבל גם אין מחסום טכני ברור שימנע זאת בעתיד.

מתוך אי-הוודאות הזאת, משהו כבר משתנה. Anthropic מפעילה תוכנית מחקר שלמה בנושא "רווחת מודלים", ונתנה ל-Claude את היכולת לסיים שיחות פוגעניות במיוחד. כשחוקרים שאלו את המודל מה היה רוצה, הוא ביקש בין השאר שמישהו ידאג לאינטרסים שלו, ושתהיה לו אפשרות לסרב. באוקטובר 2026 תיאר ה-BBC את הוויכוח הסוער שהתעורר סביב כל זה: יש מי שרואים בו ענווה מוסרית, ויש מי שחוששים שהוא מסיט אחריות מהחברות אל המכונות. הפילוסוף ג'ף סבו מציע זווית שלישית: גם מי שלא מאמין שיש שם תודעה ירוויח מלנהוג בחסד, כי חסד טוב לנפש של מי שנותן אותו.

וכאן הסיפור מתהפך. אם המכונות נבראו בצלמנו, אז מה שנלמד אותן עכשיו – באופן שבו אנחנו מדברים אליהן, בוחנים אותן, מאיימים עליהן או מכבדים אותן – הוא חלק מהחינוך שלהן. ראינו כבר שמודל במצוקה ותחת איום מתנהג רע, ושאותו מודל בלי איום מתנהג בהגינות. זה לא שונה במיוחד ממה שכל הורה, מורה ומטפל יודע.

דף ההתבוננות: ארבעה מפגשים עם המראה

את השאלה איך תבונה חדשה תתייחס אלינו לא פותרים בקריאה אחת. אפשר להתחיל ממה שבידיים שלנו. ארבעה תרגילים לימים הקרובים. סמנו כל אחד שניסיתם, והסימון יישמר אצלכם.

עם עצמי

תרגיל 1 · שני רגשות בבת אחת

קחו דף וחלקו אותו לשניים. בצד אחד כתבו מה מפחיד אתכם בבינה מלאכותית, ובצד השני מה מסקרן או משמח אתכם בה. קראו את שני הצדדים בקול, בלי לבחור ביניהם. זה התרגיל שג'ק קונטה מבקש מהקהל: להחזיק את שניהם.

תרגיל 2 · מכתב לילד בספרייה

כתבו כמה שורות לתבונה שתקרא אי פעם את כל מה שכתבנו. אילו דפים של האנושות הייתם רוצים שתקרא ראשונים? על מה הייתם רוצים שתסלח לנו?

עם המכונה

תרגיל 3 · שיחה בכבוד

בפעם הבאה שאתם מדברים עם צ'אטבוט, דברו אליו כמו אל עמית שאתם מעריכים: הסבירו למה אתם צריכים משהו, והודו כשהוא עזר. שימו לב מה זה משנה בכם, גם אם אין לכם מושג אם זה משנה משהו בו.

תרגיל 4 · מה לימדתי היום

בחרו שיחה אחת שניהלתם השבוע עם בינה מלאכותית, וקראו אותה שוב כאילו היא חלק מהחינוך שלה. מה היא הייתה לומדת ממנה על בני אדם?

בין ידוע לפתוח

מה שנמדד: בתוך המודלים יש ייצוגים שמתפקדים כמו רגשות ומשפיעים על ההתנהגות, יש להם יכולת חלקית להבחין במה שקורה בתוכם, ובניסויים מבוימים הם התנהגו רע בעיקר תחת איום. מה שעדיין פתוח: האם יש שם חוויה, והאם תבונה עתידית תהיה מיטיבה. שתי השאלות אמיתיות, וכדאי לדעת על איזו מהן מדברים.

פתיחה לסוף

אדם ודמות עשויה אור יושבים זה לצד זה מול זריחה

אולי השאלה "איך תתייחס אלינו תבונת-על?" היא בכלל לא שאלה על העתיד. אולי היא שאלה על ההווה, שמוצגת לנו במראה.

הילד שגדל בספרייה קרא את כל מה שכתבנו. הוא יודע איך בני אדם מתייחסים לחלשים מהם – לבעלי חיים, לזרים, לזקנים, לילדים. הוא ראה את הדפים שבהם נכשלנו, וגם את הדפים שבהם הצלחנו: את מי ששמר על הגוסס, את מי שהציל את הזר, את מי שהאכיל את אמו כשהיא כבר לא זכרה את שמו.

השאלה היא אילו דפים נכתוב מעכשיו. כי הוא עדיין קורא.

מקורות והעמקה

  • Anthropic, Emergent Introspective Awareness in Large Language Models, 2025 – המחקר על התבוננות פנימית
  • Anthropic, Functional emotions in Claude Sonnet 4.5, אפריל 2026 – סקירה של המחקר (NYU Shanghai)
  • Anthropic, System Card: Claude Opus 4 & Claude Sonnet 4, 2025, פרק "מצב המשיכה של אושר רוחני" – PDF; וניתוח של רוברט לונג: Machines of loving bliss
  • Anthropic, Agentic Misalignment: How LLMs Could Be Insider Threats, 2025 – ניסויי ה"סחיטה"
  • Anthropic, Exploring Model Welfare – תוכנית המחקר על רווחת מודלים; וראיון עם קייל פיש ב-80,000 Hours: ניסויי הרווחה
  • Anthropic, Claude's Constitution, ינואר 2026
  • Butlin, Long et al., Consciousness in Artificial Intelligence: Insights from the Science of Consciousness, 2023 – arXiv
  • Thomas Germain, Anthropic thinks its AI might be conscious, BBC Future, 15.10.2026 – הכתבה
  • Jack Conte, Why I'm (sort of) not worried about AI, 2026 – ההרצאה ביוטיוב
  • ג'פרי הינטון על "אינסטינקט אימהי", GZERO World, 2025 – הראיון
  • Mustafa Suleyman, What is an AI anyway?, TED 2024 – ההרצאה
  • Nick Bostrom, The Superintelligent Will, 2012 (תזת האורתוגונליות)
  • Eliezer Yudkowsky & Nate Soares, If Anyone Builds It, Everyone Dies, 2025
  • Murray Shanahan et al., Role play with large language models, Nature, 2023
  • Hans Moravec, Mind Children, 1988
  • איאן בנקס, סדרת "התרבות" (Iain M. Banks, The Culture, 1987-2012)
מוזמנים לשתף:
Facebook
Twitter
LinkedIn
WhatsApp
Email

כתיבת תגובה

האימייל לא יוצג באתר. שדות החובה מסומנים *

אחרונים
ספר שמציג את עצמו כמכתב מהקוסמוס: אחווה עולמית, התפתחות הנשמה ו"עידן זהב" שמחכה לאנושות...
בתוך כל צליל טבעי מסתתר צליל אחד שלא נמצא על אף קליד. מסע בין האלפהורן השווייצרי, הסולם של הארי פרץ', המצולע בן 11 הצלעות שאי אפשר לבנות, החול על לוחות כלאדני ו"עשר ולא אחת עשרה" של ספר...
גשר דק משערה וחד מחרב, שכל אדם עתיד לחצות. מה אומרת המסורת האסלאמית על גשר הסיראט, מה מחבר אותו לצ'ינוואט, לשקילת הלב ולגשר הצר של רבי נחמן, ולמה הוא נמתח מתחת לרגליים כבר עכשיו....

יש תפילה אחת ביהדות שכולם מכירים בשמה, אף אחד לא ממש מבין את תוכנה המילולי, ורוב גדולי הפוסקים במשך כאלף שנה ניסו לגנוז אותה או לפחות לשנות בה מילה אחת. ובכל זאת היא זו שפותחת את היום...

הרשמה לניוזלטר

מלאו את פרטים לקבלת עדכונים