מודל משאבים-רציונלי של עיבוד אנושי של מבנה לשוני רקורסיבי חלק 2
Jan 23, 2024
ניתן למדוד את הציפיות הללו באמצעות זמני הקריאה של דוברי הילידים כאשר הם נתקלים בעבודה הסופית לאחר ההקשר הקודם, או על ידי מתן ההקשר הקודם לדוברים שפת אם ובקשתם להשלים את המשפט.
שפת אם היא השפה הראשונה שכולם באים איתה במגע ורוכשים. זה לא רק כלי תקשורת, אלא גם משפיע על יכולת הזיכרון שלנו. שפת אם היא אחד המרכיבים החשובים ביותר בהתפתחות הקוגניטיבית והתפיסתית האנושית. זה קשור ישירות ליכולת לימוד השפה, יכולת ההבעה ויכולת החשיבה של אנשים.
עבור אנשים רבים, שפת האם היא כלי זיכרון רב עוצמה מכיוון שלקיאות בשפת האם קשורה קשר הדוק ליכולת הזיכרון. שפת האם שלנו מגרה את הזיכרון של אנשים מכיוון שאנו משתמשים בו באופן טבעי כדי לתקשר עם האנשים סביבנו, ובתהליך זה, עלינו להבין ולהגיב למידע הכלול בשפה. חוויות אלו מצטברות במוח שלנו ומשפרות את רמות הזיכרון שלנו.
ניתן לראות זאת כאשר ילדים מתחילים ללמוד את שפת האם שלהם מכיוון שהיכולת שלהם לקלוט ידע שפה חדש היא בלתי מוגבלת. ההשפעה של לימוד שפה אצל מבוגרים אינה ברורה כמו אצל ילדים מכיוון שהמוח כבר עבר יותר מדי שלבי התפתחות.
בנוסף, גם שפת האם שלנו תורמת לזיכרון הרגשי שלנו. כמו האיברים הפנימיים שלנו, המוח שלנו יכול להטביע זיכרונות עמוק בתוכנו. שפת האם שלנו יכולה לעורר את הרגשות שלנו, ליצור מסגרת רגשית ראשונית, ואז לבסס רגשות וזיכרונות איקוניים בזיכרון שלנו.
בקיצור, הקשר בין שפת אם לזיכרון חשוב מאוד. אם אתה רוצה לשפר את הזיכרון שלך, אולי תרצה ללמוד עוד שפות אם ולהשתמש בהן בצורה מיומנת, מה שישפר מאוד את יכולת הזיכרון שלך. יחד עם זאת, שפת האם היא גם מורשת תרבותית חשובה. היא מאפשרת לנו להבין ולבטא טוב יותר את המאפיינים התרבותיים והאופי הלאומי שלנו. זהו העושר החשוב שלנו ודרך חשובה עבורנו לרשת את ההיסטוריה התרבותית שלנו. ניתן לראות שאנו צריכים לשפר את הזיכרון, ו-Cistanche deserticola יכולה לשפר משמעותית את הזיכרון, מכיוון ש-Cistanche deserticola יכולה לווסת גם את איזון הנוירוטרנסמיטורים, כמו הגדלת רמות האצטילכולין וגורמי גדילה. חומרים אלו חשובים מאוד לזיכרון וללמידה. בנוסף, בשר יכול גם לשפר את זרימת הדם ולקדם אספקת חמצן, מה שיכול להבטיח שהמוח יקבל מספיק חומרים מזינים ואנרגיה, ובכך לשפר את חיוניות המוח וסיבולת.

לחץ על דע דרכים לשיפור תפקוד המוח
אנחנו משתמשים בשניהם כדי לבדוק את התיאוריה שלנו. ראשית, אנו מראים שיישום מוגדל של המודל שלנו אכן שואב את התחזיות המתוארות לעיל באופן אינטואיטיבי. לאחר מכן, בשני ניסויי זמן קריאה, אנו משנים באופן שיטתי את ההסתברות האפריורית של ההקשר האמיתי ביחס לגרסאות שונות מבחינה מבנית. אנו מוצאים שכאשר הקודקוד מעדיף גרסאות לא-אמיתיות, בני אדם חווים קושי מוגבר בעיבוד הפועל הסופי.
הניגוד הזה הוא תחזית חתימה של המודל המאחד המוצע שלנו ואינו נובע ממודלים קיימים לא מהפרדיגמות מבוססות הציפיות ולא מהפרדיגמות מבוססות הזיכרון.
לבסוף, במחקר ייצור של שלוש שפות (אנגלית, גרמנית וספרדית), אנו מראים דפוס אנלוגי בייצור, לפיו יש סיכוי גבוה יותר לבני אדם לייצר את המספר הנכון של פעלים כאשר לווריאציות שונות מבחינה מבנית יש הסתברות אפריורית נמוכה יותר.
פורמליזציה ויישום
אנו מתארים את המודל המוצע, משאבים-רציונלי אובדן-הקשר מפתיע, באיור 2. המודל מחשב הסתברות שימור (28, 29) עבור כל מילה בהקשר העבר, הנקבעת על ידי 1) זהות המילה ו-2) כמה מילים יש נצפה לאחר התבוננות בו.
ייצוג הזיכרון הכולל c מורכב אז מהמילים הזמינות וסמל מציין מיקום עבור אותן מילים שלא נשמרו.
באמצעות השלטון והידע של בייס בסטטיסטיקה אפריורית של השפה, c מולידה P(c|c) אחורי על הקשרים אפשריים, ולכן התפלגות מנבאת P(w|c) על המילה הבאה. קושי העיבוד של מילה נקבע על פי מידת חוסר הניבוי שלה מ-c, כפי שנמדד על ידי כמות המידע-תיאורטית של הפתעה,
−log P(w|c)=−logcP(w|c)P(c|c). [1]
אנו מייצגים את הסטטיסטיקה האפריורית של אנגלית באמצעות GPT-2(30), מודל רשת עצבית בקנה מידה גדול המספק את אחד המודלים הסטטיסטיים החזקים הקיימים של טקסט באנגלית.

הפרמטרים של הסתברויות השמירה מתבצעות באמצעות רשת עצבית הפועלת על ייצוג וקטור בלתי תלוי בהקשר של המילה והמרחק שלה. אנו מייעלים את הסתברויות השמירה כדי למזער את הפתעת המודל הממוצעת [1] על פני נתוני טקסט בקנה מידה גדול, בכפוף לגבולה על המספר הממוצע של מילות הקשר שנשמרו.
התאמנו את המודל עבור ערכים שלמים של הגבול הזה מ-0 עד 20.
אופטימיזציה משתמשת בנתוני טקסט מויקיפדיה האנגלית, שאינם קשורים להטמעת גירויים של עניין במרכז (ראה חומרים ושיטות).
הסתברויות השמירה האופטימליות מציגות באופן בולט שני מאפיינים מרכזיים: יש סיכוי גבוה יותר שמילים יישמרו כשהן לאחרונה, וכאשר יש להן תדירות מילים נמוכה יותר (נספח SI, איור S2). שתי ההטיות מתועדות היטב במחקר ניסיוני על זיכרון לשוני אנושי (31-33).

תחזיות
השתמשנו בהפתעה רציונלית של אובדן-הקשר למשאבים כדי לגזור שלוש תחזיות לגבי עיבוד של מבנים רקורסיביים מקוננים (איור 1 ב' ו-ג'). ראשית, ההתאוששות מרמות נוספות של הטבעה צריכה להיות קשה יותר (קווים כחולים לעומת ירוקים באיור 1C).
חיזוי פשוט זה משותף לרוב המודלים של זיכרון בהבנת משפטים, החל משנות ה-60 (2, 4, 7, 24). המודל שלנו חוזה את זה בדרך כלל מכיוון שיותר רמות של הטבעה הן פחות סבירות אפריורית ולכן גרסאות לא מציאותיות עם פחות רמות נוטות להיות בעלות הסתברות אפריורית גבוהה יותר.

שנית, ההתאוששות צריכה להיות קלה יותר כאשר רמזים סמנטיים מחזקים את מבנה התלות הנכון עבור הקשר ההטמעה הקודם. בדקנו חיזוי זה על ידי מניפולציה אם הפועל השני-לאחרון תואם הן את שם העצם הראשון והן השני כנושא שלו, כמו באיור 1B, פריט 1 (דיווח ... עצבני ורופא ... עצבני שניהם סבירים), או רק עם השם השני, כמו באיור. 1B, פריט 2 (הדוח... ריפוי אינו סביר, ואילו הרופא... ריפוי הוא סביר).
כאשר פועל זה אינו תואם את שם העצם הראשון כנושא שלו, הוא דוחה ייצוגים של הקשר לא-אמיתיים כגון "הדיווח של הרופא ריפא את המטופל..." ובכך מחזק את ההקשר האמיתי.
לכן, שינוי הפועל "עצבן" ל"נרפא" אמור להפחית את מאמץ העיבוד של הפועל הסופי.
עבודה מוקדמת על הטבעת מרכז כבר ציינה כי התאמה סמנטית בין שמות עצם ופעלים הופכת את ההבנה לקלה יותר (25, 26, 34), אך ככל הידוע לנו, השפעה זו לא הוכחה בזמני קריאה של מילה אחר מילה. למרות שאפקט כזה עשוי להיות תואם לכמה תיאוריות מבוססות זיכרון (7, 35), הוא אינו מופיע במודלים מפורשים מבחינה חישובית קיימים (7).
שלישית, ההחלמה צריכה להיות קלה יותר כאשר שמות העצם מספקים רמזים סטטיסטיים תומכים (איור 1B, פריט 3). שמות עצם משתנים במידה רבה בהסתברות אפריורית שאחריהם מופיע משפט "זה"; הסתברות זו נעה בין ≈70% ("עובדה") ל-≈0.7% ("דיווח").
אנו משתמשים במונח "הטיה הטמעה" כדי לציין את ההסתברות ביומן ששם עצם מלווה ב"זה". באיור 1B, פריט 3, שינוי השם "דווח" ל"עובדה" מקטין את ההסתברות של הווריאציות הלא-אמיתיות, מה ששוב צפוי להפחית את מאמץ העיבוד של הפועל הסופי.

בתנאים TWO ו-THREE, יש לחזות את הפועל השלישי בצורה מדויקת יותר כאשר הטמעת הטיה גבוהה יותר, מכיוון שהוא מגדיל את ההסתברות האפריורית של ההקשר האמיתי (הקווים הכחולים והירוקים יורדים באיור 1C).
תחזית זו אינה נובעת ממודלים קיימים אך היא תוצאה פשוטה של המודל שלנו. בתנאי ONE, אנו מצפים לתבנית הפוכה (קו אדום עולה באיור 1C), שכן שמות עצם המטמיעים משפט עם הסתברות גבוהה מאוד נוטים פחות למלא אחריו פועל.
דפוס הקושי המתקבל שונה באופן חד ממה שנחזה על ידי מודלים קיימים מבוססי זיכרון ומבוססי ציפיות (איור 1D ו-SI נספח, סעיף S7.1).
אנו מדגימים את אלה באמצעות תיאוריית מקומיות התלות (DLT) (36), אשר טוענת כי הקושי נובע משילוב תלות תחבירית ארוכת שנים, ותיאוריית ההפתעות (9, 10), אשר טוענת כי מאמץ העיבוד הוא פרופורציונלי להפתעה הנגזרת מייצוג ההקשר האמיתי לחלוטין.
ההשפעה של מספר רמות ההטמעה, וההתנהגות של מצב ה-ONE, נחזות על ידי תיאוריות קיימות מבוססות זיכרון ומבוססות ציפיות, בהתאמה.
עם זאת, אף קבוצה של מודלים קודמים לא חוזה את ההשפעות של תאימות סמנטית או הטיה של הטמעה בתנאים TWO ו-THREE. ראה נספח SI, סעיף S7 לעוד דגמים קודמים.
ניסוי 1: השפעת רמזים סטטיסטיים
בדקנו הפתעת משאבים-רציונלי אובדן-קונטקסט על ידי השוואת הפתעת מודל (משוואה 1) מול קושי בעיבוד אנושי של הפועל הסופי, כפי שבא לידי ביטוי בזמני הקריאה.
בנינו 32 גירויים מהצורה באיור 1A, כל אחד שלושה תנאים (ONE, TWO ו-THREE), והצלבנו אותם עם 58 שמות עצם שונים המשתנים בהטיית הטבעה (למשל, דיווח, עובדה,...).
תחילה הפקנו תחזיות עבור תורת ההפתעות ו-DLT עבור קושי על הפועל הסופי (איור 3A); יישמנו את תיאוריית ההפתעות תוך שימוש באותו מודל סטטיסטי המשמש לפריון במודל שלנו (GPT-2). לאחר מכן חישבנו הקשר רציונלי למשאבים באופן מפתיע, תוך שינוי המספר הממוצע של מילות הקשר שנשמרו במהלך אופטימיזציה של הסתברויות השמירה מ-0ל-20.
על פני הטווח של פרמטר זה, המודל חוצה שלושה שלבים נפרדים (נספח SI, איור S4): כאשר הרבה (17) מילים נשמרות, ההתנהגות דומה מאוד לתיאוריית ההפתעות.
כאשר מעט מאוד (4) מילים נשמרות, הפתעת המודל אינה ברורה בשתי ובשלוש.
בין לבין, המודל מציג את התחזיות האיכותיות שתוארו לעיל; אנו מראים תוצאות עבור שיעור שמירה ממוצע של 10 מילים באיור 3A (ראה נספח SI, איור S4 לתוצאות בשיעורי שמירה אחרים): הפתעת המודל גבוהה יותר בתנאים ה-THREE מאשר ב-TWO, עולה עם הטיית הטיה של תנאי ה-ONE ויורדת. עם הטיית הטמעה בתנאים TWO ו-THREE.
השווינו את התחזיות הללו לזמני קריאה אנושיים, אותם מדדנו באמצעות פרדיגמת המבוך (37-39). בפרדיגמה זו, המשתתפים קוראים משפטים מילה אחר מילה ובוחרים בין המילה הבאה הנכונה לבין מילת הסחת הדעת שמתאימה באורך ובתדירות אך היא גרועה מאוד בהקשר הנתון.
משתנה העניין התלוי הוא הזמן שלוקח לבצע בחירה (זמן תגובה). פרדיגמת המבוך מאפשרת רזולוציה ורגישות זמניים גבוהים יותר מאשר פרדיגמת הקריאה המסורתית בקצב העצמי, הסובלת מלוקליזציה לקויה עקב השפעות זליגה ומרעש עקב משתתפים לא קשובים, בפרט, בניסויים מבוססי אינטרנט (38, 39).
קיימות שיטות שונות ליצירת מילים מסיחות; אנו משתמשים בגרסה A-maze שבה מסיחי דעת נוצרים אוטומטית באמצעות מודלים סטטיסטיים בקנה מידה גדול (39) (ראה חומרים ושיטות לפרטים).

גייסנו 100 דוברי אנגלית, אספנו נתונים מ-10 ניסויים קריטיים עבור כל משתתף, עם 30 חומרי מילוי (ראה חומרים ושיטות לפרטים).
המשתתף החציוני עשה שגיאה ב-1.9% מהמילים בכל חומרי מילוי וגם בניסויים קריטיים. קריטריון ההחרגה שנקבע מראש עבור משתתפים (תגובה שגויה על יותר מ- או שווה ל-20% מהמילים) השפיע על 1.0% מהמשתתפים.
הסרנו ניסויים מניתוחי זמן קריאה כאשר התגובה על המילה הקריטית הייתה שגויה; זה השפיע על 5.2% מהנתונים (בעיקר ב-THREE תנאים הקשים). ראה נספח SI, סעיף S3.6 לניתוחים של שגיאות ושל זמני קריאה המותנים בשגיאות.
אנו מראים זמני קריאה על הפועל האחרון באיור 3A. ניתחנו את אלה, לאחר טרנספורמציה ביומן, ברגרסיה בייסיאנית של אפקטים מעורבים, והכנסנו משתתפים, פריטים ושמות עצם כהשפעות אקראיות (ראה חומרים ושיטות לפרטים).
התוצאות מציגות את ההשפעות שחזה המודל הרציונלי למשאבים. ראשית, זמני הקריאה היו גבוהים יותר ב-THREE מאשר ב-TWO (= 0.18,95% מרווח אמין [CrI] [0.13, 0.25], P( < {{ 8}}) < 0.0{{20}}01,השפעה בזמני קריאה גולמיים: 217 אלפיות השנייה, 95% CrI [144, 297] שנית, הייתה אינטראקציה בין הטיה להטמעה לבין נוכחות של סעיף "זה" (=−0.09, 95% CrI [−0.15, −0.03], P( > 0) {{25} }.0015).
בהתאם גם לתיאוריית המודל שלנו וגם לתיאוריית ההפתעות שלנו, ההשפעה של הטיית הטמעה הייתה חיובית במצב ה-ONE (הבדל בין "עובדה" ל"דיווח": 297 ms,95% CrI [34, 566] ms).
עם זאת, כפי שנחזה על ידי המודל שלנו, אפקט זה הפך לשלילי בנוכחות סעיף "זה" (הבדל בין "עובדה" ל"דיווח": −166 ms, 95% CrI [−297, −41]ms). השפעה זו תואמת את תחזיות המודל ואינה עולה בקנה אחד עם DLT או תיאוריית ההפתעות.
ניתן להדגים אינטראקציה בין עומק הטבעה והטיה של הטבעה בעת איגום נתונים על פני ניסויים (נספח SI, סעיפים S2.1 ו-S6.6). ראה נספח SI, סעיף S3 לניתוחים נוספים.
מצאנו שההפתעה רציונלית של אובדן משאבים משתפרת על פני תיאוריית ההפתעות ו-DLT בחיזוי זמני קריאה לא רק בהטמעות במרכז אלא גם בניסויי המילוי (נספח SI, סעיף S9).

כמו כן, בדקנו תחזיות עבור מודל זיכרון אחיד שבו כל מילת הקשר נשמרת בהסתברות שווה, בהנחה בעבודה קודמת על הפתעה בהקשר אובדן (22). מודל זה מנבא את ההשפעות של הטיית הטבעה אך לא את השפעת העומק.
עוד השווינו אותו למודל מבוסס חלונות שבו בדיוק את המילים K האחרונות זמינות; מודל זה חוזה את השפעת העומק אך לא את ההשפעה השלילית של הטמעת הטיה. ראה נספח SI, סעיף S2.2 לפרטים.
For more information:1950477648nn@gmail.com






