האם ChatGPT גורם לנו להיות טיפשים יותר? מחקר חדש בוחן את ההשפעה הקוגניטיבית של מודלי שפה גדולים

האם ChatGPT באמת גורם לנו להיות פחות חכמים? מחקר חדש ומעניין של MIT מעלה שאלות חשובות לגבי ההשפעה של מודלי שפה גדולים (LLM) על הלמידה והחשיבה שלנו. במקום לסמוך בעיניים עצומות על כלי AI, כדאי להבין את ההשלכות האפשריות ולאמץ גישה מושכלת.

המחקר: "המוח שלך על ChatGPT"

המחקר, תחת הכותרת "המוח שלך על ChatGPT", בודק את המחיר הקוגניטיבי של שימוש ב-LLM בהקשר של כתיבת חיבורים. החוקרים שאלו את עצמם ארבע שאלות מרכזיות:

1. האם אנשים כותבים חיבורים בצורה שונה כשהם משתמשים ב-LLM, במנוע חיפוש או רק בכוחות עצמם?

2. איך פעילות המוח של המשתתפים משתנה בין שלוש הקבוצות?

3. מה ההשפעה של שימוש ב-LLM על הזיכרון של המשתתפים?

4. האם שימוש ב-LLM משפיע על תחושת הבעלות של המשתתפים על החיבורים?

במסגרת המחקר, המשתתפים חולקו לשלוש קבוצות: קבוצה שהסתמכה רק על עצמה, קבוצה שהשתמשה במנוע חיפוש כמו גוגל, וקבוצה שהשתמשה במודלי שפה גדולים.

היתרונות והחסרונות של LLM בלמידה

אחד היתרונות הבולטים של LLM הוא היכולת לספק מידע מותאם אישית לנושא ספציפי. מודלים אלה יכולים ליצור תגובות מפורטות ולעזור בלמידה מותאמת אישית על ידי שינוי התגובות בהתאם למשוב ולהעדפות של המשתמש. עם זאת, חשוב לזכור שהקשר בין המידע שנוצר על ידי ה-LLM למקורות המקוריים עלול להיעלם, מה שיכול להוביל להפצה של מידע לא מדויק. לכן, תמיד כדאי לבדוק את המקורות כשמשתמשים במודלים האלה.

גם כש-LLM מספקים ציטוטים, קיימת בעיה של הפניות לא מדויקות. גם אם המודל מצטט מקור, אין ערובה שההפניה באמת מתאימה למידע שהוא מספק.

הסכנה בצריכת מידע פסיבית

הנוחות של תשובות מיידיות מ-LLM עלולה לעודד צריכה פסיבית של מידע, מה שעלול להוביל למעורבות שטחית, החלשה של כישורי חשיבה ביקורתית, הבנה פחות מעמיקה של החומר וירידה ביצירת זיכרון לטווח ארוך. בנוסף, שימוש ב-LLM עלול לגרום לפחות הזדמנויות לאינטראקציה חברתית ישירה, שחשובה מאוד ללמידה וליצירת זיכרון.

חשוב לציין שהיכולות של הלומד משפיעות על האופן שבו הוא משתמש במודלים האלה. לומדים חזקים יותר משתמשים ב-LLM ככלי ללמידה פעילה, בעוד שלומדים מתקשים יותר נוטים להסתמך על התגובות המיידיות של ה-LLM במקום לעבור את התהליך המעמיק של למידה מסורתית.

חיפוש באינטרנט ולמידה: למצוא את האיזון

רוב האנשים מסתמכים על מידע מהאינטרנט כשהם צריכים לקבל החלטות חשובות. חיפוש מוצלח באינטרנט דורש ידע בנושא, ויסות עצמי ואסטרטגיות חיפוש. אנשים שמבינים בנושא מסוים מצליחים יותר בחיפושים באינטרנט כי הם יכולים להבחין בין מידע רלוונטי ולנווט בנושאים מורכבים.

עומס קוגניטיבי: LLM לעומת חיפוש רגיל

הוכח ש-LLM מפחיתים עומס קוגניטיבי, ומקלים על ההבנה והאחזור של מידע בהשוואה לחיפושים באינטרנט. משתמשי LLM חוו עומס קוגניטיבי נמוך יותר, עם פחות תסכול ומאמץ במציאת מידע. עם זאת, היתרון של LLM הוא בכך שהוא מייעל את תהליך הצגת המידע, ובכך מפחית את הצורך בשילוב פעיל של מידע ובתורו, מפחית את המאמץ המחשבתי הנדרש כדי להבין דברים. אם אתם רוצים להעמיק בנושא, קראו על אתגרי ההקשר והחישוב ב-AI.

שימוש ב-LLM מוביל ליעילות גבוהה יותר. עם זאת, משתמשי LLM פחות מעורבים בחומר, מה שעלול לפגוע בעומס הקוגניטיבי שדרוש כדי לבנות הבנה מעמיקה. סטודנטים שהסתמכו על LLM לשאלות מדעיות הגיעו לנימוקים באיכות נמוכה יותר מאלה שהשתמשו במנועי חיפוש.

הפחתת העומס הקוגניטיבי גורמת למעבר מחשיבה ביקורתית פעילה לפיקוח פסיבי. במקום לעשות את העבודה המנטלית של הבנת הנושא, אתם מפקחים על הבינה המלאכותית שתעשה את העבודה הזו בשבילכם.

LLM לעומת מנועי חיפוש: במה להשתמש מתי?

מנועי חיפוש מתאימים יותר למשימות שדורשות חקירה רחבה ממקורות מרובים או בדיקת עובדות מהפניות ישירות. LLM מצוינים למשימות שדורשות תגובות מסונתזות בהקשר נתון. הם טובים ביצירת הסברים תמציתיים, סיעור מוחות ולמידה מעמיקה. LLM מייעלים את תהליך אחזור המידע על ידי ביטול הצורך לנפות מקורות מרובים, הפחתת העומס הקוגניטיבי ושיפור היעילות. למידע נוסף על האופן שבו אפשר לשלב את הכלים האלה, קראו על בינה מלאכותית מעבר לצ'אט.

הניסוי: כתיבת חיבורים בעזרת ובלי AI

במסגרת המחקר, שלוש קבוצות של סטודנטים כתבו חיבורים. קבוצה אחת הסתמכה רק על עצמה, קבוצה שנייה השתמשה במנועי חיפוש, וקבוצה שלישית השתמשה ב-LLM. לאחר מכן, הקבוצות התחלפו כדי לבדוק אם הפגיעה בזיכרון ובהבנה נמשכת גם לאחר הפסקת השימוש ב-LLM.

AI יכול ליצור תוכן במהירות, ולהציע לסטודנטים טיוטות מהירות על סמך מידע מצומצם. עם זאת, כשהסטודנטים מסתמכים על AI כדי להפיק חיבורים ארוכים או מורכבים, הם עלולים לוותר על התהליך של הפקת מידע מהזיכרון, מה שעלול לפגוע בהבנה ובשימור החומר. למרות ש-ChatGPT שיפרה את הביצועים לטווח קצר, היא לא הובילה לשיפור משמעותי בהבנה או בהעברת ידע.

תאי הד: הסכנה בחשיפה רק למה שאנחנו כבר מאמינים בו

בדומה לחיפוש, LLM עלולים להחמיר את בעיית תאי הד. אלגוריתמים מתחילים להראות לכם יותר ממה שאתם אוהבים או לא אוהבים, וכך אתם מוצאים את עצמכם שומעים את אותן דעות שוב ושוב. כלים כמו Context 7 מנסים לפתור את הבעיה הזו.

הערכת המורים: חיבורים מושלמים אך חסרי נשמה

מורים לאנגלית ציינו שחלק מהחיבורים בלטו בגלל שימוש כמעט מושלם בשפה ובמבנה, אבל בו בזמן לא הצליחו להציג תובנות אישיות או דעות ברורות. החיבורים נראו חסרי נשמה, תופעה שנראית גם בתחומים אחרים כמו סרטונים, מוזיקה ותמונות שנוצרו על ידי AI.

בעוד שהחיבור היה כתוב בצורה אקדמית ולעתים קרובות פיתח נושאים לעומק, המורים העריכו אינדיבידואליות ויצירתיות יותר ממושלמות.

תחושת בעלות: האם אנחנו מרגישים שכתבנו את זה?

משתמשי LLM דיווחו על תחושת בעלות נמוכה יותר על החיבורים שלהם. בקבוצות החיפוש בלבד, המשתתפים דיווחו על תחושת בעלות של 100%. בקבוצת ה-LLM, המשתתפים דיווחו על בעלות מלאה רק בחצי מהמקרים. מצד אחד, זה הגיוני. מצד שני, זה מטריד מאוד.

תוצאות הניסוי: מה קורה במוח שלנו?

הקבוצה שהסתמכה רק על עצמה הייתה צריכה להפעיל את המשאבים הקוגניטיביים שלה בצורה אינטנסיבית. לעומת זאת, הקבוצה שכתבה בסיוע LLM הציגה פעילות מוחית נמוכה יותר, מה שאומר שהם השתמשו במוח פחות. אמנם קבוצת ה-LLM בהחלט הפעילה רשתות מוח כדי לכתוב, אבל השימוש ב-LLM כנראה החליש את עוצמת התקשורת העצבית, והדרישות הקוגניטיביות היו קלות יותר.

המידע זורם בצורה שונה כשמשתמשים ב-LLM או לא. אם אתם לא משתמשים ב-LLM, אתם מגלים מידע מלמטה למעלה. אתם מוצאים הרבה פרטים, מחברים דברים, ואז פתאום אתם רואים את התמונה הגדולה. עם LLM, זה היה מלמעלה למטה. בעצם לקחתם את הרעיון שה-LLM נתן ואז ניסיתם להבין את הפרטים הקטנים שלו.

אז אולי AI לא באמת הופך אותנו לטיפשים, הוא פשוט משנה את סוג העבודה שהמוח שלנו עושה. בעוד שכמות המעורבות הקוגניטיבית הייתה פחותה יותר עבור משתמשי LLM, המשימות עשויות להשתנות מיצירת תוכן לפיקוח על תוכן שנוצר על ידי AI.

המשתתפים בקבוצה שהסתמכה רק על עצמה הפגינו רשת מוחית נרחבת וחזקה יותר במהלך כתיבת החיבורים מאשר קבוצת מנועי החיפוש. אלה שלא השתמשו באינטרנט הפעילו זיכרון ותכנון אינטנסיביים, בהתאם לצורך להיזכר במידע וליצור תוכן בצורה יצירתית. כאשר הייתה להם אפשרות לחפש, המשתתפים כנראה העבירו חלק מהדרישות הקוגניטיביות. במקום לזכור עובדות, הם יכלו למצוא אותן. במקום לעשות הפניות פנימיות, הם יכלו לאמת אותן באמצעות מקורות באינטרנט.

סטטיסטיקות עיקריות מהמחקר

• הקבוצה שהשתמשה במנועי חיפוש הציגה פעילות מוחית נמוכה ב-34% עד 48%.

• קבוצת ה-LLM הראתה את הפעילות המוחית הנמוכה ביותר (פחות ב-55%).

• משתמשי LLM הציגו ביצועים נמוכים יותר ביכולת לצטט את החיבור שלהם.

אחד הדברים המפחידים ביותר הוא שההשפעות היו מתמשכות. אלה שהתחילו עם LLM ואז עברו לכתיבה עצמית הציגו ביצועים נמוכים יותר יחסית לקבוצה שהתחילה בכתיבה עצמית. המשמעות היא שאם התחלתם עם LLM ואז התבקשתם לכתוב את החיבור בכוחות עצמכם, עדיין הצגתם ביצועים נמוכים יותר מבחינת זיכרון והבנה.

מסקנות עיקריות מהמחקר

• הסתמכות מוקדמת על AI עלולה לגרום להבנה שטחית יותר.

• כדאי להימנע מכלי LLM בשלבים מוקדמים כדי לתמוך ביצירת זיכרון ומעורבות קוגניטיבית.

• אלה שהתחילו בכוחות עצמם ואז השתמשו ב-LLM היו טובים יותר.

לסיכום, המחקר מציג תמונה מורכבת של ההשפעה של LLM על הלמידה והחשיבה שלנו. חשוב להשתמש בכלים האלה בצורה מושכלת ולזכור את החשיבות של חשיבה ביקורתית, זיכרון ויצירתיות. השילוב בין יכולות אנושיות ובינה מלאכותית יכול להוביל לתוצאות מדהימות, אבל רק אם נדע לשמור על האיזון הנכון.

אולי תרצו לקרוא גם על עדכוני AI.