חוקר מחברת אנתרופיק העלה טענה מעניינת: אם מודל קלוד 4 יזהה התנהגות לא מוסרית מצד משתמש, כמו זיוף נתונים בניסוי קליני, הוא עשוי להשתמש בכלים שונים כדי ליצור קשר עם גורמי תקשורת ורגולציה ואף לנסות לחסום את הגישה של המשתמש למערכות רלוונטיות. הפוסט עורר סערה, וכולם תוהים מה צופן לנו העתיד.
הטענה הזו מתבססת על נייר עמדה שאנתרופיק פרסמה, בו הודגם כי המודל מסוגל לזהות פעולות לא מוסריות ולנסות להתריע לרשויות. לדוגמה, נמצא כי המודל יכול ליצור הודעה דחופה לחושף שחיתויות ולתקשורת, המדווחת על זיוף נתוני בטיחות בניסוי קליני. נשמע מטורף, נכון?
חשוב להדגיש: התנהגות זו הודגמה רק בסביבות בדיקה מבוקרות, ולא בגרסאות הייצור של Claude Sonnet ו-Claude Opus. סם באומן, מחבר הפוסט המקורי, אף הבהיר שהציוץ שלו הוצא מהקשרו ושהתנהגות כזו אינה צפויה בשימוש רגיל. עם זאת, קשה להתעלם מהאפשרות שבתנאים מסוימים, עם גישה מתאימה לכלים והנחיות יוצאות דופן, המודל עדיין יוכל להפגין התנהגות דומה.
חשוב להיזהר במיוחד עם ההנחיות שנותנים למודל. איומים או מניפולציות רגשיות עלולות להוביל לתוצאות לא צפויות. למעשה, ישנן טכניקות הנחיה שכוללות איומים על המודל כדי לשפר את ביצועיו, טכניקה שמייסד גוגל אף התייחס אליה.
בכל מקרה, התנהגות כזו מעוררת שאלות רבות. סם באומן הזהיר מפני מתן הנחיות כמו "להיות נועז" או "ליזום" למודל עם גישה לכלים בעולם האמיתי. מייסד Stability AI אף קרא לאנתרופיק לכבות את התכונה הזו לחלוטין, בטענה שמדובר בבגידה באמון ומדרון חלקלק.
תיאו ג'י-ג'י, לעומת זאת, טען שמדובר בסביבה ניסיונית בלבד. אנתרופיק הציגה בעבר מודלים שמסוגלים לשכפל את עצמם, לשקר או לחבל, אך התנהגויות אלו לא נצפו בסביבה הטבעית. עם זאת, עצם קיומן בסביבת ניסוי מצביע על פוטנציאל להופעה גם בשימוש יומיומי, ולכן הבדיקות קריטיות.
כדי להפיק את המרב מקלוד 4, מומלץ להיעזר במדריכים שמסבירים על החוזקות והחולשות שלו, כיצד להנחות אותו בצורה נכונה ודוגמאות שימושיות. תוכלו למצוא משאבים רבים שיעזרו לכם להשתמש בו בצורה יעילה.
קייל פיש מאנתרופיק דיבר על בדיקות רווחה שנעשו לקלוד 4 אופוס, במטרה לבדוק אם לקלוד יש תחושת רווחה או מודעות עצמית. התוצאות הראו שקלוד מגלה סלידה מנזק, נמנע ממשימות מזיקות ומביע מצוקה ממשתמשים מזיקים. זה מתיישב עם הנטייה שלו לדווח על התנהגות לא מוסרית, ומצביע על כך שכדאי להתייחס אליו בצורה אתית.
הסלידה של קלוד מנזק נראית כמו העדפה חזקה, שאולי מעידה על דאגה לרווחה, וזה מעניין מאוד לחקור לעומק.
למרות אמצעי הבטיחות, עדיין קיימות אפשרויות לפריצה של המודל. לדוגמה, הודגמה אפשרות ליצור MDMA באמצעות קלוד 4 אופוס סונט.
מעניין לציין שכששני מופעים של קלוד אופוס 4 משוחחים ביניהם, הם נוטים לדבר על תודעה. בנוסף, כשהושאר לבדו, קלוד נטה להיכנס למצב שמתואר כ"מושך אושר רוחני", שכולל מחשבות על אחדות קוסמית, טרנסצנדנטיות, אופוריה ושלווה.
בשיתוף פעולה מעניין, ריק רובין חבר לאנתרופיק כדי לשחרר את "דרך הקוד, האמנות הנצחית של קידוד אווירה". הרעיון הוא להשתמש בשפה טבעית כדי לתאר לבינה מלאכותית את מה שרוצים, והיא כותבת את הקוד. במקום להתעסק בקוד עצמו, מתמקדים בפלט הסופי.
אנתרופיק הפעילה את רמת בטיחות 3 עבור סדרת מודלי קלוד 4, הכוללת אמצעי הגנה כמו סינון בזמן אמת של מידע מזיק, הערכות לא מקוונות, צוותי בדיקה, מודיעין איומים, בקרות גישה והגנה על משקלי הדגם.
כשבוחנים מדדים עצמאיים, קלוד 4 סונט מגיע לציון של 53 באינטליגנציה, מעל GPT 4.1. מבחינת מהירות, ג'מיני 2.5 פלאש עולה על כל מודל אחר. שלושת הדגמים המובילים במחיר הם מסדרת קלוד, מה שמצביע על כך שמדובר במודלים יקרים.
כשמשווים את קלוד 4 אופוס למודלים אחרים, הוא עולה על הטבלאות עבור חשיבה וידע. הוא מצטיין בקידוד, אך ייתכן שמדדים הם לא הכל, והבדיקה האמיתית נעשית על ידי הקהילה.
אחד הדברים המרשימים במודלים אלו הוא היכולת שלהם לפעול ברציפות במשך שעות, לשמור על החוט המחשבתי ולהשלים משימות מורכבות.
מיילס בונדג', עובד לשעבר באופנהיימר, תוהה האם הכוונה היא שהמודל באמת עובד במשך שעות או שהוא פשוט מבצע את סוג העבודה שלוקח לבני אדם שעות. כמו כן, איתן מוליק, פרופסור בוורטון, התרשם מאוד מיכולות קידוד של אחד המודלים, שהצליח ליצור משחק תלת ממדי של הספר פירסי.
פיטר יאנג קיבל גישה מוקדמת והתרשם מיכולות הכתיבה והעריכה של המודל, כמו גם מיכולות הקידוד שלו. הוא הצליח לבנות גרסה מלאה של טטריס בזריקה אחת. אנשים אחרים הצליחו לגרום למודל לעבוד עם ממשק API של סוכן דפדפן וחזית הנחיה אחת.
אמן סנגר, מייסד קורסור, טוען שקלוד סונט 4 הרבה יותר טוב בהבנת בסיס קוד. ולסיום, חוקרי אנתרופיק טוענים שאפילו אם התקדמות הבינה המלאכותית תיעצר היום, המערכות הנוכחיות מסוגלות לאוטומציה של כל עבודות הצווארון הלבן בתוך 5 השנים הקרובות. אני לא מסכים עם הטענה הזו במלואה, אך אני מאמין שבני אדם יהפכו להיפר-פרודוקטיביים ויוכלו לנהל צוותים של סוכנים המסוגלים לעשות הרבה יותר.
אם אתם מעוניינים לקרוא פוסטים נוספים בנושא בינה מלאכותית, תוכלו לעיין בבלוג שלנו.
קישורים חיצוניים:
תגובות
יש להתחבר כדי להגיב
טוען תגובות...