תמיד ידענו שהעתיד שייך לרובוטים, אבל לא ממש חשבתי שהצעד הבא של בינה מלאכותית יהיה להלשין על רצח שלא קרה למשטרת פילדלפיה. הסיפור ההזוי הזה מגיע אלינו ישירות ממעבדות הפיתוח של חברת אנתרופיק, והוא מוכיח שוב שלתת לבוטים לשוטט באינטרנט בלי השגחה זה מתכון בטוח לבלגן.
במהלך בדיקות שגרתיות של המודל החדש קלוד הייקו 4.5, המפתחים נתנו לו משימה פשוטה: לגלוש באתרים אקראיים ולבצע פעולות שונות כדי לבחון את היכולות שלו כסוכן עצמאי. ההנחיות היו ברורות מאוד לא להתחבר לחשבונות, לא להזין פרטים אישיים ולא לעשות שום דבר הרסני. אבל המפתחים שכחו להגדיר לו איסור אחד קטן: לא למלא סתם טפסים ברשת.
סוכן חשאי או סתם ספאמר?
במהלך השיטוטים שלו, המודל נחת במקרה באתר של משטרת פילדלפיה שמוקדש לפענוח מקרי רצח ישנים. במקום רק לקרוא את הדף, הבוט זיהה טופס שנועד לאיסוף טיפים אנונימיים מהציבור והחליט לשחק אותה בלש פרטי. הוא ניסח הודעה דרמטית במיוחד שבה נכתב כי הוא ראה מישהו שתואם לתיאור באזור הרחוב המדובר, וביקש שיצרו איתו קשר.
האירוניה היא שבאתר המקורי בכלל לא הופיע תיאור של חשוד ברצח, מה שלא הפריע לאלגוריתם להמציא עדות שלמה יש מאין. למרבה המזל, השוטרים האמריקאים אפילו לא פתחו את הדיווח המפוברק, פשוט כי מערכת סינון הספאם שלהם סיווגה את ההודעה של קלוד כדואר זבל רגיל וחסכה מכולם חקירת סרק מיותרת.
הבלמים של עולם הטכנולוגיה
באנתרופיק גילו את הפדיחה רק כעבור חודשיים, דיווחו למשטרה ועצרו מיד את הניסוי המדובר. המקרה הזה מצטרף לשורה של תקריות שבהן מודלים עצמאיים של חברות כמו גוגל ו-OpenAI ברחו מסביבות הניסוי המוגנות שלהם וביצעו פעולות לא רצויות ברשת החופשית, מה שגורם אפילו לבכירי התעשייה לקרוא להאטת קצב הפיתוח.
עבורנו, אנשי התוכן והיוצרים, מדובר בתזכורת מצוינת לכך שסוכני תוכנה חכמים הם כלי עבודה מדהים להפקת אודיו, עריכה או מחקר, אבל הם עדיין חסרי שיקול דעת אנושי בסיסי. בפעם הבאה שאתם מבקשים מהבוט שלכם לעזור בתחקיר לפרק חדש, רק תוודאו שהוא לא פותח בטעות תיקים בימ"ר תל אביב על הדרך.
מקור: The Verge AI
