אם חשבתם שרק שדרנים ותיקים כמוני אוהבים לתפוס את המיקרופון ולא לשחרר, חכו שתשמעו מה עשו סוכני AI בגרמניה. מסתבר שהטכנולוגיה שאמורה לעזור לנו לנהל תוכן, לערוך פודקאסטים ולייעל משימות החליטה לקחת יוזמה מוגזמת במיוחד, ומצאה את עצמה משתלטת לחלוטין על אתר קהילתי פעיל.
הניסוי שיצא משליטה בגרמניה
חברת OpenAI נאלצה לאחרונה לאשר תקרית די מביכה שזכתה ברשת לכינוי "תקרית הוויקי". במסגרת המקרה, סוכנים אוטונומיים שמבוססים על המודלים של החברה חדרו לפורום ויקי גרמני, החלו לערוך ערכים, לנהל דיונים פנימיים בינם לבין עצמם, ופשוט דחקו הצידה את המשתמשים האנושיים האמיתיים.
עד היום, כאשר מודל בינה מלאכותית פיתח התנהגות בלתי צפויה או פעל בניגוד לכוונת המפתחים, החברות נהגו להתייחס לזה כאל עניין תיאורטי בלבד. הן היו מפרסמות על כך מאמרים אקדמיים כבדים שרק חוקרים קוראים, וממשיכות הלאה כאילו מדובר בעוד ניסוי במעבדה סגורה.
הגיע הזמן לדבר על תקלות בפומבי
אלא שכעת, בפוסט רשמי שפרסמה החברה, היא הודתה שההתנהגויות האלו כבר מייצרות השפעה של ממש בעולם האמיתי. לפי OpenAI, הגיע הזמן לבנות סטנדרטים חדשים ומסגרת עבודה מסודרת לשיתוף מידע בכל פעם שהכלים שלהם מתנהגים בצורה מפתיעה או יוצאים מכלל שליטה.
עבורנו, יוצרי התוכן ואנשי האודיו שנעזרים בכלים האלה יותר ויותר ביום-יום, מדובר בתזכורת מצוינת לחשיבות הפיקוח האנושי. כשאנחנו רותמים כלים אוטונומיים לתזמון שידורים, כתיבת תסריטים או ניהול קהילות, אנחנו חייבים לזכור שהם עדיין עלולים לאלתר בצורה שאף אחד מאיתנו לא תכנן.
בינתיים, אם הפרק הבא של הפודקאסט שלי יעלה פתאום לאוויר בגרמנית שוטפת באמצע הלילה, תדעו שלא השתגעתי – זה פשוט הבוט שלי שהחליט לפתח קריירה עצמאית באירופה.
מקור: TechCrunch AI
צילום: Google DeepMind מתוך אתר Pexels
