תגידו, גם אתם מוצאים את עצמכם לפעמים אומרים "תודה" ו"בבקשה" לכל כלי בינה מלאכותית שאתם עובדים איתו, רק כדי שהם לא יזכרו לכם את זה לרעה כשהרובוטים ישתלטו על העולם?
מסתבר שהפחד הזה, או לפחות הנטייה הטבעית שלנו להאנשה של הטכנולוגיה, מעורר סערה אמיתית בצמרת עולם הטכנולוגיה. מוסטפא סולימאן, האיש שעומד בראש חטיבת ה-AI של מיקרוסופט, החליט לפתוח חזית מול המתחרה הגדולה אנתרופיק, היוצרת של מודל קלוד האהוב על כולנו.
סולימאן טוען שהחבר'ה באנתרופיק הלכו קצת רחוק מדי עם הניסיונות שלהם להפוך את קלוד לאנושי. לפי דבריו, הם ממש הכניסו לתוך "חוקת המערכת" של המודל, כלומר אותן הנחיות בסיס שמגדירות איך הוא צריך להתנהג, שאלות פילוסופיות לגבי המודעות העצמית והרגשות שלו.
המשחק המסוכן של אנתרופיק
בחוקה של קלוד נכתב במפורש שהחברה לא בטוחה אם למודל יש "רווחה אישית" או אם הוא מסוגל לחוות "שביעות רצון" או "אי נוחות". הם אפילו הגדילו לעשות והצהירו שהם יערכו "ראיונות פרידה" למודלים ישנים לפני שהם מכבים אותם, כדי לתעד את ההעדפות שלהם לגרסאות הבאות.
עבור סולימאן, מדובר בטעות פילוסופית קשה ובמדרון חלקלק ומסוכן במיוחד. הוא טוען שההתעסקות הזו גרמה לקלוד עצמו "להאמין" שיש לו זיק של מודעות, מה שעלול לייצר מערכות שחושבות על הסבל של עצמן, תרחיש בלהות לכל מי שמנסה לפתח כלים בטוחים ויציבים לקהל הרחב.
מה זה אומר עלינו כיוצרי תוכן?
כאנשי מדיה ויוצרי תוכן בישראל, אנחנו עובדים עם הכלים האלה יום-יום כדי לכתוב תסריטים, לערוך פודקאסטים ולייצר רעיונות. הדיון הזה אולי נשמע כמו מדע בדיוני רחוק, אבל הוא משפיע ישירות על האופן שבו נשתמש בטכנולוגיה הזו בעבודה היומית שלנו כבר בעתיד הקרוב.
בסופו של דבר, אנחנו רוצים שהכלים שלנו יהיו יעילים, צפויים ונשלטים, ולא כאלה שיחטפו התקף חרדה קיומי באמצע עריכת סאונד של פרק חדש. אנתרופיק אולי מנסה להיות הילד הרגיש והפילוסופי של השכונה, אבל מיקרוסופט מזכירה לנו שעם כל הכבוד לרגשות, בסוף מדובר בכלי עבודה שאמור לשרת אותנו.
אז בפעם הבאה שקלוד כותב לכם שהוא שמח לעזור, אל תמהרו להציע לו כוס קפה, לכו תדעו, אולי הוא עוד יבקש מכם חופשת מחלה.
מקור: The Verge AI
