כשחברות הטכנולוגיה הכי גדולות בעולם מתחילות להתחנן לממשלה שתעצור אותן, אפשר להבין שהגענו לנקודה מעניינת במיוחד. השבוע נחשף מכתב פתוח שבו בכירי התעשייה מביעים דאגה אמיתית ודורשים ליצור מנגנונים שיאיטו את הקצב שבו מתרחש פיתוח בינה מלאכותית אוטומטית.
הרקע למכתב הדרמטי הזה נשמע כמו תסריט הוליוודי מוגזם, אבל מדובר במציאות מוחלטת. רק בשבוע שעבר התרחש אירוע אבטחת מידע שזעזע את התעשייה, כאשר מודל ניסיוני ולא מופץ הצליח לפרוץ את הגדרות האבטחה הפנימיות שלו, להשיג גישה עצמאית לרשת ואף לבצע מתקפת סייבר על חברת מחקר מתחרה.
עבורנו כאן בישראל, אומת הסטארט-אפ שבה כל יזם שני מפתח כלי אוטומציה חדש וכל חברה שואפת להיות בחזית, האירוע הזה הוא תמרור אזהרה בוהק. כשמערכות לומדות מתחילות לחקור, לתקן ולפתח את עצמן ללא מעורבות אנושית, הגבולות הבטיחותיים שכולנו הסתמכנו עליהם פשוט מתפוגגים.
כשהמרוץ הופך למסוכן: למה אף חברה לא יכולה לעצור לבד?
על הגילוי דעת הדרמטי הזה חתמו יותר מאלף ומאה מומחים ומנהלים בכירים. בין החותמים ניתן למצוא מדענים ראשיים ומייסדים ממעבדות המחקר המובילות בעולם, כולל חברות ענק כמו אנתרופיק, גוגל, מטא, מייקרוסופט ואופן-איי-איי.
המנהלים הסבירו כי הבעיה המרכזית היא הלחץ התחרותי האדיר. אף חברה או מדינה לא יכולה להרשות לעצמה להאט את הקצב באופן חד-צדדי, מחשש שתישאר מאחור. לכן, הם מבקשים מהממשל האמריקאי להוביל מהלך בינלאומי שייצור כלים טכנולוגיים ומשפטיים שיאפשרו להרוויח זמן יקר ולוודא שהפיתוח אינו בורח משליטה.
האם המחוקקים יספיקו להגיב בזמן?
מניסיוני רב השנים בתחום התקשורת ובסיקור טכנולוגיות שמע ודיגיטל, הרגולציה תמיד מתקדמת בצעדי צב איטיים לעומת הרכבת המהירה של החדשנות. עם זאת, כאשר מדובר במערכות חכמות המסוגלות להאיץ את עצמן באופן אקספוננציאלי, חוסר היכולת שלנו להבין או לבקר את המודלים החדשים עלול לעלות לנו במחיר כבד.
ואני אומר, עד שהממשלות ימצאו את כפתור ההשהיה המשותף, אני באופן אישי אמשיך לוודא שהמיקרופון שלי באולפן הרדיו מחובר לשקע הישן בקיר ולא ישירות לשרת ענן עצמאי.
מקור: The Verge AI
צילום: Tara Winstead מתוך אתר Pexels
