מכירים את זה שאתם שמים מנעול כל כך משוכלל על הדלת, שאתם בעצמכם נשארים בחוץ בגשם? אז זה בדיוק מה שקורה עכשיו עם הגנות בינה מלאכותית בעולם הסייבר. במטרה למנוע מההאקרים הרעים לייצר וירוסים ומתקפות אימה, חברות הטכנולוגיה הגדולות בנו חומות מגן קשיחות. הבעיה היא שהחומות האלה בעיקר מפריעות לחוקרי הסייבר הטובים לעשות את העבודה שלהם.
כששידרתי ברדיו בימי הפריצה הגדולים של האינטרנט, תמיד אמרנו שההאקרים נמצאים צעד אחד לפני המגנים. היום, חוקרי סייבר לגיטימיים מנסים להשתמש בכלי בינה מלאכותית כדי לגלות חולשות אבטחה לפני שהרעים ימצאו אותן. אבל ברגע שהמודל מזהה ניסיון לייצר קוד התקפי, הוא פשוט חוסם את המשתמש, גם אם מדובר באיש אבטחה מורשה מחברה מוכרת ברמת גן או בהרצליה פיתוח.
כשמרוב הגנות חוסמים את מי שבא לעזור
הסיפור הזה קיבל תפנית חדה לאחרונה, כשהממשל האמריקאי הטיל מגבלות יצוא מחמירות על המודלים המתקדמים של חברת אנתרופיק. המהלך הזה הגיע בעקבות דיווחים שהראו כמה קל לעקוף את החסימות האלה אם באמת רוצים. כלומר, ההאקרים הרעים מוצאים מעקפים תוך שנייה, בעוד שהחוקרים הלגיטימיים נשארים תקועים עם מודלים מסורסים שלא מרשים להם לכתוב אפילו שורת קוד אחת שמזכירה מתקפה.
זה יוצר פרדוקס מתסכל מאוד עבור קהילת הסייבר העולמית והישראלית כאחד. במקום שהבינה המלאכותית תהיה העוזרת האישית של אנשי האבטחה, היא הופכת לשומר סף עצבני שחשדן כלפי המשתמשים הכי נאמנים שלו. אנשי האבטחה נאלצים לבזבז זמן יקר על ניסיונות לשכנע את הצ'אטבוט שהוא לא מדבר עם פושע סייבר.
בשורה התחתונה, אם הרובוטים לא יפתחו קצת שכל ישר, בקרוב נצטרך להביא אישור מהאמא של ההאקר כדי לבדוק אם האתר שלנו מאובטח. יאללה, הלכתי לנסות להסביר למודל הבינה המלאכותית שלי שאני רק מגיש רדיו ולא ראש ארגון פשע דיגיטלי.
מקור: TechCrunch AI
צילום: cottonbro studio מתוך אתר Pexels
