מיקרוסופט ואוניברסיטת בן גוריון מחקר בתחום האבטחה והבינה המלאכותית

 

מיקרוסופט ואוניברסיטת בן גוריון בנגב מכריזים על שיתוף פעולה לטובת מחקר בתחום האבטחה והבינה המלאכותית, מיקרוסופט ואוניברסיטת בן גוריון בנגב מכריזים על שיתוף פעולה לטובת מחקר בתחום האבטחה והבינה המלאכותית.

 

מיקרוסופט ואוניברסיטת בן-גוריון בנגב יחלו במחקר משותף בתחום הבינה המלאכותית ואבטחה. המחקר מתמקד בזיהוי דליפות פרטיות במודלי שפה באמצעות ניתוח אופן התזמון של תהליכים, וכיצד ניתן להסיק מזה מידע מוסתר או מוצפן. שיתוף פעולה זה נועד להרחיב את מאמצי המחקר שמיקרוסופט מקיימת בעולמות הבינה המלאכותית והאבטחה, באמצעות פרויקטים משותפים עם מוסדות אקדמיים מובילים.

 

שיתוף הפעולה עם האוניברסיטה נולד על רקע המומחיות שפיתחה הפקולטה להנדסת מערכות מידע באוניברסיטה לחקר אבטחה של מודלי שפה גדולים (LLM).

 

שותפות זו תואמת את מטרות יוזמת SFI (Microsoft’s Secure Future Initiative), של מיקרוסופט למען עתיד מאובטח יותר. יוזמה זו, שהושקה בנובמבר 2023, היא מחויבות רב-שנתית של מיקרוסופט להעמיד את נושא האבטחה בראש סדר העדיפויות, בתגובה להיקף ולסיכון הגוברים של מתקפות סייבר. היוזמה מתמקדת בשלושה עקרונות מרכזיים: אבטחה בתכנון (Secure by Design), אבטחה כברירת ותפעול מאובטח.

 

היוזמה כוללת עבודה הנדסית בשישה תחומים עיקריים: הגנה על זהויות, בידוד מערכות ייצור, הגנה על רשתות ומערכות הנדסה, ניטור איומים, והאצת תגובה ושיקום לאחר אירועים.

 

אזור הנגב ובייחוד העיר באר שבע הפכו למוקד חדשנות בתחום הסייבר וה-AI ובתוך כך העיר נהנית ממגוון חוקרים ומפתחים המגיעים מהאזור ומהפריפריה ומחזיקים במומחיות בתחומים אלה. השותפות תתרום, בין היתר, לקידום תחום הסייבר וה-AI באזור ובכלל.

 

 

ד"ר תומר סיימון, המדען הראשי של מיקרוסופט ישראל מחקר ופיתוח: "אנחנו בעיצומה של מהפכה טכנולוגית משמעותית ב-AI, וחברת מיקרוסופט פועלת במטרה לעצב עתיד בטוח ואחראי לשימוש בטכנולוגיה זו. שיתוף פעולה זה ממחיש את המשך המחויבות שלנו להוביל חדשנות טכנולוגית וליצור תובנות משמעותיות לתעשיות מגוונות בעולם בתחום האבטחה והבינה המלאכותית, ולעודד שיתופי פעולה נוספים עם האקדמיה בישראל".

 

 

ד"ר ישראל מירסקי, ראש מעבדת הבינה המלאכותית ההתקפית וחבר במחלקה להנדסת תוכנה ומערכות מידע בבן-גוריון, בעל ניסיון רב בהערכת נקודות תורפה. בעברו, עבד על מציאת פתרונות לבעיות שונות החל מזיופים ועד התקפות סייבר על מספרי החירום בארה"ב. "אם תדמיינו שיחות עם בינה מלאכותית כדואר, אז כרגע, האקרים יכולים לראות את צורת המעטפות. לאחר מכן, הם יכולים להשתמש בבינה מלאכותית כדי לפענח את תוכן ההתכתבות עם אחוזי הצלחה של כ-50-60% ובדיוק בזה אנחנו מתכוונים להילחם", מסביר ד"ר מירסקי.

 

ד"ר איתם שטרית, מנהל דאטה סיינס ואחראי Responsible AI בקבוצת Industry AI במיקרוסופט ישראל מחקר ופיתוח:"ההשקעות שלנו בתחום ה-Responsible AI עצומות, והן אינן מוגבלות רק למודלים הוגנים ושקופים שמונעים אפליה והטיות, אלא כוללות גם שמירה על פרטיות המשתמשים ושימוש בטוח. שיתוף הפעולה יאפשר לנו להמשיך לחזק היבטים אלה ולהישאר צעד אחד לפני תוקפים פוטנציאליים".