מיקרוסופט ובן-גוריון בנגב מתחילים מחקר משותף בתחום AI ואבטחה
10.03.25 / 18:45
השותפות החדשה תתרום לפיתוח תחום הסייבר והבינה המלאכותית, עם דגש על אבטחת מודלי שפה גדולים וזיהוי דליפות פרטיות
מיקרוסופט ואוניברסיטת בן-גוריון בנגב הודיעו על שיתוף פעולה פורץ דרך במטרה לקדם מחקר בתחום הבינה המלאכותית והאבטחה. המחקר המשותף יעסוק בזיהוי דליפות פרטיות במודלי שפה גדולים, תוך שימוש בניתוח תהליכי תזמון, במטרה לזהות כיצד ניתן להסיק מידע מוסתר או מוצפן מתוך התהליכים. מדובר בשיתוף פעולה חשוב במיוחד, שמטרתו להרחיב את מאמצי המחקר שמיקרוסופט מובילה בתחום זה בשיתוף פעולה עם מוסדות אקדמיים מהמובילים בעולם.
המחקר יבוצע בשיתוף עם הפקולטה להנדסת מערכות מידע באוניברסיטת בן-גוריון, שנחשבת למובילה בתחום האבטחה של מודלי שפה גדולים (LLM), ויהיה חלק מהמאמצים של מיקרוסופט להוביל את תחום האבטחה והבינה המלאכותית. שיתוף פעולה זה משתלב באופן טבעי במטרות יוזמת SFI (Microsoft’s Secure Future Initiative), שהושקה בנובמבר 2023, שמטרתה להבטיח עתיד טכנולוגי מאובטח ואחראי יותר.
ד"ר תומר סיימון, המדען הראשי של מיקרוסופט ישראל מחקר ופיתוח, ציין: "שיתוף פעולה זה ממחיש את המחויבות שלנו להוביל חדשנות טכנולוגית ולהגביר את המודעות והידע בתחום האבטחה והבינה המלאכותית, ובמיוחד בישראל, שמפכה במובילותה בתחומים אלו".
ד"ר ישראל מירסקי, ראש מעבדת הבינה המלאכותית ההתקפית בבן-גוריון, הדגיש את הצורך בהגנה על פרטיות בעידן של שיחות עם בינה מלאכותית, ושחלק מרכזי במטרת המחקר הוא למנוע את האפשרות של האקרים לחשוף מידע רגיש. "אנחנו פועלים כדי להילחם במצבים שבהם האקרים יכולים לגנוב מידע מתוך מערכות חכמות", אמר ד"ר מירסקי.
בנוסף, ד"ר איתם שטרית, מנהל דאטה סיינס בקבוצת Industry AI במיקרוסופט ישראל, הוסיף: "ההשקעות שלנו בתחום ה-Responsible AI, הכוללות שמירה על פרטיות המשתמשים ושימוש בטוח, יאפשרו לנו להמשיך ולהוביל תחום זה עם שיתופי פעולה נוספים."
שיתוף פעולה זה ייצור גשר בין אקדמיה לתעשייה ויתרום לקידום תחום הסייבר והבינה המלאכותית, לא רק בישראל, אלא גם ברחבי העולם.
אנו מכבדים זכויות יוצרים ועושים מאמץ לאתר את בעלי הזכויות בצילומים המגיעים לידינו. אם זיהיתים בפרסומינו צילום שיש לכם זכויות בו, אתם רשאים לפנות אלינו ולבקש לחדול מהשימוש באמצעות כתובת המייל:[email protected]
