22972 נושאים מתקדמים בלמידה עמוקה
22972 נושאים מתקדמים בלמידה עמוקה
4 נקודות זכות
שיוך: תואר שני / למידת מכונה וניתוח נתוני עתק
תנאי קבלה: קבלה לתואר שני בלמידת מכונה וניתוח נתוני עתק. ידע קודם דרוש: מבוא ללמידה חישובית, למידה עמוקה, ארגז הכלים ללמידת מכונה ולניתוח נתוני עתק1. ידע קודם מומלץ: יישומי שפה טבעת מבוססי למידת מכונה.
מטרות הקורס
הקורס עוסק בתחומי מחקר מודרניים באמצעות קריאת מאמרים מודרכת ויספק לסטודנטים מבט רוחבי על תחומים משמעותיים שבהם חלה התקדמות מהירה, תוך התמקדות ברעיונות מרכזיים. הדגש יושם על פיתוח אינטואיציה מחקרית ועל היכולת לזהות כיוונים ושאלות פתוחות. הסטודנטים ייחשפו לשאלות שמעצבות את התחום כיום, תוך הפעלת חשיבה ביקורתית והבנה של האופן בו רעיונות חדשים נולדים ומתפתחים בקהילה המדעית.
תוכן הקורס
יחידה 1: Self-Supervised Learning
-
Contrastive Learning
-
Masked Modelling
-
Self-Distillation
יחידה 2: Multimodal Models
-
Text + Vision
-
Automatic Speech Recognition
יחידה 3: Modern LLMs
-
Mixture-of-Experts
-
Reinforcement Learning from Human Feedback
-
Transformer Circuits