Deepbayes - літня школа з сучасним методам глибинного навчання і Байєсова підходу

Про що ця школа

На літній школі ми пояснимо, як байєсовські методи і глибинне навчання об'єднуються в єдиний формалізм. Розуміння цього потрібно для читання нових статей з глибинного навчання, в яких часто передбачається знання байесовских методів. Ми розглянемо ряд на перший погляд не пов'язаних прикладних задач, які тим не менш вирішуються одними і тими ж байесовськими глибинними моделями. Буде показано, як навчання з підкріпленням пов'язано з байесовськими методами. Також ми розповімо про сучасні методи стохастичною оптимізації та основні бібліотеки глибинного навчання. Лекції будуть супроводжуватися практичними заняттями.

Для кого ця школа

Цільовою аудиторією школи є:
  • аспіранти та студенти старших курсів, що спеціалізуються на машинному навчанні, хто прослухав базові курси по цій темі і мають уявлення про глибинний навчанні,
  • дослідники з індустрії і наукових установ, що працюють з алгоритмами глибинного навчання і адаптують їх під специфіку своїх завдань, які бажають розширити свій інструментарій.
Дана школа не розрахована на тих, хто не знає, що таке глибинне навчання, і хоче це дізнатися. Для цього в Москві регулярно проходить ряд інших заходів.

Чому будемо вчити

В рамках школи уважний слухач дізнається:
  1. Навіщо потрібні байєсовські методи. Чому навколо нас практично немає випадковостей?
  2. Основні бібліотеки і архітектури глибинного навчання. Як створити нейросеть за 10 хвилин?
  3. Моделі з латентними змінними. Як навчити комп'ютер того, що невідомо навіть на етапі навчання?
  4. Масштабування складних імовірнісних методів. Навіщо перетворювати завдання імовірнісного виведення в задачу оптимізації?
  5. Навіщо нейронних мереж увагу. Як згенерувати текст по картинці?
  6. Зв'язок навчання з підкріпленням і байесовских методів. Як навчати стохастичні графи обчислень?
  7. Автоматичний вибір dropout rate. Перенавчати чи нейронні мережі?
  8. Стохастична оптмізація. Як оптимізувати функцію швидше ніж обчислити її в одній точці?
  9. У що можна навчитися перетворювати випадковий шум. Як змусити нейросеть малювати?

Нашим основним завданням буде показати, що впровадження байесовских моделей в глибинні нейронні мережі дозволяє істотно розширити область застосовності і якість роботи останніх. Причому, незважаючи на зовні різні постановки, методи навчання та імовірнісного виведення в нейробайесовскіх мережах одні й ті ж. Хочете дізнатися більше, що це за методи? Приходьте на школу (ʘ‿ʘ)

програма школи

Ні, не просто. Спочатку ми попросимо всіх пройти відбір і гроші будемо брати тільки з найстійкіших, які його витримають і будуть відібрані для участі в школі. Відбір потрібен тому, що, по-перше, число місць фізично обмежено; по-друге, щоб гарантувати, що всі слухачі мають достатній багаж знань і умінь, щоб засвоїти матеріал школи.

Ми попросимо вас заповнити анкету, написати невелике есе і виконати пару простих вправ, щоб оцінити ваш рівень володіння основами машинного навчання і умінням програмувати. Нічого виходить за школь ... програму технічного ВНЗ робити не будемо просити Тебе.

  • Я вже призабув багато курси, які прослуховував у ВНЗ. Які знання мені потрібні на школі?

    Вам будуть потрібні знання в обсязі базового стандартного курсу по машинному навчання, володіння найпростішими техніками лінійної алгебри, теорії ймовірностей і математичної статистики, методів оптимізації; пам'ятати, що таке інтеграл, градієнт і гессіан; ну і трохи програмувати на NumPy.

    Будуть смачні і ситні кава-брейки, а також оплачений обід в одній з їдалень ВШЕ.

    Заповніть форму в в секції реєстрація.

    • Я мало що знаю про те, що таке машинне навчання, але хочу дізнатися більше. Мені варто брати участь в школі?

    Ні. Ця школа для тих, хто вже володіє базовим рівнем по машинному навчання і має хоча б саме загальне уявлення про нейронних мережах. Така планка дозволить нам швидко перейти до викладу складних технічних речей, будучи впевненими, що всі присутні нас розуміють. У Москві проводиться маса заходів по машинному навчання, де поріг входження мінімальний, а в інтернеті можна знайти багато ресурсів, які дозволять вам краще розібратися в базових технологіях машинного навчання.

  • Я живу не в Москві. Мені можна брати участь в школі?

    Так, якщо ви володієте українською мовою і пройшли відбір. Для іногородніх студентів буде передбачено кілька тревел-грантів для оплати поїздки та проживання в Москві.

    Ні не буде. Але ми постараємося оперативно викладати записи лекцій і майстер-класів у вільний доступ.