深度学习

  本笔记主要参考台湾大学李宏毅教授的MACHINE LEARNING 2022 SPRING，视频可以在bilibili上看到搬运的合集。课程一共15讲，每一讲都有对应的作业。

课程内容

  • Supervised Learning（1~5讲）：需要训练数据和标签
  • Self-supervised Learning（7讲）：通过pre-train获得一些通用知识（foundation model），然后利用很多没用标签的训练数据进行学习，最后能够完成downstream tasks。
  • Generative Adversarial Network（6讲）
  • Reinforcement Learning (12讲)

进阶课题

  • Anomaly Detection（8讲）
  • Expainable AI（9讲）
  • Model Attack（10讲）
  • Domain Adaptation（11讲）
  • Network Compression（13讲）
  • Life-long Learning（14讲）
  • Meta Learning（15讲）：learn to learn