【李宏毅2020 ML/DL】P99-105 Life Long Learning【附源码】

我已经有两年 ML 经历，这系列课主要用来查缺补漏，会记录一些细节的、自己不知道的东西。

1. 终身学习技术，让一个模型学习多个任务，又叫 Continuous Learning、Never Ending Learning、Incremental Learning。
2. 要做到 Life Long Learning ，要解决三个问题：Knowledge Retention (but NOT Intransigence)、 Knowledge Transfer 以及 Model Expansion (but Parameter Efficiency) 。
3. 首先来看 Knowledge Retention (but NOT Intransigence) 。
4. 首先来看看机器的脑洞有多大，见 Example: Image 。我们发现机器存在 Catastrophic forgetting 。
5. 在实际情况中，假设我们有 1000 个任务，我们很难把前 999 个任务的数据都保留，每次都同时在 1000 个任务上学习。因此，我们期待有一种方法，可以把之前学过的任务“记下来”，从而只学习新的任务，也不会忘记以前学过的任务。由此，提到方法 Elastic Weight Consolidation (EWC) 。
6. 我们发现，multi-task learning 通常是 life long learning 的上线。有人想了一个奇招：我们不去存储之前的数据，而做一个用于生成之前数据的模型。
7. 此外，我们还可以考虑 Adding New Classes 这种思路。
8. 进入下一部分，Knowledge Transfer 。简单地讨论了 LLL 的目的与意义。
9. 之后，简单介绍了 Evaluation 。为了举指标的例子，介绍了一个方法 Gradient Episodic Memory (GEM) 。
10. 最后一部分将简单讨论 Model Expansion (but Parameter Efficiency) 。
11. 此外，我们可以讨论 Curriculum Learning ，即多任务的学习顺序其实也很重要。

文章目录

• 本节内容综述
• 小细节
• • Knowledge Retention (but NOT Intransigence)
  • • Example
    • • Image
      • Question Answering
    • Elastic Weight Consolidation (EWC)
    • • Example
      • Result
      • More
    • Generating Data
    • Adding New Classes
  • Knowledge Transfer
  • Evaluation
  • • Gradient Episodic Memory (GEM)
  • Model Expansion (but Parameter Efficiency)
  • • Progressive Neural Networks
    • Expert Gate
    • Net2Net
  • Curriculum Learning
  • • taskonomy = task + taxonomy 分类学

更多文章请关注《万象专栏》