GEOSCIENCE DATA & AI

深度学习 · NYU-DLSP20

COURSE PROFILE 深度学习 · 开放讲义

Deep Learning · NYU · Spring 2020

沿着一套按周组织的开放讲义,从梯度下降和反向传播开始,学习卷积网络、序列模型、自监督方法与生成式模型。

课程概览

  • 开设单位:New York University
  • 课程名称:Deep Learning
  • 学期:Spring 2020
  • 公开资源:课程讲义与大纲

ABOUT THIS COURSE

一套循序展开的深度学习讲义

NYU-DLSP20 将课程大纲和讲义公开在线呈现。课程从深度学习动机、线性代数可视化和梯度计算开始,逐步进入网络架构、优化、序列建模与生成学习。

讲义还讨论自然信号的性质、能量模型、表示学习和自监督任务,适合希望按照主题顺序系统复习,并随时回看资料的学习者。

COURSE CONTENT

由神经网络基础走向生成学习

根据 NYU-DLSP20 公开课程大纲概括。

动机、线性代数与梯度计算

理解深度学习的动机,回顾线性代数,并通过梯度下降和反向传播学习网络参数。

FOUNDATIONS

卷积网络与自然信号

学习卷积基础、ConvNet 架构演进及其对图像等自然信号的适配。

CONVOLUTION

循环网络与注意力

从 RNN、GRU、LSTM 和 Seq2Seq 延伸到注意力、记忆网络及序列建模。

SEQUENCES

潜变量与生成模型

通过自编码器、变分自编码器和生成对抗网络理解表示与生成。

GENERATIVE MODELS

能量模型与自监督学习

探索能量模型、对比式学习、正则化潜变量模型及自监督预训练任务。

SELF-SUPERVISION

HOW TO STUDY

跟随课程目录自主推进

按主题阅读讲义,结合示意图和补充材料复习关键概念。

WEEKLY NOTES

按周学习

每周分成多个短主题,便于分段学习和快速回看。

CORE IDEAS

从原理入手

梯度、卷积和架构设计连接数学基础与模型构造。

MODERN METHODS

拓展到生成学习

自编码器、GAN、能量模型和自监督学习扩大方法视野。

PREPARATION

建议基础

课程从基础概念开始,但学习者可提前复习:

线性代数

微积分

概率基础

Python 编程

公开大纲页面未集中列出正式先修条件;以上为学习建议。

OFFICIAL COURSE MATERIALS

课程大纲与讲义

课程页面采用开放在线讲义形式,按章节浏览教学内容。

Deep Learning Syllabus and Lecture Notes

内容来源

根据 NYU-DLSP20 公开课程大纲与讲义整理并中文编写。该页面对应 Spring 2020 课程资料;本页不是 NYU 官方页面。

← 返回 AI 教学课程