Matrix Factorization

[TOC]

本讲我感觉主要是两大内容,一是矩阵分解模型的简单推导与解释,第二则是最优化矩阵分解的两个算法:交替优化与SGD.

这里讲到的是一类特殊的问题,就是所谓的推荐系统(Recommender System).这是怎样的一个问题呢?

这里的数据是:各个......

继续阅读

Deep Learning

[TOC]

深度学习是最近几年来非常火热的话题,我所知道的深度学习就是指很多层的神经网络。由于这仍然是一个高速发展的学科,课程中只是讲到了Pre-traing以及一些regularization的知识。

Deep Learning及其挑战

先来认识一下Deep Learning的意义。如下图所示,假设我们有手写数字的图像,要求区分出它们。

继续阅读

Neural Network

[TOC]

神经网络当时也学过一些,但是也就是很糊涂地就过去了,所知道的就是它很慢。现在重新学了一遍之后才有点明白,当时真是囫囵吞枣呀。没有辅助一定的练习,对NN的认识一定很难到位。

Perceptron与NN

我们都知道,如果一个数据是线性可分的,那么使用感知器算法一定没问题。但是,正如slides里面提到的,如果有两个假设$g_1,g_2$,实际的模型是$g_1$XOR$g_2$,那么怎么......

继续阅读