第10课: 变分自编码器(VAE)
变分推断(Variational Inference)
关于变分推断的基础概念可以先参照这篇文章。
学习未知的变量
图像由数百万像素组成，但可能有更紧凑的内容表示方式(对象、位置等)。
找到这个表示的映射可以使我们找出语义相似的图像，甚至生成新的图像。
我们叫这种紧凑表示为z，它对应的像素点集合为x。我们的N张图片都是一样的结构。
假设模型中的x由隐含变量z生成，我们想要找到解释数据的隐含变量。
但是我们不能直接计算数据的最大似然，因为它取决于隐含变量z而我们不知道它们的值。
θ* = argmax P_θ(x) = argmax ∫ P_θ(x|z)P(z) dz
我们定义一个先验假设P(z)，它是z的分布。
我们感兴趣的是后验概率P(z|x)，它依赖于相应的数据点x。
变分下界: 概览
迭代优化近似的后验概率Q(z)直到Q(z) ≈ P(z|x)
Q(z)的目标是变分下界
\begin{aligned} lnP(x) &≥ E_{Q(z)}[lnP(x,z) − lnQ(z)] \\ &= E_{Q(z)}[lnP(x|z) + lnP(z) − lnQ(z)] \\ &= E_{Q(z)}[lnP(x|z)] − D_{KL}[Q(z)||P(z)] \end{aligned}
这是一个下界因为KL散度是非负的。
取 Q(z) ϵ 𝒬 为可微的采样，常常取高斯分布。KL散度是一个正则项。
变分下界: 算法
将隐含的P(z)初始化为固定的先验概率，比如说0均值单位方差的高斯分布。
初始化网络权值 θ 和 Q(z) 的 μ 和 σ 。
记住目标函数 lnP(x) ≥ E_{Q(z)}[lnP_θ(x|z)] − D_{KL}[Q(z)||P(z)]
迭代直到收敛：
- 从Q(z)中取样一个z，z = σε + μ (ε ~ N(0, 1))
- 用神经网络计算 P_θ(x|z)
- 计算Q(z)和P(z)的KL散度
- 计算目标函数的梯度来优化 θ, μ, σ
分段推断: 概览
我们可以通过梯度下降的方法，为每个数据点学习足够的Q(z)统计量。但是每个数据点都需要多个求梯度的步骤，即使是在评价时。
我们可以使用一个编码器网络Q(z|x)学习这个过程的结果。想象一下怎样为所有的数据点推断隐含变量，反向传播优化编码器的权重，而不是后验的统计量μ,σ。
分段推断: 算法
将隐含的P(z)初始化为固定的先验概率，比如说0均值单位方差的高斯分布。
初始化编码器的权值 ϕ 和解码器的权值 θ 。
记住目标函数 lnP(x) ≥ E_{Q(z)}[lnP_θ(x|z)] − D_{KL}[Q_ϕ(z|x)||P(z)]
迭代直到收敛：
- 选择数据点x并用编码器计算 Qϕ(z|x) 。
- 从Q(z|x)中取样一个z，z = σε + μ (ε ~ N(0, 1))
- 用解码器计算 P_θ(x|z)
- 计算Q(z)和P(z)的KL散度
- 计算目标函数的梯度来优化 θ, ϕ
变分自编码器(VAE, Variational Auto-Encoder)
编码器用来分段推断出Q(z|x), 解码器用来生成模型P(x|z)。
变分下界目标函数 E_{Q(z|x)}[lnP(x|z)] − D_{KL}[Q(z|x)||P(z)]。
通过梯度下降训练端到端模型。
贝叶斯神经网络
独立隐含的Q(θ)是对角高斯分布。
条件生成模型P_θ(y|x)。
变分下界目标函数：E_{Q(θ)}[lnP_θ(y|x)] − D_{KL}[Q(θ)||P(θ)]
将KL项除以数据集大小，因为整个数据集的参数是共享的。
通过梯度下降训练一个端到端的模型。
TensorFlow实现
TensorFlow中的概率分布: 概览
在TensorFlow中概率编程很容易！
Probabilistic programming made easy!
tfd = tf.contrib.distributions
mean = tf.layers.dense(hidden, 10, None)
stddev = tf.layers.dense(hidden, 10, tf.nn.softplus)
dist = tfd.MultivariateNormalDiag(mean, stddev)
samples = dist.sample()
dist.log_prob(samples)
other = tfd.MultivariateNormalDiag(
tf.zeros_like(mean), tf.ones_like(stddev))
tfd.kl_divergence(dist, other)
TensorFlow中的概率分布: 回归的例子
tfd = tf.contrib.distributions
hidden = tf.layers.dense(inputs, 100, tf.nn.relu)
mean = tf.layers.dense(hidden, 10, None)
dist = tfd.MultivariateNormalDiag(mean, tf.ones_like(mean))
loss = -dist.log_prob(label) # Squared error
optimize = tf.train.AdamOptimizer().minimize(loss)
TensorFlow中的概率分布: 分类的例子
tfd = tf.contrib.distributions
hidden = tf.layers.dense(inputs, 100, tf.nn.relu)
logit = tf.layers.dense(hidden, 10, None)
dist = tfd.Categorical(logit)
loss = -dist.log_prob(label) # Cross entropy
optimize = tf.train.AdamOptimizer().minimize(loss)
VAE的TensorFlow实现: 概览
tfd = tf.contrib.distributions
images = tf.placeholder(tf.float32, [None, 28, 28])
prior = make_prior()
posterior = make_encoder(images)
dist = make_decoder(posterior.sample())
elbo = dist.log_prob(images) - tfd.kl_divergence(posterior, prior)optimizer = tf.train.AdamOptimizer().minimize(-elbo)
samples = make_decoder(prior.sample(10)).mean() # For visualization
VAE的TensorFlow实现: Prior & encoder
def make_prior(code_size=2):
mean, stddev = tf.zeros([code_size]), tf.ones([code_size])
return tfd.MultivariateNormalDiag(mean, stddev)
def make_encoder(images, code_size=2):
images = tf.layers.flatten(images)
hidden = tf.layers.dense(images, 100, tf.nn.relu)
mean = tf.layers.dense(hidden, code_size)
stddev = tf.layers.dense(hidden, code_size, tf.nn.softplus)
return tfd.MultivariateNormalDiag(mean, stddev)
VAE的TensorFlow实现: 网络
def make_decoder(code, data_shape=[28, 28]):
hidden = tf.layers.dense(code, 100, tf.nn.relu)
logit = tf.layers.dense(hidden, np.prod(data_shape))
logit = tf.reshape(logit, [-1] + data_shape)
return tfd.Independent(tfd.Bernoulli(logit), len(data_shape))
tfd.Independent(dist, 2)告诉TensorFlow将最后两维视为数据维度，而不是批处理维度。
这说明dist.log_prob(images)对每张图片返回一个数字而不是每个点。
正如名称tfd.independent()所表示，它只是将像素对数概率相加。
VAE的TensorFlow实现: 结果
贝叶斯网络的TensorFlow实现
def define_network(images, num_classes=10):
mean = tf.get_variable('mean', [28 * 28, num_classes])
stddev = tf.get_variable('stddev', [28 * 28, num_classes])
prior = tfd.MultivariateNormalDiag(
tf.zeros_like(mean), tf.ones_like(stddev))
posterior = tfd.MultivariateNormalDiag(mean, tf.nn.softplus(stddev))
bias = tf.get_variable('bias', [num_classes]) # Or Bayesian, too
logit = tf.nn.relu(tf.matmul(posterior.sample(), images) + bias)
return tfd.Categorical(logit), posterior, prior
dist, posterior, prior = define_network(images)
elbo = (tf.reduce_mean(dist.log_prob(label)) -
tf.reduce_mean(tfd.kl_divergence(posterior, prior))