Bayesian GAN

点击访问paper
官方github
半监督学习对比算法

1.简介

贝叶斯 GAN（Saatchi 和 Wilson，2017）是生成对抗网络（Goodfellow，2014）的贝叶斯公式，我们在其中学习生成器参数 ${\theta }_g$ 和鉴别器参数 ${\theta }_d$ 的分布，而不是优化 用于点估计。 贝叶斯方法的优点包括在参数空间中灵活地建模多模态，以及在最大似然（非贝叶斯）情况下防止模式崩溃的能力。

我们通过称为“随机梯度哈密顿蒙特卡罗（SGHMC）”的近似推理算法来学习贝叶斯 GAN，这是一种基于梯度的 MCMC 方法，其样本近似于 ${\theta }_g$ 和 ${\theta }_d$ 的真实后验分布。

贝叶斯 GAN 训练过程从固定分布（通常是标准 d-dim 正态分布）中采样噪声 $z$ 开始。 噪声被馈送到生成器，其中参数 ${\theta }_g$ 从后验分布 $p({\theta }_g|D)$ 中采样。 给定参数 ${\theta }_g$ ($G(z|{\theta }_g)$) 生成的图像以及真实数据呈现给鉴别器，其参数是从其后验分布 $p({\theta }_d|D)$ 中采样的 。 我们使用梯度 $\frac{\partial \log p({\theta }_g|D)}{\partial {\theta }_g}$ 和 $\frac{\partial \log p({\theta }_d|D)}{\partial {\theta }_d}$ 更新后验与随机梯度哈密顿蒙特卡罗 (SGHMC)。

SGHMC 通过优化噪声损失

首先，观察到除了噪声 $\mathbf{n}$ 之外，更新规则与动量 SGD 类似。 事实上，如果没有 $\mathbf{n}$，这相当于执行动量 SGD，损失为 $-{\sum }_{i=1}{J}_g{\sum }_{k=1}^{J_d}\log \text{posterior}$。 为了简单起见，我们将描述 $J_g=J_d=1$ 的情况。

我们使用主要损失 $\mathcal{L}=-\log p(\theta |..)$ 并添加噪声损失 ${\mathcal{L}}_{\text{noise}}=\frac{1}{\eta }\theta \cdot \mathbf{n}$ 其中 $\mathbf{n}\sim \mathcal{N}(0,2\alpha \eta I)$ 从而优化损失函数 $\mathcal{L}+{\mathcal{L}}_{\text{noise}}$ 与动量 SGD 相当于执行 SGHMC 更新步骤。

2. 算法

下面（公式 3 和 4）是后验概率，其中每个误差项对应其负对数概率。

其中$K$表示对象的总类别的数量。$D(x^{(i)}=y^{(i)};{\theta }_d)$ 表示辨别器认为样本 $x^{(i)}$ 属于 $y^{(i)}$ 类的概率。

2.1 对于鉴别器

errD = errD_real + errD_fake + err_sup + errD_prior + errD_noise

不知道 errD_noise是个啥

2.1.1 errD_real

需要保证无监督学习的差异性（优化分类）
$$\text{errD\_real}=\prod _{i=1}^{n_d}\sum _{y=1}^{K}D(x^{(i)}=y;{\theta }_d)$$
只需要输出 size = * × number of classs

errD_real = criterion_comp(output)

2.1.2 errD_fake

需要保证能够鉴别出假数据（优化鉴别）
$$\text{errD\_fake}=\prod _{i=1}^{n_g}D(G(z^{(i)};{\theta }_g)=0;{\theta }_d)$$
需要辨别器以及标签全为0

output = netD(fake.detach())
labelv = Variable(torch.LongTensor(fake.data.shape[0]).cuda().fill_(fake_label))
errD_fake = criterion(output, labelv)

2.1.3 errD_sup

（优化监督分类）
$$\text{errD\_sup}=\prod _{i=1}^{n_s}\sum _{y=1}^{K}D(x_s^{(i)}=y_s^{(i)};{\theta }_d)$$

output_sup = netD(input_sup_v)
err_sup = criterion(output_sup, target_sup_v)

2.2.4 errD_prior

$$p({\theta }_d|{\alpha }_d)$$

errD_prior = dprior_criterion(netD.parameters())
errD_prior.backward()
errD_noise = dnoise_criterion(netD.parameters())
errD_noise.backward()

2.2 生成器

2.2.1 errG

$$\text{errG}=\prod _{i=1}^{n_g}\sum _{y=1}^{K}D(z_s^{(i)}=y;{\theta }_d)$$

output = netD(fake)
errG = criterion_comp(output)

2.2.2 errG_prior

if opt.bayes:for netG in netGs:errG += gprior_criterion(netG.parameters())errG += gnoise_criterion(netG.parameters())

第三个链接中得到了如下图像。证明了用生成数据能够提升模型的泛化能力。接下来将详细分析泛化能力的来源

iteration = 0
for epoch in range(opt.niter):top1 = AverageMeter()top1_weakD = AverageMeter()for i, data in enumerate(dataloader):iteration += 1######## 1. real inputnetD.zero_grad()_input, _ = databatch_size = _input.size(0)if opt.cuda:_input = _input.cuda()input.resize_as_(_input).copy_(_input)       label.resize_(batch_size).fill_(real_label)  inputv = Variable(input)labelv = Variable(label)output = netD(inputv)errD_real = criterion_comp(output)errD_real.backward()# calculate D_x, the probability that real data are classified D_x = 1 - torch.nn.functional.softmax(output,dim=1).data[:, 0].mean()######## 2. Generated inputfakes = []for _idxz in range(opt.numz):noise.resize_(batch_size, opt.nz, 1, 1).normal_(0, 1)noisev = Variable(noise)for _idxm in range(opt.num_mcmc):idx = _idxz*opt.num_mcmc + _idxmnetG = netGs[idx]_fake = netG(noisev)fakes.append(_fake)fake = torch.cat(fakes)output = netD(fake.detach())labelv = Variable(torch.LongTensor(fake.data.shape[0]).cuda().fill_(fake_label))errD_fake = criterion(output, labelv)errD_fake.backward()D_G_z1 = 1 - torch.nn.functional.softmax(output,dim=1).data[:, 0].mean()######## 3. Labeled Data Part (for semi-supervised learning)for ii, (input_sup, target_sup) in enumerate(dataloader_semi):input_sup, target_sup = input_sup.cuda(), target_sup.cuda()breakinput_sup_v = Variable(input_sup.cuda())# convert target indicies from 0 to 9 to 1 to 10target_sup_v = Variable( (target_sup + 1).cuda())output_sup = netD(input_sup_v)err_sup = criterion(output_sup, target_sup_v)err_sup.backward()prec1 = accuracy(output_sup.data, target_sup + 1, topk=(1,))[0]top1.update(prec1.item(), input_sup.size(0))if opt.bayes:errD_prior = dprior_criterion(netD.parameters())errD_prior.backward()errD_noise = dnoise_criterion(netD.parameters())errD_noise.backward()errD = errD_real + errD_fake + err_sup + errD_prior + errD_noiseelse:errD = errD_real + errD_fake + err_supoptimizerD.step()# 4. Generatorfor netG in netGs:netG.zero_grad()labelv = Variable(torch.FloatTensor(fake.data.shape[0]).cuda().fill_(real_label))output = netD(fake)errG = criterion_comp(output)# print(errG)if opt.bayes:for netG in netGs:errG += gprior_criterion(netG.parameters())errG += gnoise_criterion(netG.parameters())errG.backward()D_G_z2 = 1 - torch.nn.functional.softmax(output,dim=1).data[:, 0].mean()for optimizerG in optimizerGs:optimizerG.step()# 5. Fully supervised training (running in parallel for comparison)netD_fullsup.zero_grad()input_fullsup = Variable(input_sup)target_fullsup = Variable((target_sup + 1))output_fullsup = netD_fullsup(input_fullsup)err_fullsup = criterion_fullsup(output_fullsup, target_fullsup)optimizerD_fullsup.zero_grad()err_fullsup.backward()optimizerD_fullsup.step()# 6. get test accuracy after every intervalif iteration % opt.stats_interval == 0:# get test accuracy on train and testnetD.eval()get_test_accuracy(netD, iteration, label='semi')get_test_accuracy(netD_fullsup, iteration, label='sup')netD.train()# 7. Report for this iterationcur_val, ave_val = top1.val, top1.avglog_value('train_acc', top1.avg, iteration)print('[%d/%d][%d/%d] Loss_D: %.2f Loss_G: %.2f D(x): %.2f D(G(z)): %.2f / %.2f | Acc %.1f / %.1f'% (epoch, opt.niter, i, len(dataloader),errD.data.item(), errG.item(), D_x, D_G_z1, D_G_z2, cur_val, ave_val))# after each epoch, save imagesvutils.save_image(_input,'%s/real_samples.png' % opt.outf,normalize=True)for _zid in range(opt.numz):for _mid in range(opt.num_mcmc):idx = _zid*opt.num_mcmc + _midnetG = netGs[idx]fake = netG(fixed_noise)vutils.save_image(fake.data,'%s/fake_samples_epoch_%03d_G_z%02d_m%02d.png' % (opt.outf, epoch, _zid, _mid),normalize=True)for ii, netG in enumerate(netGs):torch.save(netG.state_dict(), '%s/netG%d_epoch_%d.pth' % (opt.outf, ii, epoch))torch.save(netD.state_dict(), '%s/netD_epoch_%d.pth' % (opt.outf, epoch))torch.save(netD_fullsup.state_dict(), '%s/netD_fullsup_epoch_%d.pth' % (opt.outf, epoch))

接下来我们将借鉴此框架，融合这篇论文训练生成视频的算法。并用于视频分类。