这篇文章与Attentive-GAN网络结构很相似，顺带一起整理了。
成长就是在慢慢学会放下。
2019AAAI ： RR-GAN
这篇文章是2019AAAI的一篇文章，主要提出了一种缓解成对数据训练约束的去雨方法，整体结构与2018CVPR AttentiveGAN比较相似。
这篇文章主要提出了一种RainRemoval-GAN（RR-GAN），使用不配对监督。
通过引入一个物理模型来从可微规划的角度明确地学习恢复的图像和相应的雨条纹，从而减轻了成对的训练约束。整体网络由一个多尺度注意力记忆生成器和一个多尺度深度监督判别器组成。多尺度注意记忆生成器利用带有注意机制的记忆捕捉不同阶段的潜雨条纹背景，恢复干净的图像。深度监督的多尺度鉴别器在恢复的输出图像上对干净图像集的局部细节和全局外观施加约束。与学习到的雨纹一起，使用重建约束来确保外观与输入图像一致。
主要创新之处：
1、将CycleGAN与单幅图像去雨结合，从而使无配对数据的雨水去除训练成为可能。
2、基于注意记忆的多尺度注意记忆生成器，将粗尺度和细尺度密连网络中的上下文信息融合在一起，利用未配对的训练数据递归地学习雨纹，从而恢复干净的图像。
3、多尺度深度监督鉴别器，使所生成的复原图像在低层次细节和高层结构上都尽可能地符合目标图像。
网络结构
相较于AttentiveGAN，这里采用DenseBlock，并且判别器是多尺度的。
denseblock ：
具体实现
可微程序设计
本文工作属于可微规划族，它将程序视为神经网络，使程序能够参数化，自动微分和优化。
经典LISTA：将l1求解器ISTA展开成一个简单的RNN，层数对应迭代数，权值对应字典。
与传统的变量难以解释的RNN可微规划不同，该方法使用具有先验知识的前馈卷积神经网络重新构造图像退化模型。
注意力记忆网络
使用注意力代替递归网络。
多尺度深度监督判别器
结构：C(3,64)-C(3,128)-C(3,256)-C(3,512)
每个卷积特征映射将通过一个带有Leaky-ReLU激活的实例归一化层(IN)传递，然后被送入下一个卷积层。
另外，每个边输出后面都加上C(1,1)与sigmoid的卷积层，输出每个patch到干净图像上的概率。
因此，我们将有四种预测，提供多层次的监督，提供正则化，使生成的图像在低层次细节和高层结构方面与地面真实图像一样真实。
目标函数
损失函数
分页