GAN太难训练,经常遇到先收敛后发散的情况。
数据集
数据类别不平衡的问题可能会导致encoder效果不佳的状况
预处理
注意分连续数据与离散数据。
连续数据注意归一化
离散数据处理成one_hot
图像一定要归一化!!!
网络设计
归一化后的数据要与选择的激活函数相对应
离散数据最后一层改成softmax
训练
Discriminator可以设定clamp防止训练发散
超参数
batch_size 大概能将整个数据集分成20个iter左右
beta 对于联合loss训练的注意设置倍数 来弱化或增强某个loss组成
Tips
查看效果的时候注意记录各个参数下的结果