为何BatchNorm（BN)可以具有那样两个优点，有相关数学推理么？

为何BatchNorm（BN)可以具有那样两个优点，有相关数学推理么？

答主

刘洺堉

NVIDIA研究院首席研究科学家

NVIDIA 研究院首席研究科学家刘洺堉：一是让surface比较平滑...

问题来源：如何利用生成式对抗网络GAN实现“AI神笔马良”GauGAN的神奇效果

其他回答

发布

网友答案仅供其表达个人看法，并不表明智猩猩立场。

相关回答

对于高分辨率和多场景图像的生成用什么GAN模型比较好呢？

有些GAN会选择在Generator网络的前几层用Instance Normalization来代替Batch Normalization，有paper提到前者可以有效避免不同训练数据直接的对比度差异，请问两者之间如何取舍？

为何BatchNorm（BN)可以具有那样两个优点，有相关数学推理么？

GAN是否可以用来生成训练数据？可以的话，有没有具体案例？如果不可以，又是为什么？

如何很好量化GAN模型结果？有什么切实提高GAN模型训练稳定性和缓解模式崩溃的tips吗？

热门问答

SR-IOV和MIG的关系是什么？A100是否支持SR-IOV？

请问INT4的算力为什么是INT8的2倍，而不是4倍？

请教一下，在A100上MPS技术会怎样演进，和MIG技术有哪些结合？

MIG将来是不是会取代vGPU？有大致路线图吗？适配vGPU和适配MIG有没有升级问题？还是无缝升级？

如果不使用MIG，那么就可以使用8个GPU了？还有结构化稀疏支持两个矩阵都是稀疏的么？

NVLink与NVSwitch是什么关系？

MIG的各实例是程序员控制还是系统控制？

NVLink 3.0通过12个X4 Link来支持双向600GB带宽，平均每个X4 link是50GB，这样的话，X16 link的双向带宽就有200GB，这个带宽已经超过PCIe 5.0的标准了，是这样吗？

转写的标点符号没看到？

纹理内存究竟是单独的内存区域？还是gmem的一种特殊访问方式？（即，有限的究竟是纹理缓存还是纹理内存）