首页 > TAG信息列表 > 运算量
论文粗读：Online Multi-Granularity Distillation for GAN Compression
传统的GAN网络虽然效果不错，但运算量大得难以忍受。本文提出了一种在线多粒度蒸馏方法（online multi-granularity distillation），能够相较于pix2pix和styleGAN能够大幅减少参数量和运算量。 学生模型学习两个教师模型传递而来的知识，一个更宽，即通道数更多，另一个根深，通过添加残差块MobileNet V1V2个人总结
v1 需求：传统网络内存需求大，运算量大。嵌入式，移动设备设备无法运行。 google团队 2017 轻量级CNN网络 论文地址 https://arxiv.org/pdf/1704.04861.pdf 亮点：模型参数与运算量少。DW卷积 Depthwise Cov 传统卷积：filter channel = 输入channel 输出channel=num of filter DW卷积学习第31天
C语言 1. 位、 1. ==一个字节由八个二进制位组成的==、最左为最高位、 2. 位运算符、 1.  2. 除 ~ 外其它均非单目运算符、 3. &——参加两个运算量、如果相应位1否位0、与逻辑运算符&&相似、 4. |——按位或牛顿法
拟牛顿法 当特征特别多的时候，求海森矩阵的逆矩阵，运算量是非常大且慢，考虑用一个n阶矩阵来替代，这就是拟牛顿法的基本思路分块打表
这是基于分块的思想： 分块打表的思想：提前在计算机计算好一部分的值，例如：提前计算好N mod1000000 = 0的值的数据，然后运算时直接取出对于的值开始运算，如：N = 2000001的时候，就取出2000000的值接着运算，减少运算量。 最优的情况下，可以处理sqrt(N)的表，然后以sqrt(n)的复杂度处理；