2021-02-27
作者:互联网
贪心学院ai架构师
一,你的硬件结构是不是最优。
硬件行业的特点是:没有最优、只有更优。
硬件永远都在迭代,背后的原因,主要是摩尔定律在起作用。此外,当摩尔定律晶体管变成量子化的东西后,它会继续进化,从分子层面进到原子内部层面,再继续找其它的计算位。
第二,算法是不是最优。
前两年大家非常痴狂的去搞神经网络算法的时候,变体非常多,从最开始简算的RNN变到LSTM,变到更为复杂的结构,从最开始设计CNN,到CNN的复杂结构,再到用CNN做对抗网络…
在大家疯狂竞争算法的时候,2017年又出来一个理论说:神经元的基础单元不应该是神经,而应该是一个胶囊;这样一来,算法底层又改了,Hinton先生把自己30年前的学术成果给推翻了。在Capsule Network中,in&out在单个处理单元上变得更复杂,虽然网络连接过程还是原来的样子。
标签:02,27,复杂,摩尔定律,硬件,算法,2021,CNN,最优 来源: https://blog.csdn.net/m0_54105608/article/details/114172374