其他分享
首页 > 其他分享> > AI 2021 年度报告

AI 2021 年度报告

作者:互联网

建议大伙有空还是自己亲自读一下,虽然有点长,188页ppt。 https://docs.google.com/presentation/d/1bwJDRC777rAf00Drthi9yT2c9b0MabWO5ZlksfvFzx8/edit#slide=id.gef9b05119a_0_288   很多诸如deepmind在生物医学方面的突破什么的,大家自己也能总结出来,但总体上信息量还是比较大的。这里分享一些还记得的有趣点。   NLP今年的热点不再是大型pretrained+fine tune, 而是pretrained,prompt, predict。这个基于prompt的预测,很有意思,背后有很多的哲学思想。GPT-3出来时,为什么有人在说是不是通用模型时代快到来了,提到的就是大型语言模型这方面的能力,读书无数,自然无所不知。   自动写代码貌似不是说说玩着来的,OpenAI的Codex在继续努力,某些时候表现还是很可以,总体上需要继续努力。

 

transformer衍生到cv领域了。CNN的最大问题就是context没有很好的利用,transformer正好擅长这方面,所以渗透到各个领域也不是什么稀奇事。当然,CNN在CV里的重要地位使得它是绝对不可抛弃的,所以下一代自然就是transformer+cnn。

 

中国的ai在学术领域的重要度继续走高,必须proud。

 

AI道德问题更加重视,年初的谷歌事件也榜上有名。当然还有各种后续。对我国的各种AI应用的使用的各种指指点点还在继续。

 

苹果的neural hash是不是违反侵犯隐私。随着数据隐私越来越敏感,这种乱七八糟的fingerprint,hash暂时是一种比较保险的利用用户数据的方法。

 

女性比例继续持低,在中国居然只有4%,而印度高达30%。

 

deepmind想脱离谷歌,希望以非盈利组织的身份进行AGI的研究。

 

欧洲在gdpr之后,继续突出关于AI的管理条例,而且必须有专门组织对其是否compiant作出评估。 。。。 打住剧透。 

标签:transformer,hash,AI,年度报告,2021,deepmind,继续,pretrained
来源: https://www.cnblogs.com/dagis/p/15669994.html