首页 > TAG信息列表 > 端侧
二值神经网络的落地实践与视觉模型端侧部署新范式
引言 在之前的两篇文章中我也对其进行过比较详细的介绍: https://shanghai168.livejournal.com/https://54654.livejournal.com/ 不过虽然BNN在2016年就被正式提出,但在落地应用方面一直没有得到很好的重视,众多人认为这是因为在相同架构下的BNN相比于浮点的神经网络精度相差太多导致从0到1:美团端侧CDN容灾解决方案
CDN已经成为互联网重要的基建之一,越来越多的网络服务离不开CDN,它的稳定性也直接影响到业务的可用性。CDN的容灾一直由美团的SRE团队在负责,在端侧鲜有方案和实践。 本文结合美团外卖业务中的具体实践,介绍了一种在端侧感知CDN可用性状况并进行自动容灾切换的方案,通过该方案可有效端侧用一层卷积实现超分
【前言】 以下解读与见解均为我的个人理解,要是我有哪里曲解了,造成了不必要的麻烦,可以联系我删除文章,也可以在评论区留言,我进行修改。也欢迎大家在评论区进行交流,要是有什么有意思的paper也可以留言,我抽空看一下也可以写一些。正文内容中的“作者”二字,均是指paper的作者,我的个人说一说Web端侧AI
前言 AI 正在不断拓展前端的技术边界, 算法的加持也为前端研发注入了全新的力量。本文为大家介绍什么是端智能,端智能的应用场景以及 Web 端侧实现 AI 的基本原理概念。 什么是端智能 首先,回顾一个AI应用的开发流程,具体步骤包括了 数据的采集与预处理 模型的选取与训练 模型的评估MindSpore21天实战营手记(一):基于MindSpore Lite开发端侧AI图像分类应用
完于2020年10月26日 刚刚听完华为MindSpore实战营第一课“基于MindSpore Lite开发端侧AI图像分类应用”,学会了编译方法就迫不及待按照课程指南生成应用,安装到手机上对着街上物件一顿乱扫,感觉特别有趣。 话说能得到即时反馈的学习才是好的学习,短短两天把一个小白变成一个能编译应对全场景AI框架部署挑战,MindSpore“四招”让你躺平
摘要:所谓全场景AI,是指可以将深度学习技术快速应用在云边端不同场景下的硬件设备上,包括云服务器、移动终端以及IoT设备等等,高效运行并能有效协同。 本文分享自华为云社区《AI框架的挑战与MindSpore的解决思路》,原文作者:HWCloudAI 。 全场景统一AI框架的挑战 所谓全场景AI,是指可应对全场景 AI 框架部署挑战,MindSpore“四招”让你躺平
摘要:所谓全场景 AI,是指可以将深度学习技术快速应用在云边端不同场景下的硬件设备上,包括云服务器、移动终端以及 IoT 设备等等,高效运行并能有效协同。 本文分享自华为云社区《AI框架的挑战与MindSpore的解决思路》,原文作者:HWCloudAI 。 全场景统一 AI 框架的挑战 所Paddle Lite端侧部署
Paddle Lite端侧部署 端侧推理引擎的由来 随着深度学习的快速发展、特别是小型网络模型的不断成熟,原本应用到云端的深度学习推理,就可以放到终端上来做,比如手机、手表、摄像头、传感器、音响,也就是端智能。此外,可用于深度学习计算的硬件也有井喷之势,从Intel到Nvidia、ARM、Mali,再到Paddle Lite端侧部署
Paddle Lite端侧部署 端侧推理引擎的由来 随着深度学习的快速发展、特别是小型网络模型的不断成熟,原本应用到云端的深度学习推理,就可以放到终端上来做,比如手机、手表、摄像头、传感器、音响,也就是端智能。此外,可用于深度学习计算的硬件也有井喷之势,从Intel到Nvidia、ARM、MalTensorflow模型优化 端侧部署 tflite 量化 稀疏 quantization sparsity
Tensorflow模型优化 文章目录 Tensorflow模型优化为什么要模型优化端侧部署模型优化方式Quantization工具包支持32 bit float ->16 bit float混合优化整形优化 Post-training API32 bit float ->16 bit float混合量化整形量化 During training API如何选择合适的量化方式 S多模态AI开发套件HiLens Kit:超强算力彰显云上实力
摘要:Huawei HiLens Kit是一款端云协同多模态AI开发套件,支持图像、视频、语音等多种数据分析与推理计算,可广泛用于智能监控、智能家庭、机器人、无人机、智慧工业、智慧门店等分析场景。 在场景智能化背景下,端侧自身算力有限、开发技能困难,从云侧下发技能到端侧,端侧兼容性差,部署技