首页 > TAG信息列表 > QAT
基于龙蜥操作系统指令加速,降低云原生网关的构建成本
技术背景 网络信息传输的可靠性、机密性和完整性要求日渐提升,HTTPS 协议已经广泛应用。HTTPS 的 SSL/TLS 协议涉及加解密、校验、签名等密码学计算,消耗较多 CPU 计算资源。因此 CPU 硬件厂商推出过多种加速卸载方案,如 AES-NI,QAT,KAE,ARMv8 安全扩展等。 业界软件生态在优化 HTTPS 的[DEBUG] QAT Nginx for docker 部署时"--with-ld-opt"出错
layout: post title: [DEBUG] QAT Nginx for docker 部署时"--with-ld-opt"出错 subtitle: 记一次debug经历 tags: [debug, linux] comments: true [DEBUG] QAT Nginx for docker 部署时"--with-ld-opt"出错 在将 Openssl + QAT + async-mode-nginx 部署至docker的container中时目标检测量化总结
前言 最近一段时间在搞模型量化(之前量化基础为0),基本上查到了90%以上的成熟量化方案,QAT的方案真的非常不成熟,基本没有开源好用的方案。赛灵思挺成熟但仅针对自己的框架,修改代价太大了。阿里的框架不成熟,至少我在看代码的时候,他还在Fix-Bug。ONNX挺成熟,但使用人数基本没有,其作QAT:IAO+DoReFa
最近看了两篇早期著名的QAT(Quantization Aware Training)的文章:IAO(Integer-Arithmetic-Only)和DoReFa,统一整理如下: IAO: https://arxiv.org/pdf/1712.05877.pdf DoReFa:https://arxiv.org/abs/1606.06160 Background 背景部分其实无需过多介绍,量化早已成为了神经网络部署过程中[openssl] openssl async模块框架分析
[classic_tong: https://www.cnblogs.com/hugetong/p/14379347.html] 这一部分内容的前面还有个第一部分,可以作为接下来内容的前提或者背景进行阅读:[openssl] intel qat场景下的openssl框架 引言 openssl1.1.1版本新增了async功能。是为了更好支持qat卡新增的功能。 详见:[opens[openssl] intel qat场景下的openssl框架
源代码 [classic_tong:https://www.cnblogs.com/hugetong/p/14363775.html] 我们使用openssl1.1.1的源代码进行安装与实验. 目前已经有了3.0.0的alpha版本. 源码下载在这里: https://www.openssl.org/source/ git在这里:git@github.com:openssl/openssl.git 编译与安装 使用如