据财联社 4 月 17 日报道，华泰证券（601688）研报表示，模型压缩技术是实现 AI 大模型在边/端部署的核心技术。当前，谷歌、微软、腾讯等厂商在该领域均有布局，将加速 AI 技术与智能终端融合，国内 SoC 设计公司有望深度受益。模型压缩技术可在保有大模型原有性能和精度基本不变前提下降低对推理算力的需求：1.量化：将浮点计算转成低比特定点计算；2.网络剪枝：去除神经网络中冗余的通道、神经元节点等；3.知识蒸馏：将大模型作为教师模型，用其输出训练性能接近、结构更简的学生模型。
Gate.io - 芝麻交易所，又称芝麻开门交易所，是原比特儿交易所国际版本，是全球第二大交易所 支持人民币OTC交易 让财富更自由一点
文章采集自互联网，本站不对其真实性负责，如需删除，请发送链接至oem1012@qq.com
发表评论
电子邮件地址不会被公开。 必填项已用*标注
文章评论已关闭！