热搜: 丈母娘 易方达优质精选混合(QDII) 中邮核心成长混合 兴全趋势投资混合(LOF)

华泰证券:关注AI大模型在终端侧的轻量化应用

2023-04-17 07:27:00 编辑:基金速查网

[导读]:华泰证券研报表示,模型压缩技术是实现AI大模型在边/端部署的核心技术。当前,谷歌、微软、腾讯等厂商在该领域均有布局,将加速AI技术与智能终端融合,国内SoC设计公司有望深度受益。上世纪学术界率先提出网络剪枝技术,并一直引领模型压缩技术的突破。业界的发展紧随其后,并进一步将模型压缩技术集成至移动端模型部署框架/工具,主要部署的模型包括:1)深度学习框架厂商:谷歌、Meta;2)硬件厂商:英伟达、英特尔、高通等;以及3)云服务厂商:微软等

  华泰证券:建议关注灵巧手电机和关节电机厂家

  中东局势突变!投资如何应对?基金经理最新研判

  ETF今日收评 | 创业板人工智能ETF涨超5% 创业板综ETF博时跌超16%

  Meta酝酿新一轮大规模裁员 AI烧钱压力或逼退上万名员工

  华泰证券研报表示,模型压缩技术是实现AI大模型在边/端部署的核心技术。当前,谷歌、微软、腾讯等厂商在该领域均有布局,将加速AI技术与智能终端融合,国内SoC设计公司有望深度受益。模型压缩技术可在保有大模型原有性能和精度基本不变前提下降低对推理算力的需求:1)量化:将浮点计算转成低比特定点计算;2)网络剪枝:去除神经网络中冗余的通道、神经元节点等;3)知识蒸馏:将大模型作为教师模型,用其输出训练性能接近、结构更简的学生模型。

  华泰 | 电子:关注AI大模型在终端侧的轻量化应用

  高通、华为实现AI大模型在终端的轻量化部署,关注边/端侧算力机会

  3 月 2 日,高通在 MWC 2023 大会发布全球首个运行在 Android 手机上的Stable Diffusion终端侧演示 Stable Diffusion 模型参数超过10亿,高通利用其 AI 软件栈对模型进行量化、编译和硬件加速优化,使其成功在搭载第二代骁龙 8 移动平台的手机上运行 。此外,华为新一代 P60系列手机将于 5 月上线智慧搜图功能,该功能通过对模型进行小型化处 ... 网页链接