芯片加速器-凡亿课堂

电子产业一站式赋能平台

找到 “芯片加速器” 相关内容条

全部
- 全部
- 一周内
- 一月内
- 三月内
默认排序
- 默认
- 按最新

文章

写给技术人的深度学习芯片加速器指南：从 GPU 到 TPU 再到 FPGA

故事是这样的。前两天在AI芯片群里看到一个问题，有人问：大模型推理到底卡在哪里。问题描述挺详细的，说推理阶段，尤其是 token by token 生成的时候，延迟高得离谱。评论区有一群人在吵，有人说"上更大内存"，有人说"换更硬的芯片"，有人说"优化算法"。吵了半天，没一个说对。后来我花了一周时间

125 0 0

芯片加速器GPUTPU

写给技术人的深度学习芯片加速器指南：从 GPU 到 TPU 再到 FPGA

文章

写给技术人的深度学习芯片加速器指南：从 GPU 到 TPU 再到 FPGA

故事是这样的。前两天在AI芯片群里看到一个问题，有人问：大模型推理到底卡在哪里。问题描述挺详细的，说推理阶段，尤其是 token by token 生成的时候，延迟高得离谱。评论区有一群人在吵，有人说"上更大内存"，有人说"换更硬的芯片"，有人说"优化算法"。吵了半天，没一个说对。后来我花了一周时间

149 0 0

芯片加速器GPUTPU

写给技术人的深度学习芯片加速器指南：从 GPU 到 TPU 再到 FPGA

热门标签

全站最新内容推荐