Hacker News · AI 热帖· fsbonetto·· 4 小时前
openTPU 开源:由 AI 设计的 AI 推理硬件加速器发布
AI is now capable of developing its own inference hardware
SI 导读
开源项目 openTPU 发布了由 AI 设计的完整 AI 加速器实现,在 Inspur YPCB-00338 卡上运行十种模型且与模拟器逐 bit 一致。项目包含 SystemVerilog 硬件设计、指令集、编译器和主机软件,LFM2.5-230M int8 解码达 59.0 tok/s。该仓库以 Apache 2.0 许可开放,可作为理解加速器的学习素材。
SI 评分62
来源:Hacker News · AI 热帖 · github.com