推理芯片共3篇

Groq获英伟达200亿美元授权,LPU 3 LPX芯片量产

Groq获英伟达200亿美元授权,LPU 3 LPX芯片量产-会懂网
会懂网AI资讯,10月4日,近日,Groq近期迎来关键转折,英伟达以约两百亿美元的非独占方式授权其LPU(语言处理单元)技术,使Groq能借助巨头生态加速扩张。这反映出人工智能技术正在从单点突破走...
huidong的头像-会懂网huidong9天前
0446

Cerebras让Gemma 4推理跑到每秒1800Token,比GPU快35倍

Cerebras让Gemma 4推理跑到每秒1800Token,比GPU快35倍-会懂网
会懂网AI资讯,9月28日,近日,Cerebras宣布Gemma 4 31B在其推理平台上运行速度超过每秒1800个Token,号称全球最快的多模态模型推理,比GPU快约35倍,把推理速度推向新高度。这反映出人工智能技...
huidong的头像-会懂网huidong15天前
0536

Groq发布第三代LPU:SRAM架构、500MB片上内存、150TB/s带宽

Groq发布第三代LPU:SRAM架构、500MB片上内存、150TB/s带宽-会懂网
会懂网AI资讯,9月22日,近日,9月19日,Groq发布第三代LPU推理芯片,基于与NVIDIA达成的约200亿美元IP许可,采用SRAM架构,单芯片集成500MB片上内存,存储带宽达150TB/s,主打超低延迟的大模型...
huidong的头像-会懂网huidong21天前
03610