推理芯片共5篇

Groq获英伟达200亿美元授权,LPU 3 LPX芯片量产

Groq获英伟达200亿美元授权,LPU 3 LPX芯片量产-会懂网
会懂网AI资讯,10月4日,近日,Groq近期迎来关键转折,英伟达以约两百亿美元的非独占方式授权其LPU(语言处理单元)技术,使Groq能借助巨头生态加速扩张。这反映出人工智能技术正在从单点突破走...
huidong的头像-会懂网huidong10天前
0446

Groq LPU嵌入英伟达Vera Rubin,异构推理改写算力格局

Groq LPU嵌入英伟达Vera Rubin,异构推理改写算力格局-会懂网
会懂网AI资讯,10月14日,近日,英伟达在二零二六年十月一日确认新一代AI计算平台Vera Rubin进入全面量产,该平台由六颗核心芯片构成,包括Vera CPU、Rubin GPU、NVLink 6交换芯片、ConnectX-9...
huidong的头像-会懂网huidong20小时前
0285

Groq 3 LPX量产每分钟3400token,老Groq转型推理云吃老本

Groq 3 LPX量产每分钟3400token,老Groq转型推理云吃老本-会懂网
会懂网AI资讯,10月15日,近日,英伟达去年十二月以二百亿美元获得Groq的推理技术非独家授权并收编其工程团队后,基于该架构的Groq 3 LPX已在三星韩国平泽工厂进入全面量产,成为Vera Rubin平台...
huidong的头像-会懂网huidong3小时前
04212

Groq发布第三代LPU:SRAM架构、500MB片上内存、150TB/s带宽

Groq发布第三代LPU:SRAM架构、500MB片上内存、150TB/s带宽-会懂网
会懂网AI资讯,9月22日,近日,9月19日,Groq发布第三代LPU推理芯片,基于与NVIDIA达成的约200亿美元IP许可,采用SRAM架构,单芯片集成500MB片上内存,存储带宽达150TB/s,主打超低延迟的大模型...
huidong的头像-会懂网huidong22天前
03610

Cerebras让Gemma 4推理跑到每秒1800Token,比GPU快35倍

Cerebras让Gemma 4推理跑到每秒1800Token,比GPU快35倍-会懂网
会懂网AI资讯,9月28日,近日,Cerebras宣布Gemma 4 31B在其推理平台上运行速度超过每秒1800个Token,号称全球最快的多模态模型推理,比GPU快约35倍,把推理速度推向新高度。这反映出人工智能技...
huidong的头像-会懂网huidong16天前
0536