投机解码共1篇

Liquid AI发布LFM2.5-VL-DSpark:端侧视觉语言模型投机解码,端上加速最高3.13倍

Liquid AI发布LFM2.5-VL-DSpark:端侧视觉语言模型投机解码,端上加速最高3.13倍-会懂网
会懂网AI资讯,9月29日,近日,Liquid AI发布实验性的投机解码模型LFM2.5-VL-DSpark,面向30亿参数的LFM2.5视觉语言模型,在端侧设备上实现最高3.13倍 decode 加速,在H100上也可达2.66倍,且完...
huidong的头像-会懂网huidong14天前
04113