推理效率共1篇

Fireworks发布Ember-1:以Kimi K3为基座蒸馏,质量持平而推理Token减少约40%

Fireworks发布Ember-1:以Kimi K3为基座蒸馏,质量持平而推理Token减少约40%-会懂网
会懂网AI资讯,9月29日,近日,Fireworks Research发布Ember-1,这是一款以Kimi K3为基座进行专业化蒸馏的模型,在保持与Kimi K3相当输出质量的前提下,推理所需Token数量减少约40%,已在Server...
huidong的头像-会懂网huidong14天前
0488