蚂蚁开源大模型技术Lookahead
快讯 零壹财经 零壹财经 2024-01-18 阅读：1032
1月18日讯，蚂蚁开源大模型技术Lookahead。Lookahead是一个推理加速框架，可以大幅提升大模型的推理效率，可将推理加速2-6倍。通过采用多分支策略，Lookahead能够在一次前向过程中生成更多的Token，进一步压榨硬件性能。（站长之家）
上一篇>钉钉总裁：4月份会推出中国版AI Agent Store
下一篇>华为在深圳成立引望智能公司
相关文章
用户评论
所有评论
主编精选
more专题推荐
more
第四届中国零售金融发展峰会(共15篇)
资讯排行
- 48h
- 7天
-
首页
-
评论
-
回顶部
游客
自律公约