IT博客汇
首页
精华
技术
设计
资讯
扯淡
权利声明
登录
注册
商汤绝影:首发原生多模态大模型车端部署
36氪
发表于
2024-07-08 11:49:39
love
0
36氪获悉,7月5日上午,在由WAIC 2024战略合作伙伴商汤科技召开的“大爱无疆·向新力”人工智能论坛上,商汤科技联合创始人、首席科学家、绝影智能汽车事业群总裁王晓刚表示,商汤绝影在行业内率先实现了原生多模态大模型的车端部署。据了解,绝影智能汽车的车载端侧8B模型首包延迟可低至300毫秒以内,推理速度40Tokens/秒,并且能够覆盖主流算力平台。