每秒40 Tokens！商汤绝影开创原生多模态大模型车载新时代,橡鹿科技再获京东近 2 亿元战略投资,ElevenLabs推出Turbo 2.5 AI模型：普通话转语音速度飙升3倍,OpenAI发布GPT-4o mini，号称功能最强、成本效益最高的小模型,通义千问、GPT-4o 等七款大模型“高考”成绩揭晓：前三名文科破一本线，理科跃二本线,Meta因监管困扰，将不会在欧盟发布新的多模态 AI 模型,中国农大发布“神农大模型2.0”，赋能农业多领域创新,OpenAI“草莓”新项目曝光，AI推理能力迈向更高峰,OpenAI 提出通用人工智能五级标准，自认为即将达到第二级,AI护航，老小安康——用数智构筑家庭守护多重方案,谷歌DeepMind CEO直言：当前 AI 综合智力还不及家猫,微软放弃OpenAI董事会观察员席位，苹果也不会担任类似角色,富国银行：2030年AI产业用电需求将激增8050%，达652TWh,小度亮相WAIC 2024，构建未来全场景智能生活,中国科学院院士：中国不存在美国AI发展瓶颈短板，电力资源丰沛,商汤“日日新 5o”模型发布，交互效果直追GPT-4o，开启智能新纪元

徐州云主机,河北裸金属_

【ITBEAR科技资讯】7月19日消息，商汤科技在智能汽车领域取得了重大突破。商汤科技联合创始人、首席科学家王晓刚在17日宣布，商汤绝影已成功在行业内率先实现原生多模态大模型的车端部署。这一创新技术的推出，标志着智能汽车在人工智能领域迈出了重要一步。

据了解，商汤绝影的车载端侧8B模型在性能上表现出色，首包延迟控制在300毫秒以内，同时推理速度高达40 Tokens/秒，该技术还能够覆盖主流算力平台。为了支持这一强大功能，商汤绝影专门开发了名为“HyperPPL”的计算引擎。该引擎不仅扩展并支持了主流车载计算硬件，还兼容多种主流操作系统，并能适配多个车载芯片的部署平台。

HyperPPL针对车载多人场景进行了优化。这意味着，在车内多人并发使用的情况下，车端多模态大模型的推理效率并不会明显降低，从而确保了用户体验的流畅性。

据ITBEAR科技资讯了解，商汤绝影的技术实力已得到实际应用验证。深圳首条自动驾驶公交线路便采用了商汤绝影的车辆与技术，实现了所有驾驶操作的无人员介入。这一成就不仅彰显了商汤绝影在自动驾驶技术领域的领先地位，也为未来智能交通的发展提供了有力支持。

展望未来，随着技术的不断进步，更高算力的车载芯片即将问世。据悉，明年英伟达将推出上千TOPS算力的车载芯片。基于这一更高算力的计算平台，商汤绝影预计其多模态大模型车端部署方案的首包延迟将大幅降低，同时推理速度也将进一步提高。