联想发布端侧AI新技术联想推理加速引擎:与清华大学及无问芯穹联合研发,PC本地推理媲美 OpenAI-mini

新浪科技讯 5月7日上午消息,在今日举行的2025联想创新科技大会(Tech World)上,联想首次定义“超级智能体”三大核心功能——感知与交互、认知与决策、自主与演进,并正式发布“联想天禧”个人超级智能体、“联想乐享”企业超级智能体。

会上,联想展示了其在端侧算力方面的最新创新成果 —— “联想推理加速引擎”。这款由联想、清华大学及无问芯穹联合研发的推理引擎,是专为高效AI PC推理而设计的软硬件协同优化平台,可以让一台普通PC的本地推理能力,媲美OpenAI去年发布的o1-mini云端模型。

“联想推理加速引擎”通过高性能并行解码、算子融合优化以及异构计算技术, 实现了多种应用场景下推理速度的大幅提升,以及功耗和内存占用的显著降低。与大模型推理芯片相结合,通过硬件加速与软件优化的无缝协作,进一步放大了性能提升,形成了叠加效应。

为直观展示 “联想推理加速引擎”的实力,现场设置了一场“竞速赛”。三台配置相同的AI PC同时解答2024年高考数学压轴题:其中,初代大模型耗时27秒,答案0分;二代大模型耗时26秒,答案满分;二代大模型+“联想推理加速引擎”耗时13秒,答案满分。

这表明模型能力的提升和 “联想推理加速引擎”对算力的提升,让设备的预填充更为迅速、解码速度更快、推理时间更短,同时占用内存更少,能耗更低,设备上的 AI 能力得到了大幅提升。

过去一年,AI 领域创新不断。尤其是DeepSeek 的出现将算法创新与工程优化深度融合,推动了 AI 算力和模型技术的普及,更进一步加速了强推理模型端侧化的发展。

联想集团董事长兼CEO杨元庆表示,很快大家就会在即将发布的下一代 AI PC 上体验到 “联想推理加速引擎”带来的强大本地推理能力,其性能可以与云端大模型相媲美,但成本却低得多。“今天随着AI需求的爆发式增长,端侧计算和推理能力的提升将依然保持指数级增长的速度,甚至更快。未来12个月,端侧AI综合能力实现至少三倍的提升,这也许不是梦想! ”

来源:新浪网

文章来源于网络。发布者:火星财经,转载请注明出处:https://www.sengcheng.com/article/54913.html

(0)
打赏 微信扫一扫 微信扫一扫 支付宝扫一扫 支付宝扫一扫
火星财经的头像火星财经
上一篇 2025年5月7日 上午11:54
下一篇 2025年5月7日 上午11:55

相关推荐

  • 日均800人协和急诊忙爆炸 秋冬季疾病高峰挑战医护人员

    日均800人协和急诊忙爆炸。随着秋冬季疾病高发期的到来,北京协和医院急诊科面临着巨大的接诊压力。据统计,该科室日均接诊量已达到800人次,医护人员工作异常繁忙,但仍全力以赴确保每位患者得到及时救治。 协和医院急诊科作为中南地区创建最早、技术最完善的急诊医疗中心之一,承担着大量的急诊、急救和危重病医学任务。面对不断涌入的病患,医护人员始终坚守岗位,与时间赛跑,…

    2025年1月21日
    20200
  • 有哪些学籍管理新动向值得关注 严打“人籍分离”现象

    有哪些学籍管理新动向值得关注。教育部近日发布了修订版《中小学生学籍管理办法》,强调教育公平,进一步细化了跨省转学和省内转学等学籍变动的条件。学校需至少每学期核准一次学生学籍,严肃处理人籍分离、空挂学籍等问题,确保人籍一致。 2013年,教育部曾印发《中小学生学籍管理办法》,明确规定“一人一籍、籍随人走”。此次新规定出台,旨在应对现实中依然存在的空挂学籍、人籍…

    2025年2月10日
    14700
  • 俄称在库尔斯克激战 乌称击退俄进攻 双方激战持续整天

    俄罗斯国防部消息称,从当地时间6日清晨至21时,俄军在库尔斯克州与乌军持续交战。俄军成功击退了乌军8轮袭击,乌军损失超过200人以及50多件装备,其中包括8辆坦克和5辆步兵战车。 同一天,乌克兰武装部队总参谋部发布战况表示,前线地区发生了66次战斗。乌军在哈尔科夫方向击退了俄军1次袭击,在波克罗夫斯克方向和库尔斯克地区分别击退了俄军15次和3次进攻。 责任编…

    2025年2月7日
    18900
  • 珠海一公交车站座椅只有两根钢管 设计引争议

    1月19日,有网友发现广东珠海金湾区平沙镇一处公交车站的座椅设计十分奇特,只有两根钢管。21日,相关情况被反映给珠海公交集团和金湾区交通运输局,工作人员也认为这种座椅设计很另类。 该网友拍摄的是平沙三路东站点的座椅,除了两端的方形支撑墩外,座椅仅由两根直径约十厘米的不锈钢管组成,一根用来坐,一根用来靠,中间有较大间隙。站点信息牌显示,多路公交车在此停靠。 去…

    2025年1月22日
    17600
  • 美国ITC发布对无线前端模块及其下游设备的337部分终裁

      格隆汇4月14日|据中国贸易救济信息网消息,2025年4月11日,美国国际贸易委员会(ITC)发布公告称,对特定无线前端模块及其下游设备(Certain Wireless Front-End Modules and Devices Containing the Same,调查编码:337-TA-1413)作出337部分终裁:对本案行政法官于2025年3月…

    2025年4月14日
    15200

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注

关注微信