在边缘部署AI大模型应用,英特尔“让AI无处不在”

原创
服务器 芯片
在“让AI无处不在”的愿景下,英特尔以强大的芯片基础、软件定义的简便性以及开放多元的生态系统,帮助企业简化在PC、边缘和数据中心部署AI的复杂流程,助力他们充分释放AI潜力。

当前,人工智能已经成为推动企业创新和发展的核心要素。随着技术的不断发展,在边缘部署AI应用已经成为未来的核心趋势,而智能边缘与AI的融合,也将为企业开辟前所未有的机遇。

在近期举办的第十七届英特尔网络与边缘计算行业大会上,英特尔现场展示了基于英特尔边缘AI解决方案在教育、智能制造等垂直领域的最新精彩应用实例。英特尔公司高级副总裁兼网络与边缘事业部总经理Sachin Katti在会后接受记者采访时表示,在AI无处不在的愿景下,英特尔以强大的芯片基础、软件定义的简便性以及开放多元的生态系统,帮助企业简化在PC、边缘和数据中心部署AI的复杂流程,助力他们充分释放AI潜力。

推动边缘计算与AI深度融合,让AI无处不在

近年来,生成式AI火爆全球,各种大模型应用层出不穷,如何将大模型与企业业务场景相结合,提高生产效率和创新能力,已经成为很多企业探索的主要方向。IDC数据显示,中国生成式AI投资增长加速,20222027年五年的复合年增长率达到86.2%,生成式AI正在成为驱动智能发展的关键技术。

除了在数据中心和云中部署各种大模型应用外,在边缘侧部署大模型应用也成为近年来的热点,实际上,AI PC正是边缘生成式AI应用的重要体现,热度居高不下。据Gartner预测,到2026年,80%的全球企业将使用生成式AI50%的全球边缘部署将包含AI

Sachin Katti表示,英特尔一直以来都非常关注如何处理数据、分析数据。我们支持企业进行本地存储,而无需将数据迁移到云端。通过本地化的数据存储,能够帮助企业很好地利用AI智能体。Sachin Katti强调,这个转变已经开始,许多全球企业都已经进行了尝试,预计在未来一到两年内会看到更多智能体的出现。

凭借多样化的芯片产品,包括英特尔®酷睿™处理器、英特尔®酷睿™ Ultra 处理器、专为边缘设计的英特尔锐炫™GPU、英特尔®至强®处理器等,结合高效的软件解决方案,英特尔能够为不同的行业提供定制的垂直解决方案套件,助力客户加速AI在边缘和网络的设计、开发,并迅速扩大其应用范围。

谈到在边缘端部署大模型应用,英特尔公司副总裁兼网络与边缘事业部中国区总经理陈伟博士表示,模型的规模并非越大越好,而是应该适合市场应用场景的实际需求。他强调,边缘计算的部署需要考虑很多因素,比如时延要求、可实用性、微观数据的可调优化等要求。我们观察到,市场上有多种类型的模式,许多客户正在构建硬件和软件解决方案,并在通用大模型基础上进行性能优化,这种模式可以推动大模型应用在边缘端的迅速发展。


秉承开放合作构建完善生态,携手合作伙伴共同推动AI大模型落地

不同行业的不同用户,部署大模型应用的方式也有着不同的差别。对于英特尔而言,如何满足不同行业的不同定制需求,保障大模型在不同行业的应用落地,至关重要。

英特尔公司市场营销集团副总裁、英特尔中国网络与边缘及渠道数据中心事业部总经理郭威表示,中国大模型在行业中落地应用需要重点考虑三个方面:一是大模型必须与行业应用紧密结合才能走得更快;二是不能仅依靠模型训练,推理能力的提升在今年尤为重要;三是要确保从端到边缘再到云端大模型算力的均衡布局。

英特尔公司市场营销集团副总裁、英特尔中国网络与边缘及渠道数据中心事业部总经理郭威同时表示,AI大模型在不同行业的落地过程中,应用场景是一个主导方向,它引导我们的技术怎么去发展。因此,必须通过开放的技术支持和持续深耕行业场景,确保AI大模型在不同行业应用场景中的落地。据了解,在深耕行业场景方面,英特尔采取了三大举措:

一是基于现有的智能解决方案,将AI技术融入其中;二是积极拥抱当前爆发性增长的大模型和生成式AI技术;三是对整个生态系统的扶持。

在本地大会现场,我们看到了来自于教育、工业、医疗、零售等行业展示的边缘AI应用案例。在教育行业,希沃第七代交互智能平板和最新的教师终端,借助AI功能帮助教师完成一键备课、互动式教学、课堂反馈等任务,显著提升了课堂效率和教学质量。在工业领域,科东软件通过先进大语言模型实现任务理解及代码生成,并依托科东智能控制器的多模态视觉语言模型,实现对机器人动作的精准控制,极大简化了开发流程并提升了生产效率。

英特尔公司副总裁兼网络与边缘解决方案事业部总经理Dan Rodriguez强调,从顶层设计来讲,建立一个广泛且开放的生态系统,是能够改变市场的。首先,它为客户提供了选择权,这种系统能够在恰当的时间为用户匹配合适的合作伙伴。其次,开放系统鼓励所有人参与贡献,共同创造一个创新的良性循环。

凭借长期构建的开放且广泛的生态系统、深厚的技术底蕴,以及对各行业需求和趋势的敏锐洞察,英特尔才能够携手众多中国本土合作伙伴,支持大语言模型(LLM)在不同行业的落地应用。

正如陈伟博士在大会演讲中所述,我们不仅仅是技术的提供者,更是本地合作伙伴的倾听者和同行者。数年深耕,我们与合作伙伴紧密携手,打造出真正满足中国行业需求的解决方案。从运用AI 进行创新的‘+AI时代’,到今天以AI为主导推动创新的‘AI+时代’,我们正站技术转型的前沿。

面向未来,英特尔正在引入端到端、可扩展的系统级战略,通过开放的生态系统全速助力企业推进AI创新。英特尔的开放系统包括来自多厂商的芯片、硬件参考平台、软件基础设施以及AI工具,使从设备制造商到软件和服务提供商等广泛的AI生态系统都能够提供解决方案,满足各行业企业对定制化生成式AI的需求。

责任编辑:张诚 来源: 51CTO
相关推荐

2024-09-03 09:06:42

2024-04-19 16:06:04

AI边缘计算

2019-04-01 10:43:11

企业通信云通信华为

2014-04-23 13:08:04

Dockerlinux

2018-05-15 09:00:59

2023-12-16 09:42:25

英特尔AI酷睿

2021-10-29 15:30:37

SASE/网络安全

2023-12-16 09:35:58

英特尔至强可扩展处理器

2015-04-08 11:40:20

2017-09-14 18:02:53

伤害学神挑战

2022-09-16 10:44:17

物联网通信网络
点赞
收藏

51CTO技术栈公众号