GPU争夺赛背后,另一场算力「暗战」已经打响
发布时间: 2023-12-01
浏览次数: 8 次

图片


360集团创始人周鸿祎近日在社交平台上记录了近期在硅谷的见闻,他表示:硅谷的投资人已经不再考虑没有AI概念的公司,硅谷所有的创业者几乎都在以AI为核心推进项目,产学研都在全面拥抱AI。


”如果华为等尝试能抓住国产AI芯片的机会,结合通用训练架构,对我国大模型发展是一次突破性的机会”,周鸿祎指出了在过去一年里大模型竞争的关键点:作为人工智能的三驾马车之一,稀缺宝贵的算力成为大模型训练抢夺的重要资源,各家为了压缩训练时间使出浑身解数抢GPU卡,或选择从其他业务线调用,又或者愿意支付超100倍购买。


旧的问题尚未解决,新的问题已经出现。抢到算力只是约等于抢到进入大模型上半场的入场券,找到具体的应用场景才是挤进下半场的关键。据赛迪顾问发布的《2023年中国生成式AI企业应用研究》预计,2035年中国生成式AI企业采用率将达到约85%。制造业、零售业、电信行业和医疗健康领域率先采用,其采用率分别达到82%、90%、65%和53%。

走在前面的玩家已经发现——另一场算力暗战已经打响。


01

边缘AI,大模型落地应用的重要一役


拥有数十亿参数的众多生成式AI对基础设施提出更高的要求是业界共识,无论是AI模型优化参数的AI训练,还是执行该模型的AI推理,至今都受限于模型本身的庞大和复杂部署在云端,这也正是过去传统的AI部署模式:端侧采集数据,云端进行计算。


只不过,一方面在云端进行推理成本昂贵,另一方面不同的应用场景所需要的推理能力也各不相同。再加上端侧更快的响应速度和更高的安全性,生成式AI想要规模化扩展,其处理重心就需要从云端向边缘转移,也就是说,大模型应用落地的重要一战将在边缘AI领域打响。


如何评价玩家们的边缘AI能力?AI SoC嵌入式终端设备在算力、功耗和成本等方面的综合表现最为直观。


能够看到的是不少在上一轮AI浪潮中就意识到端侧AI重要性的嵌入式厂商,正在这次AIGC浪潮中发起猛烈进攻,例如不少头部MCU厂商自2017年开始尝试在MCU中添加AI功能,如今这一趋势正变得越来越流行,都在嵌入式中集成CNN加速器或NPU处理器,IP核厂商也正式推出面向低功耗物联网设备AI加速的新核心,更有边缘AI推理芯片公司陆续打造新一代边缘计算芯片平台,尝试在端侧运行迁移大模型。


在未来,我们会看到更加多元嵌入了AI能力的终端设备,而这些最新的边缘AI技术与产品,将于2024年8月27日至29日在深圳会展中心(福田)展出,嵌入式AI的竞争局面将在elexcon2024深圳国际电子展上从幕后走到台前。



02

深圳elexcon + 上海ewCN

嵌入式AI竞争走到台前



elexcon2024深圳国际电子展正式官宣定档,将于2024年8月27日至29日在深圳会展中心(福田)1、9号馆举办。


图片

图片

图片


“嵌入式”和“AI”作为elexcon上最受观众喜爱和关注的主题,曾衍生出 “GPU技术与生态专题论坛”集结国内产学研GPU专家,探讨GPU研究如何抓住AIGC浪潮,场场爆满;elexcon与电子发烧友网联合主办的“人工智能大会”吸引TI德州仪器、ADI、瑞萨电子、爱芯元智等全球企业高管和行业专家集聚一堂,共话边缘AI的解决方案。


“AI”和“嵌入式”将是elexcon2024持续重点打造的板块,特设嵌入式展,展示全新热门的AI嵌入式技术产品,另有同期还将举行“第六届中国嵌入式技术大会”,超数十位大咖分享技术干货,精彩不容错过。


图片

图片

图片


另外,elexcon还将与全球久享盛誉的embedded world合作,于2024年6月举办上海国际嵌入式展(embedded world China),目前已经有超恩股份、聪泰科技、北汇信息、研凌工控、普源精电、爱弗泰克、倍睿软件、赛柯微、控创(北京)、一众显示、科尤特软件等公司确认参展,上海深圳双城互动,展示嵌入式领域先进的技术与火热的产品。


elexcon2024将重点打造“新产品新技术首发”平台!携手海内外优质企业发布创新产品,展示前沿技术应用案例,面向 7 万+技术专家、决策者、开发工程师,并整合 250+ 央视级/大众/财经/泛科技/电子类媒体及海外媒体资源,连接全球电子生态,全方位提升展商品牌影响力!


来elexcon2024,成为AIGC算力之战的参与者,成为嵌入式AI浪潮的见证者!

elexcon深圳国际电子展由创意时代与博闻创意创立于2004年,已成为备受海内外电子行业关注的年度专业电子展之一,是展示技术实力、拓展行业合作的重要平台。更多展会详情请登录www.bljsleep.com 展位


Baidu
map