10月14日义乌股票配资，以“从芯出发，向端而生”为主题的大模型赋能智能终端创新实践大会暨后摩智能生态合作伙伴大会上，后摩智能围绕2D CIM、3D CIM两条技术路径及相应产品布局，结合商业化进展与软件生态开放，分享面向Agent时代的技术与生态合作进展。
后摩智能将自身定位为“端侧免费Token工厂”的算力底座，希望用更低的能耗生产更多智能，让端侧Token的边际成本趋近于零。
自2020年成立以来，后摩持续深耕存算一体。六年的技术积累正在转化为合作伙伴的产品。M50量产不到一年，已经获得150多个产品定点，服务客户超过百家。
模型进入终端，需要芯片同时应对计算、存储与功耗的约束。后摩智能以SRAM-CIM为根技术，持续推进计算架构和封装技术创新，形成2D CIM与3D CIM两条技术路径，分别面向更大容量和更大带宽的需求。
以存算一体为主流技术路径
此次会上，后摩智能联合创始人、产品副总裁信晓旭介绍，围绕芯片和模型，在过去两到三年中，端边AI这两个核心要素的发展、迭代远远超出了预期。
以千问大模型为例，在Dense类模型，过去17个月，相同智能水平的模型尺寸压缩为原来的1/8。现在更火的MoE类模型进步则更快，在6个月时间压缩为原来的1/6，进步相当惊人。
芯片方面，2024年，端边类芯片只能跑7b左右模型，性能只能过10个Token的能力。而现在已经普遍能跑到120b左右模型，而性能远不是10个Token的水平。底层的芯片和模型突破之外，上层应用也迎来了爆发的窗口期。
信晓旭说，过去几年，“存储”二字是绕不开的关键词。过去计算一直是主角，存储只是唱配角，但是AI时代的到来，整个剧本都在被改写。
HBM（高带宽内存）就是一个典型例子：在AI之前，HBM是非常小众的市场，但是在AI时代，HBM成为存储大厂的兵家必争之地。
后摩智能创立之初，核心团队一直反复问几个问题：AI时代到底需要什么样的芯片？到底该如何打造它？基于这样一些底层的思考，后摩智能选择了存算一体作为主流的技术路径。
对此，后摩智能将技术布局的目标归结为持续提升产品的Token/$与Token/W。前者关注单位成本所能获得的Token产出，后者关注推理输出与功耗之间的关系。
在2D CIM路径上，后摩智能结合SRAM-CIM与存储配置，面向更大容量需求持续演进；在3D CIM路径上，通过先进封装将存储与计算进一步结合，面向更大带宽需求展开布局。其中，3D CIM将SRAM-CIM用于逻辑计算层，与存储层协同，在计算效率与数据访问之间寻求更紧密的配合。
围绕Agent Computer、智能移动终端、具身机器人和边缘推理四大方向，终端、模型、平台与行业应用伙伴结合真实产品和项目实践，呈现端侧AI从模型适配、软硬件协同到场景落地的完整路径。
遵循聚焦和赋能两大原则
信晓旭说，从技术创新到商业落地这个闭环的过程，从来不是一家企业的独角戏，需要产业链每一位合作伙伴的协同与鼎力支持。在和合作伙伴合作过程中，后摩智能将遵循两大原则：
一是聚焦。聚焦在底层技术的创新，聚焦存算一体芯片技术的打磨，聚焦编译器工具链持续优化，打造极致能效比的算力底座，让合作伙伴能够做出有差异化、有竞争力的产品。
二是赋能。坚守产业边界，不与合作伙伴争利，不做整机、不做上层应用，这些都交给更擅长的合作伙伴去做，后摩智能持续输出和完善软硬件、算法和应用解决方案的参考设计。
他说，在过去两到三年，后摩智能与CPU、操作系统、AI Infra的合作伙伴花了大量精力和资源来打造产业底层生态。
在芯片侧，M50与端边侧几乎所有的主流CPU架构都完成了打通与适配，而且都已经进入了量产水平，包括X86、ARM、RISC-V。
在操作系统层面，覆盖了Windows、Ubuntu、开源鸿蒙、安卓，以及麒麟统信、欧拉等国内操作系统厂商。
在AI Infra层面，也与合作伙伴一起持续优化AI应用落地“最后一公里”，解决如模型部署、推理优化，以及场景适配一些行业难题，目标是把产业底层生态做实、做牢、做透，让合作伙伴不重复造轮子，最大限度降低研发成本，降低量产风险，缩短产品上市时间。
信晓旭说，端边AI是一片全新的蓝海，开源和开放是后摩智能的生态选择，愿意开放底层技术能力，携手产业链每一位合作伙伴释放存算一体的价值。
南方+记者 郜小平义乌股票配资
文章为作者独立观点，不代表十大可靠配资公司-杠杆配资平台app-靠谱实盘配资平台观点
- 上一篇：配资炒股公司找中承配资 【动力图】时隔两年重返上海，阿尔卡拉斯轻松过关
- 下一篇：没有了
相关文章
