京东携手华为基于鲲鹏超节点，树立低时延生成式推荐广告新标杆

　　/涨粉易/在AI趋势下，京东基于荐广互联网头部厂商广告业务全面向生成式推荐转型，携手京东始终坚持技术创新驱动业务升级，鲲鹏携手华为基于新一代鲲鹏超节点开展深度联合创新，超节成功打造业界领先的点树低时延生成式推荐广告解决方案。其中，立低京东云基于鲲鹏超节点和超节点异构融合池化OS打造全新云平台，时延生成式推京东广告基于全新底座实现业务架构突破性升级，告新协同完成技术攻坚与场景落地，标杆在刚刚过去的京东基于荐广京东618大促实战中交出亮眼答卷，新平台平稳承接京东核心广告业务流量，携手相较传统架构，鲲鹏全链路时延优化8%，超节显著释放时延余量，点树有效提升推理精度并拉动广告转化率稳步增长，立低为电商生成式推荐广告领域树立了全新的行业标杆。

　　直面时延挑战

　　京东广告攻坚生成式推荐广告核心技术难题

　　当前，电商广告赛道正经历深刻的技术变革，传统判别式推荐全面向生成式推荐迭代。广告全链路的特征计算、模型推理与智能召排环节，对传输与计算时延提出了极致严苛的要求。随着多模态内容的广泛普及与用户个性化推荐粒度的持续细化，生成式推荐广告业务呈现出数据体量庞大、缓存规模激增、向量检索复杂度陡增等全新特征，传统算力架构的适配短板日益凸显。

　　目前，京东广告已率先落地生成式召回与粗排核心能力，正向生成式召排一体化架构稳步演进。然而，传统算力架构在业务规模化落地过程中暴露出明显短板，业务全链路时延已突破300ms的业务红线。这一时延瓶颈不仅制约了广告业务的增收提效，也阻碍了生成式推荐广告架构的持续迭代升级。为此，亟需依托新一代算力底座完成全链路升级，以实现时延优化、精度提升与成本可控的多维业务突破。

　　深度联创赋能

　　鲲鹏超节点构建生成式推荐广告算力新范式

　　针对生成式推荐广告对极致低时延、高并发与大缓存的严苛需求，京东广告、京东云与华为基于鲲鹏超节点，全面重构广告业务的算力和业务架构，彻底破解了传统四级缓存搭配TCP通信体系带来的固有短板：RPC通信耗时占比超过30%，远端Redis单次访问推理上下文固定产生20ms时延，频繁的缓存不命中问题，直接影响广告曝光效果与商业转化收益。在本次联合创新中，京东广告聚焦业务算法与场景优化，京东云主打底层架构革新与算力赋能，形成软硬件协同的完整技术解决方案。

　　单机算力跃升：鲲鹏通过芯片、系统、编译三层优化，实现了单机算力性能的跨越式提升。结合召排算法创新与核心算子调优，广告核心服务吞吐提升25%+，生成式模型推理吞吐提升40%+。在高负载场景下，商品信息服务高负载时延降低50%，单机算力在业务吞吐与时延上实现了双重跃升。

　　超节点架构突破：在超节点架构层面，京东云基于鲲鹏超节点硬件，依托openEuler、openFuyao、openYuanrong打造超节点异构融合池化OS，搭建高性能弹性调度算力底座，通过多重技术创新实现架构全面升级，完美适配广告复杂业务场景。

　　大容量KVCache：突破异构融合池化内存管理的OS多级缓存直访、分布式数据缓存等技术能力，KVCache TP99时延可降低25%;同时搭建跨节点百TB级全内存KVCache共享缓存资源池，全面替代传统四级缓存架构，跨节点检索TP99时延大幅降低80%。

　　RPC通信加速：依托灵衢URMA技术全面加速RPC通信，大幅削减容器间通信损耗，实现RPC通信TP99时延降低40%。同时通过灵衢传输层与事务层分离的创新设计，有效降低建链内存开销，搭配鲲鹏超节点K级大规模组网能力，可稳定支撑十万级容器大规模通信场景。依托openFuyao与京东云平台配合，通过K8s标签定义超节点域实现精准域内调度，并基于标准Device Plugin将URMA设备供给容器，完成高速通信能力的容器化落地。

　　多重技术叠加赋能，可完美适配电商大促瞬时流量爆发的极端复杂场景，实现对传统算力架构的降维打击。

　　京东618实战淬炼

　　时延、精度与商业价值全面突破

　　在今年京东618大促高并发、高压力的真实实战场景中，京东云基于鲲鹏超节点打造的全新算力底座全面赋能京东广告业务，实现关键性能、链路时延、商业价值的多重跃升。

　　性能指标：在新架构下，生成式召回环节KVCache访问时延稳定，性能优化20%;精排环节访存时延大幅下降;8M行为序列传输耗时较传统TCP架构优化20%。

　　链路优化：架构升级大幅压缩了通信与IO损耗，业务整体链路时延缩短达8%，为系统释放了充足的时延余量。

　　业务增益：释放的时延余量可有效支撑更长用户行为序列分析与更大参数规模的AI精排模型落地，实现“更低时延、更高推理精度”的双向业务增益，持续优化用户浏览体验与广告推送精准度。

　　京东广告产研负责人表示：“本次京东618大促实战，充分验证了鲲鹏超节点生成式推荐广告方案的价值与成熟度，成功攻克了长期制约业务发展的时延瓶颈。释放的时延余量将反哺AI推理精度，显著提升广告转化效果。经初步测算，每优化1ms时延，每年可撬动数千万元的营收增量。本次联创实战成果，进一步坚定了京东深耕生成式推荐广告赛道、持续迭代底层算力架构的技术发展路线。”

　　京东云构筑全域复用的算力底座

　　可快速赋能不同业务场景

　　本次为广告业务量身打造的京东云算力底座，具备低时延通信、超高吞吐、高可靠等核心优势，不仅精准解决了电商生成式推荐广告的业务痛点，更具备极强的场景通用性。基于该架构可快速适配量化交易、数据库服务、AI Agent等对时延、稳定性、算力性能要求严苛的业务场景，同时支持多平台多算力，支持以太网和灵衢通信混合组网，实现技术能力的全域复用，为京东全业务线技术升级提供通用算力支撑。

　　三方协同共建

　　持续深耕技术迭代与规模化落地

　　本次在京东618期间成功落地的实战案例，是京东广告、京东云与华为深度联创的重要里程碑，标志着低时延生成式推荐广告方案正式迈入规模化、成熟化落地阶段。本次合作三方创新共建研发模式，打造一体化联合开发仓，团队深度融合、高效协同。联合研判行业趋势，同步定义需求，业务和底软适配双流水线并行推进，设立双重校验门禁实现代码按天快速迭代，创新落地软硬件 Shift Left 协同开发模式。

　　下一阶段，三方将继续深化技术合作，进一步挖掘全链路优化空间，持续降低时延损耗，稳步提高部署规模，提升业务承载占比，依托京东云极致算力底座与京东广告业务创新能力，持续领跑并实现电商生成式推荐广告业务性能的再次飞跃。

　　“数智世界 一触即达” 选择华为，让您的企业轻松数智化。