首页 > 创新亦庄 > 科技成果转化承载区 > 科技快报

京东云发布九大AI产品

本报讯(融媒体中心 李玉凤)大模型发展日新月异,深度应用全面开启。近日,由北京经开区(北京亦庄)企业京东集团主办的京东云城市大会顺利举行。大会上,京东云发布JoyScale AI算力平台、JoyBuild大模型开发计算平台、JoyAgent智能体2.0等九大AI产品和三大垂直行业一体机,助力企业全面重构AI基础设施,生成企业专属数字员工,加速迈向深度应用。

一体机作为最快速部署大模型的方式之一,是尝鲜企业级AI的最佳路径。活动现场,京东云正式发布了医疗、工业、金融三大垂直行业一体机。京东云大模型一体机软硬协同,支持千人规模企业并发需求,实现推理速度提升50%,满血版、标准版、轻量版为不同规模企业提供灵活选择,助力企业快速构建企业级AI服务能力,极大降低专业技术门槛。过去三个月,“开箱即用”的京东云大模型一体机跑出“新速度”,深度渗透医疗、汽车、教育、制造、泛互多行业,全国规模化落地突破500台。

随着大模型及智能体技术的持续升级,AI行业正加速迈向深度应用阶段,智能体成为深度应用的代表性方向。成长于京东自身业务系统的JoyAgent智能体2.0全新升级,基于混合代理模型(MoA),融合大小型模型的优势,通过规划推理构建动态DAG执行引擎,大幅提升任务执行效率;集成了覆盖搜索、数据分析、代码开发等领域的丰富工具链,支持文本、图像、视频等多模态输入输出,为企业提供全面智能支持;还通过自研多智能体协同引擎,多个智能体可在对话规划、推理上协同工作,通过自我对话优化策略。

“在GAIA Benchmark(评估AI智能体综合性能的权威测试)的Level 1-3测试中,JoyAgent表现卓越,尤其在复杂任务处理上优势明显,实现从过去被动响应需求,进化为能主动聚焦问题、精准运算、深度分析、智能决策和精准执行。”京东集团相关技术人员介绍道,相较于通用智能体,JoyAgent在企业场景展示出更多优势。例如,在研发场景,JoyCode智能编码助手持续进化,实现开发即部署,代码采纳率超过40%,开发周期缩短30%,京东上万名研发人员都在使用;在政务服务场景,基于JoyAgent构建的智能政务研报服务,可根据历史报告自动识别模板,进行指标试算、验证,自动生成新报告,识别准确率超98%,已深度应用在北京亦庄等政务平台上。

在大模型开发应用方面,京东云发布的JoyBuild大模型开发计算平台,支持多类模型的调优开发,内置20余种开源模型和丰富的数据集,提供100余种算法和工具链;围绕开源模型蒸馏需求的不断增加,可以帮助客户根据自身业务特征,用自有数据进行大模型的蒸馏,快速开发专属大模型。前不久,京东大模型开发计算技术相关论文被国际顶级学术期刊Nature收录,成为国内首个系统性解决开放环境下大模型开发效率难题并获国际顶刊认证的研究成果。这套技术也支撑了JoyBuild应用,助力其推理引擎基于大规模专家并行推理集群技术,提升高并发下并行度,实现单Token(模型处理文本时的最小单位)推理成本降低80%。

在计算方面,京东云发布了以GPU为核心,具有高效异构计算和强大推理性能的JoyScale AI算力平台。面向大模型训推需求,JoyScale支持单集群万卡调度、全局超10万卡调度能力,支持跨智算中心横向扩展,通过软硬件协同优化,将大模型算力利用率MFU从45%提升至75%;同时,它还全面适配十余家国产算力,支持异构算力统一纳管、精细化运维,通过集群算力池化调度,提升集群利用率70%。

“随着深度应用加速来临,数字员工的上岗率将成为衡量一个企业先进性的标准。有多少工作是AI完成的,决定了企业未来能跑多快。”京东集团技术委员会主席、京东云事业部总裁曹鹏表示,“新一代Agent成为深度应用的代表,京东云JoyAgent2.0正在帮助企业生成专业数字员工。同时,大规模应用爆发,也将推动AI基础设施迈向标准化,AI Infra1.0(AI 基础设施)已经具备。”

作为大模型深度应用的超级孵化器,京东已培育出累累硕果:数据显示,近三个月京东大模型服务调用量爆发式增长,环比提升200%;超1.4万个智能体在京东内部运行,解决超18%的工作内容,外卖员招聘、财务管理等大面积使用;各类大模型应用已深入到京东零售、物流、医疗等细分业务场景,为超50万商家、超38万快递小哥、超5万副主任以上级别医生、超2万采销运营等提高工作效率和提升服务体验。


相关新闻