我在听,请说话(10s)
抱歉,没听清,请再说一遍吧
首页 > 创新亦庄 > 技术创新示范区 > 公共技术服务平台

云算力平台助力AI普惠易用

  本报讯(融媒体中心 李玉凤)近日,北京经开区(北京亦庄)企业算能发布SophNet|云算力平台(sophnet.com),致力于打造更快、更稳、更省的一站式模型服务平台,助力AI普惠易用。

  “通过SophNet,用户可以创建符合其应用需求的各种工作流拓扑,从简单的API服务到复杂的Agent(智能体),都能实现。”算能有关负责人表示,该平台可适用于AI应用开发、企业信息化、智能客服与营销、文娱创作等多种场景。如,为办公、在线教育、生产力工具等应用提供AI赋能;为内容创作者提供小说、剧本、短视频脚本等生成服务;支持AI生成营销文案、智能客服对话等。

  SophNet有哪些技术优势?

  基于算能自研的高性能计算硬件与创新的软件设计,SophNet为用户提供了一个高效、灵活且易于扩展的云算力平台。相比传统GPU(Graphics Processing Unit)方案,有着推理成本低、扩展能力无限、高兼容性、低运维成本的特点。

  SophNet架构的核心是算能自研的TPU(Tensor Processing Unit)处理器,专为AI推理和训练任务优化设计。相比传统GPU,算能TPU在处理大规模并行计算时具有更高的能效比和更低的延迟,从而显著降低了推理成本,同时提供了更稳定的性能表现。SophNet的分布式算力调度系统能够智能分配和管理算力资源,支持多任务并行处理和动态扩展算力,无论是小规模实验还是大规模生产部署,都能根据业务需求灵活调整算力资源,并且提供了兼容OpenAI SDK的标准化API(应用程序编程接口)层,开发者无需进行复杂的适配即可快速接入现有业务,帮助企业快速实现AI能力的落地。

  其次,SophNet内置了包括Deep-Seek在内的多种主流开源大模型,同时支持用户上传私有模型进行部署,平台通过优化的存储与模型加载机制,并使用PD分离部署技术,确保模型在推理任务中的快速响应和高稳定性。它还集成了自动化运维系统,涵盖从模型部署、算力分配到性能监控的全流程管理,用户只需通过简单的操作即可完成复杂的算力调度和模型管理任务,同时平台支持按需扩展算力资源,满足业务高峰期的需求。

  此外,在安全与隐私保障方面,Soph-Net内置了多层安全机制,包括数据加密、访问控制和隐私隔离,确保用户数据和模型在云端的安全性。对于企业用户,还支持私有化部署选项,进一步增强数据隐私保护能力。

  “希望SophNet的推出,可以推动AI推理成本的进一步降低,为企业和开发者带来了前所未有的机遇。”该负责人表示,通过高效的算力支持和灵活的扩展能力,SophNet将助力AI技术更广泛地应用于各行各业,实现真正的AI普惠。


相关新闻

您访问的链接即将离开“北京经济技术开发区”门户网站 是否继续?