当前,ai模型开发进入到生产部署阶段面临着多重困难和挑战:ai模型需要经过大量的调试和测试才能部署上线,这一过程通常需要2-3天;ai线上服务计算资源一般较固定,对于突发需求资源响应慢,业务扩展难;ai模型来源不同,统一管理也很困难。企业希望可以无缝衔接ai模型训练开发与推理部署,进行高效的资源调度和模型管理,缩短业务上线周期。浪潮人工智能开发平台aistation,可以助力企业更好应对以上挑战。
aistation的浪潮专为企业级ai生产环境打造的人工智能开发平台。之前浪潮aistation训练平台通过计算资源细粒度调度、训练数据缓存加速、分布式训练自动编排等策略,使用户的ai计算资源利用率提高到90%%u4ee5上,大幅缩短了模型开发周期,已经获得广泛应用。
在今年4月9日举行的2020浪潮云数据中心合作伙伴大会期间,浪潮发布最新的aistation推理平台,可实现推理服务资源敏捷调配,支持多源模型统一调度,使模型部署从几天缩短到几分钟,将有力地帮助企业轻松部署ai推理服务,从而大幅提升ai交付和生产效率。随着本次浪潮aistation推理平台的面世,aistation资源平台全面支持训练与推理两大场景,实现从模型开发、训练、部署、测试、发布、服务的全流程一站式高效交付。
最新发布的浪潮aistation推理平台是企业级ai推理服务平台,通过弹性可伸缩架构、低延迟轻量化设计、a/b测试滚动发布、多模型加权评估等重要技术创新,帮助企业高效利用ai计算资源,快速部署推理服务。aistaion推理平台具有一键部署、快速响应、日志监控、资源管控、数据处理等功能,功能全面强大的ai资源平台。
aistation推理平台支持本地on-premise和云端cloud部署,保证服务的可获得性和业务连续性,实现了ai模型从开发环境到生产部署繁杂过程的自动化快捷操作,将模型部署时间从两三天降低到几分钟。
在资源调度方面,aistation推理平台能够敏捷调配服务资源。采用创新的弹性可伸缩架构,可根据推理服务资源需求的变化及时调整资源配给,将响应突发需求的实例部署时间从几小时缩短到几分钟。并且支持新模型发布前a/b测试,在实际业务场景中验证模型有效性,保证推理业务的安全、可靠,同时避免了流量切换所导致的集群负载压力。
在模型管理方面,aistation推理平台实现了多源模型统一调度。通过统一平台管理多源、多场景模型的推理服务,实时掌控全局资源,对模型服务实现综合调度和动态部署。同一资源池可同时支持多家模型服务,将资源利用率从40% %u63d0高到80%%u3002并且可实现多模型加权评估,通过对不同预训练模型的计算结果进行自定义权值设置,有效提升实际业务场景中预测结果的可靠性,构建可靠可信的智能系统,有效降低误判率。
浪潮ai&hpc总经理刘军表示:“智算中心是人工智能新基建,它生产和供应人工智能计算力,是社会经济运行的智慧基础设施。而要让智算中心充分释放算力,就需要按需灵活调度算力。aistation对于智算中心新基建的意义,就相当于电厂和电网的核心调度系统,它能够根据ai应用需求高效调度ai算力资源,帮助企业加速ai研发创新、提速ai生产交付,让企业更专注于ai开发本身,从而赋力更多创新可能,加速ai落地应用。”
浪潮是人工智能计算的领导品牌,ai服务器中国市场份额保持50%%u4ee5上,并与人工智能领先科技公司保持在系统与应用方面的深入紧密合作,帮助ai客户在语音、语义、图像、视频、搜索、网络等方面取得数量级的应用性能提升。浪潮与合作伙伴共建元脑生态,共享ai计算、资源与算法三大核心平台能力,助力行业用户开发并部署属于自己的“行业大脑”,加速推进产业ai化落地。
实例分析:运营活动项目中交互设计的4大维度什么是过期域名?域名过期后多长时间可以重新注册?互联网平台能玩多久整理Linux中字符串的相关操作技巧域名隐私问题-域名及账户问题我想先把这个主机转换成-虚拟主机/数据库问题百度云服务器修改伪静态云服务器扩容收费标准表下载