【WRC • 资讯】谷歌云人工智能预测服务全面开通

中国电子学会  |   2020-09-30 23:02

来源:世界机器人大会服务平台

谷歌宣布其人工智能平台的一个关键组成部分——人工智能预测服务已正式全面启动。该服务支持托管在主流的机器学习框架,包括TensorFlow、XGBoost和Scikit-Learn中。

AI Prediction服务充当机器学习管道的最后阶段。它在云中托管经过训练的机器学习模型,以推断新数据的目标值。部署在AI预测服务中的经过训练的模型作为REST端点公开,可以从任何支持HTTP的标准客户端调用这些端点。

AI平台预测服务基于Google Kubernetes Engine(GKE)后端,旨在通过新的硬件选项(如Google计算引擎机器类型和NVIDIA GPU)提高可靠性和灵活性。

虽然该服务基于googlekubernetes引擎,但AI预测服务隐藏了集群的供应、管理和扩展的复杂性。数据科学家和工程师可以专注于业务问题,而不是管理基础设施。

在一般可用性下,AI预测服务支持高内存和高cpu机器类型上的XGBoost和Scikit学习模型。在后台,服务根据流量和请求自动扩展和收缩基础设施。

该服务与Google云控制台和Stackdriver紧密集成,以跟踪和可视化资源指标。与模型的GPU、CPU、RAM和网络利用率相关的性能指标可以深入了解性能特征。

客户可以选择通过AI Prediction服务在特定区域部署机器学习模型。Google在三个区域(us-central1、euro-west4和asia-east1)中引入了新的端点,并通过区域隔离来提高可靠性。部署在区域端点上的模型位于指定区域内,为客户提供数据局部性和所有权。

通过增加对VPC控件的支持,客户可以定义安全范围并部署仅可访问该范围内或另一个桥接范围内的资源和服务的在线预测模型。由于预测服务端点是VPC专用的,因此数据保留在专用网络内,而不必遍历公共互联网。

通过AI Prediction服务部署和公开的模型支持在线和批处理推理。在线预测经过优化,可最大程度地减少服务预测的延迟,而批处理预测,则可以优化处理作业中的大量实例。与立即发送结果的在线预测不同,批处理预测将推理输出写入存储在Google Cloud Storage存储桶中的文件中。

谷歌一直在大力投资人工智能平台即服务(PaaS)产品。它整合和扩充了包括cloudml引擎在内的各种服务。通过与GKE和Kubeflow的紧密集成,该服务已经发展成为一个支持数据准备、转换、培训、模型管理、部署和推理的端到端平台。

                                                                                     (来源:TechWeb)


世界机器人大会自2015年至今已成功举办五届,是推动机器人领域全球产业和技术交流合作的重要平台。大会汇聚了大量创新资源、产业资源、市场资源、资本资源、人才资源,已发展成为机器人领域规模最大、规格最高、国际元素最丰富的顶级盛会,对构建开放包容、互学互鉴的全球机器人生态体系作出了重要贡献。


世界机器人大会 

新画卷 新征程 

让我们共同追求更卓越的未来


世界机器人大会官方网站:

www.worldrobotconference.com

 

大会官方公众号:

大会服务平台官方公众号:



来源:gh_729d2362555a 世界机器人大会服务平台

原文链接:http://mp.weixin.qq.com/s?__biz=MzIzMDc5MDU3MQ==&mid=2247493332&idx=3&sn=c43ce89fdcb7e86fc61d52cd3cfda6f1&chksm=e8aca210dfdb2b06c3f89c90f5c73099088f97e7da9ece4c01bfd77bb7027562b95a6797d7e9&scene=27#wechat_redirect

版权声明:除非特别注明,本站所载内容来源于互联网、微信公众号等公开渠道,不代表本站观点,仅供参考、交流、公益传播之目的。转载的稿件版权归原作者或机构所有,如有侵权,请联系删除。

电话:(010)86409582

邮箱:kejie@scimall.org.cn

相关推荐 换一换