随着人工智能应用领域的迅速扩展,如何在公有云上构建更高效的体系结构,加快人工智能计算的进程,已成为许多人工智能企业迫切需要解决的难题。最近,金山云宣布新一代云物理机CMLU1正式商业化。作为新一代核心计算产品,CMLU1配备了中国首个云人工智能芯片Cambrian MLU100,专注于为云AI提供强大的AI推理。在计算能力的支持下,它在性能和能效方面取得了显着的进步,可广泛应用于语音,图像和视频等人工智能应用场景。
更强大的计算能力主要集中在云AI推理场景
此次金山云新一代云物理机搭载的MLU100云端智能芯片,具备能效高、运算能力强等诸多优势,支持浮点运算和整数运算,FP16达到16 TFLOPS,INT8达到32 TOPS,适用于不同精度需求的推理场景。
在存储方面,MLU100支持最大16GB的存储(类似GPU的显存),提供ECC保护,极大提升整体存储的性能。同时,MLU100支持稀疏化,稀疏化技术应用于智能芯片,通过细化可以进一步提高性能。二、高能效。相比GPU处理器,采用了针对深度学习和人工智能应用特点定制的指令集和处理器架构,具有更优的能效比。
基于金山云对服务器软硬件的深度优化,新一代云物理机可以支持多种深度学习技术和多模智能处理。在视觉、语音、自然语言处理、经典数据挖掘等复杂场景下,如海量数据、多任务等,完全可以满足云智能处理的需求。事务处理、多模式、低延迟、高吞吐量等。
创新优化技术全面提高人工智能开发效率
随着云计算的快速发展,基于云端的大数据和人工智能技术,正在被越来越多的企业所采用,如针对图片识别、人脸识别等AI应用很多已经选择部署在公有云上,但因为缺乏云端架构的深度优化协同,导致TensorFlow、Caffe、MxNet等主流深度学习框在运行时效率并不高,金山云与寒武纪基于创新的优化技术,通过完善软件开发环境和开发工具,全面提升AI开发效率。
在软件开发环境方面,寒武纪针对MLU100提供了完善的开发环境Cambricon NeuWare,使得MLU100能够完美支持如TensorFlow、Caffe、Caffe2、MXNet、ONNX等主流编程框架,用户可面向上述编程框架,便捷地开发和部署深度学习应用。
在开发工具方面,Cambrian提供三个类别:应用程序开发类,功能调试类和性能调优类。例如,应用程序开发工具,包括机器学习库、运行库、编译器、模型再培训工具和特定领域的SDK(如视频分析),可以有效地帮助用户提高深入学习和开发的效率。
作为中国领先的云计算服务提供商,金山云始终致力于通过最先进的技术和最高效的产品为客户提供更安全、稳定、便捷的云服务。目前,携带寒武纪MLU100的新一代云物理机已投入商业使用。基于本例高可靠性和高性能的产品特点,用户可以更快、更高效地构建人工智能业务,加速业务发展。
随着人工智能应用领域的迅速扩展,如何在公有云上构建更高效的体系结构,加快人工智能计算的进程,已成为许多人工智能企业迫切需要解决的难题。最近,金山云宣布新一代云物理机CMLU1正式商业化。作为新一代核心计算产品,CMLU1配备了中国首个云人工智能芯片Cambrian MLU100,专注于为云AI提供强大的AI推理。在计算能力的支持下,它在性能和能效方面取得了显着的进步,可广泛应用于语音,图像和视频等人工智能应用场景。
更强大的计算能力主要集中在云AI推理方案上
此次金山云新一代云物理机搭载的MLU100云端智能芯片,具备能效高、运算能力强等诸多优势,支持浮点运算和整数运算,FP16达到16 TFLOPS,INT8达到32 TOPS,适用于不同精度需求的推理场景。
在存储方面,MLU100支持最大16GB的存储(类似GPU的显存),提供ECC保护,极大提升整体存储的性能。同时,MLU100支持稀疏化,稀疏化技术应用于智能芯片,通过细化可以进一步提高性能。二、高能效。相比GPU处理器,采用了针对深度学习和人工智能应用特点定制的指令集和处理器架构,具有更优的能效比。
基于金山云对服务器软硬件的深度优化,新一代云物理机可以支持多种深度学习技术和多模智能处理。在视觉、语音、自然语言处理、经典数据挖掘等复杂场景下,如海量数据、多任务等,完全可以满足云智能处理的需求。事务处理、多模式、低延迟、高吞吐量等。
创新优化技术全面提高人工智能开发效率
随着云计算的快速发展,基于云端的大数据和人工智能技术,正在被越来越多的企业所采用,如针对图片识别、人脸识别等AI应用很多已经选择部署在公有云上,但因为缺乏云端架构的深度优化协同,导致TensorFlow、Caffe、MxNet等主流深度学习框在运行时效率并不高,金山云与寒武纪基于创新的优化技术,通过完善软件开发环境和开发工具,全面提升AI开发效率。
在软件开发环境方面,寒武纪针对MLU100提供了完善的开发环境Cambricon NeuWare,使得MLU100能够完美支持如TensorFlow、Caffe、Caffe2、MXNet、ONNX等主流编程框架,用户可面向上述编程框架,便捷地开发和部署深度学习应用。
在开发工具方面,Cambrian提供三个类别:应用程序开发类,功能调试类和性能调优类。例如,应用程序开发工具,包括机器学习库、运行库、编译器、模型再培训工具和特定领域的SDK(如视频分析),可以有效地帮助用户提高深入学习和开发的效率。
作为中国领先的云计算服务提供商,金山云始终致力于通过最先进的技术和最高效的产品为客户提供更安全、稳定、便捷的云服务。目前,携带寒武纪MLU100的新一代云物理机已投入商业使用。基于本例高可靠性和高性能的产品特点,用户可以更快、更高效地构建人工智能业务,加速业务发展。
更多产品了解
欢迎扫码加入云巴巴企业数字化交流服务群
产品交流、问题咨询、专业测评
都在这里!
2022-11-24 10:21:26
2022-11-22 14:48:29
2022-11-23 10:23:31
2022-11-23 16:37:49
2019-10-11 11:11:44
甄选10000+数字化产品 为您免费使用
申请试用
评论列表