通过在 AI Max 机器学习平台中集成英特尔® oneAPI 工具包,我们可以有效地帮助开发者加速机器学习应用的构建、优化与部署进程,降低 AI 技术的开发门槛。成功的客户使用案例包括数坤科技脊柱辅助诊断系统,他们使用超集信息一体机来满足医院对大量使用 AI 技术的 CT 影像设备进行智能、快速、准确复查的需求。一体机包括基于英特尔® 至强® 可扩展处理器的高性能服务器和集成了英特尔® oneAPI 工具包的 AI Max 机器学习平台。AI Max 机器学习平台可在边缘端实现高性能推理能力,帮助用户打造快速、高效、准确的开发环境。
—廖治国,苏州超集信息科技有限公司副总裁
2020年以来,全球前十超算系统一半以上均已采用异构设计。伴随人工智能、大数据、区块链等各类新兴技术的崛起,传统通用计算性能愈发捉襟见肘,异构计算成为了整个半导体行业的前行方向。
但目前的异构计算并非完美,虽然有效突破了传统通用计算性能瓶颈,却使得开发者们叫苦不迭。在异构数据中心中,面对纷繁复杂的系统架构、指令集和编程模型,超过 40% 的开发人员都需要使用多套不同代码,开发难度可见一斑。
在此难题下,为防止更多开发者被发际线劝退,保障异构计算的可持续发展,Intel以” No transistor left behind”为口号,推出了适用于各类计算架构的统一编程模型和应用程序接口——Intel® oneAPI。
作为一个跨行业、开放、基于标准的统一编程模型,Intel® oneAPI以创新带来更高的生产力,开发者们进行一次代码开发,便可以在跨平台的异构系统上执行,无论底层硬件是CPU、GPU、FPGA、神经网络处理器,亦或其他针对不同应用的硬件加速器。
超集信息作为首批认证的Intel® oneAPI技术合作伙伴,已完成Intel® oneAPI与自研AI Max机器学习容器云平台的深度融合,为数据科学、机器学习等多领域开发带来更强助力:
AI Max平台中可直接进行Intel® oneAPI Base Toolkits、Intel® oneAPI AI Analytics Toolkits及Intel® Distribution of OpenVINO Toolkits完整官方镜像下载(镜像会根据Intel版本迭代,定期进行更新)
通过AI Max交互式开发,可使用Intel CPU搭配Intel® oneAPI Base Toolkits、Intel® oneAPI AI Analytics Toolkits进行开发调试
AI Max提供模型部署,支持使用Intel® Distribution of OpenVINO Toolkits提交推理任务
通过在AI Max机器学习平台中集成Intel® oneAPI工具包,用户将能够降低机器学习任务跨平台开发与迁移的复杂性,提升机器学习模型在异构平台中运行的性能,并充分利用现有的机器学习模型,从而加速机器学习应用的开发。
Intel® oneAPI Base Toolkits
该工具包是oneAPI其他产品的基础,包含了ICC编译器、DPCPP、oneMKL等众多高性能库和VTune等性能调试工具。这一工具包使开发人员可以跨CPU、GPU 和 FPGA构建、测试和部署以性能为中心、以数据为中心的应用程序。
Intel® oneAPI AI Analytics Toolkits
该工具包为数据科学家、人工智能开发人员和研究人员提供熟悉的Python工具和框架,以加速Intel® 架构上的端到端数据科学和分析管道。这些组件均使用oneAPI库构建,用于低级计算优化。该工具包通过机器学习最大限度地提高了预处理的性能,并为高效的模型开发提供了互操作性。它能够在Intel® XPU上提供高性能的深度学习训练,并将快速推理集成到 AI 开发工作流程中。
通过此工具包,用户可以使用面向TensorFlow和 PyTorch的Intel® 优化的深度学习框架、预训练模型和低精度工具,以及针对Intel优化的计算密集型Python包、Modin、scikit-learn 和 XGBoost,实现数据预处理和机器学习工作流的直接加速。
Intel® Distribution of OpenVINO Toolkits
Intel® OpenVINO™工具套件是用于快速开发应用程序和解决方案以解决各种任务(包括人类视觉模拟、自动语音识别、自然语言处理和推荐系统等)的综合工具套件。该工具套件基于Intel® oneAPI Base工具包中的oneDNN进行开发,支持最新一代的人工神经网络,包括卷积神经网络(CNN)、递归网络和基于注意力的网络,可跨Intel® 硬件扩展计算机视觉和非视觉工作负载,从而大幅提高性能。它通过从边缘到云部署的高性能、人工智能和深度学习推理来为应用程序加速。
Intel® OpenVINO™ 工具套件能够通过针对复杂网络的模型结构压缩技术、针对多任务场景的跨平台异构加速技术、基于x86内核指令集的CNN加速引擎、面向低比特混合精度的量化与模型重训练策略等方式,实现人工智能的性能加速。
通过集成了Intel® oneAPI工具包的AI Max机器学习平台,用户能够显著简化并加速机器学习应用的构建、优化与部署进程,降低构建门槛,提升在Intel架构上的 AI 推理性能。具体而言,该方案能够带来如下收益:
目前,集成了Intel® oneAPI工具包的AI Max机器学习平台的方案已在多个行业领域有大量的落地实践。在数坤科技的脊柱辅助诊断系统开发中,超集信息结合数坤在实际业务中的问题,为其提供了集成超集信息深度学习一体机和AI Max机器学习平台的软硬件一体化解决方案,并且在AI Max机器学习平台融合了Intel® oneAPI Base工具包、Intel® oneAPI AI Analytics工具包及OpenVINO™工具套件,可以实现边缘端高性能推理能力,帮助用户打造快速、高效、准确的开发环境,同时借助高性能的Intel® 至强® 可扩展处理器,不仅可以提升AI 推理准确性,而且可以控制总体拥有成本,降低用户的大算力需求,实现降本增效。
在前期项目方案测试中,超集信息针对基于Intel® 至强® 可扩展处理器6242R的方案与 GPU方案进行了对比测试,配置如下:
在脊柱分割和自动分段算法中,使用2颗Intel® 至强® 金牌6242R处理器进行推理,性能和GPU方案相当,能够完成同样质量的推理计算,达到临床可用的水平,推理准确性和推理耗时均在同一水平,且总体拥有成本(TCO)更低。
未来,超集信息还将与Intel探索更多Intel先进产品与技术在AI Max机器学习平台中的创新运用和优化,如增加对于下一代AI Max机器学习平台性功能的支持,拓展Intel® oneAPI工具包在平台中的应用场景等,协助更多产业领域的组织与开发者轻松地推动机器学习业务的创新,用人工智能赋能业务创新。