时间: 2024-03-22 15:04:00
在北京时间3月19日举行的英伟达开发者大会上，NVIDIA（英伟达）宣布将在AI Enterprise 5.0中推出一系列“微服务”，其中包括简化企业将AI模型部署到生产环境中的NIM。
同日，《IT时报》记者从SAP获悉，双方将宣布扩展合作伙伴关系，共同致力于帮助企业客户在SAP云解决方案和应用中，加速发挥数据和生成式AI的变革力量。
据了解，NIM微服务是英伟达基于NVIDIA推理软件的预构建容器，通过打包算法、系统和运行优化，并添加行业标准的API，提供包括Triton推理服务器和TensorRT-LLM，简化了AI模型部署过程。
开发人员可以将NIM集成到现有的应用程序和基础设施中，而无需进行大量定制或专业知识，部署时间从几周缩短至几分钟。黄仁勋对此的解释是：“以后公司将不再需要编写软件，而是组装AI模型，给它们提出任务，做工作产品的示例、审查计划和中间结果。”
作为全球最知名的企业应用软件解决方案提供商之一，SAP将与NVIDIA合作，将生成式AI集成到SAP云解决方案中，其中包括最新发布的SAP Datasphere（SAP数据整合平台）、SAP BTP（业务技术云平台）和RISE with SAP，从而利用NVIDIA的生成式AI foundry服务，在SAP BTP中构建更多的生成式AI功能。
如此一来，SAP可以为客户开发和部署生成式AI的基础，并通过SAP AI Core 和SAP Datasphere的生成式AI中心提供给用户。目前，SAP和NVIDIA正在探索20多个生成式AI应用案例。
比如，在SAP S/4HANA Cloud中通过智能发票匹配，从而自动化企业资源计划的生成式AI功能；利用SAP SuccessFactors改善人力资源应用案例；以及加速从SAP Signavio获取全新的生成式AI洞察力，以更好地处理业务建议并优化SAP的客户支持流程。
NVIDIA NIM将被用于加速和最大化SAP基础架构中的推理性能。借助NVIDIA NeMo Retriever微服务，SAP计划增加RAG（搜索增强生成）功能，使生成式AI应用能够更安全地访问SAP软件上运行的数据，从而提高准确性和洞察力。