NVIDIA NeMo 微服務現已普遍可用，為企業 IT 提供快速構建利用資料飛輪來提高員工生產力的 AI 團隊成員的工具。這些微服務為建立高階智慧代理 AI 系統提供了一個綜合開發平臺。通過利用來自推理、業務運營和使用者偏好的資料，這些系統可以不斷最佳化，根據NVIDIA的部落格。
為智慧代理構建強大的資料飛輪
資料飛輪在維護和改進生產中的 AI 模型中發揮著關鍵作用。這需要從包括資料庫和使用者互動在內的各種來源持續獲取高質量資料。NVIDIA NeMo 微服務提供必要的工具來策劃、定製和評估這些模型，以確保它們保持有效和可靠。
這些微服務，如 NeMo Customizer, Evaluator 和 Guardrails，與 NeMo Retriever 和 Curator 協同工作，以簡化構建、最佳化和擴充套件 AI 代理的過程。例如，NeMo Customizer 增強了大規模語言模型的微調，而 NeMo Guardrails 提高了合規保護，同時將延遲影響降到最低。
行業先鋒提高 AI 準確率
AT&T 和 BlackRock 等領先公司正在利用 NeMo 微服務開發複雜的 AI 代理。例如，AT&T 利用 NeMo Customizer 和 Evaluator，將其 AI 代理準確率提高了 40%，通過微調模型提供個性化服務並最佳化網路效能。
同樣，Cisco 的 Outshift 團隊和納斯達克正在利用 NeMo 微服務增強其平臺，實現準確率和響應時間的顯著改善。這些進展突顯了 AI 代理在各個行業中變革業務運營的潛力。
擴充套件生態系統和支援
NeMo 微服務支援多種開放模型，並已被領先的 AI 軟體提供商整合。廣泛的生態系統允許開發人員有效地實施資料飛輪和最佳化模型。企業可以在 NVIDIA 加速的基礎設施上部署 AI 代理，確保強大安全性和支援。
隨著 AI 技術的不斷進步，NVIDIA NeMo 微服務作為企業尋求將AI整合到其運營中以推動生產力和創新的一個關鍵工具。
Image source: Shutterstock