投资策略如何制定 晋升AI代理可靠性 英伟达推出容器化微工作Inference Microservices

作家：赵雨荷

来源：硬AI

英伟达周四推出用于加快生成式AI模子的部署的容器化微工作Nvidia Inference Microservices（NIM），但愿匡助企业提妙手工智能代理的信任、安全和可靠性。

英伟达在一篇博客中暗示，东说念主工智能代理是一项正在飞速发展的工夫，正逐步改造东说念主们与计较机互动的姿色，但也伴跟着诸多重要问题。智能化 AI（Agentic AI）有望矫正常识职责者的任务扩充姿色，以及客户与品牌“对话”的姿色，但其背后的大型话语模子仍可能出现不良反应，以至在坏心用户试图结巴着重时激发安全问题。

英伟达暗示，周四发布的施行是基于其为耕作者提供的保护框架NeMo Guardrails的膨胀，旨在提高生成式东说念主工智能应用的安全性、精准性和可膨胀性。NeMo Guardrails是英伟达NeMo平台的一部分，用于贬责、定制和保护东说念主工智能，匡助耕作者在大型话语模子（LLM）应用中集成并贬责AI着重顺序。目下Amdocs、Cerence AI和Lowe’s正在使用NeMo Guardrails来保护 AI 应用。

英伟达发布的NIM共有三种，区分涵盖主题适度、施行安全和逃狱保护。该公司暗示，这些微工作是经由高度优化的微型轻量级AI模子，可通过调控大型模子的反应晋升应用性能。

英伟达企业AI模子、软件与工作副总裁Kari Briski暗示。

“其中一项用于调控施行安全的新微工作，是基于Aegis施行安全数据集锤真金不怕火的。这是同类数据贴近质料最高、由东说念主工标注的数据源之一。” 

Aegis施行安全数据集由英伟达推出，包括进步35,000个由东说念主工标注的样本，用于检测AI安全问题和试图绕过系统罢休的逃狱举止。该数据集将在本年晚些时候于Hugging Face上公耕作布。

举例，用于主题适度的NIM可谢绝AI代理“过于健谈”或偏离其蓝本的任务想法，确保其保抓在既定主题内。英伟达暗示，与AI聊天机器东说念主进行的对话时辰越长，它越容易健忘对话的初志，从而让话题偏离轨说念，类似于东说念主类对话可能的闲谈。诚然东说念主类不错袭取这种情况，但关于聊天机器东说念主，尤其是品牌AI代理，偏离主题可能导致挑剔到名东说念主或竞争居品，这对品牌不利。

Briski暗示，

“像NeMo Guardrails系列中的微型话语模子，具有较低的蔓延，专为资源受限或散布式环境中的高效运行而筹画，这使它们十分恰当在医疗、汽车、制造等行业的病院或仓库等场景中膨胀AI应用。”

此外，NIM允许耕作者以最小的附加蔓延访佛多个着重顺序。英伟达暗示，这对大巨额生成式AI应用至关蹙迫，因为用户不可爱万古辰恭候，举例看到三点闪耀或转圈加载动画后才出现文本或语音。

英伟达暗示，NIM微工作以及用于轨说念编排的NeMo Guardrails和NVIDIA Garak器具包，目下也曾面向耕作者和企业洞开使用。耕作者不错通过有关教程启动将AI着重顺序集成到客户工作的AI代理中，哄骗NeMo Guardrails构建安全的AI应用。

风险教导及免责要求 市集有风险，投资需严慎。本文不组成个东说念主投资提议，也未探讨到个别用户稀奇的投资想法、财务情状或需要。用户应试虑本文中的任何意见、不雅点或论断是否合乎其特定情状。据此投资，遭殃自夸。