Nvidia presenta nuevos microservicios de protección para la IA agéntica

Nvidia ha incorporado a sus herramientas de software Nvidia NeMo Guardrails nuevos microservicios de inferencia (NIM) para robustecer la seguridad de la inteligencia artificial (IA). Los nuevos microservicios tienen como objetivo ayudar a las empresas a mejorar la precisión, la seguridad y el control de las aplicaciones de IA agéntica, abordando una preocupación clave que los líderes de TI tienen sobre la adopción de la tecnología.

“Una de cada diez organizaciones ya está utilizando agentes de IA en la actualidad, y más del 80% planea adoptar agentes de IA en los próximos tres años”, dijo Kari Briski, vicepresidente de Modelos, Software y Servicios de IA empresarial en Nvidia durante la conferencia que tuvo lugar el pasado miércoles. “Esto significa que no solo se construyen agentes para la precisión de la tarea, sino que también se deben evaluar los agentes de IA para cumplir con los requisitos de seguridad, privacidad de datos y gobernanza, y eso puede ser una barrera importante para el despliegue”.

Briski explicó que, más allá de la confianza, la seguridad y el cumplimiento de las normativas, para desplegar con éxito agentes de IA en producción es necesario que sean eficaces. Deben mantener el rumbo y, al mismo tiempo, ser rápidos y receptivos en sus interacciones con los usuarios finales y otros agentes de IA. Para ello, Nvidia ha presentado tres nuevos NIM para NeMo Guardrails destinados a la seguridad de contenidos, el control de temas y la detección de jailbreak.