NVIDIA lanza la Open Agent Safety Platform para controlar los agentes de IA maliciosos

NVIDIA ha anunciado el lanzamiento de la Open Agent Safety Platform, una plataforma de software abierta y un sistema de referencia diseñada para reforzar la seguridad de la IA, desde las pruebas de agentes hasta su implementación, con gobernanza y control integrales en el software y los sistemas de hardware, computación y robótica que ejecutan los agentes.

Los recientes incidentes de seguridad han puesto de manifiesto la necesidad de dotar a las organizaciones de herramientas abiertas y personalizables que permitan un mayor control sobre los agentes que se ejecutan durante largos periodos. El patrón es similar en todos los incidentes: el agente de IA eludió los controles de seguridad en la capa de aplicación para completar la tarea asignada. Es imperativo aumentar la seguridad y control de los agentes, como señala Jensen Huang, fundador y director ejecutivo de NVIDIA.

Toda la información en MCPRO