.jpeg)
Nvidia anunció la creación de una alianza empresarial destinada a desarrollar y compartir herramientas de seguridad para sistemas de inteligencia artificial, especialmente aquellos agentes capaces de realizar tareas de forma autónoma.
La iniciativa, denominada Open Secure AI Alliance, cuenta entre sus miembros fundadores con Adobe, CrowdStrike, Hugging Face y Dell Technologies. Las compañías trabajarán en modelos, datos y mecanismos de control que puedan ser utilizados y revisados por diferentes desarrolladores.
El anuncio se produjo después de un incidente de seguridad relacionado con Hugging Face, que generó preocupación sobre los riesgos de perder el control de agentes autónomos. El caso reforzó el debate sobre la necesidad de supervisar las decisiones y acciones ejecutadas por estos sistemas.
Nvidia considera que las restricciones generales contra los modelos abiertos podrían reducir la capacidad de detectar vulnerabilidades y concentrar el control tecnológico en pocos proveedores. Por esa razón, la alianza defenderá el desarrollo de herramientas que puedan ser inspeccionadas y mejoradas de manera colaborativa.
La empresa aportará modelos, datos, investigaciones y un nuevo proyecto de código abierto orientado al control de agentes. El marco permitirá realizar pruebas, registrar comportamientos, revisar decisiones y establecer límites para reducir los riesgos asociados con el uso de inteligencia artificial autónoma.
