Las empresas ya no dudan si incorporar inteligencia artificial: la pregunta hoy pasa por cuánto poder de decisión delegarle. Los agentes autónomos dejaron de ser asistentes que responden consultas para convertirse en sistemas que leen y escriben en bases de datos, ejecutan transacciones y encadenan acciones dentro de la infraestructura crítica de una organización.
«Hay que entender que un agente de IA no es un modelo pasivo que solo responde preguntas: es un sistema que actúa. Lee y escribe en bases de datos, ejecuta transacciones y encadena decisiones sin intervención humana. El principal desafío de ciberseguridad pasa a ser la gestión de accesos y privilegios, porque el agente se convierte en una nueva identidad no humana dentro de la empresa, y cada permiso que recibe amplía la superficie de ataque», detalla Luciano Moreira, chief Transformation & Strategy Office de Cloud Legion.
«En banca, seguros y fintech, los riesgos centrales son la fuga de información de agentes que procesan datos confidenciales —y puede revelarlos accidentalmente—; falta de trazabilidad de las decisiones autónomas; la velocidad y escala; un error humano afecta un caso, un agente mal configurado puede replicar ese error miles de veces en minutos antes de que alguien lo advierta. En Cloud Legion integramos la seguridad desde el diseño, lo que implica aplicar el principio de menor privilegio a cada agente, segmentar los datos y sistemas, exigir supervisión humana para las acciones de mayor impacto y gestionar de manera conjunta los riesgos técnicos y éticos. Es mucho más barato y seguro diseñar el control desde el inicio, que intentar contener el daño una vez que el agente ya está operando con permisos amplios sobre sistemas críticos», explica.
—¿Cómo se audita a estos «empleados digitales» que operan con información
sensible?
—Auditar a un “empleado digital” significa poder responder qué hizo el agente, con qué información y bajo qué autorización. Para eso se necesita registrar de forma inalterable cada acción, cada dato consultado y cada decisión que toma, de modo que exista una trazabilidad completa. A diferencia de un empleado humano, cuya conducta se supervisa por muestreo, un agente de IA puede y debe auditarse de manera continua y exhaustiva. Cloud Legion se posiciona como la primera consultora en América Latina certificada bajo la norma ISO 42001, el estándar internacional para los Sistemas de Gestión de Inteligencia Artificial. Esa norma nos permite diseñar marcos de gobernanza que ordenan todo el ciclo de vida del agente, y alinear los proyectos de las empresas con normativas globales cada vez más exigentes, como la AI Act de la Unión Europea.
Moreira precisa que en sectores como el financiero y el asegurador, «esa transparencia no es solo una buena práctica de seguridad: es la base sobre la que se construye la confianza del regulador, del cliente y del propio directorio para poder escalar el uso de IA sin asumir riesgos que la organización no pueda explicar ni justificar».
En ese sentido falta mucho camino e instancias de control por recorrer. «Un comité de ética algorítmica formal todavía es la excepción y no la regla, incluso en empresas grandes. Muchas organizaciones avanzaron en la adopción de agentes más rápido de lo que maduraron sus estructuras de gobierno, y eso genera un vacío peligroso. La IA no tiene personalidad jurídica, de modo que la responsabilidad legal recae siempre sobre la empresa que la despliega y sobre las personas que la gobiernan, nunca sobre el sistema. Por eso, lo que recomendamos —y lo que la norma ISO 42001 exige— es que existan roles y responsabilidades explícitamente asignados sobre cada sistema de IA. En la práctica, esto se traduce en un comité de gobernanza con figuras definidas como un responsable del sistema de IA, el oficial de protección de datos y el CISO —propio o tercerizado a través de un Virtual CISO—. No se trata de crear burocracia, sino de que cada agente en producción tenga un dueño identificable que responda por su comportamiento y que tenga la autoridad para detenerlo si es necesario. Las empresas de banca, seguros y fintech que construyan hoy estos comités y estas líneas de responsabilidad van a llegar mucho mejor preparadas a ese escenario y van a usar la gobernanza como una ventaja competitiva».
El ejecutivo advierte que hoy los mayores riesgos de manipulación son la inyección indirecta de prompts —donde los atacantes ocultan comandos maliciosos en documentos o webs que el agente procesa— y el envenenamiento de datos, que sesga las decisiones de la IA para alterar su entrenamiento. «Hay intentos de jailbreaks, que buscan sortear las barreras de seguridad del modelo, extracción de información confidencial, ataques a la cadena de suministro de IA y robo de credenciales del agente. Cloud Legion combina controles en varias capas: validación de entradas que recibe el agente, guardrails, red teaming activo y monitoreo continuo. Todo esto se apoya en los principios de menor privilegio y confianza cero, de modo que aun cuando un ataque tenga éxito parcial, el agente no tenga acceso para causar un daño significativo.»