Luján Araujo, directora de Ciberseguridad de KPMG Argentina, analizó los desafíos legales, económicos y operativos de la inteligencia artificial.
Según la especialista, el paradigma de la seguridad de la información debe evolucionar con urgencia para integrar la IA de manera responsable y no convertir la eficiencia tecnológica en un «acelerador de riesgo». A diferencia de los modelos de lenguaje tradicionales, los nuevos agentes de IA ya no solo responden preguntas, sino que poseen la capacidad de tomar decisiones en nombre de una persona o proceso, ejecutar acciones, consultar información reservada, interactuar con sistemas e, incluso, invocar API.
«En una solución tradicional, el foco estaba puesto en proteger datos, identidades, aplicaciones e infraestructura. Con los agentes de IA, además, hay que gobernar la autonomía: qué puede hacer el agente, con qué permisos, sobre qué datos, bajo qué condiciones y con qué nivel de supervisión humana», explicó Araujo.
La experta subrayó que “un agente mal configurado, con permisos excesivos o conectado a fuentes no gobernadas, puede amplificar problemas que ya existían”, como la “sobreexposición de información, accesos indebidos, uso de datos sensibles, errores operativos o decisiones no trazables”.
“Para mí el desafío es integrar estos agentes dentro del modelo de ciberseguridad, identidad, gobierno de datos, cumplimiento y operación continua de la compañía. Si no hay clasificación de información, ownership, trazabilidad, controles de acceso, monitoreo y criterios claros de uso, el agente puede convertirse en un acelerador de riesgo, en lugar de la eficiencia originalmente buscada, explicó.
El agente no siempre hará lo correcto
Para evitar decisiones erráticas, la directora enfatizó la necesidad de abandonar la premisa de que un sistema bien diseñado no puede “partir de la premisa de que el agente va a hacer lo correcto”. “Hay que asumir que puede recibir instrucciones maliciosas, interpretar mal un contexto, operar sobre información incompleta o usar una herramienta de forma no prevista”, planteó.
En este sentido, detalló una serie de protocolos de control preventivo que deben operar en múltiples capas:
- Diseño con límites estrictos: definir concretamente qué acciones están prohibidas, cuáles son las fuentes de consulta autorizadas y qué decisiones críticas requieren la ineludible aprobación humana.
- Principio de mínimo privilegio: otorgar una identidad propia al agente, segregando permisos, validando entradas y utilizando listas blancas (allowlists) de herramientas.
- Trazabilidad y monitoreo continuo: implementar registros (logging), validación de salidas, pruebas de red (teaming) y mecanismos de contención (rollback) para poder explicar el «por qué» detrás de cada acción automatizada.
«Las buenas prácticas de zero trust (confianza cero) siguen aplicándose. La diferencia es que ahora ese enfoque también debe aplicarse a identidades no humanas, conectores, memoria y contexto», sentenció Araujo.
Con este concepto, la transición hacia la IA autónoma no es un desafío puramente técnico, plantearon desde KPMG, ya que las fallas en estos sistemas pueden “generar un impacto económico directo”, como “operaciones mal ejecutadas, errores en procesos comerciales, exposición de información confidencial, pérdida de productividad, fraude, interrupciones operativas o costos de remediación”.
Además, existen profundos riesgos regulatorios vinculados a la confidencialidad y la propiedad intelectual. Aunque en Argentina las consecuencias financieras o penales por el incumplimiento de la protección de datos personales aún son incipientes, en sectores fuertemente regulados la sensibilidad es máxima. «No alcanza con decir que ‘lo hizo la IA’: la organización sigue siendo responsable por el diseño, supervisión y uso de esa tecnología», señaló Araujo.