Adam Winston, vicepresidente de Endpoint Security & MDR en WatchGuard, identificó como principal desafío el hecho de que las empresas estén reemplazando la supervisión humana por agentes de IA encargados de controlar la calidad (QA) de su propio trabajo, lo cual “es una estrategia fundamentalmente rota».

“El mayor desafío en este momento, sin lugar a dudas, es que las organizaciones están adoptando la IA a ciegas para el desarrollo de código fuente y se están olvidando por completo de asegurar adecuadamente su calidad”, expresó Winston. «Los modelos pueden razonar bien, pero son extremadamente ligeros respecto de lo que derivan. Están produciendo software defectuoso y de mala calidad», advirtió.

A esto se suma una crisis en los costos económicos. Según el ejecutivo, los costos de cómputo se han disparado exponencialmente —hasta 75 veces— mientras la contratación de talento especializado en IA alcanza cifras desproporcionadas. “Las empresas están improvisando y probando de todo, ‘tirando spaghetti contra la pared’, a ver qué funciona para adoptar la IA, todo esto mientras intentan mantener un rendimiento de milisegundos en sus redes y agotan sus márgenes de ganancia”, definió.

Según Winston, las políticas corporativas pasaron de un estricto «no usen esto; a un frenético «úsenlo en todas partes», dejando “a los directores de información (CIO) y directores de seguridad (CSO) completamente a ciegas sobre si sus datos están realmente seguros”. En este marco, el especialista desaconseja confiar en los programas de élite que promocionan los grandes proveedores de nube, que dan una falsa sensación de seguridad. «Esos grupos suelen ser los más descuidados y los más vulnerables a la toma de control de datos».

En su lugar, propone un marco de riesgo integral con tres capas de auditoría: control de datos y prompts, mediante auditorías de ingeniería de instrucciones y parámetros automatizados de prevención de pérdida de datos que permitan ver exactamente qué tokens alimentan a los modelos; registro transaccional, que monitoreen datos de log de alto volumen en lugar de revisar código fuente estático; y visibilidad de infraestructura, para proteger al agente tanto desde la nube como desde el endpoint para rastrear hacia dónde viajan los datos sensibles.

Para evitar decisiones catastróficas en sistemas críticos, WatchGuard plantea una compuerta arquitectónica en capas. El principio es que ningún robot de IA puede ser su propio gerente de aseguramiento de calidad.

Herramientas de seguridad independientes deben colocarse delante del código para imponer umbrales estrictos.

Los equipos de ciberseguridad, agrega Winston, deben desplegar ingeniería de detección autónoma y «no depender de ciclos humanos de gestión de parches para arreglar un sistema que procesa amenazas miles de veces más rápido que un ingeniero promedio”. “Para evitar que estos ‘empleados digitales’ tomen decisiones catastróficas y a la ligera en sistemas críticos, las organizaciones deben implementar una puerta arquitectónica fuertemente estructurada en capas”, expresó.

En este marco, formuló la siguiente regla de oro: “No se puede permitir que un robot de IA sea su propio gerente de control de calidad. Debido a que el QA generado por IA es basura, se deben colocar herramientas de seguridad independientes directamente frente a ese código para imponer un estricto umbral de seguridad”.

Ahora bien, hay un escenario que es el que más preocupa a Winston: “La gran amenaza que no me deja dormir en el laboratorio es la toma de control de los agentes”.

En este contexto, puede ocurrir la hipótesis de que un adversario “secuestre con éxito un modelo de frontera o implemente modelos de código abierto personalizados a los que se les han quitado maliciosamente todas las barreras de seguridad”. “Si un actor agéntico deshonesto se apodera de un software con acceso a canalizaciones masivas en la nube, puede aprovecharlo para encontrar vulnerabilidades a gran escala y, potencialmente, apoderarse de la mitad del planeta”, graficó.

Sin embargo, los ataques actuales vienen siendo más prosaicos: «Los hackers de hoy ni siquiera despliegan ataques futuristas complejos: simplemente explotan el código malo que están escribiendo los agentes de IA corporativos ahora mismo».

“Las organizaciones que sobrevivan a esta transición de los próximos seis meses se están dando cuenta de que no pueden depender únicamente de los parches automatizados de IA”, explicó Winston. Y concluyó: “Se están protegiendo mediante la implementación de plataformas de seguridad unificadas y autónomas capaces de perseguir y bloquear amenazas agénticas internamente antes de que el negocio quede completamente destruido”.