Data drift, respuestas inconsistentes y fuga de datos: los riesgos de la IA en producción no hacen ruido. La seguridad en inteligencia artificial empieza por detectarlos a tiempo, antes de que lleguen al negocio.
El modelo funcionó en el piloto. Las pruebas dieron bien, el caso de uso se aprobó y la solución pasó a producción.
Seis meses después, nadie puede asegurar que siga funcionando igual.
El modelo de scoring aprueba solicitudes que antes rechazaba. El asistente interno responde distinto a la misma pregunta según el día. Y alguien del equipo descubre que un documento con datos de clientes apareció en la respuesta a una consulta que no debía verlo.
No hubo una caída del sistema ni una alerta roja. La IA siguió respondiendo. El problema es que nadie estaba controlando cómo respondía.
Para muchas organizaciones en Uruguay, la pregunta ya no es si adoptar inteligencia artificial, sino cómo sostenerla. Y ahí la seguridad en inteligencia artificial deja de ser un tema técnico para convertirse en un tema de negocio, que involucra por igual al CTO, al CISO y a quien lidera la arquitectura de datos.
Por qué los modelos de IA en producción fallan sin avisar
El software tradicional hace lo que dicen sus reglas. Si algo falla, en general se nota.
Un modelo de IA, en cambio, aprende su comportamiento de los datos. Sus resultados son estimaciones, no certezas, y en los modelos generativos pueden variar ante la misma pregunta. Por eso sus fallas no siempre se ven.
Tres riesgos se repiten en los modelos de IA en producción:
- Data drift y concept drift. Cambian los datos de entrada (nuevos clientes, nuevos productos, otro contexto económico) o cambia la relación entre esos datos y lo que el modelo predice. El modelo sigue respondiendo, pero sus decisiones son cada vez menos certeras.
- Respuestas inconsistentes y alucinaciones. El modelo da respuestas distintas a la misma consulta, o inventa información y la presenta con total seguridad. Cuando esa respuesta llega a un cliente o a una decisión interna, el daño es reputacional y puede ser legal.
- Fuga de datos confidenciales. Información sensible expuesta por falta de controles, por descuido o por un ataque de prompt injection: instrucciones maliciosas, escondidas en una consulta o en un documento, que llevan al modelo a ignorar sus reglas, revelar datos o ejecutar acciones no autorizadas. No por casualidad, prompt injection encabeza el Top 10 de OWASP para aplicaciones con modelos de lenguaje.
Los números confirman que el riesgo ya es real. Según el informe Cost of a Data Breach 2026 de IBM, el 21% de las organizaciones reportó incidentes en sus modelos o aplicaciones de IA (un año antes era el 13%), y el 92% de ellas no tenía controles de acceso adecuados para la IA.
Para un CISO, esto abre una superficie de ataque que los controles tradicionales no cubren. Para un CTO, son sistemas críticos cuyo comportamiento no se puede garantizar. Y para quien lidera la arquitectura de datos, son preguntas sin respuesta: qué datos alimentaron cada decisión y qué versión del modelo la tomó.
En Uruguay, además, una fuga de datos personales no es solo un problema técnico. La Ley 18.331 de Protección de Datos Personales exige adoptar medidas de seguridad sobre esa información, y demostrar qué pasó sin trazabilidad es mucho más difícil.
De implementar IA a gobernarla
En la primera etapa de adopción, el foco estuvo en construir casos de uso. Hoy el desafío es otro: garantizar que esos modelos operen con estándares corporativos de calidad, seguridad y cumplimiento.
Eso es la gobernanza de IA: definir quién aprueba un modelo antes de que salga a producción, qué pruebas tiene que pasar, qué datos puede usar, cómo se monitorea y qué pasa cuando algo se desvía.
Para que la gobernanza no quede en un documento, necesita una base operativa. Esa base es MLOps: la disciplina que aplica al ciclo de vida de los modelos las prácticas de integración, despliegue y control que la ingeniería de software usa hace años. Sin ella, operar IA en producción es operar a ciegas.
El mayor peligro de la IA hoy no es que falle en un piloto, sino que falle en producción de forma silenciosa, sin que nadie lo detecte a tiempo. La gobernanza de IA y el MLOps no son un freno a la innovación, sino los rieles que permiten a las organizaciones acelerar su transformación sin poner en riesgo el negocio
Gonzalo Macedo, CEO de Practia Uruguay.
Cuatro pilares para la seguridad en inteligencia artificial
Las organizaciones que sostienen sus iniciativas de IA en el tiempo se apoyan en cuatro capacidades:
- Testing de IA antes de cada despliegue. Evaluaciones de calidad sobre casos representativos del negocio, medición de la tasa de alucinaciones y de la consistencia de las respuestas, y ataques simulados (red teaming) para encontrar vulnerabilidades antes que un tercero. Medir es el primer paso de cualquier estrategia de mitigación de alucinaciones.
- Guardrails en producción. Capas de control que actúan sobre cada consulta: filtran entradas maliciosas, evitan la salida de datos sensibles (DLP) y bloquean respuestas que violan las políticas de uso.
- Monitoreo de modelos y detección de drift. Observabilidad continua sobre los datos de entrada, las predicciones y las respuestas, con alertas tempranas antes de que la pérdida de precisión afecte al negocio.
- Trazabilidad y auditoría. Registro de qué versión del modelo procesó cada solicitud y con qué datos. Lograrlo depende de una arquitectura de datos para IA que conserve el linaje de cada dato desde el diseño, y es la base de cualquier auditoría de IA corporativa.
Un modelo de IA no se entrega y se olvida. Hay que probarlo antes de cada cambio y mirarlo todos los días en producción, como a cualquier sistema crítico del negocio
Juan Capdevila, COO de Practia Uruguay
Cómo lo trabajamos en Practia
En Practia acompañamos a las organizaciones a llevar la IA a producción con control, a través de nuestro servicio de AI Strategy & Delivery. Trabajamos junto a los equipos de tecnología, seguridad y datos en cuatro etapas:
- Diagnóstico. Relevamos los modelos y asistentes que ya están en uso, incluso los que nadie registró, sus datos, sus riesgos y el nivel de control actual.
- Marco de gobernanza. Definimos políticas, roles, criterios de aprobación y requisitos de cumplimiento para cada modelo.
- Testing y guardrails. Diseñamos las pruebas de calidad y seguridad, incluidas pruebas de vulnerabilidad y red teaming, e implementamos los controles sobre cada consulta.
- Operación continua. Implementamos pipelines de MLOps con monitoreo, alertas de drift y trazabilidad, para que el equipo detecte un desvío antes que el cliente.
Sabemos que hablar de IA es hablar de datos sensibles. Por eso trabajamos con acuerdo de confidencialidad desde la primera conversación.
El resultado son modelos que se pueden auditar, equipos que saben qué está pasando con su IA y una organización que puede escalar inteligencia artificial sin perder el control.
Si tu organización ya tiene IA en producción, o está por dar ese paso, te proponemos un diagnóstico de seguridad y control de tus modelos: [email protected]
practia.uy/ai-strategy-delivery
