Antes de lanzar una aplicación con IA, una empresa tiene que definir qué datos pueden procesarse, con qué proveedores, quién puede usar la herramienta, cómo se controlan los resultados y qué se registra. Los riesgos más comunes no son ataques sofisticados: son empleados cargando datos de clientes en herramientas gratuitas, asistentes que responden con información que el usuario no debería ver y respuestas inventadas que se toman como ciertas.
Los riesgos principales
| Riesgo | Ejemplo | Control |
|---|---|---|
| Fuga de datos a terceros | Copiar contratos en un chat público | Herramientas empresariales con garantías contractuales |
| Acceso indebido | El asistente responde con datos de RR. HH. a cualquiera | Permisos por usuario en las fuentes |
| Respuestas inventadas | Un precio o una política que no existe | Respuestas basadas en fuentes, con cita |
| Manipulación de instrucciones | Un documento con texto que intenta cambiar el comportamiento | Separar instrucciones de datos, limitar acciones |
| Datos personales sin base legal | Procesar datos de clientes sin informar | Revisión legal y consentimientos |
| Dependencia sin control | Nadie sabe qué hace la herramienta | Registro de uso y responsables |
Políticas mínimas
- Qué herramientas están aprobadas y cuáles no.
- Qué datos no se cargan nunca en herramientas no aprobadas (datos personales, financieros, contratos, información estratégica).
- Quién revisa los resultados en usos de alto impacto.
- Cómo se reportan errores o incidentes.
Lo desarrollamos para marketing en gobernanza de IA generativa.
Elegir proveedores
Preguntá a cada proveedor:
- ¿Usan nuestros datos para entrenar modelos?
- ¿Dónde se almacenan y por cuánto tiempo?
- ¿Qué certificaciones de seguridad tienen?
- ¿Podemos borrar nuestros datos?
- ¿Qué pasa si hay un incidente?
Protección de datos personales
La Ley 7593/2025 de protección de datos personales aplica también cuando los datos se procesan con IA. Informá a las personas, usá los datos solo para la finalidad declarada y minimizá lo que se procesa. Para datos de salud, ver datos personales de salud.
Diseño seguro de la aplicación
- La IA no debería poder ejecutar acciones críticas (pagos, borrados, envíos masivos) sin confirmación humana.
- Los permisos del usuario se aplican antes de buscar información.
- Se registran preguntas y respuestas para auditoría, con plazos de retención definidos.
Preguntas frecuentes
¿Prohibir la IA es una opción?
En la práctica, los empleados la usan igual. Es más seguro aprobar herramientas y definir reglas.
¿Las versiones empresariales son seguras?
Suelen ofrecer garantías mucho mejores que las gratuitas, pero hay que leer los contratos y configurarlas bien.
¿Quién es responsable de esto en la empresa?
Un equipo con sistemas, legal y las áreas usuarias, con un responsable claro.
Si querés definir reglas y controles para usar IA con seguridad, lo trabajamos en nuestra asesoría en IA.
Colaboración del artículo
Escrito por Jan Park
LeadWise · Asistido por IA
La investigación, estructura y edición se desarrollaron en colaboración con asistencia de IA.
