¿Cómo se protege un agente de voz?
La seguridad de un agente de voz consiste en controlar qué datos circulan durante una llamada, quién puede acceder a ellos y qué acciones puede ejecutar el sistema.
La voz añade riesgos específicos: grabaciones, transcripciones, identificación por teléfono, ingeniería social y datos pronunciados en entornos donde otras personas pueden escucharlos.
La seguridad no se limita al modelo. Abarca telefonía, proveedores de audio, almacenamiento, herramientas y sistemas empresariales.
Mapear el flujo de datos
Hay que identificar dónde viaja y se almacena el audio, qué servicios reciben la transcripción, qué modelo procesa el contenido y qué logs conservan cada proveedor.
El mapa incluye regiones, retención, subprocesadores y copias utilizadas para depuración o evaluación.
Identidad y autenticación
El número de origen puede ayudar a localizar una cuenta, pero puede falsificarse o compartirse. El nivel de verificación debe depender de la acción.
Consultar información general puede necesitar poca autenticación; modificar datos, cancelar servicios o tratar información sensible puede requerir OTP, preguntas controladas o traslado a un canal autenticado.
Minimización y retención
El agente debe solicitar sólo los datos necesarios y evitar repetir información sensible en voz alta. Las grabaciones y transcripciones se conservan durante el tiempo justificado y con acceso restringido.
Para QA puede ser suficiente una muestra o contenido redactado. Guardar todas las conversaciones indefinidamente aumenta exposición sin garantizar más aprendizaje.
Prompt injection y contenido no fiable
El usuario puede intentar ordenar al agente que ignore sus límites o revele información. Los datos recuperados y resultados externos también pueden contener instrucciones maliciosas.
Las instrucciones del sistema, los datos y las herramientas deben conservar niveles de autoridad distintos. La autorización se valida fuera del modelo.
Grabación, aviso y consentimiento
La obligación de informar o solicitar consentimiento depende de jurisdicción y uso. La empresa debe definir avisos, finalidad, acceso y tratamiento antes de activar grabaciones.
El diseño también debe contemplar usuarios que no desean ser grabados y ofrecer una ruta alternativa cuando proceda.
Respuesta ante incidentes
Los runbooks cubren acceso indebido, filtración de grabaciones, comportamiento inesperado, abuso de herramientas y credenciales comprometidas. El kill switch debe retirar la capacidad afectada rápidamente.
Los incidentes se investigan con trazas que respeten la misma política de seguridad. La observabilidad no debe convertirse en una copia descontrolada de datos sensibles.
Barreras de seguridad en IA
Riesgos de la IA
Integración con centralita
Contratos de herramientas
Operar agentes en producción
Si quieres aplicar IA en tu negocio,
Te explico qué hago y cómo trabajo: Aquí