Seguridad y cumplimiento

Lo que hay que preguntarle a un proveedor de IA. Respondido antes de que preguntes.

Esta página es para la persona que tiene que aprobar la compra: dirección técnica, responsable de datos o quien firme. Está escrita con nombres concretos y sin adjetivos: qué separa los datos de una empresa de los de otra, qué ve exactamente nuestro equipo cuando entra a arreglar algo, y en qué casilla del Reglamento europeo de IA cae este servicio.

Aislamiento: dos capas, y las dos se prueban solas

El aislamiento entre empresas clientes no descansa en una condición WHERE escrita a mano en cada consulta. Vive en dos sitios independientes: políticas de seguridad a nivel de fila en la base de datos, que el motor aplica aunque el código de la aplicación se equivoque, y una colección separada por empresa en el almacén de vectores, que es un sistema distinto con su propia frontera.

Las dos capas tienen pruebas automáticas que intentan cruzar la frontera y fallan la compilación si lo consiguen. Que existan esas pruebas es, para nosotros, la única afirmación de seguridad que significa algo: cualquiera puede decir que sus datos están aislados.

Dentro de cada empresa se repite la idea: cada departamento tiene su propio espacio de conocimiento, reforzado también en la base de datos. No es un filtro cosmético en la interfaz, que es exactamente por donde se filtra la mayoría de asistentes corporativos.

Los datos de personas no entran en el buscador

Las fichas de empleados y de clientes (DNI, datos económicos, situaciones de baja, datos de contacto) no se vectorizan y no pasan por la búsqueda semántica. Están fuera de ese circuito por completo. Cada acceso comprueba el permiso exacto en el servidor, consulta a consulta.

El motivo es que la búsqueda semántica encuentra lo más relevante para una pregunta, que no es lo mismo que lo que quien pregunta tiene permiso de ver. Son dos criterios distintos y el segundo no viene de serie. La forma barata de resolverlo es no meter nunca ahí lo que no debe salir.

Eso no quiere decir que el chat no pueda usarlas. Quien tiene permiso puede pedirle a Savia IA un dato de una ficha, o que lo cambie, y el chat lo hace con la misma comprobación de permiso y deja traza de quién lo pidió. En ese momento el dato pasa por el modelo que redacta la respuesta (Anthropic, listado en el DPA), como cualquier otra respuesta. Quien no tiene permiso recibe un no.

Qué ve nuestro equipo cuando entra a arreglar algo

Aquí es donde la mayoría de proveedores son vagos, así que vamos con el detalle. Cuando alguien de Savia IA necesita entrar en la cuenta de un cliente para resolver una incidencia, hay dos modos y ninguno es silencioso.

Identidad propia. El agente entra como «Savia IA Support» con permisos de administración, para tareas de configuración: departamentos, documentos, ajustes. En este modo no puede usar el chat en absoluto: el sistema lo rechaza.

Suplantación. El agente toma la sesión de una persona concreta para reproducir un fallo tal y como lo ve ella. En este modo ve exactamente lo que ve esa persona, incluidas sus conversaciones. Lo decimos con esas palabras porque es lo que hace falta para arreglar un fallo que solo le pasa a alguien, y porque preferimos que lo sepas por nosotros y no por sorpresa.

Lo que acota ese acceso:

  • Caduca sola a los 60 minutos. No hay sesión de soporte de un día.
  • Aparece en el registro de auditoría de tu propia empresa, no solo en el nuestro, con el nombre de quien entró, a quién suplantó y el motivo. Lo puedes ver tú.
  • Las fichas de empleados y clientes quedan fuera igualmente, incluso suplantando a alguien que sí tiene permiso para verlas. Hay una prueba automática dedicada a esto. Con un matiz: si esa persona pidió antes un dato de una ficha al chat, la respuesta sigue en su conversación, y quien suplanta ve la conversación entera.
  • No puede cambiar contraseñas en ningún modo.
  • No siembra la memoria. Lo que ocurra en una sesión de soporte no se captura como conocimiento ni se atribuye a la persona suplantada.

Está recogido en la cláusula 4 del DPA y en la cláusula 8 de los Términos.

El Reglamento europeo de IA

Savia IA es proveedor de un sistema de IA de riesgo limitado. Tu empresa, al usarlo, es responsable del despliegue. Son dos paquetes de obligaciones distintos y conviene tenerlo escrito antes de firmar, no después.

Lo que nos toca a nosotros. Informar de que se está interactuando con una IA: el chat lo dice en pantalla. Documentar la finalidad y los límites del sistema, que están en los Términos. Y listar los proveedores de IA que intervienen, que están uno a uno en el DPA.

Lo que te toca a ti. La supervisión humana de las decisiones que tomes con las respuestas, y, cuando proceda, informar a la representación de las personas trabajadoras. Al margen del Reglamento de IA, el artículo 64.4.d del Estatuto de los Trabajadores ya obliga en España a informar al comité sobre algoritmos que puedan afectar a las condiciones de trabajo.

Alfabetización en IA. El artículo 4 del Reglamento obliga a proveedores y a responsables del despliegue a que su personal tenga un nivel suficiente de competencia en IA. La fase de adopción acompañada de la implantación cubre esa obligación por tu parte, y se documenta como tal.

Lo que queda fuera a propósito. El Anexo III clasifica como alto riesgo los sistemas destinados a evaluar el rendimiento o el comportamiento de las personas trabajadoras, o a apoyar decisiones de contratación, promoción, sanción o despido. Savia IA no está diseñada para eso y los Términos lo excluyen expresamente. No es solo una cláusula: los datos personales de empleados están fuera del buscador por diseño, que es lo que haría falta para ese uso.

Si tu requisito es que nada salga de tu casa

Existe una modalidad de despliegue con modelos de IA ejecutados en local, dentro de tu infraestructura. En la modalidad estándar, los proveedores que intervienen están listados con nombre, país y mecanismo de transferencia en el DPA, con el compromiso de no entrenar con tus datos.

Al salir

Con la baja, o cuando lo pidas, se borra todo en las tres capas (base de datos, índice vectorial y archivos) en un máximo de 30 días, y queda constancia fechada del borrado. Sin copia salvo obligación legal.

Los papeles, enteros

No hay resumen comercial que sustituya al documento. Los tres están publicados y se pueden leer completos antes de hablar de precio: Términos del servicio, Política de privacidad y Acuerdo de encargo de tratamiento.

Si echas en falta algo, o si tu departamento legal tiene una pregunta que esta página no responde, escríbenos a hola@saviaia.es y la respondemos por escrito.