Preguntas que deberías hacerle a cualquier proveedor de IA para tu empresa antes de firmar

Todas las demos de asistentes de IA se parecen: una pregunta, una respuesta impecable, caras de asombro. Lo que separa un producto serio de un problema futuro no se ve en la demo; se ve en cómo responde el proveedor a cinco preguntas incómodas. Estas son las que yo haría, con la respuesta que deberías esperar en cada una.

No hace falta un perfil técnico para hacerlas. Y tampoco hace falta entender cada respuesta a fondo: como verás al final, muchas veces basta con fijarse en cómo se responde.

1. ¿El permiso se aplica al buscar la información o después de encontrarla?

Es la pregunta más importante de la lista y la que menos se hace. Muchos sistemas recuperan primero todo lo relevante para la pregunta y luego filtran lo que el usuario no debería ver, ya en la capa de aplicación. Ese orden —buscar primero, filtrar después— es un patrón de fallo recurrente en la industria: basta un error en el filtro, un metadato sin rellenar o un conector que indexó de más para que información de RRHH o de dirección acabe en la respuesta de cualquiera.

La respuesta que quieres oír: «el permiso forma parte de la propia consulta, reforzado a nivel de base de datos». La que debería preocuparte: «filtramos los resultados antes de mostrarlos». Suenan parecido; no son lo mismo.

2. ¿Los datos sensibles de empleados pasan por el mismo buscador que el resto?

Nóminas, evaluaciones de desempeño, datos personales. Si todo eso se vectoriza y entra en el mismo buscador semántico que los manuales de producto, el problema es estructural: el buscador devuelve lo relevante, y para una pregunta inocente sobre «pluses de fin de semana» lo más relevante puede ser la tabla salarial entera.

La respuesta que quieres oír: los datos sensibles no entran en el pipeline de búsqueda semántica. Viven aparte, y cada acceso a ellos se comprueba en el servidor, consulta a consulta.

3. ¿Puedo ver quién preguntó qué y qué se le respondió?

Sin trazabilidad no puedes auditar nada: ni detectar un uso indebido, ni entender por qué el sistema respondió lo que respondió, ni demostrar qué información vio cada persona. Pide dos cosas concretas: que cada respuesta cite su fuente de forma verificable —un documento, una conversación, una persona— y que exista un registro completo de preguntas y respuestas.

Y una tercera que casi nadie pide: que las sesiones de soporte del propio proveedor también queden auditadas. Quien entra en tu sistema a arreglar algo debería dejar el mismo rastro que cualquiera de tus empleados.

4. ¿Qué hace el sistema cuando no sabe la respuesta?

Los modelos de lenguaje tienen una tendencia natural a responder siempre algo, lo sepan o no. En una empresa, una respuesta inventada con tono seguro es peor que un «no lo sé»: alguien va a actuar basándose en ella. Pregunta qué ocurre cuando la información sencillamente no existe en la base de conocimiento.

La respuesta buena: el sistema lo reconoce, registra el hueco y dirige la pregunta a una persona experta. La mala: «nuestro modelo siempre encuentra algo».

5. ¿Qué pasa con mis datos si dejo de ser cliente?

Antes de entrar, planifica la salida. Tres cosas concretas: cómo exportas tu conocimiento (en un formato que puedas reutilizar, no un volcado ilegible), en qué plazo se borran tus datos y cómo se verifica ese borrado. Y mientras seas cliente: cómo se garantiza que tus datos no se mezclan con los de otras empresas. La expresión que buscas es «aislamiento multi-tenant», idealmente reforzado en más de una capa y verificado con pruebas automáticas, no con promesas. Y pide que todo esto figure en el contrato, no en la buena voluntad del comercial.

La pregunta de regalo: ¿dónde se ejecutan los modelos?

Si tu sector exige que ningún dato salga de tu infraestructura, pregunta si existe la opción de ejecutar los modelos en local. No todas las empresas lo necesitan, pero la respuesta te dice hasta dónde llega el techo del proveedor. Y aunque no lo necesites hoy, la reacción es reveladora: quien diseñó su sistema con el aislamiento como principio puede al menos planteárselo; quien depende de terceros de forma rígida, no.

Cómo interpretar las respuestas

No necesitas entender la implementación técnica de nada de esto. Fíjate en la forma de las respuestas. Quien lo tiene resuelto por diseño te lo explica en dos frases, con precisión y sin ponerse a la defensiva, porque tomó esas decisiones al principio y sabe exactamente por qué. Quien lo parcheó después divaga, generaliza o te asegura que «eso nunca ha pasado».

Lo digo con las cartas sobre la mesa: estas preguntas no son neutrales. Son exactamente las que me obligué a responder bien cuando empecé a construir Savia, porque cada atajo en seguridad es una deuda que acaba pagando el cliente. Pero por eso mismo puedes llevártelas a cualquier reunión, con cualquier proveedor — incluido yo. Un proveedor serio no debería ponerse nervioso con ninguna de las cinco.