¿Entrenan la IA con los datos de mis clientes? Qué preguntarle al proveedor

La pregunta que nadie contesta de frente

¿Entrenan la IA con los datos de mis clientes? Es la pregunta que está atrás de casi toda objeción de seguridad, y buscándola encontrás muy poco.

Cuando la rastreamos, la única pieza que la planteaba sin rodeos era de un medio jurídico. Ningún proveedor la contestaba en primera persona en su propio blog.

Esa ausencia dice bastante. Así que empecemos por la nuestra: en Alumbra no usamos datos de clientes para entrenar modelos. Y sigamos con lo que importa más, que es cómo verificar eso en cualquier proveedor, incluidos nosotros.

Por qué la pregunta importa más de lo que parece

Tus conversaciones de atención no son datos cualquiera. Adentro hay nombres, direcciones, teléfonos, a veces montos y a veces cosas que el cliente contó sin pensar que quedaban escritas.

Si eso entra a un modelo de entrenamiento, dejaste de controlarlo. No hay forma de sacar un dato de un modelo ya entrenado.

Y hay una segunda capa, que es legal. En Argentina la protección de datos personales tiene autoridad de aplicación y vos sos responsable de los datos de tus clientes, aunque el que los procese sea un tercero que contrataste.

Las seis preguntas

Esta es la lista corta. Sirve para cualquier proveedor.

Pregunta	Respuesta que buscás
¿Usan mis datos para entrenar o mejorar sus modelos?	Un no sin condiciones
¿Los datos de mi organización se mezclan con los de otra?	Nunca, con explicación de cómo se separa
¿Qué pasa con lo que le mando al modelo, los registros y los metadatos?	Una respuesta concreta, no "se procesan de forma segura"
¿Firman un acuerdo de confidencialidad?	Sí, y sin que tengas que pelearlo
¿Dónde están las políticas escritas?	Un link, no un mail prometiendo mandarlas
¿Qué certificaciones tiene la plataforma de abajo?	El nombre de la certificación y de quién la tiene

La tercera es la que separa a los que pensaron el tema de los que no. Casi todos contestan bien la primera porque es la esperable.

La respuesta que descalifica

Hay una sola respuesta que debería terminar la conversación: "usamos datos anonimizados para mejorar el servicio", dicha sin más detalle.

Anonimizar bien es difícil y caro. Una conversación de atención tiene tantos datos cruzados que volver a identificar a alguien suele ser posible. Cuando esa frase viene sin explicar el método, casi siempre significa "los usamos".

Pedí el método. Si no hay método, hay una frase.

Nuestras respuestas, para que las compares

Ponemos las nuestras porque es lo que le pedimos a los demás.

• No usamos datos de clientes para entrenar modelos. Sin excepciones ni versiones anonimizadas.
• Cada organización queda aislada. La IA de tu cuenta responde con el contexto de tu cuenta y no sabe nada de ninguna otra.
• Firmamos acuerdo de confidencialidad a quien lo pida.
• Las políticas están publicadas, no se mandan por mail a pedido.
• La plataforma de mensajería que usamos por debajo tiene certificación SOC 2.
• Nunca tocamos tus credenciales de WhatsApp. La conexión va por los canales oficiales de Meta.

Lo que no vas a poder auditar, y conviene saberlo

Acá va lo que no prometemos, porque una lista de garantías sin límites no sirve para comparar.

No tenemos un registro auditable que puedas buscar por texto. Las acciones que la IA toma quedan anotadas en la conversación misma, y el historial de un pedido vive en ese pedido. Auditar significa abrir la conversación y leerla.

Es una limitación real. Si tu operación necesita exportar un registro completo de accesos, preguntá específicamente por eso a cualquier proveedor que evalúes.

Conclusiones

• Ningún proveedor contesta esta pregunta en su blog, y esa ausencia ya es información.
• Preguntá también por los registros y los metadatos, no solo por el entrenamiento.
• "Datos anonimizados para mejorar el servicio", sin método, equivale a un sí.
• Pedí las políticas escritas y el nombre de la certificación, no una promesa verbal.
• Aunque contrates a un tercero, el responsable de los datos de tus clientes seguís siendo vos.