A IA é treinada com os dados dos meus clientes? O que perguntar ao fornecedor

A pergunta que ninguém responde de frente

A IA é treinada com os dados dos meus clientes? É a pergunta que está por trás de quase toda objeção de segurança, e procurando por ela você encontra muito pouco.

Quando rastreamos, a única peça que a colocava sem rodeios era de um veículo jurídico. Nenhum fornecedor a respondia em primeira pessoa no próprio blog.

Essa ausência diz bastante. Então vamos começar pela nossa: na Alumbra não usamos dados de clientes para treinar modelos. E seguir com o que importa mais, que é como verificar isso em qualquer fornecedor, nós inclusive.

Por que a pergunta importa mais do que parece

As suas conversas de atendimento não são dados quaisquer. Dentro delas há nomes, endereços, telefones, às vezes valores e às vezes coisas que o cliente contou sem pensar que ficavam escritas.

Se isso entra num conjunto de treinamento, você deixou de controlá-lo. Não há como tirar um dado de um modelo já treinado.

E há uma segunda camada, legal. Na maioria dos países você continua responsável pelos dados dos seus clientes, mesmo quando quem os processa é um terceiro que você contratou.

As seis perguntas

Esta é a lista curta. Serve para qualquer fornecedor.

Pergunta	A resposta que você busca
Vocês usam meus dados para treinar ou melhorar seus modelos?	Um não sem condições
Os dados da minha organização se misturam com os de outra?	Nunca, com explicação de como se separam
O que acontece com o que eu mando ao modelo, os registros e os metadados?	Algo concreto, não "são processados com segurança"
Vocês assinam acordo de confidencialidade?	Sim, e sem que você tenha que brigar
Onde estão as políticas escritas?	Um link, não um e-mail prometendo enviar
Que certificações tem a plataforma de baixo?	O nome da certificação e de quem a tem

A terceira separa quem pensou no assunto de quem não pensou. Quase todos respondem bem a primeira porque é a esperada.

A resposta que desqualifica

Há uma resposta que deveria encerrar a conversa: "usamos dados anonimizados para melhorar o serviço", dita sem mais detalhe.

Anonimizar bem é difícil e caro. Uma conversa de atendimento tem tantos dados cruzados que reidentificar alguém costuma ser possível. Quando essa frase vem sem explicar o método, quase sempre significa "usamos".

Peça o método. Se não há método, há uma frase.

As nossas respostas, para você comparar

Colocamos as nossas porque é o que pedimos aos outros.

• Não usamos dados de clientes para treinar modelos. Sem exceções nem versões anonimizadas.
• Cada organização fica isolada. A IA da sua conta responde com o contexto da sua conta e não sabe nada de nenhuma outra.
• Assinamos acordo de confidencialidade para quem pedir.
• As políticas estão publicadas, não são enviadas por e-mail sob demanda.
• A plataforma de mensagens que usamos por baixo tem certificação SOC 2.
• Nunca tocamos nas suas credenciais do WhatsApp. A conexão passa pelos canais oficiais da Meta.

O que você não vai conseguir auditar

Aqui vai o que não prometemos, porque uma lista de garantias sem limites não serve para comparar.

Não temos um registro auditável que você possa pesquisar por texto. As ações que a IA toma ficam anotadas na própria conversa, e o histórico de um pedido vive naquele pedido. Auditar significa abrir a conversa e ler.

É uma limitação real. Se a sua operação precisa exportar um registro completo de acessos, pergunte especificamente por isso a qualquer fornecedor que avaliar.

Conclusões

• Nenhum fornecedor responde isso no blog, e essa ausência já é informação.
• Pergunte também pelos registros e metadados, não só pelo treinamento.
• "Dados anonimizados para melhorar o serviço", sem método, equivale a um sim.
• Peça as políticas escritas e o nome da certificação, não uma promessa verbal.
• Mesmo contratando um terceiro, o responsável pelos dados dos seus clientes continua sendo você.