Terceirizar o desenvolvimento de IA sem que os seus dados saiam da empresa: como um time externo trabalha dentro dos seus sistemas

Uma empresa externa pode construir e operar um sistema de IA sobre documentos que não podem sair da sua empresa. Os documentos ficam nos seus servidores, e os engenheiros da empresa externa chegam até eles por meio de contas que você cria e pode desativar, a partir de máquinas que você controla. Eles constroem com documentos de amostra aprovados pelo seu time e só trabalham com documentos reais nos seus servidores. Para encontrar uma empresa que consiga trabalhar assim, pergunte como os engenheiros dela acessaram os documentos de um cliente anterior e o que a empresa excluiu no fim.

Uma empresa externa pode construir o nosso sistema de IA se os nossos dados não podem sair da empresa?

Sim. Onde o modelo de linguagem roda é uma decisão separada, tratada no artigo sobre perímetro fechado, com link acima. Este artigo trata das pessoas que constroem o sistema e do que elas podem ver e copiar. Um modelo nos seus próprios servidores protege pouco se um engenheiro salva uma pasta de documentos reais em um notebook para testar um prompt (as instruções que o modelo segue).

Se um engenheiro só lê os nossos documentos, isso conta como saída dos dados?

Pela legislação de proteção de dados da UE, até mesmo ler dados pessoais conta como tratamento. O artigo 4(2) do GDPR define tratamento como qualquer operação realizada sobre dados pessoais, e a lista que acompanha essa definição inclui a “consulta”, ou seja, olhar os dados. Uma empresa cujos engenheiros precisam desse acesso para fazer o trabalho costuma ser o seu processador de dados, como o GDPR chama a empresa que trata dados pessoais em seu nome. O artigo 28 exige um contrato ou outro ato jurídico vinculante com o processador.

Se a empresa estiver sediada fora do Espaço Econômico Europeu, o acesso remoto dela é uma transferência dos dados para o exterior, mesmo que os dados só apareçam em uma tela. O Comitê Europeu de Proteção de Dados, que reúne as autoridades de proteção de dados da UE, afirma isso nas suas Diretrizes 05/2021.

Uma transferência precisa de um fundamento jurídico previsto no Capítulo V do GDPR. Um deles é a decisão de adequação, pela qual a Comissão Europeia conclui que o país da empresa protege os dados pessoais suficientemente bem. Outro são as cláusulas contratuais padrão, termos contratuais prontos que a Comissão adotou em 4 de junho de 2021. Antes de se apoiar nelas, as partes avaliam a legislação do país da empresa, como descrevem as Recomendações 01/2020 do Comitê.

Nos Estados Unidos, a Regra de Salvaguardas (Safeguards Rule) da Comissão Federal de Comércio (FTC) se aplica às instituições financeiras supervisionadas pela FTC, como credores hipotecários e empresas de empréstimos de curto prazo (payday lenders). Elas precisam tomar medidas razoáveis para escolher prestadores de serviços capazes de proteger as informações dos clientes, colocar essas proteções no contrato e verificar os prestadores periodicamente. Também precisam usar autenticação multifator para “qualquer pessoa que acesse qualquer sistema de informação”, a menos que o responsável pela segurança da instituição aprove por escrito controles razoavelmente equivalentes ou mais seguros. Pergunte ao seu assessor jurídico quais dessas regras se aplicam a você antes que alguém de fora receba acesso.

Como os engenheiros externos recebem acesso sem levar dados para fora?

Dê acesso a eles como você dá aos seus funcionários, só que com limites mais rígidos:

• Uma conta nominal para cada pessoa, criada nos seus próprios sistemas, com autenticação multifator. Com um login compartilhado, os logs não conseguem mostrar qual pessoa abriu qual documento
• Um único lugar de trabalho: um desktop virtual, um computador nos seus servidores que o engenheiro vê apenas como uma tela. Um notebook gerenciado pela sua empresa também serve, se só abrir documentos por esse desktop. Bloqueie a cópia de arquivos e de texto para outros dispositivos
• Acesso por função, com os documentos reais condicionados a uma aprovação à parte, com data de término
• Acesso à internet a partir das máquinas de trabalho limitado ao que o trabalho exige, para que nenhum documento possa ser colado em um site público ou em uma ferramenta de chat online
• Logs de login e de acesso a arquivos sob a guarda do seu time de segurança, onde a empresa não consegue editá-los

Antes de o primeiro engenheiro começar, peça a alguém do seu lado que tente tirar um documento da máquina de trabalho por todos os caminhos que conseguir imaginar. Feche cada caminho que funcionar e repita o teste depois de cada mudança na configuração.

Com o que os engenheiros externos constroem o sistema antes de ver documentos reais?

Boa parte do trabalho não precisa de documentos reais. A maior parte do código, da leitura dos arquivos recebidos à tela em que os revisores conferem as respostas, pode ser construída com amostras aprovadas. Boas amostras são documentos publicados do mesmo tipo e documentos fictícios gerados nos seus servidores a partir dos seus próprios templates.

Os documentos reais são necessários para duas tarefas. Uma é o conjunto de aceitação: documentos reais rotulados com as respostas corretas, com base nos quais o sistema é pontuado antes de cada release. A outra é ajustar o sistema nos casos que as amostras não cobrem. As duas acontecem nos seus servidores, feitas por pessoas autorizadas a ver documentos reais.

Tirar os nomes nem sempre torna um documento anônimo, porque um número de conta, ou uma data e um valor, ainda podem apontar para uma pessoa. O considerando 26 do GDPR diz que dados pseudonimizados, em que os nomes são substituídos, mas informações adicionais ainda poderiam vincular os dados a uma pessoa, contam como dados pessoais. Por isso, mantenha essas amostras nos seus servidores até que o seu encarregado de proteção de dados confirme que elas são anônimas.

Onde as cópias dos nossos documentos vão parar durante um projeto?

Um sistema em funcionamento faz as próprias cópias, nos logs e no índice de busca, e o artigo sobre pilotos de IA, com link acima, lista quais são. As cópias feitas por pessoas durante a construção passam despercebidas com mais facilidade:

• Uma amostra salva no notebook de um engenheiro para testar um prompt offline
• Capturas de tela e trechos colados no gerenciador de tarefas, no chat ou no e-mail da empresa, que ficam nos sistemas e nos backups dela
• Texto colado em um assistente de programação com IA ou em uma ferramenta de chat, que pode enviá-lo ao provedor da ferramenta
• Uma cópia de teste do sistema na própria conta de nuvem da empresa, carregada com os seus dados para ganhar tempo
• Uma exportação feita para mostrar uma demo aos seus gestores e depois repassada a outras pessoas

Trate o índice de busca como os próprios documentos. Ele armazena cada trecho como um embedding, uma lista de números que captura o significado do trecho, e muitas configurações guardam o texto do trecho ao lado. Pesquisas mostram que é possível reconstruir o texto só a partir dos números.

Na conferência EMNLP de 2023, Morris e colegas reconstruíram de forma exata 92% dos trechos de 32 tokens (um token é uma palavra ou parte de uma). Eles trabalharam com embeddings gerados por um modelo aberto e podiam consultar esse modelo repetidas vezes. A recuperação exata foi menor com um modelo comercial e com trechos mais longos. O mesmo método recuperou 89% dos nomes completos de um conjunto de anotações clínicas.

Deixe por escrito que os seus documentos e tudo o que for produzido a partir deles, como o índice de busca ou o conjunto de aceitação, ficam nos seus sistemas.

Quais ferramentas os engenheiros externos podem usar?

Só as ferramentas de uma lista enxuta, combinada com a empresa, para as máquinas que têm acesso aos seus documentos. Para montar a lista, pergunte quais assistentes de programação com IA e ferramentas online os engenheiros dela usam todos os dias. Para cada uma, pergunte se ela envia a um provedor externo o código que vê ou o texto colado nela.

Se o time quiser um assistente de programação com IA, conecte-o a um modelo dentro do seu perímetro, ou seja, da rede e dos sistemas que a sua empresa controla. Caso contrário, instale-o só em máquinas que nunca acessam documentos. A lista entra no contrato, e incluir uma ferramenta exige a sua aprovação.

O que o contrato com a empresa deve dizer?

Para dados pessoais da UE, o artigo 28 do GDPR lista o que o contrato precisa conter. Entre outras coisas, a empresa só age conforme as suas instruções documentadas, e todos que têm acesso precisam manter os dados em sigilo. A empresa adota as medidas de segurança exigidas pelo artigo 32, permite as suas auditorias e não recorre a nenhum outro processador sem a sua autorização prévia por escrito. Quando o serviço termina, a empresa exclui ou devolve os dados, à sua escolha, e exclui as cópias existentes, a menos que a legislação da UE ou de um Estado-membro exija que ela as mantenha.

Projetos como este precisam de algumas cláusulas a mais:

• O nome e a função de todos que têm acesso, e o país de onde cada pessoa trabalha
• Aviso, dentro de um prazo que você define, sempre que alguém entrar no projeto ou sair dele
• Nenhuma subcontratação sem o seu consentimento por escrito, mesmo para documentos sem dados pessoais
• Uma confirmação assinada, no fim, de que não restou nenhuma cópia, abrangendo notebooks, contas e backups

Isto não é assessoria jurídica, e quem redige as cláusulas para a sua jurisdição é o seu advogado.

O que acontece quando alguém sai do projeto, ou quando o projeto termina?

O acesso deve terminar no mesmo dia em que o trabalho termina. O NIST, a agência de padrões dos Estados Unidos, trata do pessoal externo, incluindo empresas que desenvolvem sistemas, no controle PS-7 do seu catálogo de segurança, o SP 800-53. O controle pede que você exija da empresa um aviso, dentro de um prazo que você define, sempre que alguém com logins ou direitos de acesso concedidos por você passar para outro trabalho ou sair.

No último dia, o seu time desativa as contas e os desktops virtuais e recolhe os notebooks gerenciados, se houver. No mesmo dia, troque todas as senhas e chaves que os engenheiros externos conheciam e obtenha da empresa uma confirmação por escrito de quais cópias ela excluiu e de que não restou nenhuma. Siga os mesmos passos quando um engenheiro sair de um projeto que continua.

Como verificar uma empresa antes de ela receber acesso?

Peça respostas por escrito a cada empresa da sua lista curta e compare-as lado a lado:

• Descrevam como os engenheiros de vocês acessaram os documentos de um cliente em um projeto anterior com regras parecidas, sem nomear o cliente
• Digam quem teria acesso no nosso projeto, de onde essas pessoas trabalham e se são funcionários ou terceirizados
• Digam com o que vocês vão construir antes de ver documentos reais e quem aprova as amostras
• Mostrem-nos uma confirmação de exclusão que vocês assinaram no fim de um projeto anterior, sem os dados do cliente

Quais são os sinais de alerta no plano ou no contrato de uma empresa?

• A empresa pede uma exportação dos seus dados para a nuvem dela “para começar mais rápido”
• Os engenheiros compartilhariam um único login, ou a empresa não sabe dizer quem terá acesso
• O plano prevê engenheiros testando prompts com documentos reais nos próprios notebooks da empresa
• O contrato não diz nada sobre subcontratadas, ou sobre as cópias no fim do projeto

Onde a amBrain se encaixa?

O único projeto com modelo de linguagem que a amBrain descreve publicamente é este: “Levamos à produção uma integração de LLM dentro do perímetro de FinTech de um cliente: extração e normalização de avisos não estruturados de corretoras e de venues — eventos corporativos, alterações de instrumentos e de margem — em registros estruturados que o sistema de trading consome.”

Este artigo não é um estudo de caso. O cliente não é nomeado. O artigo não afirma que os engenheiros da amBrain trabalharam dentro dos sistemas desse cliente nem que o projeto usou qualquer uma das configurações acima. Ele não traz preços nem prazos.

A amBrain constrói software desde 2019. Sobre propriedade, a frase da amBrain é: “O cliente mantém a propriedade integral do produto e do código, exceto dos nossos componentes reutilizáveis.” Peça à amBrain a lista desses componentes, nome por nome, antes de assinar, como você pediria a qualquer outra empresa.

Antes de trazer um time externo para um sistema de IA que trabalha com documentos restritos, faça as perguntas acima a todas as empresas da sua lista.

Perguntas comuns

• Os engenheiros externos podem trabalhar do próprio escritório? Sim, se acessarem os seus sistemas apenas pelo desktop virtual ou pelo notebook gerenciado e não guardarem nada nos próprios computadores. Se a empresa estiver sediada fora do Espaço Econômico Europeu, esse acesso é uma transferência pelas regras da UE, como descrito acima
• Essa configuração acrescenta trabalho antes de o projeto começar? Sim. Contas, máquinas de trabalho e aprovações precisam estar prontas antes de o primeiro engenheiro começar, então pergunte cedo à empresa o que ela vai pedir ao seu time de TI
• Um acordo de confidencialidade (NDA) basta? Não. Um NDA típico trata do sigilo, e muitos também exigem que os documentos sejam devolvidos ou destruídos no fim, embora alguns permitam que a empresa mantenha cópias nos backups dela. Ele não cria contas nominais, máquinas de trabalho nem regras para subcontratadas. Para dados pessoais da UE, o artigo 28 também exige cláusulas que um NDA normalmente não tem