Um grupo de 26 profissionais processou a Meta na última segunda-feira, dia 13, em um tribunal da Califórnia. A acusação é direta. Segundo a ação, a empresa teria usado inteligência artificial para pontuar, classificar e selecionar quem entraria na lista de demissões. A Meta nega. Em nota, a companhia afirma que decisões organizacionais foram tomadas por pessoas, e não por IA.

Ainda assim, o caso interessa a quem constrói software. Afinal, o que está em julgamento não é apenas uma política de RH. É a arquitetura de um sistema de ranqueamento.

O que o processo da Meta descreve, em termos de engenharia

Os documentos citam uma constelação de sistemas internos chamada Metamate. De acordo com a ação, esse conjunto teria sido treinado com dados dos próprios funcionários. Entre as fontes estariam o polêmico sistema de monitoramento de teclas e atividades, além de painéis de uso de tokens de IA e classificações de desempenho baseadas em algoritmos.

Traduzindo para linguagem técnica: telemetria de atividade virou feature. Depois, essas features alimentaram um score. Por fim, o score ordenou pessoas.

Até aqui, nada soa exótico. Qualquer engenheiro já montou pipeline parecido. Contudo, é justamente no trecho seguinte que a coisa desanda.

O bug não estava no modelo, estava no dado ausente

Aqui está o coração da acusação. Colaboradores que estavam de licença, inclusive por dispensa médica, simplesmente não geravam métricas no período. Logo, tinham menos sinal para comparação.

E o que acontece quando falta sinal? O sistema não devolve “desconhecido”. Ele devolve um número baixo.

Ou seja, a ausência foi lida como baixa performance. Segundo o documento do processo, o resultado foi que funcionários que tiraram licenças protegidas acabaram selecionados de forma desproporcional. No entanto, na prática, o score penalizava quem exerceu um direito legal.

Esse é um padrão que todo dev reconhece. Missing data tratado como zero. Não é maldade do algoritmo. É default de implementação.

Por que esse caso da meta vira caso jurídico e não apenas dívida técnica

A ação alega violação de leis trabalhistas e atos discriminatórios, inclusive em relação a licença maternidade e pessoas com deficiência. O grupo pede a reintegração de quem foi dispensado.

Repare no salto. Uma decisão de imputação de valores nulos, tomada em alguma linha de código, virou discriminação sistêmica. Não houve intenção declarada. Mesmo assim, o efeito foi correlacionado a categorias protegidas.

Portanto, o conceito relevante aqui é disparate impact. A regra parece neutra. Entretanto, o resultado não é.

Quatro perguntas para fazer antes do próximo deploy

Nem todo mundo constrói sistema de demissão. Porém, muita gente constrói ranking, scoring de crédito, triagem de currículo e priorização de atendimento. As perguntas abaixo valem para todos esses casos.

Primeiro: o que o seu pipeline faz com o nulo?
Verifique a imputação. Zero, média e mediana são escolhas políticas disfarçadas de default estatístico.

Segundo: o período de observação é igual para todos?
Se alguém ficou fora da janela, normalize por tempo ativo. Caso contrário, você está medindo presença, não produtividade.

Terceiro: existe proxy escondido?
Contagem de teclas correlaciona com deficiência motora. Uso de tokens correlaciona com função. Assim, a variável protegida entra pela porta dos fundos, mesmo que você nunca a tenha coletado.

Quarto: o score é auditável?
Se o time jurídico pedir a explicação de uma linha específica seis meses depois, você consegue reconstruir? Sem versionamento de dados, modelo e feature store, a resposta costuma ser não.

O detalhe que vale mais que o veredito

A Meta afirma que as acusações não são fundamentadas nem baseadas em fatos. Segundo a empresa, o gerenciamento da força de trabalho foi feito por pessoas.

Suponha que isso seja verdade. Ainda resta uma pergunta incômoda. Se um humano assina embaixo de uma lista ordenada por um modelo, quem decidiu de fato?

Essa é a figura do rubber stamp. A supervisão humana existe no organograma. No entanto, ela não existe no fluxo real da decisão. E tribunais estão começando a perceber a diferença.

O que muda para quem escreve o código

Durante anos, a resposta padrão foi confortável. O modelo é uma ferramenta, a decisão é do gestor. Contudo, esse argumento perde força quando o gestor recebe uma lista pronta e um prazo curto.

Por isso, três práticas deixam de ser opcionais:

• Registre a proveniência de cada feature, incluindo a origem da coleta e o consentimento associado.
• Rode testes de impacto desagregado por grupo antes de qualquer sistema que ordene pessoas.
• Documente as decisões de imputação em um arquivo que sobreviva à rotatividade do time.

Nenhuma dessas medidas é glamourosa. Ainda assim, elas são a diferença entre uma escolha técnica e uma prova judicial.

Acompanhe nosso perfil no Instagram!