Demis Hassabis acaba de colocar uma proposta incômoda na mesa. Em manifesto divulgado no dia 14 de julho, o CEO do Google DeepMind defendeu a criação de um órgão internacional para fiscalizar modelos de fronteira. Além disso, ele quer que esse órgão tenha aval do governo americano. Para quem escreve código, a pergunta não é filosófica. Ou seja: o que acontece com a sua stack quando um modelo precisa de aprovação antes de existir?

DeepMind mira o mercado financeiro como espelho regulatório

A referência escolhida por Hassabis não é acadêmica. Ele aponta para a FINRA, entidade privada que supervisiona o mercado financeiro nos Estados Unidos. Portanto, o desenho proposto não é uma agência estatal clássica. Seria um órgão financiado pela própria indústria, formado por especialistas técnicos e supervisionado por Washington.

Na prática, a mecânica funcionaria assim. Primeiro, laboratórios compartilhariam seus modelos com o órgão até 30 dias antes do lançamento comercial. Depois, viriam os testes de segurança. O foco recai sobre capacidades perigosas como ataques cibernéticos, manipulação, riscos biológicos e comportamento enganoso. Por fim, se o processo funcionar, Hassabis defende torná lo obrigatório.

Nesse cenário, todo modelo de fronteira precisaria de aprovação para chegar ao mercado americano. Aliás, o conselho seria majoritariamente independente. Vencedores do Prêmio Turing entrariam ali, ao lado de representantes do governo, da indústria e da comunidade de código aberto.

DeepMind aponta 18 meses até o problema virar concreto

Aqui está o número que deveria interessar a você. Segundo Hassabis, em cerca de 18 meses modelos avançados poderão desenvolver capacidades ligadas a ameaças biológicas e nucleares. Inclusive em sistemas de código aberto fora do alcance dos governos.

Contudo, ele não trata código aberto como o vilão principal. Pelo contrário. Os maiores riscos, na leitura dele, estarão nos futuros modelos proprietários dos grandes laboratórios. Ou seja, o dedo aponta também para dentro de casa.

Enquanto isso, os riscos atuais já servem de alerta. O uso de IA em ataques cibernéticos é o exemplo citado. E esse é um terreno que qualquer pessoa de segurança já conhece bem demais.

O que uma janela de 30 dias faz com o ciclo de release

Pense na proposta como um gate no pipeline. Um gate externo, fora do seu controle, com latência mínima de 30 dias. Desse modo, algumas consequências aparecem rápido.

A primeira é o ritmo. Hoje um provedor anuncia um modelo e a API sobe no mesmo dia. Com aprovação prévia, esse calendário muda. Portanto, roadmaps que dependem de um modelo específico ganham incerteza nova.

A segunda é o versionamento. Se cada modelo de fronteira precisa passar por avaliação, atualizações incrementais viram decisão estratégica. Assim, provedores podem espaçar releases e agrupar melhorias.

A terceira é o código aberto. A proposta prevê assento para essa comunidade no conselho. Ainda assim, a fronteira entre pesos abertos e modelo de fronteira permanece nebulosa. Logo, quem publica pesos precisa acompanhar essa definição de perto.

A quarta é a portabilidade. Um modelo aprovado nos Estados Unidos pode não ter o mesmo status em outros mercados. Consequentemente, arquiteturas com abstração de provider deixam de ser preciosismo e viram seguro.

DeepMind conversou com governos antes de publicar o manifesto

O manifesto se chama “Uma Estrutura para IA de Fronteira e o Alvorecer de uma Nova Era”. Antes de publicar, porém, Hassabis passou meses conversando. A lista inclui integrantes do governo Trump, autoridades europeias e líderes de outros laboratórios.

Ele descreveu os sinais recebidos como muito positivos. Além disso, afirma existir entendimento crescente no setor de que alguma regulação virá. Não é consenso, mas também não é voz isolada.

No mesmo documento, ele sustenta que a AGI está provavelmente a poucos anos de distância. Em outro trecho, resume o momento com uma imagem que já circulou bastante: “descobrimos uma maneira de fazer a areia pensar”.

Como se preparar sem esperar a lei sair

Nada disso é lei ainda. Contudo, três movimentos fazem sentido de qualquer forma.

Desacople o provider. Mantenha uma camada de abstração entre a sua aplicação e o modelo. Assim, trocar de fornecedor vira configuração, não refatoração.

Documente o comportamento, não só o código. Avaliações de capacidade perigosa dependem de evidência. Portanto, quem já registra prompts, saídas e casos de borda chega mais preparado.

Trate modelo como dependência crítica. Você já pina versões de biblioteca. Do mesmo modo, pine versões de modelo e teste regressão antes de subir.

O ponto que ninguém resolveu

A proposta tem um buraco visível. O compartilhamento começa voluntário. Ou seja, depende de boa vontade de empresas em corrida direta umas contra as outras. Hassabis reconhece isso ao defender que o processo se torne obrigatório depois de provar valor.

Enquanto isso não acontece, a assimetria continua. Quem colabora perde tempo de mercado. Quem não colabora ganha. Esse é o mesmo dilema que atravessa a história da segurança em software.

Por fim, vale registrar o que a proposta realmente sinaliza. Um dos nomes mais fortes da área está pedindo freio. Não por medo abstrato, mas por um prazo curto. Consequentemente, a discussão sai do campo especulativo e entra no seu backlog.

Acompanhe nosso perfil no Instagram!