Google remove recurso de IA do Earth um dia após o lançamento, sob críticas de desinformação

O Google removeu, apenas um dia após o lançamento, um recurso de IA no Google Earth que permitia criar imagens fabricadas sobre a imagery de satélite do aplicativo. A decisão veio depois de críticas de que a ferramenta poderia ser usada para produzir e espalhar desinformação, segundo o TechCrunch.

O que era o recurso

Na quinta-feira, o Google lançou uma funcionalidade que integrava o Nano Banana 2, seu gerador de imagens por IA, ao Google Earth. A ideia, segundo a empresa, era permitir que os usuários fossem criativos com a geografia. A ferramenta funcionava por prompts e permitia sobrepor praticamente qualquer imagem a mapas reais.

O problema apontado por críticos foi imediato: o Google Earth é uma das fontes mais confiáveis de evidência visual para jornalistas e pesquisadores, e um gerador de imagens acoplado a ele abriria caminho para conteúdo geoespacial falso em escala. Um jornalista da BBC ironizou publicamente que "não haveria como" um recurso desses ser abusado para espalhar desinformação online.

O recuo em 24 horas

Um dia depois, o Google desativou o recurso. Em comunicado citado pelo TechCrunch, a empresa afirmou:

"Vimos profissionais de geoespacial usando este recurso para uma série de propósitos úteis, mas também vimos pessoas compartilhando capturas de tela de imagens geradas que parecem violar nossas políticas."

O Google acrescentou que está "revertendo este recurso no Google Earth enquanto trabalha em salvaguardas mais fortes". Ou seja: a retirada foi apresentada como temporária, condicionada à criação de melhores mecanismos de controle.

Como pondera o próprio TechCrunch, a crítica é compreensível, mas convém lembrar que, na era da IA, boa parte das imagens que circulam na web já pode ser manipulada com facilidade. Não é mais preciso dominar o Photoshop para produzir desinformação semicrível: basta acesso a um gerador de imagens por IA, produto que o próprio Google vende, assim como diversas outras empresas do setor.

Por que isso importa para quem constrói software no Brasil

O episódio é relevante para o desenvolvedor brasileiro por alguns motivos práticos, mais do que pelo caso em si.

• Governança de features de IA como parte do ciclo de produto. O recurso passou de lançamento a rollback em 24 horas. Para times que estão embutindo geradores de imagem ou modelos generativos em seus produtos, o caso reforça que avaliação de abuso (o chamado abuse case, o oposto do use case) precisa entrar antes do deploy, não depois da repercussão.

• Guardrails não são opcionais. A justificativa oficial do Google foi trabalhar em "salvaguardas mais fortes". Para quem integra APIs de geração de conteúdo, isso significa pensar em filtros, marcação de proveniência e limites de uso desde o design, especialmente quando o output pode se passar por evidência factual.

• Contexto regulatório brasileiro. O Brasil discute há tempos a regulação de IA, com o PL 2338/2023 como principal referência em tramitação no Congresso. Casos como este, em que uma big tech recua diante de risco de desinformação sem que houvesse obrigação legal explícita, entram no debate sobre até onde a autorregulação basta e onde a lei precisa impor requisitos como rotulagem de conteúdo sintético.

O que observar a seguir

O Google não deu prazo para o retorno do recurso nem detalhou quais salvaguardas pretende implementar. Para acompanhar, vale monitorar se a empresa adotará marcação técnica de imagens geradas (como watermarking ou metadados de proveniência, no padrão C2PA que vem ganhando tração no setor) e se restringirá a sobreposição sobre mapas reais.

Para desenvolvedores, a lição operacional é direta: recurso generativo que produz conteúdo passível de ser confundido com registro factual exige camada extra de controle. Lançar rápido e reverter depois custou ao Google um ciclo de desgaste público que planejamento de risco poderia ter evitado.

Fonte: TechCrunch