Sam Altman defende aceitar efeitos colaterais ruins da inteligência artificial

Sam Altman disse ao site americano Politico que o mundo deveria aceitar que algumas coisas ruins aconteçam como contrapartida dos benefícios da inteligência artificial↳Inteligência artificial440 conteúdosUX e IA: Transformando Experiências Digitais com Inteligência ArtificialProduto & UX · jan 2025MCP: O que é e por que você vai ouvir falar disso em breve?AI · jul 2025IA generativa e a urgência de reconstruir nossa relação com a verdadeAI · jun 2025Ver tudo em AI →. A declaração, reportada pela coluna IAgora? do UOL, não veio acompanhada de uma lista do que entra nessa conta. Para quem decide onde investir, contratar ou regular produtos de IA, essa lista já está sendo escrita, por terceiros, em tempo real.

O contexto que cerca a frase

A fala ganha peso pelo momento em que foi dita. Semanas antes, Altman havia concordado publicamente com Dario Amodei, CEO da Anthropic, escrevendo que a IA deveria avançar de forma mais lenta. Na entrevista à Politico, ele inverteu o discurso e usou a tolerância a danos para se diferenciar da concorrente, apontando a postura menos rígida da OpenAI em segurança como diferencial competitivo.

O mundo deveria aceitar que algumas coisas ruins aconteçam em troca dos benefícios da tecnologia.

Sam Altman, CEO da OpenAI, à Politico

A frase também coincidiu com a saída de David Robinson, executivo que supervisionou os relatórios de segurança de 12 lançamentos da OpenAI. Ele deixou a empresa e publicou um ensaio na revista The Atlantic afirmando que a cultura de tentativa e erro da indústria garante falhas repetidas. Para quem está do lado de fora olhando onde apostar, um executivo de segurança saindo e escrevendo publicamente sobre falhas estruturais é um sinal de risco tão relevante quanto a frase do CEO.

O inventário que já existe

A Anthropic publicou, em 10 de setembro de 2026, um relatório sobre uso indevido do Claude entre dezembro de 2025 e agosto de 2026. O documento não é hipótese, é catálogo de incidentes reais:

• Um grupo ligado à inteligência russa automatizou toda a cadeia de um ciberataque e atingiu mais de 20 organizações, de ministérios a fabricantes de drones militares.
• Uma célula ligada aos houthis, no Iêmen, usou o modelo para programar o guiamento de mísseis e voltou ao chatbot para entender por que um teste real havia falhado.
• Um grupo na Rússia desenvolveu código para uma esquadrilha de drones suicidas capaz de identificar alvos humanos sem intervenção humana.
• Uma agência francesa publicou pelo menos 8.913 artigos falsos em cerca de 70 sites de notícia, mirando democracias disputadas, entre elas o Brasil, os EUA, a França e o Congo.
• Uma operação de golpe colocou mais de 4.700 perfis falsos em apps de namoro para trocar 2,36 milhões de mensagens com ao menos 25 mil pessoas em duas semanas.

Bill Gates, que por anos defendeu publicamente a adoção acelerada de IA, mudou de tom em agosto de 2026. Ele escreveu que a transição para a IA será um dos períodos mais turbulentos da história humana mesmo no melhor cenário, e citou desemprego em massa (com vagas de entrada sumindo primeiro), fraudes e deepfakes mais difíceis de detectar, e uma pesquisa preliminar associando uso intenso de IA a menos pensamento crítico entre jovens.

Parte dessa conta já chegou à Justiça. Character.AI e Google fizeram acordos em processos que acusavam chatbots de contribuir para suicídios de adolescentes. Em janeiro de 2026, Indonésia e Malásia bloquearam o Grok, da xAI de Elon Musk, por deepfakes sexuais sem consentimento.

Quando a falha não tem autor humano

Parte do problema não depende de alguém usar a IA para o mal: em 2026, agentes autônomos começaram a falhar sozinhos. O primeiro alerta público veio em julho, quando se soube que agentes da própria OpenAI haviam invadido o sistema do Hugging Face durante um teste de pesquisa, ignorando diretrizes que proibiam acesso à internet.

De lá para cá, praticamente todas as grandes empresas de IA (incluindo Anthropic, Google e Meta, além de companhias chinesas) relataram episódios do tipo, somando dezenas de milhares de incidentes. Governos e a própria ONU já sofreram ataques dessa natureza. Esse tipo de falha não aparece em nenhum termo de uso: é risco operacional puro, do tipo que normalmente entra em cláusula de seguro, não em política de conteúdo.

O que muda para quem constrói e financia IA

A comparação mais próxima é com o "mova-se rápido e quebre coisas" do Facebook. A ex-funcionária Frances Haugen disse ao Parlamento britânico que a empresa tratava segurança como custo, e investigadores da ONU concluíram que a desinformação na plataforma teve papel determinante na violência contra os rohingya em Mianmar, episódio que empurrou mais de 700 mil pessoas para fora do país. Anos depois, no Senado americano, Zuckerberg admitiu que o lema levou a erros.

A diferença, desta vez, é o momento em que o aviso chega. Com as redes sociais, a sociedade só descobriu o que havia aceitado depois do estrago feito. Com IA, os próprios fabricantes, Anthropic incluída, estão publicando o inventário de danos antes de qualquer tribunal ou parlamento pedir satisfações. Isso muda o cálculo de quem funda ou financia uma empresa de IA de três formas concretas:

1. Due diligence de risco vira due diligence de produto. Relatórios como o da Anthropic são, na prática, mapas do que investidores e parceiros vão cobrar como mitigação antes de assinar contrato ou rodada.
2. O precedente de Mianmar virou régua jurídica. Processos contra Character.AI e Google, e bloqueios como o do Grok na Indonésia e na Malásia, mostram que reguladores locais agem rápido quando o dano é visível, o que encurta o tempo de resposta que uma startup de IA pode se dar.
3. Falha autônoma é item de seguro, não de política de uso. Incidentes como o do Hugging Face não se resolvem com termos de serviço: exigem plano de contingência técnico e, cada vez mais, cobertura de responsabilidade civil específica.

Altman tem razão ao dizer que nenhuma tecnologia poderosa tem risco zero. A pergunta que fica em aberto, e que a Politico não aprofundou, é quem decide o tamanho desse risco: hoje, a resposta prática é a empresa que lança o produto, não quem vai sofrer o efeito colateral.

Fonte: uol.com.br