Regras de transparência do AI Act entram em vigor e afetam quem constrói para a Europa

O que muda na União Europeia

Desde 2 de agosto, cidadãos da União Europeia precisam ser informados quando estão interagindo com um sistema de IA ou visualizando conteúdo gerado ou alterado pela tecnologia. As novas regras de transparência fazem parte do AI Act, a legislação de inteligência artificial do bloco, segundo reportagem da Wired.

Na prática, o alcance é amplo:

• Anúncios e posts corporativos que usam deepfakes recebem rótulo indicando que são gerados por IA.
• Chatbots e centrais de atendimento que lidam com reclamações precisam declarar claramente que são baseados em IA.
• Call centers que usam machine learning para monitorar emoções e detectar frustração do interlocutor terão de avisar no início da ligação.
• Mesmo usos comerciais entre empresas (agendamento de compromissos, correspondência, negociação de contratos) devem ser declarados.

Quem não cumprir enfrenta multas de até 15 milhões de euros (cerca de US$ 17 milhões) ou 3% do faturamento anual global, o que for maior.

Não é só OpenAI e Google

Os desenvolvedores de modelos também ficam sujeitos à lei e serão monitorados pelo AI Office, órgão recém-criado pela Comissão Europeia. Segundo Thibau Duquin, advogado de tecnologia e dados do escritório Stibbe, o alcance vai muito além dos nomes óbvios como OpenAI, Anthropic e Google DeepMind: ele cita empresas como Spotify, pelas recomendações baseadas em IA, e Adobe, pelos recursos de edição no Photoshop.

"Quando você começa a olhar, está em todo lugar, e todo esse conteúdo terá de ser rotulado a partir de agora", afirma Duquin à Wired.

O fantasma da "fadiga de rótulos"

Críticos alertam para o risco de sobrecarga de informação. "Rotulagem excessiva pode causar 'cegueira de banner' com notificações intermináveis", advertiu Boniface de Champris, líder de política de IA da Computer & Communications Industry Association. "Se tivermos de rotular tudo, de e-mails com corretor ortográfico a fotos com filtro, a rotulagem de conteúdo de IA perderá todo o sentido."

A reportagem compara o cenário ao do GDPR, a lei de privacidade que entrou em vigor em 2018 e introduziu os onipresentes pop-ups de consentimento de cookies, gerando a chamada "fadiga de cookies".

Prazos e implementação técnica

Muitos termos ainda não estão claros e dependem de orientações específicas das autoridades, aponta Frederiek Fernhout, também da Stibbe. "É muito técnico, então esses requisitos precisam ser embutidos nos sistemas subjacentes, o que complica."

A União Europeia estabeleceu um período de transição até dezembro para que provedores de modelos rotulem áudio, imagem, vídeo ou texto sintéticos em formato legível por máquina, reconhecendo o desafio técnico da tarefa. Outros prazos do AI Act já foram adiados, porque o AI Office demorou mais que o esperado para produzir diretrizes de conformidade.

Os 27 países-membros também estão em estágios diferentes de montagem de seus frameworks de supervisão. Por isso, a fiscalização "pode não ser tão imediata ou uniforme quanto pensamos", diz Rosie Nance, advogada de regulação de dados e IA da Norton Rose Fulbright.

O que isso significa para quem desenvolve no Brasil

Para times brasileiros que constroem produtos com clientes ou usuários na União Europeia, o recado é direto: transparência sobre uso de IA deixa de ser boa prática e passa a ser exigência legal, com multa atrelada a faturamento global. Isso implica pensar arquitetura desde o começo:

• Marcação de conteúdo sintético em formato legível por máquina (uma discussão que dialoga com iniciativas como o padrão C2PA de proveniência de conteúdo).
• Fluxos de aviso ao usuário em chatbots, centrais e recursos de recomendação.
• Rastreabilidade de quando e onde a IA foi aplicada no produto.

Como resume Duquin, a pergunta que as empresas terão de responder é se estão dispostas a assumir o risco de serem transparentes sobre o quanto usam IA, ou se vão recuar para sistemas que não dependem dela. Para o desenvolvedor, a decisão de produto vira também decisão de engenharia, e vale acompanhar as diretrizes que o AI Office ainda vai publicar antes de comprometer a arquitetura.

Fonte: Wired