Tem uma linha muito tênue entre “responder sobre saúde” e “exercer medicina”. E o Muse Spark, primeiro modelo saído da divisão de superinteligência artificial da Meta, chegou exatamente nessa fronteira.

Anunciado essa semana, o modelo é multimodal, processa texto, imagem e contexto de forma integrada, e foi desenhado para atuar em situações reais, incluindo apoio a análises clínicas e interpretação de informações médicas. Para quem desenvolve produtos com IA, isso abre um baita leque de possibilidades. Mas também acende um alerta que vai muito além do hallucination_rate do seu benchmark favorito.

O bug não está no modelo, está em quem confia nele

O advogado Alexander Coelho, sócio do Godke Advogados e especialista em Direito Digital e IA, coloca o dedo na ferida com precisão cirúrgica (sem trocadilho):

“Não é necessário que o sistema se declare médico para produzir efeitos jurídicos relevantes. Basta que o usuário atribua credibilidade suficiente à resposta para segui-la.”

Traduzindo para o contexto de produto: não importa se o seu sistema prompt diz “você não é médico”. Se o output parece autoritativo, usa linguagem natural sofisticada e chega via interface confiável, o usuário trata aquilo como diagnóstico. Esse é o vetor de risco real, não o modelo em si, mas a ilusão de precisão que ele projeta.

Para quem constrói em cima de LLMs, isso tem implicação direta no design de features. Um chatbot de saúde com retrieval sobre bulas, um app de triagem com histórico clínico, uma feature de “resumo de exames”, todos passam a operar numa zona cinzenta que a regulação vai endereçar mais cedo ou mais tarde.

LGPD: o dado que você não coletou ainda pode te processar

Aqui está o ponto que a maioria dos times de produto ignora até virar problema de compliance: inferência também é dado sensível.

Mesmo que seu sistema não peça explicitamente informações de saúde, um modelo com a sofisticação do Muse Spark pode inferir condições médicas, padrões comportamentais e vulnerabilidades a partir de interações aparentemente banais. E segundo Coelho:

“A LGPD não distingue com tanta facilidade entre dado fornecido e dado inferido. Ambos podem produzir efeitos jurídicos relevantes.”

Na prática: base legal, finalidade e transparência precisam cobrir não só o que o usuário digita, mas o que o modelo consegue deduzir. Isso muda a conversa sobre arquitetura de dados, logs de interação e até sobre quanto contexto você passa pra janela do modelo.

PL 2.338 e o enquadramento como dispositivo médico: o que vem aí

No campo regulatório, a pergunta que vai dominar os próximos meses é: quando uma IA de saúde vira dispositivo médico?

O PL 2.338/2023, o projeto de lei brasileiro de IA, caminha para classificar aplicações em saúde como alto risco. Isso significa requisitos mais rígidos de auditabilidade, explicabilidade e responsabilização. E não vai ficar só na teoria.

O Marco Civil da Internet também entra nessa equação, mas por um ângulo novo: não mais apenas moderação de conteúdo, mas responsabilidade por decisões mediadas por algoritmo. Quem decide, afinal, quando um output de LLM vira uma “decisão”? Essa é a pergunta que legisladores e autoridades sanitárias vão ter que responder, e que vai impactar diretamente como você documenta, versiona e expõe seus modelos em produção.

O que muda na prática pra quem desenvolve

Algumas perguntas que valem levar pra próxima sprint review se você trabalha com IA aplicada à saúde:

• Seu sistema de disclaimer está no nível de UI ou está embutido na lógica de geração?

• Você tem rastreabilidade sobre o que o modelo infere além do que o usuário explicitamente fornece?

• Sua base legal de LGPD cobre dados inferidos ou só dados declarados?

• Se o seu produto for enquadrado como dispositivo médico amanhã, o que quebra na sua arquitetura?

A tecnologia avança em ciclos de meses. A regulação, em ciclos de anos. Mas como Coelho resume: “o que realmente decide o jogo é quem controla a confiança do usuário”.

E confiança, diferente de parâmetros de modelo, não tem rollback.

Fontes: Alexander Coelho, sócio do Godke Advogados, especialista em Direito Digital, IA e Cibersegurança. Membro da Comissão de IA e Privacidade da OAB/SP. Certificado CDPO e CIPM pela IAPP.