Participo de um grupo de debates que transita entre filosofia e IA e, a cada quinze dias, fazemos um encontro virtual bastante instigante. Em um dos últimos encontros discutimos o papel da IA na descoberta científica. A conversa rapidamente chegou a uma questão muito mais filosófica do que técnica: afinal, o que significa criar conhecimento?

Se criar conhecimento significasse produzir algo absolutamente desvinculado de tudo o que veio antes, talvez a humanidade nunca tivesse produzido conhecimento. A teoria da relatividade não surgiu do nada. A mecânica quântica também não. Darwin apoiou-se em décadas de observações e em ideias desenvolvidas por inúmeros naturalistas. A ciência sempre avançou construindo sobre conhecimento anterior.

Mas também não avança apenas por recombinação de ideias. Muitas descobertas nasceram da observação de fenômenos inesperados, da invenção de novos instrumentos, como o microscópio e o telescópio, ou da disponibilidade de novos dados. Ciência combina criatividade, teoria, observação e experimentação.

Por isso, a afirmação de que “LLMs não criam nada novo, apenas reorganizam conhecimento existente” parece intuitiva, mas simplifica demais a questão.

Um dos participantes usou o seguinte exemplo: se um LLM fosse treinado apenas com técnicas de fabricação de ferramentas de pedra, ele jamais ensinaria alguém a produzir uma faca de aço.

Esse exemplo está correto. Se metalurgia nunca fez parte do universo de treinamento, não há razão para esperar que o modelo descubra, sozinho, mineração, fundição, ligas metálicas e fabricação de aço.

Mas essa constatação não demonstra que os LLMs “não criam nada novo”. Apenas mostra que, assim como nós, eles dependem de uma base prévia de conhecimento para explorar novas possibilidades.

Durante a inferência, um LLM não recupera frases prontas como um mecanismo de busca. A partir das representações aprendidas durante o treinamento, constrói novas sequências de texto e estabelece relações entre conceitos em uma escala praticamente impossível para um ser humano. A maioria dessas combinações não tem valor. Algumas são incorretas. Outras podem sugerir hipóteses que ainda não haviam sido consideradas pelos pesquisadores naquele contexto. Mas hipóteses não são conhecimento.

Desde Platão costuma-se distinguir opinião, crença e conhecimento. Na ciência, o critério é ainda mais rigoroso. Uma hipótese só passa a integrar o conhecimento quando sobrevive ao confronto com a realidade: experimentação, reprodução independente, revisão por pares e escrutínio da comunidade científica.

É justamente aí que está o limite atual dos LLMs. Eles podem sugerir novas linhas de investigação, combinar teorias de áreas diferentes, auxiliar na exploração de arquiteturas alternativas ou identificar relações improváveis entre informações dispersas. Mas, atualmente, não conduzem autonomamente experimentos nem validam empiricamente suas próprias hipóteses.

A pergunta correta não é se um LLM “cria conhecimento”. A pergunta deve ser em qual etapa da descoberta científica ele pode contribuir?

Existe ainda uma etapa frequentemente esquecida: antes das hipóteses vêm as perguntas. A história da ciência mostra que grandes descobertas muitas vezes começaram menos por respostas extraordinárias do que por perguntas que ninguém havia feito. Talvez, no futuro, os LLMs também contribuam para formular novas perguntas. Hoje, porém, sua maior contribuição parece estar na ampliação do espaço de hipóteses que merece ser investigado.

Embora Karl Popper tenha enfatizado principalmente a importância da refutação das hipóteses, a filosofia da ciência contemporânea reconhece que o avanço científico depende tanto da geração quanto da eliminação de hipóteses. É justamente nessa primeira etapa que os LLMs parecem particularmente promissores.

O modelo pode sugerir: “Existe uma possível relação entre estas duas proteínas.” Mas isso não constitui evidência. Ainda será necessário projetar experimentos, coletar dados, controlar variáveis, realizar análises estatísticas, reproduzir os resultados em outros laboratórios e submeter o trabalho à revisão por pares. O método científico continua sendo o mecanismo que transforma hipóteses em conhecimento.

Os LLMs não substituirão os cientistas. Mas podem transformar profundamente uma das fases mais criativas da pesquisa: a exploração de possibilidades. O conhecimento continuará surgindo apenas quando essas possibilidades sobreviverem ao teste da realidade. Mas, se conseguirmos explorar um espaço muito maior de hipóteses, talvez a própria dinâmica da descoberta científica comece a mudar.