Pesquisa descreve um método que extrai explicações de modelos preditivos e as verifica em fMRI.
Cientistas da Microsoft Research, em colaboração com pesquisadores da UC Berkeley, UCSF e Columbia, apresentam um método chamado testes causais generativos que transforma modelos de linguagem de grande escala em hipóteses verificáveis sobre o córtex. De acordo com o artigo aceito em Nature Neuroscience, o procedimento usa um LLM para resumir padrões que mais influenciam a previsão de atividade cerebral e, em seguida, gera histórias sintéticas testadas por fMRI. Três sujeitos voltaram ao escâner para verificar as explicações propostas.
O problema da explicabilidade
Na última década, LLMs mostraram-se eficazes para prever como o cérebro responde ao idioma em tarefas com fMRI. Contudo, conforme os autores, esses modelos funcionam como caixas‑negras: predizem atividade em regiões, mas não indicam claramente o que cada região detecta, como comida, lugares ou números. Essa lacuna entre predição e compreensão motivou a busca por um método que gere teorias verificáveis a partir de modelos baseados em dados.
Como funciona o método
O método em dois passos parte de um modelo preditivo para um único vóxel ou região cortical. Primeiro, identifica as frases que mais impulsionam a resposta prevista dessa região e pede a um LLM para resumir essas frases em uma explicação curta, por exemplo “preparação de alimentos” ou “nomes de lugares”.
Em seguida, o LLM escreve novas histórias—parágrafos construídos de maneira a corresponder à explicação candidata. Três sujeitos ouviram essas histórias no escâner. Se a atividade da região alvo em resposta às histórias sintéticas exceder a linha de base de forma significativa, a explicação passa de correlacional para uma prova causal genuína.
Resultados e validação
Nos participantes testados, as histórias sintéticas fizeram com que as regiões alvo superassem a linha de base, o que indica que as explicações breves geradas pela GCT capturam propriedades reais da resposta cortical. As explicações também se mostraram mais confiáveis quando os modelos preditivos subjacentes eram mais estáveis, conforme observado pelos autores.
Com o método validado em regiões de seletividade já conhecida, a equipe aplicou a GCT a questões mais complexas. Por exemplo, as explicações rotuladas como “Ubicaciones”/”nomes de lugares” produziram respostas fortes em áreas associadas a lugares, como RSC, OPA e PPA. Em outro caso, a explicação “preparação de alimentos” ativou uma região na córtex occipital ventral próxima à área fusiforme da face (FFA).
Diferenciação de regiões vizinhas e novas microregiões
A GCT também ajudou a resolver ambiguidades entre regiões vizinhas. Três áreas relacionadas ao processamento de lugares—corteza retroesplénica (RSC), PPA e OPA—já haviam sido tratadas como funcionalmente similares. No início, estímulos projetados para uma região ativavam as outras. Ao gerar estímulos diferenciais, o método distinguiu as três: por exemplo, RSC responde com maior força a nomes próprios de localização, como Tokio ou Connecticut, em vez de referências de localização genéricas.
Além disso, a equipe identificou novas microregiões no pré‑frontal. Ao escanear uma grade de locais candidatos e selecionar os mais estáveis, a GCT revelou áreas com seletividade a conceitos específicos: uma ligada a diálogo entre pessoas (palavras como “disse”), outra a menções a horários de relógio (“uma em ponto”) e outra a medidas numéricas (“50 pés”). Essas distinções surgiram porque o método permite propor e testar hipóteses imediatamente.
Implicações e desdobramentos
Os autores afirmam que a importância da GCT extrapola a neurociência: modelos que predizem bem, mas não explicam, são cada vez mais comuns em várias áreas. A GCT mostra que modelos baseados em dados podem ser destilados em teorias legíveis e testáveis experimentalmente, por meio da geração de experimentos sob demanda. Em neurociência, o método sugere um caminho para mapear o córtex de forma mais rápida e rica em hipóteses, com um ciclo fechado entre proposta gerada por IA e verificação humana em fMRI.
Agradecimentos e fontes
O trabalho é uma colaboração entre Microsoft Research, UC Berkeley (Alex Huth, Bin Yu, Sihang Guo e Aliyah Hsu), Universidade de Columbia (RJ Antonello, co‑líder) e UCSF (Shailee Jain). Os pesquisadores também agradecem os participantes do estudo e a comunidade de neurociência do idioma cujas ferramentas e conjuntos de dados possibilitaram a pesquisa. Leia o artigo “Pruebas causales generativas para unir modelos basados en datos y teorías científicas en neurociencia del lenguaje”, aceito em Nature Neuroscience, e consulte o código no Github indicado pelos autores.
Assuntos nesse artigo:
#testescausaisgenerativos, #gct, #modelosdelinguagem, #llm, #neurocienciadolinguagem, #cortex, #fmri, #microsoftresearch, #ucberkeley, #ucsf, #columbia, #natureneuroscience, #hipoteses, #voxel, #regiaocerebral, #historiasinteticas, #explicabilidade, #mapeamentocortical, #fusiforme, #ppa