Yann LeCun e Randall Balestriero apresentam prova matemática da hipótese da representação platónica em modelos JEPA
Um artigo publicado a 29 de outubro de 2026 por Randall Balestriero e Yann LeCun apresenta a primeira demonstração formal de que arquiteturas JEPA treinadas em diferentes modalidades convergem para a mesma representação do mundo.
A "hipótese da representação platónica" sugere que modelos de inteligência artificial treinados com dados muito diferentes — texto, imagem, vídeo — tendem a convergir, à medida que aumentam de escala, para uma representação partilhada da realidade subjacente. Até agora, esta ideia carecia de uma prova matemática rigorosa. O artigo de Balestriero e LeCun formaliza-a como um teorema aplicado às arquiteturas JEPA (Joint-Embedding Predictive Architectures), demonstrando que, quando os pares de treino correspondem a "boas vistas" da mesma cena, os modelos aprendem representações idênticas a menos de uma rotação, independentemente da modalidade usada.
Os autores argumentam ainda que a previsão do próximo token, técnica central dos grandes modelos de linguagem atuais, corresponde a um caso de JEPA que utiliza "más vistas" — fragmentos de um mesmo documento, em vez de perspetivas distintas de uma cena real. Isto explicaria, segundo o artigo, por que razão os modelos de linguagem só se alinham bem com modelos de visão quando atingem escalas muito elevadas.
Nos testes empíricos, que abrangeram desde conjuntos de 145 mil legendas de imagens até textos associados a 940 milhões de imagens da internet, os autores mostram que usar "boas vistas" permite atingir o mesmo nível de alinhamento com 42 vezes menos exemplos de treino do que a previsão do próximo token. Um modelo de texto JEPA com apenas 109 milhões de parâmetros conseguiu alinhar-se melhor com codificadores de imagem como o DINOv2 e o CLIP do que modelos de linguagem até 72 mil milhões de parâmetros.
Perguntas frequentes
O que é a hipótese da representação platónica?
É a ideia de que modelos de IA treinados com tipos de dados muito diferentes tendem, à medida que aumentam de escala, a convergir para uma representação partilhada da realidade subjacente aos dados.
Qual é a principal descoberta do artigo de LeCun e Balestriero?
Os autores provam matematicamente que modelos JEPA treinados com pares de dados que representam a mesma cena ('boas vistas') convergem para representações idênticas a menos de uma rotação, e mostram que isto exige até 42 vezes menos dados de treino do que a abordagem de previsão do próximo token usada nos grandes modelos de linguagem.
Fontes
- arXiv arxiv.org
- Hugging Face Daily Papers huggingface.co
Resumo editorial em português feito com apoio de inteligência artificial a partir das fontes indicadas. Como fazemos o Boletim IA.