JEPA (Joint-Embedding Predictive Architecture) : explication
Summary
Cet article présente JEPA (Joint-Embedding Predictive Architecture) et explique comment Yann LeCun propose de dépasser les LLM en s’appuyant sur la prédiction dans l’espace latent et les world models. Il décrit l’évolution de JEPA (I-JEPA, V-JEPA, V-JEPA 2 et variantes), les preuves de concept et les implications industrielles, tout en soulignant les limites actuelles et les défis à relever.