Meta, la maison mère de Facebook, a récemment présenté JEPA (Joint Embedding Predictive Architecture), un nouveau modèle d'intelligence artificielle (IA) développé par Yann LeCun, le « AI chief scientist » du groupe. JEPA est conçu pour aller au-delà des modèles d'IA actuels en étant capable de comprendre le monde sous-jacent, d'apprendre, de raisonner et de planifier des tâches de manière avancée.

Contrairement aux modèles d'IA générative traditionnels, JEPA se base sur des représentations abstraites d'images ou de sons, reproduisant ainsi le fonctionnement du cerveau humain qui analyse quotidiennement une grande quantité d'informations en observant son environnement. Cette approche permet aux modèles d'apprendre de manière autonome, sans avoir à deviner les informations manquantes, réduisant ainsi les erreurs de génération de texte ou d'image.

Plus rapide, moins gourmand

JEPA présente également l'avantage d'être plus rapide et de nécessiter moins de puissance informatique que les modèles d'IA existants. Yann LeCun estime que les modèles de langage larges, tels que ChatGPT, seront progressivement remplacés par des modèles comme JEPA dans les années à venir. Bien que cette évolution prenne du temps, il prédit que les premières versions d'IA basées sur JEPA pourraient atteindre un niveau d'intelligence similaire à celui des chiens.

L'un des premiers cas d'utilisation envisagés pour JEPA est la reconnaissance d'images. Meta, qui utilise déjà l'IA pour filtrer les contenus terroristes ou pornographiques sur ses plateformes, pourra exploiter JEPA dans ce domaine. À plus long terme, cette IA pourrait être utilisée pour développer des stratégies marketing, rédiger des argumentaires juridiques et bien d'autres applications encore.

JEPA open source

Meta souhaite également démontrer, face à OpenAI, créateur de ChatGPT, qu'il reste un acteur puissant dans le domaine de l'IA. Naila Murray, directrice de la recherche de FAIR (Facebook AI Research) pour la zone EMEA, affirme que l'idée selon laquelle Meta serait en retard en IA est fausse, soulignant que l'entreprise utilise l'IA en interne depuis de nombreuses années, même si ses projets passés étaient peut-être moins médiatiques.

Bien que Meta ait rendu JEPA open source, permettant ainsi à la communauté des développeurs et des chercheurs de contribuer à son amélioration, le groupe reste prudent quant à l'avenir. Avec la rapidité à laquelle le domaine de l'IA évolue, il est possible qu'un modèle encore différent s'impose à l'avenir. Joëlle Pineau, vice-présidente de la recherche en IA chez Meta, reconnaît qu'il reste encore trente années de recherche à venir dans ce domaine.

Une évolution rapide

Il est clair que l'IA continue d'évoluer rapidement, avec des avancées telles que JEPA qui cherchent à repousser les limites de l'intelligence artificielle et à s'approcher de l'intelligence humaine, voire à la dépasser. L'avenir promet des développements passionnants dans ce domaine en constante évolution.