Meta a récemment dévoilé Llama 3.1, la dernière version de son modèle de langage avancé, qui, selon l’entreprise, rivalise désormais avec ceux d’OpenAI et d’Anthropic. Ce lancement intervient seulement trois mois après l’introduction de Llama 3, qui a été intégré dans Meta AI, un chatbot accessible sur Facebook, Messenger, Instagram et WhatsApp, et qui alimente également les lunettes intelligentes de la société. Pendant ce temps, OpenAI et Anthropic ont déjà mis à jour leurs propres modèles d’IA, témoignant de la compétition acharnée qui règne dans la Silicon Valley.
Le modèle Llama 3.1 405B est présenté par Meta comme le premier modèle ouvert capable de rivaliser avec ses concurrents en matière de connaissances générales, de compétences mathématiques et de traduction dans plusieurs langues. Ce modèle a été entraîné sur plus de 16 000 GPU NVIDIA H100, les puces les plus rapides actuellement disponibles, coûtant environ 25 000 dollars chacune, et il serait capable de surpasser ses rivaux sur plus de 150 critères d’évaluation, selon les affirmations de Meta.
Le terme « 405B » fait référence à 405 milliards de paramètres, qui sont des variables internes utilisées par un modèle d’IA pour raisonner et prendre des décisions. Plus un modèle d’IA possède de paramètres, plus il est perçu comme intelligent. En comparaison, le modèle GPT-4 d’OpenAI aurait environ 1,5 trillion de paramètres, bien que l’entreprise n’ait pas encore divulgué ce chiffre. De plus, Meta a également lancé des versions améliorées de ses modèles Llama existants, contenant respectivement 70 milliards et 8 milliards de paramètres, en affirmant que ces nouvelles versions possédaient de meilleures capacités de raisonnement.
Les développeurs peuvent télécharger Llama 3.1 depuis le site officiel, tandis que les utilisateurs ordinaires peuvent l’expérimenter via Meta AI sur WhatsApp ou sur meta.ai, le site dédié au chatbot de l’entreprise. Selon le blog de Meta, « les capacités de raisonnement améliorées de Llama 405B permettent à Meta AI de comprendre et de répondre à des questions plus complexes, notamment en mathématiques et en programmation. » Les utilisateurs peuvent ainsi obtenir de l’aide pour leurs devoirs de mathématiques avec des explications détaillées et des retours, ou écrire du code plus rapidement avec un support de débogage et d’optimisation. Pour l’instant, Meta AI sur Facebook, Messenger et Instagram utilise encore la version plus petite de Llama 3.1, qui ne dispose que de 70 milliards de paramètres.
Contrairement à OpenAI, Google, Microsoft et Anthropic, qui gardent leurs modèles d’IA sous clé, les modèles d’IA de Meta sont open source, ce qui signifie que tout le monde peut les modifier et les utiliser gratuitement, sans avoir à partager des données personnelles avec Meta. Dans une lettre publiée mardi, le PDG de Meta, Mark Zuckerberg, a soutenu qu’une approche open source du développement de l’IA garantirait un accès plus large aux avantages de cette technologie, éviterait la concentration de pouvoir entre quelques grandes entreprises et permettrait un déploiement plus sûr de l’IA dans la société. En rendant son plus grand modèle de langage à ce jour accessible en open source, Meta vise à établir Llama comme « la norme de l’industrie » pour le développement d’applications et de services alimentés par l’IA.
L’ouverture des modèles d’IA et leur intégration dans des produits déjà utilisés par des milliards de personnes pourraient permettre à Meta de rivaliser plus efficacement avec OpenAI, dont les chatbots ChatGPT et DALL-E ont déclenché une explosion de l’IA lors de leur lancement en 2022. Cela pourrait également accroître l’engagement des utilisateurs : Meta a annoncé que les utilisateurs pourraient bientôt ajouter des images générées par l’IA directement dans leurs fils d’actualité, histoires, commentaires et messages sur Facebook, Messenger, WhatsApp et Instagram.
Dans sa lettre, Zuckerberg a également critiqué Apple et son écosystème fermé, arguant que les politiques restrictives et arbitraires du fabricant d’iPhone limitaient ce que Meta pouvait développer sur ses plateformes. « Il est clair que Meta et de nombreuses autres entreprises seraient libérées pour créer de meilleurs services pour les utilisateurs si nous pouvions développer les meilleures versions de nos produits et que nos concurrents ne pouvaient pas restreindre ce que nous pouvions construire », a-t-il écrit.