Comment utiliser Llama 2 ? La guide complet

Llama (Large Language Model Meta AI) est le “Grand modèle de langage” (LLM) de Meta, l’entreprise parent de Facebook. Le modèle est open-source et accessible gratuitement sur internet.

Pour utiliser Llama 2, vous pouvez vous rendre sur Perplexity Labs et interagir directement avec le chat comme vous le feriez avec ChatGPT. Vous pouvez aussi télécharger le modèle et le faire tourner sur votre machine, ou encore y accéder depuis le Cloud.

C’est quoi Llama 2 ?

Llama 2 est le “large langage model” développé par Meta (Facebook) qu’ils ont entraîné sur une collection de données venant d’internet. C’est le successeur de Llama 1 qui date de 2019 et qui a été rendu public en début d’année 2023.

Llama 2 fait partie des Grands modèles de langage comme ChatGPT qui utilisent “Transformer” pour générer du texte. Ces modèles sont entraînés pour prédire les mots suivants en répondant à un prompt.

💡 Vous voulez en apprendre plus sur OpenAI, GPT et ChatGPT ? Alors mon article sur ChatGPT vous intéressera sûrement !

Le LLM de Meta a de très bons résultats dans les différents benchmarks (comme le GLUE) et est plus puissant que GPT-4 sur de nombreux points.

Comment accéder à Llama ?

De nombreuses manières existent pour avoir accès à Llama. Vous pouvez l’installer sur votre ordinateur, y acceder depuis des pages internet ou encore utiliser des services cloud.

Voyons les différentes options ensemble.

1. Directement sur un site web

Le moyen le plus simple d’accéder à Llama 2 est depuis le site llama2.ai. Ce site est hébergé par Replicate et permet d’interagir directement avec le chatbot sans devoir s’inscrire ni payer.

Une autre alternative (qui comprend le français) est depuis Perplexity Chat. Là non-plus, pas besoin de s’inscrire ou payer, vous pouvez communiquer directement avec le chatbot.

Pensez bien à choisir Llama 2 ou le modèle que vous voulez dans la liste déroulante en bas à droite.

2. En téléchargeant le modèle

LLaMA 2 est open-source et vous pouvez télécharger les modèles de différentes tailles sur le site officiel de meta.

💡 Meta demande de remplir un formulaire pour pouvoir télécharger ses modèles Llama 2 et Code Llama. Vous pouvez trouver le formulaire directement sur ce lien.

Vous pouvez aussi passer par HuggingFace pour telecharger llama2. Je vous conseille de lire la documentation sur le sujet.

3. Dans le Cloud avec Microsoft Azure

Llama 2 est aussi disponible sur Microsoft Azure. Vous aurez besoin d’un compte Microsoft et d’un plan payant Microsoft Azure pour accéder à llama avec le service cloud de microsoft.

4. Dans le Cloud avec Amazon SageMaker

Amazon SageMaker vous permet d’avoir accès à Llama 2 en quelques clics grâce à JumpStart. Connectez-vous puis cherchez le service SageMaker, ensuite cliquez sur SageMaker dans le panneau de gauche et vous trouverez les différents modèles Llama.

💡 Si vous ne trouvez pas Llama, c’est peut-être parce que vous êtes sur une région pour laquelle ce n’est disponible. Passez sur une autre région comme us-east-1 pour les voir apparaître.

SageMaker fait partie d’AWS, si vous voulez en apprendre plus sur les services Cloud d’Amazon, j’ai écrit un article complet sur les Amazon Web Services.

Code Llama

Code Llama est le modèle Llama qui a été entraîné sur du code open-source pour aider les développeurs dans leur quotidien. Le modèle répondra à vos questions sur la programmation en fournissant des exemples de code. Il sera aussi capable d’expliquer ou optimiser du code qui vous lui donnez.

Le modèle fonctionne sur de nombreux langages comme Python, JavaScript, Java, C++ et les autres.

Vous pouvez consulter le code de Code Llama sur github ou l’essayer sur le site de Perplexity Labs en choisissant bien le modèle codellama-x-instruct.