Utiliser PEFT sur Hugging Face

🤗 Parameter-Efficient Fine-Tuning (PEFT) est une bibliothèque permettant d'adapter efficacement des modèles de langage pré-entraînés à diverses applications en aval, sans réentraîner l'ensemble des paramètres du modèle.

Explorer PEFT sur le Hub

Vous pouvez trouver des modèles PEFT en filtrant à gauche de la page des modèles.

Installation

Pour commencer, vous pouvez consulter le tour rapide de la documentation PEFT. Pour l'installation, suivez le guide d'installation de PEFT. Vous pouvez également utiliser l'installation en une ligne suivante via pip :

$ pip install peft

Utilisation de modèles existants

Tous les modèles PEFT peuvent être chargés depuis le Hub. Pour utiliser un modèle PEFT, vous devez également charger le modèle de base qui a été ajusté finement, comme indiqué ci-dessous. Chaque modèle ajusté finement indique le modèle de base dans sa carte de modèle.

from transformers import AutoModelForCausalLM, AutoTokenizer
from peft import PeftModel, PeftConfig

base_model = "mistralai/Mistral-7B-v0.1"
adapter_model = "dfurman/Mistral-7B-Instruct-v0.2"

model = AutoModelForCausalLM.from_pretrained(base_model)
model = PeftModel.from_pretrained(model, adapter_model)
tokenizer = AutoTokenizer.from_pretrained(base_model)

model = model.to("cuda")
model.eval()

Une fois chargés, vous pouvez passer vos entrées au tokenizer pour les préparer, puis appeler model.generate() de manière classique avec transformers.

inputs = tokenizer("Tell me the recipe for chocolate chip cookie", return_tensors="pt")

with torch.no_grad():
    outputs = model.generate(input_ids=inputs["input_ids"].to("cuda"), max_new_tokens=10)
    print(tokenizer.batch_decode(outputs.detach().cpu().numpy(), skip_special_tokens=True)[0])

Il affiche ce qui suit :

Tell me the recipe for chocolate chip cookie dough.

1. Preheat oven to 375 degrees F (190 degrees C).
2. In a large bowl, cream together 1/2 cup (1 stick) of butter or margarine, 1/2 cup granulated sugar, and 1/2 cup packed brown sugar.
3. Beat in 1 egg and 1 teaspoon vanilla extract.
4. Mix in 1 1/4 cups all-purpose flour.
5. Stir in 1/2 teaspoon baking soda and 1/2 teaspoon salt.
6. Fold in 3/4 cup semisweet chocolate chips.
7. Drop by

Si vous souhaitez charger un modèle PEFT spécifique, vous pouvez cliquer sur Use in PEFT dans la fiche du modèle et un extrait de code fonctionnel vous sera fourni !

Ressources supplémentaires

• Dépôt PEFT
• PEFT documentation
• Modèles PEFT models