Fine-tuning : réentraîner un modèle

Le fine-tuning entraîne davantage un modèle déjà finalisé avec ses propres exemples, afin de le spécialiser sur une tâche ou un ton.

Qu'est-ce que le fine-tuning ?

Lors du fine-tuning, un modèle de langage déjà préentraîné est entraîné davantage avec un jeu de données propre, plus restreint. Contrairement au prompting, cela modifie réellement les poids du modèle : le comportement s'adapte durablement aux exemples, sans que vous ayez à fournir des instructions à chaque requête.

À quoi le fine-tuning est utile

Adopter de façon cohérente un ton ou un style précis (par exemple la communication de marque)
Respecter fiablement un format de sortie fixe
Apprendre un jargon spécialisé ou des schémas de tâches trop complexes à expliquer dans le prompt

À quoi le fine-tuning n'est PAS utile

Le fine-tuning est peu adapté pour intégrer de façon fiable de nouvelles connaissances factuelles : le modèle « apprend » plutôt des motifs et un style que des faits exacts et récupérables. Pour des connaissances actuelles ou qui changent souvent, le RAG est généralement le choix meilleur et plus économique, car il ne nécessite pas de réentraînement.

Cadre pratique

OpenAI propose une API de fine-tuning pour certains modèles sélectionnés. Les modèles Claude peuvent être adaptés pour des clients professionnels via Amazon Bedrock au moyen de la Model Customization, plutôt que via une API publique grand public. Le fine-tuning nécessite en outre des données d'exemple soigneusement sélectionnées : des exemples de mauvaise qualité ou trop peu nombreux produisent un modèle moins bon, pas meilleur.