Bonnes Pratiques

Techniques pour améliorer la qualité des sorties du modèle, contrôler le comportement de génération et évaluer les résultats. Couvre la conception de prompts, la configuration du sampling et les méthodes d'évaluation.

Dans cette section

  • Prompting : Conception de prompts système, exemples few-shot, séparation des rôles et stratégies de formatage des instructions pour les modèles Mistral.

  • Sampling : Tokenisation, temperature, top-p, pénalité de répétition et configuration des stop tokens.