Azure AI

Les modèles ouverts et commerciaux de Mistral AI peuvent être déployés sur la plateforme cloud Microsoft Azure AI de deux manières :

• Services managés à l'usage : en utilisant des déploiements d'API serverless Model-as-a-Service (MaaS) facturés selon l'utilisation du point de terminaison. Aucun quota de capacité GPU n'est requis pour le déploiement.
• Endpoints temps réel : avec une facturation basée sur le quota liée à l'infrastructure GPU sous-jacente que vous choisissez de déployer.

À ce jour, les modèles suivants sont disponibles :

• Mistral Large 3 (25.12)
• Mistral Large (24.07, 24.11)
• Mistral Medium (25.05)
• Mistral Small (25.03)
• Mistral Document AI (25.05)
• Mistral OCR (25.05)
• Ministral 3B (24.10)
• Mistral Nemo
• Codestral (25.01)

Les sections suivantes décrivent les étapes pour déployer et interroger un modèle Mistral sur la plateforme Azure AI MaaS.

Suivez les instructions de la documentation Azure pour créer un nouveau déploiement pour le modèle de votre choix. Une fois déployé, notez l'URL correspondante et la clé secrète.

Les endpoints déployés exposent une API REST que vous pouvez interroger à l'aide des SDK Mistral, d'appels HTTPS et, dans certains cas, du SDK Microsoft Foundry.

Avant d'exécuter les exemples ci-dessous, assurez-vous de :

• Définir les variables d'environnement suivantes :
  • AZUREAI_ENDPOINT : votre URL de point de terminaison, qui doit être de la forme https://your-endpoint.inference.ai.azure.com/v1/chat/completions.
  • AZUREAI_API_KEY : votre clé secrète.

# This code requires a virtual environment with the following packages: mistralai>=2.0.0
from mistralai.azure.client import MistralAzure
import os
endpoint = os.environ.get("AZUREAI_ENDPOINT", "")
api_key = os.environ.get("AZUREAI_API_KEY", "")
# api_version defaults to "2024-05-01-preview" and is auto-injected as a query param
client = MistralAzure(server_url=endpoint,
                 api_key=api_key)
resp = client.chat.complete(messages=[
    {
        "role": "user",
        "content": "Who is the best French painter? Answer in one short sentence."
    },
], model="azureai")
if resp:
    print(resp)

# This code requires a virtual environment with the following packages: mistralai>=2.0.0
from mistralai.azure.client import MistralAzure
import os
endpoint = os.environ.get("AZUREAI_ENDPOINT", "")
api_key = os.environ.get("AZUREAI_API_KEY", "")
# api_version defaults to "2024-05-01-preview" and is auto-injected as a query param
client = MistralAzure(server_url=endpoint,
                 api_key=api_key)
resp = client.chat.complete(messages=[
    {
        "role": "user",
        "content": "Who is the best French painter? Answer in one short sentence."
    },
], model="azureai")
if resp:
    print(resp)

Pour plus de détails et d'exemples, consultez les ressources suivantes :

• Article de blog annonçant Mistral Document AI
• Article de blog annonçant Mistral Large 2 et Mistral NeMo
• Documentation Azure pour le déploiement MaaS des modèles Mistral
• Dépôt GitHub d'exemples Azure ML avec plusieurs échantillons basés sur Mistral.
• Dépôt GitHub Azure AI Foundry