Home
Modèles

Snowflake Cortex

Les modèles open source et commerciaux de Mistral AI peuvent être exploités depuis la plateforme Snowflake Cortex sous forme d'endpoints entièrement gérés. Les modèles Mistral sur Snowflake Cortex sont des services serverless, vous n'avez donc aucune infrastructure à gérer.

À ce jour, les modèles suivants sont disponibles :

  • Mistral Large
  • Mistral 7B

Pour plus de détails, consultez la page modèles.

Premiers pas

Premiers pas

Les sections suivantes décrivent les étapes pour interroger la dernière version de Mistral Large sur la plateforme Snowflake Cortex.

Accès au modèle

Accès au modèle

Les éléments suivants sont requis :

  • Le compte Snowflake associé doit se trouver dans une région compatible (voir la liste des régions dans la documentation Snowflake).
  • Le principal appelant le modèle doit disposer du rôle de base de données CORTEX_USER.
Interroger le modèle (Chat Completion)

Interroger le modèle (Chat Completion)

Le modèle peut être appelé soit directement en SQL soit en Python via Snowpark ML. Il est exposé via la fonction LLM COMPLETE.

Exécutez ce code soit depuis un notebook Snowflake hébergé soit depuis votre machine locale.

Pour une exécution locale, vous devez :

  • Créer un environnement virtuel avec le package suivant :
    • snowflake-ml-python (testé avec la version 1.6.1)
  • Vous assurer de disposer d'un fichier de configuration avec les identifiants appropriés sur votre système. L'exemple ci-dessous suppose que vous disposez d'une connexion nommée mistral configurée de manière appropriée.
from snowflake.snowpark import Session
from snowflake.ml.utils import connection_params
from snowflake.cortex import Complete

# Start session (local execution only)
params = connection_params.SnowflakeLoginOptions(connection_name="mistral")
session = Session.builder.configs(params).create()

# Query the model
prompt = "Who is the best French painter? Answer in one short sentence."
completion = Complete(model="mistral-large2", prompt=prompt)
print(completion)
Aller plus loin

Aller plus loin

Pour plus d'informations et d'exemples, vous pouvez consulter la documentation Snowflake pour :