Documentation

Un modèle, un binaire, une API.

Chaque modèle se lance en une commande et se pilote par HTTP et JSON. Pas de SDK à installer, pas de service distant.

Principe

Trois façons d’utiliser un modèle

Démarrer

Du téléchargement à la première réponse

Les commandes ci-dessous sont celles de l’application locale. Remplacez « plume » par « aludra », « krito », « nashira », « iris » ou « castor ».

Bon à savoir

Ce que fait l’application locale

Choisir selon sa machine

Quelle mémoire pour quel modèle ?

Les valeurs mesurées sont la mémoire utilisée pendant l’inférence, sur du matériel ordinaire. Prévoyez de la marge pour votre système et vos autres programmes.

Processeur x86-64 ou ARM64, sans carte graphique. Les mesures ne couvrent pas la qualité des réponses.

Obtenir le binaire d’un modèle

Dites-nous quel modèle et quelle machine. Nous vous indiquons l’édition qui convient et comment l’obtenir.