Modèles Locaux¶
L'application de bureau prend en charge l'inférence LLM locale via Ollama.
Configuration¶
- Installez Ollama depuis ollama.ai
- Téléchargez un modèle :
bash ollama pull llama3 ollama pull mistral - Dans l'application de bureau, sélectionnez un modèle local dans le menu déroulant des modèles (préfixé par
ollama/)
Modèles Prise en Charge¶
| Modèle | Commande de Téléchargement |
|---|---|
| Llama 3 | ollama pull llama3 |
| Mistral | ollama pull mistral |
| Phi-3 | ollama pull phi3 |
Les modèles locaux fonctionnent entièrement sur votre matériel — aucune donnée ne quitte votre machine.