Modelos Locais¶
O aplicativo de desktop suporta inferência LLM local via Ollama.
Configuração¶
- Instale o Ollama a partir de ollama.ai
- Baixe um modelo:
bash ollama pull llama3 ollama pull mistral - No aplicativo de desktop, selecione um modelo local no menu suspenso de modelos (prefixado com
ollama/)
Modelos Suportados¶
| Modelo | Comando de Pull |
|---|---|
| Llama 3 | ollama pull llama3 |
| Mistral | ollama pull mistral |
| Phi-3 | ollama pull phi3 |
Modelos locais são executados inteiramente no seu hardware — nenhum dado sai da sua máquina.