Локальные Модели¶
Десктопное приложение поддерживает локальный вывод LLM через Ollama.
Настройка¶
- Установите Ollama с ollama.ai
- Загрузите модель:
bash ollama pull llama3 ollama pull mistral - В десктопном приложении выберите локальную модель из выпадающего списка моделей (с префиксом
ollama/)
Поддерживаемые Модели¶
| Модель | Команда для загрузки |
|---|---|
| Llama 3 | ollama pull llama3 |
| Mistral | ollama pull mistral |
| Phi-3 | ollama pull phi3 |
Локальные модели полностью работают на вашем оборудовании — никакие данные не покидают ваш компьютер.