Перейти к содержанию

Локальные Модели

Десктопное приложение поддерживает локальный вывод LLM через Ollama.

Настройка

  1. Установите Ollama с ollama.ai
  2. Загрузите модель: bash ollama pull llama3 ollama pull mistral
  3. В десктопном приложении выберите локальную модель из выпадающего списка моделей (с префиксом ollama/)

Поддерживаемые Модели

Модель Команда для загрузки
Llama 3 ollama pull llama3
Mistral ollama pull mistral
Phi-3 ollama pull phi3

Локальные модели полностью работают на вашем оборудовании — никакие данные не покидают ваш компьютер.