Подключение к модели
ZmNx·AI не содержит моделей внутри — он работает с твоими серверами моделей. Поддерживаются:
| Сервер | Где обычно живёт |
|---|---|
| Ollama | на этом же компьютере или на сервере в сети |
| LM Studio | на этом же компьютере |
| vLLM | на сервере с видеокартами |
| Любой OpenAI-совместимый | внутренние серверы моделей |
Три шага
- Адрес сервера и, если сервер его требует, API-ключ.
- Тип сервера приложение определит само.
- Модель выбирается из списка уже загруженных на сервере.
Галочка «Открывать с этой моделью при запуске» делает выбранную модель моделью по умолчанию.
Типичные адреса
| Сервер | Адрес по умолчанию |
|---|---|
| Ollama | http://localhost:11434 |
| LM Studio | http://localhost:1234 |
| vLLM | http://localhost:8000 |
| Свой OpenAI-совместимый (llama.cpp и др.) | http://localhost:8080 |
Если сервер на другом компьютере — вместо localhost его имя или IP, например 192.168.1.50:11434. http:// и /v1 в конце можно не писать. При первом запуске приложение само заводит два подключения — Ollama и LM Studio на этом компьютере; остальные добавляются в «Подключения» → «Новое подключение».
Сервер моделей на другом компьютере должен принимать подключения из сети: у Ollama для этого задают OLLAMA_HOST=0.0.0.0:11434, у LM Studio включают раздачу в локальную сеть. Если сервер видно только с одного компьютера — поможет ZmNx Relay.
Служебные модели
Эмбеддинги, OCR и модели речи в списке скрыты — с ними не поговоришь, и выбирать их для чата незачем.
Индикатор облаков
Если адрес сервера окажется внешним (не твой компьютер и не твоя сеть), приложение это подсветит. Свои внутренние домены можно отметить как доверенные — тогда они не считаются «облаком».
Ключи
API-ключи хранятся зашифрованными через DPAPI: расшифровать их может только твоя учётная запись Windows. Пока ты вводишь ключ, глаза в интерфейсе жмурятся — не подглядывают.