**LlamaBarn** — это небольшой (всего 12 МБ) приложение для меню-бара macOS, разработанное организацией **ggml-org** (авторами популярного проекта llama.cpp). Его слоган: «Уютный дом для ваших LLM» (A cosy home for your LLMs).

### Основная цель

Упростить запуск локальных больших языковых моделей (LLM) на Mac до уровня «как подключиться к Wi-Fi». Оно скрывает всю сложность командной строки: скачивание моделей, квантизацию, настройку контекста и параметров под аппаратное обеспечение.

### Ключевые особенности

- Работает как иконка в меню-баре macOS (написано на Swift).

- Встроенный каталог моделей — показывает только те, которые совместимы с вашим Mac (учитывает объём RAM, чип Apple Silicon и т.д.).

- Автоматическая оптимальная конфигурация под ваше железо для максимальной производительности и стабильности.

- Тесная интеграция с **llama.cpp** (включает его напрямую в проект).

- При выборе модели запускает локальный сервер на ` http://localhost:2276`.

- Предоставляет стандартный OpenAI-совместимый API — можно подключить к любому приложению (например, чатам, IDE и т.д.).

- Встроенный веб-интерфейс для прямого чата с моделью в браузере.

- Полностью локально, без облака и зависимостей от сторонних сервисов.

### Установка

- Через Homebrew: `brew install --cask llamabarn`

- Или скачать с страницы Releases на GitHub.

### Как использовать

1. Установите модель из встроенного каталога (скачивается автоматически).

2. Выберите модель в меню — приложение запустит сервер.

3. Общайтесь через веб-UI (` http://localhost:2276`) или API (например, через curl).

Проект открытый (лицензия MIT), активно развивается организацией ggml-org. Это удобный «графический фронтенд» для llama.cpp специально для macOS, без лишних наворотов и бloatware.

Репозиторий: https://github.com/ggml-org/LlamaBarn

#macos, #opensorce, #нейросети

Reply to this note

Please Login to reply.

Discussion

No replies yet.