Alpaca: приложение с графическим интерфейсом для Linux для автономного управления несколькими моделями искусственного интеллекта

Alpaca — это инструмент с графическим интерфейсом для Linux, который упрощает процесс загрузки и управления несколькими моделями искусственного интеллекта в вашей локальной системе. Это бесплатный инструмент с открытым исходным кодом, созданный на Python и GTK4 с современным графическим пользовательским интерфейсом.

Он использует Ollama в качестве бэкенда для загрузки (бесплатных) моделей искусственного интеллекта, таких как Meta Llama 3, Google Gemma 2, Microsoft Phi3, модели Llava AI и другие. После загрузки соответствующей модели искусственного интеллекта вы можете общаться с ней или управлять ею локально, без подключения к интернету.

После того как вы установите и запустите это приложение в первый раз, оно сразу же проведет вас по всем этапам, как показано ниже.

 

На третьем этапе у вас будет возможность загрузить ранее упомянутые модели искусственного интеллекта Llama 3, Gemma 2, Phi 3 и Llava 3.

 

Если вы хотите загрузить другие модели искусственного интеллекта, нажмите на кнопку в виде осьминога в верхней центральной части экрана. Появится диалоговое окно со списком доступных для загрузки моделей искусственного интеллекта.

Помимо уже упомянутых, здесь вы можете скачать другие модели искусственного интеллекта, в том числе Alibaba Qwen2, DeepMind Codegemma, Deepseek Coder V2, Mistral AI, Command R, Openchat и многие другие.

 

После загрузки модели выберите ее в раскрывающемся меню (в верхней центральной части экрана). Затем вы можете начать общение с выбранной моделью ИИ, задавая вопросы в поле ввода внизу.

 

Читать  13 распространённых мифов о Linux, которые были развенчаны (с реальными фактами)

В зависимости от совместимости с моделью вы можете использовать изображения или документы в своих сообщениях. Поддерживаемые модели также позволяют генерировать изображения с помощью искусственного интеллекта и распознавать контент с YouTube, из PDF-файлов и с веб-сайтов.

Пользовательский интерфейс этого приложения очень удобен для новичков. Например, вы можете легко создать, переименовать, удалить или экспортировать свой чат на правой панели. В интерфейсе чата есть возможность удалять, копировать или редактировать сообщения, отправленные в модель искусственного интеллекта, например в ChatGPT от OpenAI.

Поскольку модели искусственного интеллекта представляют собой большие файлы (чем больше обучающих данных (или токенов), тем больше размер файла), они быстро занимают место на системном диске. На слабом ПК будет сложно использовать такие большие модели ИИ локально.

Чтобы снизить нагрузку на систему, вы можете удаленно настроить сервер Ollama (на облачном сервере или другой мощной системе в той же сети) и указать его данные в настройках Alpaca для доступа к нему.

 

Чтобы ознакомиться со всеми его функциями, посмотрите это видео.

• Управляйте несколькими моделями искусственного интеллекта локально, без подключения к интернету.
• Общайтесь с несколькими моделями искусственного интеллекта в одном чате.
• Создавайте столько новых чатов, сколько вам нужно, и легко управляйте ими или экспортируйте их.
• Поддерживается распознавание изображений (в зависимости от совместимости модели).
• Поддерживается распознавание обычного текста, PDF-файлов, YouTube и веб-сайтов.

Потрясающий инструмент, правда? Хотите попробовать? Тогда ознакомьтесь с инструкцией по установке.

Установите Alpaca в Linux

Alpaca доступна в виде пакета Flatpak (технология «песочницы»), который можно легко установить и использовать в любом дистрибутиве Linux, например Ubuntu, Debian, Linux Mint, Fedora и Arch, независимо от среды рабочего стола.

Единственное, что вам нужно сделать, — убедиться, что в системе установлен Flatpak. Если нет, выполните следующую команду (обратите внимание, что в Fedora Flatpak установлен по умолчанию).

# For Debian, Ubuntu, Linux Mint, etc.

$ sudo apt install flatpak

# For Red Hat, Fedora, AlmaLinux, etc.

$ sudo dnf install flatpak

# For Arch, Manjaro, Garuda, etc.

$ sudo pacman -S flatpak

Затем добавьте репозиторий Flathub.

$ flatpak remote-add --if-not-exists flathub https://flathub.org/repo/flathub.flatpakrepo

Вот и все. Теперь вы можете выполнить следующую команду, чтобы установить Alpaca в Linux:

$ flatpak install flathub com.jeffser.Alpaca

После завершения установки вы сможете найти и запустить приложение в Ubuntu Launcher/меню.

Если по какой-то причине вы захотите его удалить, выполните эту команду:

$ flatpak uninstall flathub com.jeffser.Alpaca

Подводим итоги

Alpaca — самое простое и удобное настольное приложение для загрузки моделей искусственного интеллекта и управления ими. Если у вас возникнут вопросы или проблемы, напишите нам в комментариях.

Редактор: AndreyEx