Модели DeepSeek и Qwen AI теперь доступны в виде Snap-пакетов Ubuntu
Компания Canonical упрощает разработчикам процесс развертывания моделей искусственного интеллекта в Ubuntu, выпуская новые «оптимизированные пакеты для логического вывода» для устройств на базе процессоров Intel и ARM Ampere.
Бета-версии DeepSeek R1 и Qwen 2.5 VL — это первые большие языковые модели (БЯМ) в Snap Store. Каждая из них предлагает «автоматические механизмы, квантификацию и архитектуру, основанную на особенностях аппаратного обеспечения устройства», на котором они установлены.
Что это за модели?
DeepSeek R1 — это модель рассуждений с открытым исходным кодом от китайской компании DeepSeek, специализирующейся на искусственном интеллекте. Она лучше справляется с математикой, программированием и сложными задачами.
Qwen 2.5 VL — это модель компьютерного зрения с открытым исходным кодом от Alibaba Cloud, предназначенная для обработки текста, изображений и видео.
Обе модели устанавливаются и запускаются локально, без использования облачных API или абонентской платы.
«Мы делаем оптимизированные для кремния модели искусственного интеллекта доступными для всех. Если пользователь включит их, они будут глубоко интегрированы на уровне кремния», — говорит о запуске Джон Сигер, вице-президент по разработке в Canonical.
Джефф Виттич, директор по продуктам компании Ampere, говорит: «Это позволяет конечным пользователям сразу же воспользоваться высокой производительностью и эффективностью Ampere […] благодаря чему предприятия могут быстро развертывать и масштабировать предпочитаемые ими модели ИИ в системах Ampere с помощью экосистемы Ubuntu, готовой к работе с ИИ».
Предоставление разработчикам более легкого доступа к предварительно настроенным LLM в Ubuntu для использования в приложениях и рабочих нагрузках сервера означает, что им больше не нужно искать, находить и вручную развертывать квантованные (уменьшающие размер модели при сохранении точности) варианты модели.
Они получают просто snap install и уходят.
Архитектура оптимизированных моделей позволяет им работать быстрее и эффективнее на аппаратном обеспечении, в то время как квантованные модели используют меньше ресурсов. Пользователям не нужно беспокоиться о том, какую модель выбрать, поскольку при «автоматическом» выборе модель подбирается наиболее подходящая для их устройства.
Означают ли эти снимки, что Canonical делает ставку на искусственный интеллект в Ubuntu?
Нет, ничего тревожного. Драйвер NPU от Intel уже доступен, как и плагины OpenVINO AI. Здесь Canonical просто размещает в магазине snap популярные языковые модели с открытым исходным кодом, предварительно оптимизированные для определённых чипов.
Кроме того, snap-пакеты содержат большие языковые модели, и пользователям понадобится что-то, что сможет взаимодействовать с ними или давать им задания (как и в случае с любой другой библиотекой, которую вы устанавливаете). Они не предустановлены и не интегрированы в пользовательский интерфейс Ubuntu1.
Во-вторых, пользователи настольных компьютеров здесь не являются основной целевой аудиторией. Компания Canonical и её партнёры по производству оборудования хотят сделать оптимизированные версии более доступными, чтобы разработчики и предприятия могли устанавливать их без особых проблем и максимально эффективно использовать своё оборудование.
Мы уверены, что это очевидно, но мы говорим это, чтобы никто не боялся, что Ubuntu 26.04 LTS будет выпущена с раздражающими кнопками «AI sparkle» в пользовательском интерфейсе, которые будут мешать вам писать домашнее задание за вас или вести себя как мрачный предсказатель, такой как Windows Recall.
Ubuntu — это, как и всегда, платформа, на которой пользователь может выбирать, чем пользоваться.
Более подробная информация (и изрядная доля маркетинговой шумихи) в блоге Canonical.
Редактор: AndreyEx
