Все нужно проектировать сверху вниз, за исключением фундамента, с которого нужно начинать. (Алан.Дж.Перлис)

LLM

Как запросить и сравнить несколько LLM в Linux

Как запросить и сравнить несколько LLM в Linux

Сложно выбрать подходящую большую языковую модель (БЯМ) для решения конкретной задачи, не протестировав один и тот же запрос на нескольких моделях. У каждого провайдера есть своя учетная запись, ключ API и часто собственный SDK, поэтому для того, чтобы протестировать Claude, DeepSeek и модель с открытым исходным кодом, потребуется много времени на подготовку.В этом руководстве мы подключим
Своя LLM на GPU-сервере: как подготовить Linux-окружение и проверить результат

Своя LLM на GPU-сервере: как подготовить Linux-окружение и проверить результат

Первый запуск языковой модели на арендованной видеокарте обычно проверяет две гипотезы: справляется ли выбранная модель с задачей и сколько стоит её эксплуатация. Рабочий чат сам по себе ещё не отвечает ни на один из этих вопросов. Чтобы эксперимент дал полезный результат, заранее определите тестовые запросы, ограничения по времени и способ завершения аренды.Начните с задачи и
Как запустить частного автономного помощника по программированию с помощью искусственного интеллекта в Linux с помощью Atomic Chat

Как запустить частного автономного помощника по программированию с помощью искусственного интеллекта в Linux с помощью Atomic Chat

Atomic Chat — это бесплатный помощник по программированию с использованием искусственного интеллекта с открытым исходным кодом, который полностью запускает LLM с открытым исходным кодом на вашем собственном компьютере и предоставляет их через встроенный OpenAI-совместимый сервер по адресу http://localhost:1337/v1. Это означает, что вы можете направить свой существующий код или агента кодирования на локальную конечную точку и получать завершения
LLM в работе администратора Linux: разбор логов, команды, документация

LLM в работе администратора Linux: разбор логов, команды, документация

Отношение админов к нейросетям колеблется от «игрушка для студентов» до «сейчас всё заскриптует». Обе позиции неверны. Языковая модель — это очень начитанный стажёр: помнит половину man-страниц интернета, не имеет доступа к вашей инфраструктуре и никогда не признается, что не уверен. Из этого вытекают и полезные сценарии, и жёсткие ограничения.Разбор чужих логов и трассировокСамый честно работающий
Rust принимает официальную политику в отношении вкладов, генерируемых искусственным интеллектом

Rust принимает официальную политику в отношении вкладов, генерируемых искусственным интеллектом

Проект Rust имеет принял новую политику управление использованием больших языковых моделей в качестве вклада в его основные rust-lang/rust репозиторий, превращение предложение обсуждалось ранее в этом году в активные правила для нескольких основных команд разработчиков.Политика намеренно узка по своему охвату и применяется только к вкладам, обрабатываемым командами в репозитории rust-lang/rust, а не представляет собой универсальную позицию по ИИ во всем
Как выбрать рабочую станцию для локальных нейросетей и 3D-задач

Как выбрать рабочую станцию для локальных нейросетей и 3D-задач

Еще несколько лет назад мощная рабочая станция была нужна в основном инженерам, 3D-художникам, монтажерам и разработчикам, которые собирали крупные проекты локально. Сейчас к этим сценариям добавились локальные нейросети: генерация изображений, запуск LLM, дообучение моделей, обработка датасетов, RAG-пайплайны и эксперименты с компьютерным зрением.На первый взгляд задача кажется простой: поставить самую мощную видеокарту, добавить много памяти и
Популярный пакет LiteLLM PyPI содержит бэкдор для кражи учетных данных и токенов аутентификации

Популярный пакет LiteLLM PyPI содержит бэкдор для кражи учетных данных и токенов аутентификации

Хакерская группировка TeamPCP продолжает взламывать цепочки поставок. На этот раз она скомпрометировала чрезвычайно популярный пакет Python LiteLLM на PyPI и заявила, что в ходе атаки были похищены данные с сотен тысяч устройств.LiteLLM — это библиотека Python с открытым исходным кодом, которая предоставляет доступ к нескольким поставщикам больших языковых моделей (БЯМ) через единый API. Этот пакет очень популярен:
AerynOS блокирует использование LLM, ссылаясь на данные об этическом обучении и экологических издержках

AerynOS блокирует использование LLM, ссылаясь на данные об этическом обучении и экологических издержках

Использование искусственного интеллекта стало актуальной темой для многих проектов с открытым исходным кодом, и многие из них уже заняли чёткую позицию по этому вопросу. Теперь к этому разговору присоединился AerynOS, дистрибутив Linux на основе атомарных обновлений, который всё ещё находится в разработке и в настоящее время находится на стадии альфа-тестирования.Дистрибутив объявил на Reddit, что официально принял общепроектную
Хакеры используют неправильно настроенные прокси для доступа к платным сервисам LLM

Хакеры используют неправильно настроенные прокси для доступа к платным сервисам LLM

Злоумышленники систематически ищут неправильно настроенные прокси-серверы, которые могут обеспечить доступ к коммерческим сервисам больших языковых моделей (LLM).В ходе продолжающейся с конца декабря кампании злоумышленники проверили более 73 конечных точек LLM и создали более 80 000 сеансов.По данным платформы для мониторинга угроз GreyNoise, злоумышленники используют малозаметные запросы для обращения к конечным точкам в попытке определить модель
Опытные переводчики обучают ИИ, который лишает их работы

Опытные переводчики обучают ИИ, который лишает их работы

Рассмотрим материал от некомерческого издания «Остальной мир» (оригинал: https://restofworld.org/2025/turkeys-translators-training-ai-replacements/), посвященный рискам, с которыми столкнулись переводчики в Турции. Помощь в поиске и частичной адаптации подобных международных кейсов оказало бюро переводов из Санкт-Петербурга. Переводчики в Турции рискуют быть вытесненными ИИ, а также утратить профессиональные навыки и лишиться карьерных перспектив — за исключением узкого круга высококлассных специалистов.Автор: Кая Генч
Прокрутить страницу до начала