LLM

Хакеры взломали пакет PyPI проекта LiteLLM и опубликовали вредоносные образы Docker с полезной нагрузкой, которая крадет учетные данные, секреты и переменные среды.Атака на цепочку поставок затронула все установочные пакеты PyPI (.whl) для LiteLLM версии 1.107.0, что привело к сбоям в системах Windows, Linux и macOS.LiteLLM — это открытый Python SDK и шлюз для искусственного интеллекта, который позволяет

Для обеспечения безопасности производственных больших языковых моделей необходимо определенное место в приложении. Инструмент может проверять запрос пользователя, отображать полученные материалы, проверять ответ модели или ограничивать взаимодействие с инструментом. Важный вопрос заключается в том, что приложение делает с этим решением до того, как будут раскрыты данные или выполнено какое-либо действие.Для команд, которым нужен специализированный интегрированный в

Сложно выбрать подходящую большую языковую модель (БЯМ) для решения конкретной задачи, не протестировав один и тот же запрос на нескольких моделях. У каждого провайдера есть своя учетная запись, ключ API и часто собственный SDK, поэтому для того, чтобы протестировать Claude, DeepSeek и модель с открытым исходным кодом, потребуется много времени на подготовку.В этом руководстве мы подключим

Первый запуск языковой модели на арендованной видеокарте обычно проверяет две гипотезы: справляется ли выбранная модель с задачей и сколько стоит её эксплуатация. Рабочий чат сам по себе ещё не отвечает ни на один из этих вопросов. Чтобы эксперимент дал полезный результат, заранее определите тестовые запросы, ограничения по времени и способ завершения аренды.Начните с задачи и

Atomic Chat — это бесплатный помощник по программированию с использованием искусственного интеллекта с открытым исходным кодом, который полностью запускает LLM с открытым исходным кодом на вашем собственном компьютере и предоставляет их через встроенный OpenAI-совместимый сервер по адресу http://localhost:1337/v1. Это означает, что вы можете направить свой существующий код или агента кодирования на локальную конечную точку и получать завершения

Отношение админов к нейросетям колеблется от «игрушка для студентов» до «сейчас всё заскриптует». Обе позиции неверны. Языковая модель — это очень начитанный стажёр: помнит половину man-страниц интернета, не имеет доступа к вашей инфраструктуре и никогда не признается, что не уверен. Из этого вытекают и полезные сценарии, и жёсткие ограничения.Разбор чужих логов и трассировокСамый честно работающий

Проект Rust имеет принял новую политику управление использованием больших языковых моделей в качестве вклада в его основные rust-lang/rust репозиторий, превращение предложение обсуждалось ранее в этом году в активные правила для нескольких основных команд разработчиков.Политика намеренно узка по своему охвату и применяется только к вкладам, обрабатываемым командами в репозитории rust-lang/rust, а не представляет собой универсальную позицию по ИИ во всем

Еще несколько лет назад мощная рабочая станция была нужна в основном инженерам, 3D-художникам, монтажерам и разработчикам, которые собирали крупные проекты локально. Сейчас к этим сценариям добавились локальные нейросети: генерация изображений, запуск LLM, дообучение моделей, обработка датасетов, RAG-пайплайны и эксперименты с компьютерным зрением.На первый взгляд задача кажется простой: поставить самую мощную видеокарту, добавить много памяти и

Хакерская группировка TeamPCP продолжает взламывать цепочки поставок. На этот раз она скомпрометировала чрезвычайно популярный пакет Python LiteLLM на PyPI и заявила, что в ходе атаки были похищены данные с сотен тысяч устройств.LiteLLM — это библиотека Python с открытым исходным кодом, которая предоставляет доступ к нескольким поставщикам больших языковых моделей (БЯМ) через единый API. Этот пакет очень популярен:

Использование искусственного интеллекта стало актуальной темой для многих проектов с открытым исходным кодом, и многие из них уже заняли чёткую позицию по этому вопросу. Теперь к этому разговору присоединился AerynOS, дистрибутив Linux на основе атомарных обновлений, который всё ещё находится в разработке и в настоящее время находится на стадии альфа-тестирования.Дистрибутив объявил на Reddit, что официально принял общепроектную