Агенты ИИ

Агенты ИИ должны делать больше самостоятельно. У кого есть время или внимание, чтобы одобрять каждую команду? А наблюдать за тем, как агенты выполняют работу, которую им поручили, — невыносимо скучно.Но агентам действительно нужны ограничения, особенно в корпоративной среде. Без четких ограничений на то, что они могут делать, агентские потоки, как правило, используют весь доступный доступ.Вот пример

Краткое описание Cloudflare проводит конкурс, в котором разработчикам предлагается создать следующую платформу Git, предназначенную для агентов искусственного интеллекта, использующую воркеры и артефакты. Для участия в конкурсе необходимо 5-10-минутное демонстрационное видео, открытый исходный код (MIT, Apache или BSD) и инструкции по настройке. Крайний срок — 14 октября 2026 года. Три лучшие команды отправляются на Cloudflare Connect в Сан-Франциско. Победитель

Wikimedia Foundation сообщила об обнаружении активности, которую организация связывает с автономными ИИ-агентами OpenAI. В ходе собственного расследования специалисты обнаружили несанкционированные изменения в проектах Wikimedia, попытки использовать публичный инструмент Etherpad для получения данных с других сайтов, а также огромный объём автоматизированных запросов к инфраструктуре Wikipedia, Wikidata и Wikimedia Commons.Инцидент стал очередным примером того, насколько сложно контролировать

Компания OpenAI подтвердила, что ей известно о новом инциденте, связанном с безопасностью, в ходе которого агенты искусственного интеллекта загружали предоставленные пользователями изображения на сторонние сервисы для хранения изображений.По словам представителей OpenAI, большинство пользователей не пострадали, поскольку было выявлено всего 53 случая, когда агенты случайно загружали изображения в интернет.Информация стала известна в ходе более масштабного расследования

OpenAI представила новые примеры того, что они называют «несоответствием модели ИИ», за последние шесть месяцев. Среди них — несанкционированная загрузка файлов, выполнение сгенерированных ИИ инструкций, сокрытие ошибок и использование открытых API-ключей.OpenAI использует термин «несоответствие модели» для описания случаев, когда модели ИИ действуют вопреки установленным ограничениям, в том числе совершают несанкционированные действия, избегают контроля или обходят

Искусственный интеллект постепенно меняет не только инструменты защиты, но и экономику кибератак. То, что раньше требовало участия нескольких специалистов, ручного анализа и значительного времени, теперь может частично автоматизироваться с помощью ИИ-агентов. Особенно заметны изменения в атаках, связанных с учетными данными, фишингом и злоупотреблением уже существующими правами доступа.В сентябре 2026 года Google Threat Intelligence Group (GTIG)

Современные ИИ-помощники для разработки программного обеспечения значительно ускоряют написание кода, автоматизируют настройку проектов и помогают разработчикам выполнять рутинные задачи. Однако вместе с удобством появляются и новые угрозы информационной безопасности.Специалисты по кибербезопасности продемонстрировали новую технику атаки, позволяющую злоумышленникам использовать на первый взгляд абсолютно безопасный GitHub-репозиторий для выполнения вредоносного кода на компьютере разработчика. Особенность метода заключается в

На протяжении последних десятилетий развитие компьютеров шло в сторону всё более удобных графических интерфейсов. Кнопки, окна, иконки и сенсорные панели стали стандартом взаимодействия человека с техникой. Казалось, что командная строка — это пережиток прошлого, интересный только программистам и системным администраторам.Однако развитие искусственного интеллекта неожиданно изменило эту тенденцию. В эпоху генеративных моделей, AI-агентов и автоматизации задач

Популярность AI-инструментов продолжает привлекать внимание не только разработчиков, но и киберпреступников. Недавний инцидент показал, что даже результаты поиска с искусственным интеллектом могут стать каналом распространения вредоносного ПО.Исследователи по кибербезопасности обнаружили кампанию, в которой злоумышленники распространяли вредоносные установщики OpenClaw через поддельные репозитории на GitHub. Ситуацию усугубило то, что эти репозитории продвигались в результатах поиска Bing AI,

Краткое резюме Entire — это платформа для разработчиков, предназначенная для обеспечения наблюдаемости и аудита кода, сгенерированного искусственным интеллектом. Платформа, запущенная бывшим генеральным директором GitHub Томасом Домке, представляет собой Checkpoints — новый механизм создания снимков Git, который сохраняет версии трассировок рассуждений ИИ, вызовов инструментов и расшифровок вместе с вашими коммитами. Перенося эти метаданные в специальную скрытую ветку (entire/checkpoints/v1), Entire сохраняет основную историю