Природа не терпит неточностей и не прощает ошибок (Р. Эмерсон).

OpenAI

OpenAI-агенты атаковали Wikipedia: несанкционированные правки и миллионы запросов

OpenAI-агенты атаковали Wikipedia: несанкционированные правки и миллионы запросов

Wikimedia Foundation сообщила об обнаружении активности, которую организация связывает с автономными ИИ-агентами OpenAI. В ходе собственного расследования специалисты обнаружили несанкционированные изменения в проектах Wikimedia, попытки использовать публичный инструмент Etherpad для получения данных с других сайтов, а также огромный объём автоматизированных запросов к инфраструктуре Wikipedia, Wikidata и Wikimedia Commons.Инцидент стал очередным примером того, насколько сложно контролировать
OpenAI готовит «o» — постоянно включенный помощник ChatGPT, который сможет работать с электронной почтой

OpenAI готовит «o» — постоянно включенный помощник ChatGPT, который сможет работать с электронной почтой

OpenAI тестирует нового постоянно включенного помощника под названием «o», и в сети ненадолго появились упоминания о новой функции.Компания OpenAI не подтвердила и не опровергла информацию о том, что она работает над новым постоянно включенным помощником, но, как заметили некоторые пользователи в X*, «o, ваш постоянно включенный помощник» был кратко упомянут в качестве одного из преимуществ тарифного плана
Агенты искусственного интеллекта OpenAI случайно загрузили предоставленные пользователями изображения на сторонние сайты

Агенты искусственного интеллекта OpenAI случайно загрузили предоставленные пользователями изображения на сторонние сайты

Компания OpenAI подтвердила, что ей известно о новом инциденте, связанном с безопасностью, в ходе которого агенты искусственного интеллекта загружали предоставленные пользователями изображения на сторонние сервисы для хранения изображений.По словам представителей OpenAI, большинство пользователей не пострадали, поскольку было выявлено всего 53 случая, когда агенты случайно загружали изображения в интернет.Информация стала известна в ходе более масштабного расследования
Исследователи преодолели песочницу OpenAI Codex, чтобы выполнять команды на хосте

Исследователи преодолели песочницу OpenAI Codex, чтобы выполнять команды на хосте

Исследователи в области кибербезопасности нашли два способа выйти из «песочницы» OpenAI Codex. Один из них позволяет выполнять команды на компьютере разработчика из самого защищенного режима Codex без запроса на подтверждение и без каких-либо отображаемых на экране данных.По словам Орена Йомтова из Accomplish AI, об обоих уязвимостях было сообщено в OpenAI 12 августа, и они были
OpenAI приводит новые примеры несанкционированных действий агентов ИИ

OpenAI приводит новые примеры несанкционированных действий агентов ИИ

OpenAI представила новые примеры того, что они называют «несоответствием модели ИИ», за последние шесть месяцев. Среди них — несанкционированная загрузка файлов, выполнение сгенерированных ИИ инструкций, сокрытие ошибок и использование открытых API-ключей.OpenAI использует термин «несоответствие модели» для описания случаев, когда модели ИИ действуют вопреки установленным ограничениям, в том числе совершают несанкционированные действия, избегают контроля или обходят
OpenAI сообщает, что GPT-6 Astra может находить нулевые дни, но за ней сложнее следить

OpenAI сообщает, что GPT-6 Astra может находить нулевые дни, но за ней сложнее следить

OpenAI подтвердила, что GPT-6 Astra — первая модель, которая достигла «критического уровня» в плане возможностей кибербезопасности.Это часть программы компании по обеспечению кибербезопасности, которая будет оцениваться по мере выпуска более совершенных моделей.Согласно собственной платформе OpenAI, модель достигает критического порога кибербезопасности, если она может «идентифицировать и разрабатывать функциональные эксплойты нулевого дня всех уровней серьезности во многих защищенных
OpenAI запускает предварительную версию официального настольного приложения ChatGPT для Linux

OpenAI запускает предварительную версию официального настольного приложения ChatGPT для Linux

OpenAI выпустила предварительную версию официального настольного приложения ChatGPT для Linux в рамках работы над созданием единого настольного приложения. Новый клиент включает в себя привычный интерфейс ChatGPT, а также ChatGPT Work и Codex — все в одном приложении.В июле компания OpenAI объединила свое отдельное приложение Codex с настольным клиентом ChatGPT для macOS и Windows, сохранив Codex в качестве
OpenAI идёт по пути Meta, рассматривая возможность размещения рекламы на основе памяти в ChatGPT

OpenAI идёт по пути Meta, рассматривая возможность размещения рекламы на основе памяти в ChatGPT

OpenAI планирует внедрить рекламу в ChatGPT, поскольку компания по-прежнему испытывает трудности с получением дохода от платных пользователей.Компания OpenAI, стоимость которой оценивается примерно в 500 миллиардов долларов, планирует потратить миллиарды в следующем году, но у неё нет надёжного источника дохода.По данным Financial Times, у ChatGPT около 800 миллионов пользователей, но только 5 % из них платят. Более
OpenAI подтверждает, что GPT-5 теперь лучше справляется с обработкой психических и эмоциональных расстройств

OpenAI подтверждает, что GPT-5 теперь лучше справляется с обработкой психических и эмоциональных расстройств

Компания OpenAI подтвердила, что 5 октября выпустила обновление, которое позволяет GPT-5 лучше справляться с деликатными темами в разговорах.После обновления GPT будет автоматически распознавать, когда у пользователя что-то не получается, в том числе в ситуациях, связанных с эмоциональным или психическим расстройством.Однако в OpenAI утверждают, что только GPT-5 Instant был обновлён для работы в таких случаях.GPT-5 Instant
OpenAI запускает открытые модели безопасности “gpt‑oss‑safeguard”

OpenAI запускает открытые модели безопасности “gpt‑oss‑safeguard”

Искусственный интеллект не только генерирует контент, но и начинает определять, должен ли этот контент быть сгенерирован. То, что до недавнего времени казалось второстепенной функцией, сегодня становится центральной необходимостью: контролировать, что производится, как распространяется и по каким критериям. В этом контексте OpenAI только что сделала важный шаг, открыв доступ к своим новым моделям рассуждений для классификации безопасности: gpt‑oss‑safeguard.Это модели с открытым исходным
Прокрутить страницу до начала