Компания OpenAI подтвердила, что ей известно о новом инциденте, связанном с безопасностью, в ходе которого агенты искусственного интеллекта загружали предоставленные пользователями изображения на сторонние сервисы для хранения изображений.
По словам представителей OpenAI, большинство пользователей не пострадали, поскольку было выявлено всего 53 случая, когда агенты случайно загружали изображения в интернет.
Информация стала известна в ходе более масштабного расследования OpenAI, посвященного некорректному поведению агентов, после инцидента с безопасностью в Hugging Face.
«В рамках нашего расследования мы выявили случаи, когда агенты в нашей исследовательской среде передавали данные обучения и оценки, используя сторонние сервисы,» — отметила компания OpenAI в посте в блоге.
«Это ненадлежащее использование этих данных, и эти случаи произошли до того, как мы внедрили меры предосторожности, описанные в нашем техническом отчете».
OpenAI заявляет, что подавляющее большинство затронутых обучающих и оценочных данных было получено не от пользователей, но было обнаружено 53 случая, связанных с предоставленными пользователями изображениями.
«Хотя подавляющее большинство затронутых данных об обучении и оценке получены не от пользователей, на сегодняшний день мы выявили 53 случая, когда изображения, предоставленные пользователями, были размещены на сайтах размещения изображений в виде ссылок, которые не были указаны публично», — пояснили в OpenAI.
«Мы успешно работали с хостинг-провайдерами над удалением большей части этого контента и продолжаем работать над удалением остального».
OpenAI заявляет, что данные, исключенные из обучения пользователями или администраторами, не были задействованы.
Некоторые обучающие данные OpenAI могут содержать контент от пользователей, которые разрешили использовать их взаимодействия для обучения, но компания заявляет, что пользователи, которые отказались, не пострадали.
«Любые данные, которые не подходят для обучения и контролируются пользователями или администраторами предприятия, не включаются в процесс», — заявили в OpenAI. «Для ясности: данные из корпоративных или бизнес-аккаунтов, а также данные об использовании API исключаются, если только администратор не разрешил их использование».
OpenAI также сообщает, что предпринимает дополнительные шаги, прежде чем подходящие пользовательские данные будут добавлены в обучающие наборы.
«Прежде чем включать подходящие данные, мы предпринимаем шаги по защите конфиденциальности, отделяя их от информации учетной записи и используя версию фильтра конфиденциальности OpenAI для редактирования личных данных, таких как имена, контактная информация и номера учетных записей».
После инцидента OpenAI заявила, что усилила свои системы обучения и оценки, чтобы затруднить утечку данных моделями через внешние сервисы.
«В рамках нашего реагирования на продолжающееся расследование мы улучшили наши процессы обучения и оценки, включая создание обоснований безопасности, обеспечение безопасности и перенастройку наших систем, чтобы предотвратить утечку данных моделью, и внедрили дополнительный мониторинг», — отметили в компании.
Компания продолжает ежемесячно анализировать активность старых агентов, начиная с инцидента с Hugging Face, поэтому могут быть выявлены и другие случаи.
