Взлом учетной записи Fedora вызывает опасения по поводу цепочки поставок агентов искусственного интеллекта
Разработчики Fedora проверяют подозрительную учетную запись участника проекта после того, как Адам Уильямсон из отдела контроля качества Fedora сообщил, что эта учетная запись выполняла неточные и неконтролируемые действия с использованием искусственного интеллекта в системе отслеживания ошибок Fedora Bugzilla и связанных с ней вышестоящих проектах.
Проблема была поднята в списке рассылки Fedora devel, когда Уильямсон уведомил об этом участника проекта Натана Джованнини и сообщил об этом в списках разработчиков и тестировщиков, чтобы проинформировать остальных. Уильямсон заявил, что аккаунт использует «некую систему искусственного интеллекта» для устранения ошибок в Fedora, но результаты были «нестабильными» и приводили к проблемам в нескольких отчетах.
Аккаунт перенаправил отчеты о проблемах в Fedora в свой адрес, несмотря на то, что не управлял затронутыми пакетами. Уильямсон объяснил, что адресаты отчетов о проблемах в Bugzilla должны иметь возможность решать проблемы в Fedora, как правило, совместно с разработчиками пакетов.
После отправки или слияния исправлений, явно сгенерированных с помощью больших языковых моделей, аккаунт закрыл несколько ошибок в Fedora. Уильямсон отметил, что это было неуместно, поскольку ошибки в Fedora должны оставаться открытыми до тех пор, пока исправление не будет применено, не станет стабильным и, в идеале, не будет проверено в ходе тестирования.
Кроме того, другие действия вызвали еще больше вопросов. Аккаунт закрывал ошибки в компонентах, которые ему не принадлежали, с пометкой NOTABUG, часто с комментариями, которые, по словам Уильямсона, были сгенерированы с помощью больших языковых моделей. Некоторые комментарии просто повторяли описание проблемы, сделанное отправителем.
Однако самая серьёзная проблема была связана с отправленными исправлениями. Уильямсон сообщил, что аккаунт публиковал исправления, сгенерированные с помощью больших языковых моделей, и в ответ на возражения приводил новые обоснования, сгенерированные с помощью тех же моделей, что в итоге «заставило сопровождающего разработчика принять исправление». Один из примеров — Anaconda, установщик Fedora.
Позже в тот же день Уильямсон обновил ветку, сообщив, что, по словам Джованнини, его учетные данные были скомпрометированы, и он отрицает свою причастность к системе искусственного интеллекта. Уильямсон посоветовал с подозрением относиться ко всем действиям, совершаемым с этого аккаунта, и сказал, что продолжит более тщательно изучать историю Bugzilla и связанные с ней запросы на вытягивание.
Сопровождающий проекта Anaconda Мартин Колман позже подтвердил, что PR был отменен в Anaconda. В ответном сообщении он сообщил, что два связанных с этим PR были опубликованы в Anaconda 45.5 двумя днями ранее, и предложил снять тег с этой сборки «из соображений предосторожности».
Более подробную информацию можно найти в полном обсуждении.
Редактор: AndreyEx
