Разработчики Fedora проверяют подозрительную учетную запись участника проекта после того, как Адам Уильямсон из отдела контроля качества Fedora сообщил, что эта учетная запись выполняла неточные и неконтролируемые действия с использованием искусственного интеллекта в системе отслеживания ошибок Fedora Bugzilla и связанных с ней вышестоящих проектах.
Проблема была поднята в списке рассылки Fedora devel, когда Уильямсон уведомил об этом участника проекта Натана Джованнини и сообщил об этом в списках разработчиков и тестировщиков, чтобы проинформировать остальных. Уильямсон заявил, что аккаунт использует «некую систему искусственного интеллекта» для устранения ошибок в Fedora, но результаты были «нестабильными» и приводили к проблемам в нескольких отчетах.
Аккаунт перенаправил отчеты о проблемах в Fedora в свой адрес, несмотря на то, что не управлял затронутыми пакетами. Уильямсон объяснил, что адресаты отчетов о проблемах в Bugzilla должны иметь возможность решать проблемы в Fedora, как правило, совместно с разработчиками пакетов.
После отправки или слияния исправлений, явно сгенерированных с помощью больших языковых моделей, аккаунт закрыл несколько ошибок в Fedora. Уильямсон отметил, что это было неуместно, поскольку ошибки в Fedora должны оставаться открытыми до тех пор, пока исправление не будет применено, не станет стабильным и, в идеале, не будет проверено в ходе тестирования.
Кроме того, другие действия вызвали еще больше вопросов. Аккаунт закрывал ошибки в компонентах, которые ему не принадлежали, с пометкой NOTABUG, часто с комментариями, которые, по словам Уильямсона, были сгенерированы с помощью больших языковых моделей. Некоторые комментарии просто повторяли описание проблемы, сделанное отправителем.
Однако самая серьёзная проблема была связана с отправленными исправлениями. Уильямсон сообщил, что аккаунт публиковал исправления, сгенерированные с помощью больших языковых моделей, и в ответ на возражения приводил новые обоснования, сгенерированные с помощью тех же моделей, что в итоге «заставило сопровождающего разработчика принять исправление». Один из примеров — Anaconda, установщик Fedora.
Позже в тот же день Уильямсон обновил ветку, сообщив, что, по словам Джованнини, его учетные данные были скомпрометированы, и он отрицает свою причастность к системе искусственного интеллекта. Уильямсон посоветовал с подозрением относиться ко всем действиям, совершаемым с этого аккаунта, и сказал, что продолжит более тщательно изучать историю Bugzilla и связанные с ней запросы на вытягивание.
Сопровождающий проекта Anaconda Мартин Колман позже подтвердил, что PR был отменен в Anaconda. В ответном сообщении он сообщил, что два связанных с этим PR были опубликованы в Anaconda 45.5 двумя днями ранее, и предложил снять тег с этой сборки «из соображений предосторожности».
Более подробную информацию можно найти в полном обсуждении.
