Debian: да, генеративному искусственному интеллекту, но с ответственностью для людей
Разработчики Debian определились с главным вопросом: как использовать генеративный искусственный интеллект в проекте. Они выбрали компромиссный вариант и проголосовали за предложение «Ответственное использование генеративного ИИ». Это задает направление, открытое для ИИ, но ориентированное на подотчетность.
Это решение было принято по итогам двухнедельного голосования по общей резолюции, в ходе которого разработчики Debian рассмотрели девять различных вариантов — от полного запрета на использование больших языковых моделей до их разрешения при определенных условиях. Результат повлияет на то, как сейчас работают участники Debian, и на то, как проект будет работать с новыми инструментами искусственного интеллекта в будущем.
Победил вариант 5 — «Ответственное использование генеративного ИИ». Согласно системе голосования Кондорсе, принятой в Debian, это был единственный вариант в «множестве Шварца», и он обошел все остальные.
Разница в количестве голосов была значительной. Вариант «Ответственное использование генеративного ИИ» набрал 203 голоса против 148 за вариант «Разрешить использование ИИ с определенными условиями», 232 голоса против 115 за вариант «Разрешить использование ИИ для работы, связанной с Debian», и 210 голосов против 130 за более осторожный вариант. Он также обошел вариант «Debian создается людьми» с результатом 251 голос против 139.
Разработчики Debian проголосовали за ответственное использование генеративного искусственного интеллекта.
Примечательно, что предложение о запрете использования больших языковых моделей в рамках Социального договора Debian не набрало необходимого количества голосов. В то же время несколько предложений, допускающих использование ИИ в некоторых случаях, прошли голосование. Что же означает это решение для Debian?
Новая политика Debian не одобряет и не запрещает использование инструментов генеративного ИИ для разработки, поддержки или документирования программного обеспечения и других материалов проекта. Мы признаем, что при ответственном использовании эти инструменты могут повысить продуктивность, позволяя волонтерам больше сосредоточиться на задачах, требующих технических навыков, рассудительности и командной работы.
Однако важно понимать, что ответственность всегда лежит на человеке. В связи с этим материалы, созданные с помощью ИИ, должны соответствовать тем же стандартам качества, точности, ремонтопригодности и соблюдения законодательства, что и любая другая работа. Использование ИИ не снижает ответственность автора за свои материалы.
Важно отметить, что Debian не требует от участников помечать работу, выполненную с помощью ИИ. Хотя раскрытие информации приветствуется, оно не является обязательным. Это делает выбранное предложение менее ограничительным, чем некоторые другие варианты, которые рассматривались.
Также существуют строгие ограничения при использовании сторонних ИИ-сервисов. Участники не должны передавать сторонним ИИ-сервисам конфиденциальную информацию, личные сообщения, сведения об уязвимостях системы безопасности, криптографические ключи, учетные данные или другие закрытые данные Debian, если только у них нет на это явного разрешения и они соблюдают правила безопасности и конфиденциальности Debian.
В целом решение Debian очевидно. В рамках проекта «работы, созданные искусственным интеллектом» не будут выделяться в отдельную категорию с другими правилами. Вместо этого генеративный ИИ рассматривается как еще один инструмент, и автор работы по-прежнему несет за нее полную ответственность.
И это различие действительно важно. Debian — один из старейших, крупнейших, уважаемых и наиболее влиятельных дистрибутивов Linux, управляемых сообществом. Он включает в себя тысячи пакетов и огромную экосистему. Решения, принимаемые в Debian, часто влияют не только на Debian, но и на Ubuntu и многие другие дистрибутивы Linux, основанные на нем.
Сделав выбор в пользу ответственного использования, а не запрета, Debian ясно дает понять, что разработка с использованием искусственного интеллекта, скорее всего, останется в современном программном обеспечении. В то же время проект подчеркивает, что автоматизация не может заменить понимание, проверку, оценку и ответственность.
Это решение, скорее всего, будет влиять на развитие Debian еще долгое время после того, как современные инструменты на основе искусственного интеллекта будут заменены технологиями будущего. Подробнее, см. официальное заявление Debian.
Редактор: AndreyEx
