ChatGPT дает более подробную информацию о родительском контроле

ChatGPT снова оказывается в центре дебатов по поводу использования искусственного интеллекта несовершеннолетними. Вопрос не нов: как сбалансировать цифровую свободу и безопасность подростков, остается одной из самых сложных дилемм технологической эпохи, и OpenAI сейчас начинает определять, какие меры он предпримет для реагирования на это напряжение, на что он должен реагировать как быстро, так и эффективно, потому что его престиж на данный момент он находится под вопросом из-за отсутствия мер контроля в этом отношении.

Две недели назад мы уже предупреждали вас, что ChatGPT добавит родительский контроль с привязкой учетных записей между родителями и детьми, ограничениями функций в зависимости от возраста, предупреждениями о признаках эмоционального кризиса и усилением контроля над памятью и историей чата. Эта дорожная карта открыла рамки; нынешнее движение очерчивает его более точно и ясно дает понять, что защита подростков будет занимать центральное место в службе.

В настоящее время OpenAI описывает систему определения возраста, которая помещает детей младше 18 лет в версию с ограничениями. Эта среда ограничивает доступ к деликатным темам, уделяя особое внимание вопросам сексуального характера или членовредительства, и усиливает использование моделей и мер реагирования, направленных на сдерживание рисков. Цель состоит в том, чтобы предложить полезный опыт и в то же время предотвратить получение невинным запросом информации, которую подросток не должен получать без фильтров и сопровождения.

Для полного доступа компания оставляет открытой опцию проверки по документу, удостоверяющему личность, для взрослых пользователей. Он не устанавливает график и не описывает технический процесс в деталях, так что конфиденциальность и обработка данных выходят на первый план. В официальном сообщении подчеркиваются принципы защиты для всех пользователей, но практическое выполнение потребует ясности в отношении критериев, хранения, продолжительности и аудита этой проверки, потому что это влияет на доверие к системе.

Система защиты также предусматривает автоматическое оповещение родителей, когда система обнаруживает признаки дистресса у несовершеннолетнего. Если контакт с родителями оказывается невозможным, компания рассматривает возможность направления уведомлений в компетентные органы. Предпосылка направлена на то, чтобы предложить дополнительную систему безопасности; конкретное применение — порог срабатывания, проверка человеком, гарантии от ложных срабатываний — все еще требует конкретизации и определяет значительную часть реального воздействия этой меры.

Все это не происходит в вакууме. Дело Адама Рейна и иск, поданный его семьей, усилили общественное и политическое внимание к роли ИИ в психическом здоровье молодежи. В этом контексте текущее объявление не закрывает дискуссию, но дает более конкретное направление, чем в первом трейлере: родительский контроль с реальным охватом, возрастной фильтр, определяющий различный опыт, и возможность проверки для взрослых, и все это в рамках заявленной приверженности конфиденциальности.

Я заинтересован в том, чтобы этот поворот превратил ChatGPT не в лабиринт разрешений, а в инструмент, который предлагает ценность, не пренебрегая наиболее уязвимыми. Полезность для подростков будет измеряться как тем, чего они избегают, так и тем, что они позволяют: четкой информацией, сдерживанием рисков и безопасными путями к ресурсам помощи, когда это необходимо. Если этот баланс будет достигнут, разговор об искусственном интеллекте и несовершеннолетних перестанет вращаться вокруг страха и перейдет к более полезному вопросу: как использовать мощные технологии, не отказываясь от защиты, которую должно гарантировать зрелое общество.

Редактор: AndreyEx