OpenAI представляет «новый чат» для подростков: с проверкой возраста и дополнительными ограничениями
OpenAI предлагает новые меры по предотвращению опасностей среди подростков.
Чат для многих необходим на работе или в учебе, чтобы попросить их разрешить сомнения, подвести итоги или даже составить ежемесячное меню. Но у него есть и отрицательные моменты, такие как случаи, которые мы уже видели в отношении подростков, и большое влияние, которое он может оказать на них. Вот почему OpenAI уже работает над применением различных мер, направленных на защиту несовершеннолетних.
Контекст. В конце августа родители Адама Рейна, 16-летнего подростка, подали иск против OpenAI якобы потому, что модель GPT-4o помогла их сыну покончить жизнь самоубийством, исследуя методы, которые существовали для этого. И вместо того, чтобы прервать разговор в тот момент, когда были запрошены эти методы, и активировать экстренные направления, он без колебаний последовал их примеру.
Безопасность. Столкнувшись с этим случаем, OpenAI пришлось быстро принять меры (https://openai.com/index/teen-safety-freedom-and-privacy/). Первым из них было решение поставить «безопасность превыше конфиденциальности и свободы подростков», как объяснил Сэм Альтман. Идея в данном случае состоит в том, чтобы взаимодействие 15-летнего ребенка с ChatGPT существенно отличалось от взаимодействия взрослого.
Приспособления. Чтобы иметь возможность определять новые системы контроля, которые будут применяться, OpenAI интегрирует новую систему прогнозирования возраста, чтобы узнать, является ли пользователь старше или моложе 18 лет, чтобы таким образом корректировать ответы чат-бота. В случае сомнений платформа по умолчанию применит настройку для несовершеннолетних.
Эта настройка заключается в добавлении ограничений на откровенный сексуальный контент и в ситуациях «острого стресса». Также открывается возможность связаться с родителями или даже с местными властями, чтобы иметь возможность искоренить поведение, которое может быть очень опасным для несовершеннолетних.
А если вы взрослый человек и ИИ принял вас за несовершеннолетнего из-за того, как вы пишете или выражаете себя, будут включены системы для проверки возраста и разблокировки всех функций.
Родительский контроль. В ожидании полной загрузки системы прогнозирования возраста OpenAI в конце этого месяца запустит серию средств родительского контроля, которые позволят родителям более непосредственно контролировать активность своих детей на платформе. Основные функции, которые он будет иметь, можно резюмировать в следующих пунктах:
- Привязка учетных записей: родители могут связать учетные записи со своими детьми через почтовое приглашение.
- Управление ответами: правила поведения могут быть установлены таким образом, чтобы языковая модель соответствовала возрасту несовершеннолетнего.
- Отключение определенных функций, таких как история чата и память.
- Экстренные уведомления: родители могут получить уведомление, если несовершеннолетний ведет опасный разговор.
- Установите время отключения: как и в случае с мобильными устройствами, можно отметить время, в течение которого ИИ будет недоступен.
Недостатки. Как мы уже обсуждали, это дело связано непосредственно с иском о самоубийстве в США, на который OpenAI была вынуждена ответить, что в безопасности ChatGPT существуют недостатки. Особенно когда речь шла о длительных и сложных разговорах, которые они собираются решить, усилив защитные барьеры.
Это трагическое событие высветило необходимость установления более строгих гарантий в отношении генеративного искусственного интеллекта, особенно когда речь идет об уязвимых пользователях. С помощью этих новых мер OpenAI стремится найти баланс между инновациями и ответственностью — дискуссия, которая, несомненно, останется на повестке дня в будущем ИИ.
Редактор: AndreyEx
