OpenAI расширяет защитные функции ChatGPT для подростков от 13 до 17 лет. Компания внедряет систему прогнозирования возраста, дополнительные ограничения на чувствительный контент и расширенные возможности родительского контроля.
OpenAI вводит отдельный режим ChatGPT с дополнительными мерами безопасности для подростков. Он предназначен для пользователей в возрасте до 18 лет и должен сделать взаимодействие с чат-ботом более соответствующим возрасту.
Компания постепенно разворачивает систему прогнозирования возраста, которая анализирует разные сигналы, связанные с аккаунтом. Среди них могут быть общие темы общения, время и характер использования сервиса и продолжительность учетной записи. Если система считает, что пользователь может быть несовершеннолетним, то для него автоматически применяется подростковый режим.
Какие ограничения будут действовать
В подростковом режиме ChatGPT будет осторожнее работать с чувствительными темами. В частности, дополнительные ограничения касаются графического насилия, опасных вирусных челленджей, сексуального, романтического или насильственного ролевого контента, а также материалов, пропагандирующих экстремальные стандарты красоты, нездоровые диеты или унижения из-за внешности.
В то же время аккаунт подростка остается активным. Пользователи могут продолжать использовать ChatGPT для обучения, творчества, получения информации и повседневных задач.
OpenAI признает, что система прогнозирования возраста может ошибаться. Если совершеннолетний пользователь ошибочно переведен в подростковый режим, он может подтвердить свой возраст, после чего дополнительные ограничения будут сняты. Для подтверждения возраста может использоваться сторонний сервис Persona.
Что получат родители
Отдельным элементом системы есть родительский контроль. После связывания аккаунтов родители или опекуны могут управлять отдельными настройками подросткового профиля.
В частности, можно устанавливать "тихие часы", когда ChatGPT будет недоступен, выключать голосовой режим, память или генерацию изображений, а также управлять использованием данных для усовершенствования моделей.
При этом родительский контроль не дает доступа к перепискам подростка. В определенных случаях, связанных с серьезными рисками безопасности, родители могут получить специальное уведомление.
Когда функции заработают
OpenAI постепенно внедряет прогнозирование возраста в мире. Для Европейского Союза запуск производится с учетом региональных правовых требований.
Компания отмечает, что защита подростков является постоянным направлением работы, поэтому функции и ограничения в дальнейшем могут совершенствоваться.
Ранее СтопКор писал, что индийские студии массово внедряют искусственный интеллект в кино: для генерации сцен, дубляжа, сокращения издержек и новых версий старых фильмов.
Присоединяйся к нашей армии антикоррупционеров! Подписывайся на нас в Telegram , WhatsApp , Facebook , Youtube , Twitter , Instagram и TikTok !
