Meta: родительский контроль над ИИ-чатами для подростков

Компания Meta анонсировала новые функции родительского контроля для общения подростков с искусственным интеллектом на своих платформах. Эти инструменты, которые появятся в следующем году, позволят родителям блокировать определенные ИИ-персонажи и отслеживать темы разговоров.

Начиная с ближайших месяцев, родители смогут полностью отключать чаты с ИИ-персонажами для подростков. Это не повлияет на доступ к Meta AI – общему чат-боту компании, который будет придерживаться контента, соответствующего возрасту.

Родители также получат возможность отключать чаты с отдельными персонажами для более избирательного контроля. Кроме того, им будет предоставляться информация о темах, которые подростки обсуждают с ИИ-персонажами и Meta AI.

Компания планирует внедрить эти инструменты контроля в Instagram в начале следующего года. Функции будут доступны на английском языке в США, Великобритании, Канаде и Австралии.

«Мы понимаем, что у родителей уже много забот, связанных с обеспечением безопасности подростков в интернете, и мы стремимся предоставить им полезные инструменты и ресурсы, которые упростят этот процесс, особенно в контексте новых технологий, таких как ИИ», – говорится в сообщении, написанном главой Instagram Адамом Моссери и новоназначенным главой Meta AI Александром Вангом.

Ранее на этой неделе Meta сообщила, что контент и взаимодействие с ИИ для подростков будут соответствовать стандарту возрастного рейтинга PG-13, избегая таких чувствительных тем, как крайнее насилие, нагота и графическое употребление наркотиков.

Компания добавила, что в настоящее время подростки могут взаимодействовать только с ограниченным числом персонажей, придерживающихся возрастных ограничений. Родители также могут устанавливать временные лимиты на взаимодействие подростков с ИИ-персонажами. Ранее в этом году Instagram объявил об использовании ИИ для выявления подростков, пытающихся обойти возрастные ограничения, подделывая свой возраст в приложении.

В последние недели множество платформ, включая OpenAI, Meta и YouTube, выпустили инструменты и средства контроля, ориентированные на безопасность подростков. Эти изменения происходят на фоне растущих опасений по поводу влияния социальных сетей на психическое здоровье подростков и судебных исков против ИИ-компаний, в которых утверждается, что они сыграли роль в самоубийствах подростков.