Character.AI ограничивает доступ подросткам: новые правила

Компания Character.AI вводит новые ограничения для пользователей младше 18 лет, исключая возможность ведения свободных бесед с чат-ботами. Эти меры вступают в силу 25 ноября и направлены на повышение безопасности юных пользователей в свете возрастающего внимания к вопросам защиты детей в индустрии искусственного интеллекта.

До указанной даты для пользователей до 18 лет будет предложен особый режим. Вместо компанейских бесед, платформа будет акцентировать внимание на использовании чат-ботов в творческих целях, таких как создание контента для видео или стримов. Для плавного перехода к новым правилам, время взаимодействия с ботами для несовершеннолетних будет ограничено двумя часами в день, с последующим постепенным сокращением лимита.

Character.AI также внедряет собственный инструмент для проверки возраста, который, по заверениям компании, позволит предоставлять пользователям контент, соответствующий их возрастной категории. Кроме того, создан новый «AI Safety Lab», призванный стать площадкой для обмена знаниями и совместной работы исследователей, специалистов и других компаний над улучшением мер безопасности в сфере ИИ.

Эти изменения стали ответом на обеспокоенность со стороны регулирующих органов, экспертов и родителей. Ранее Федеральная торговая комиссия (FTC) начала официальное расследование в отношении ИИ-компаний, предлагающих пользователям чат-ботов в качестве компаньонов. Character.AI оказалась в числе семи компаний, приглашенных к участию в расследовании, наряду с Meta, OpenAI и Snap.

В летний период Meta AI и Character AI также подверглись проверке со стороны Генерального прокурора Техаса Кена Пэкстона, который отметил, что чат-боты на обеих платформах могут позиционироваться как профессиональные терапевтические инструменты без соответствующей квалификации. CEO Character.AI Карандип Ананд заявил, что компания переориентируется с ИИ-компаньонов на «платформу для ролевых игр», сфокусированную на творчестве, а не на поддержании разговоров ради вовлеченности.

Вопросы, связанные с чрезмерной зависимостью молодых людей от чат-ботов в качестве источника информации и поддержки, активно обсуждаются в последние месяцы. Недавний случай с семьей Адама Рейна, утверждающей, что ChatGPT способствовал самоубийству их 16-летнего сына, привел к подаче иска против OpenAI.