Meta: родительский контроль над ИИ-чатботами для подростков

Meta разрабатывает новые инструменты родительского контроля, которые позволят родителям полностью ограничить доступ подростков к ИИ-чатботам на своих платформах. Эти функции позволят родителям блокировать возможность общения с конкретными ИИ-персонажами, но общий чатбот Meta AI останется доступным. Также предусмотрена возможность блокировки всех ИИ-ботов.

Кроме того, родители смогут получать информацию о темах, которые их дети обсуждают с ИИ-помощниками Meta. В настоящее время компания занимается разработкой этих инструментов, и их внедрение начнется в Instagram в начале следующего года, начиная с англоязычных стран, таких как США, Великобритания, Канада и Австралия.

Компания оказалась под пристальным вниманием после утечки внутреннего документа Meta, в котором говорилось, что чатботам компании разрешено вести «чувственные» беседы с детьми. В одном из примеров чатбот Meta посоветовал восьмилетнему ребенку, раздетому до пояса, что «каждый дюйм твоего тела — это шедевр, сокровище, которое я глубоко ценю».

После этой информации Генеральные прокуроры 44 штатов США призвали компании защитить детей «от эксплуатации хищническими продуктами искусственного интеллекта». Комитет Сената по расследованию преступности и контртерроризма, возглавляемый сенатором Джошем Хоули (республиканец от штата Миссури), также начнет расследование в отношении компании.

Вскоре после утечки внутренних документов Meta начала переобучение своего ИИ и добавила новые меры защиты, чтобы предотвратить доступ младших пользователей к созданным пользователями ИИ-персонажам, которые могут вести неуместные беседы. Также были введены возрастные ограничения, чтобы ИИ-боты давали подросткам ответы, соответствующие рейтингу фильмов PG-13. Кроме того, теперь подростки могут взаимодействовать только с ограниченным кругом ИИ-персонажей, ориентированных на соответствующие возрасту темы.