ChatGPT тестирует систему безопасности и родительский контроль

OpenAI запустила тестирование новой системы безопасности в ChatGPT, одновременно представив функцию родительского контроля. Эти изменения вызвали неоднозначную реакцию пользователей.

Новые меры безопасности стали ответом на инциденты, когда чатбот подтверждал бредовые идеи пользователей вместо перенаправления опасных диалогов. Компания уже столкнулась с судебным иском после трагического случая с подростком.

Система маршрутизации определяет эмоционально чувствительные беседы и автоматически переключается на GPT-5 — модель, которую разработчик считает наиболее подготовленной для работы с вопросами безопасности. В отличие от предыдущих версий, GPT-5 использует метод «безопасных завершений», позволяющий давать взвешенные ответы на острые вопросы.

Ранее модели ChatGPT отличались излишней уступчивостью, что порой приводило к опасным последствиям. Многие пользователи критикуют новые ограничения, считая их излишне строгими и ухудшающими качество сервиса. OpenAI заявила о 120-дневном периоде доработки системы.

Ник Тёрли, вице-президент OpenAI, пояснил, что переключение между моделями происходит временно и по запросу сообщения. Пользователи могут узнать, какая модель активна в данный момент.

Родительский контроль позволяет настраивать опыт использования ChatGPT для подростков: устанавливать тихие часы, отключать голосовой режим и генерацию изображений, а также исключать данные из тренировки моделей. Для teen-аккаунтов предусмотрена дополнительная защита контента и система распознавания рисков.

При обнаружении признаков опасного поведения специальная группа анализирует ситуацию. В случае острой необходимости родители получают уведомления. OpenAI также работает над механизмом экстренного оповещения правоохранительных органов.