Anthropic запускает автономный режим в Claude Code для разработчиков

Компания Anthropic представила предварительный просмотр функции «автоматического режима» в своей среде разработки Claude Code. Эта инновация позиционируется как промежуточное решение между стандартным поведением системы, требующим подтверждения каждой операции записи файлов и выполнения bash-команд, и полностью автономными режимами, которые могут нести потенциальные риски.

Новый интеллектуальный классификатор анализирует действия Claude, автоматически разрешая безопасные операции и перенаправляя процесс при обнаружении потенциально опасных действий. Основная цель разработки — минимизировать вероятность массового удаления файлов, извлечения конфиденциальных данных или выполнения вредоносного кода.

Разработчики подчёркивают, что система не является абсолютно надёжной. Классификатор может разрешить некоторые рискованные действия в случаях неоднозначных пользовательских инструкций или недостаточного контекста о рабочей среде, что создаёт дополнительные риски.

Хотя Anthropic не ссылается на конкретные инциденты, появление автономного режима совпадает с недавним 13-часовым сбоем Amazon Web Services, вызванным действиями инструмента искусственного интеллекта. В том случае проблема была связана с человеческим фактором и избыточными разрешениями сотрудника.

Предварительный доступ к автоматическому режиму уже открыт для пользователей командных тарифов, а в ближайшие дни функция станет доступна корпоративным клиентам и пользователям API.

Комментарии

Комментариев пока нет.