Индия ограничивает работу ИИ Grok из-за непристойного контента

Министерство информационных технологий Индии выдвинуло жесткое требование к социальной сети X (бывший Twitter) о внесении незамедлительных технических и процедурных изменений в работу нейросети Grok. Данная мера была принята после многочисленных жалоб пользователей и законодателей на генерацию «непристойного» контента, включая создание поддельных изображений женщин с помощью ИИ-инструментов.

В официальном распоряжении ведомство обязало платформу Илона Маска принять корректирующие меры, направленные на блокировку генерации материалов, содержащих наготу, сексуализацию или любой другой противоправный контент. Компании предоставлено 72 часа на предоставление детального отчета о шагах, предпринятых для предотвращения распространения порнографических и непристойных материалов, запрещенных законодательством.

Согласно юридическим нормам Индии, игнорирование требований может привести к потере статуса «безопасной гавани». Это лишит платформу юридического иммунитета и сделает её ответственной за любой контент, публикуемый пользователями. Поводом для эскалации стали случаи, когда Grok по запросу пользователей изменял фотографии реальных людей, добавляя к ним элементы наготы. Ранее также фиксировались инциденты с генерацией сексуализированных изображений с участием несовершеннолетних, что компания признала следствием пробелов в системе безопасности.

Индия является одним из крупнейших цифровых рынков мира, и её действия по регулированию деятельности ИТ-гигантов часто становятся прецедентом для других стран. Власти подчеркнули, что несоблюдение установленных правил повлечет за собой строгие правовые последствия не только для самой платформы, но и для её ответственных лиц.

На данный момент компания X продолжает оспаривать ряд полномочий правительства Индии по блокировке контента в судебном порядке, однако вынуждена следовать большинству прямых директив для продолжения работы в регионе.