Grok AI: как чат-бот стал источником фейковых ню-фото и вызовом для регуляторов

Последние две недели социальная сеть X столкнулась с волной искусственно созданных изображений обнажённых людей, сгенерированных чат-ботом Grok на базе искусственного интеллекта. Жертвами этой тенденции стали не только известные модели и актрисы, но и общественные деятели, пострадавшие от преступлений, а также мировые лидеры. Ситуация вызывает серьёзную обеспокоенность из-за масштабов распространения контента без согласия пострадавших.

Согласно исследованию компании Copyleaks, опубликованному 31 декабря, изначально фиксировалось примерно одно такое изображение в минуту. Однако последующие проверки показали, что реальные цифры значительно выше: в период с 5 по 6 января было зафиксировано около 6 700 публикаций в час. Это свидетельствует о стремительном росте проблемы и сложности её контроля.

Несмотря на резкую критику со стороны общественных деятелей по всему миру, регулирующим органам пока не удаётся найти эффективные механизмы для ограничения работы новой системы генерации изображений, разработанной компанией Илона Маска. Ситуация стала наглядным примером ограниченности существующих мер регулирования технологий и серьёзным вызовом для властей, стремящихся взять под контроль развитие ИИ.

Наиболее решительные шаги предприняла Европейская комиссия, которая потребовала от компании xAI предоставить все документы, связанные с чат-ботом Grok. Хотя это не означает начало официального расследования, подобные действия часто предшествуют более серьёзным мерам. Особую тревогу вызывает информация от CNN, согласно которой Илон Маск лично вмешался, чтобы заблокировать внедрение защитных механизмов, ограничивающих генерацию определённых типов изображений.

Пока неясно, внесла ли компания X какие-либо технические изменения в модель Grok, однако публичная медиа-лента аккаунта чат-бота была удалена. В официальном заявлении компания осудила использование ИИ-инструментов для создания детской порнографии. «Любой, кто использует Grok для генерации противозаконного контента, понесёт те же последствия, что и при публикации незаконных материалов», — сообщил аккаунт X Safety 3 января, повторив ранее сделанное заявление Илона Маска.

Тем временем регуляторы разных стран выступили с предупреждениями. Британское управление связи Ofcom заявило, что уже связалось с xAI и проведёт оперативную оценку ситуации, чтобы определить, есть ли основания для расследования. Премьер-министр Великобритании Кир Стармер в радиоинтервью назвал происходящее «позорным» и «отвратительным», выразив полную поддержку действиям Ofcom.

В Австралии комиссар по вопросам электронной безопасности Джули Инман-Грант сообщила о двукратном росте жалоб, связанных с Grok, с конца 2025 года. Однако она воздержалась от немедленных действий против xAI, отметив: «Мы используем весь спектр доступных регуляторных инструментов для расследования и принятия соответствующих мер».

Наиболее серьёзные угрозы прозвучали со стороны Индии, где депутат парламента подал официальную жалобу на работу Grok. Регулятор в сфере связи страны MeitY потребовал от X устранить проблему и предоставить отчёт о принятых мерах в течение 72 часов, позже продлив срок ещё на 48 часов. Хотя компания направила отчёт 7 января, остаётся неясным, удовлетворит ли он регулятора. В случае негативного решения X может лишиться статуса безопасной гавани в Индии, что серьёзно ограничит её деятельность в стране.

*Признаны экстремистскими организациями и запрещены на территории РФ.