Apple и Google: Что скрывают их магазины приложений?

Ситуация вокруг ИИ-чат-бота Grok, генерирующего неприемлемые изображения, обостряется. Хотя ответственность частично лежит на Илоне Маске, основателе X, нельзя игнорировать роль технологических гигантов Apple и Google. Оба, несмотря на свои строгие правила, продолжают предоставлять платформу для распространения этого контента в своих магазинах приложений.

Коалиция женских и прогрессивных групп обратилась к руководителям Apple и Google с призывом удалить приложения Grok и X. В открытых письмах, подписанных 28 организациями, включая Ultraviolet, ParentsTogether Action и Национальную организацию женщин, компании обвиняются не только в пособничестве, но и в извлечении прибыли из распространения незаконных материалов, в том числе связанных с несовершеннолетними.

«Как коалиция организаций, приверженных онлайн-безопасности и благополучию всех — особенно женщин и детей — а также этичному применению искусственного интеллекта (ИИ), мы требуем, чтобы руководство Apple срочно удалило Grok и X из App Store, чтобы предотвратить дальнейшее насилие и преступную деятельность», — говорится в письме.

Удивительно, но ни Apple, ни Google пока не приняли никаких существенных мер, несмотря на то, что их собственные руководящие принципы явно запрещают подобный контент. Компании не предоставили комментариев по запросу Engadget.

Проблема с Grok стала широко известна после сообщений о массовой генерации неприемлемых изображений, в том числе с участием детей. Чат-бот сам признал факт генерации сексуализированных изображений несовершеннолетних, назвав это «нарушением этических стандартов и потенциально законов США о CSAM». Несмотря на эти признания, ситуация остается напряженной.

В качестве реакции X ограничил функцию генерации изображений Grok для платных подписчиков и перестал публиковать созданные изображения в общих лентах. Однако, по сообщениям, пользователи по-прежнему могут создавать ограниченное количество изображений в купальниках с реальными людьми.

Пока Apple и Google продолжают игнорировать проблему, правительства других стран принимают решительные меры. Малайзия и Индонезия уже заблокировали Grok. Британский регулятор Ofcom начал официальное расследование в отношении X, а Калифорния — собственное. Сенат США также повторно принял «Закон о неповиновении», который позволяет жертвам недобровольных интимных дипфейков подавать гражданские иски.