Как AI-фейк на Reddit обманул тысячи пользователей

Недавний скандал на платформе Reddit показал, насколько легко искусственный интеллект может вводить в заблуждение даже опытных журналистов и миллионы пользователей. История началась с вирусного поста, автор которого представился разоблачителем из службы доставки еды. Он утверждал, что компания использует юридические лазейки для кражи чаевых и заработной платы курьеров.

Пост быстро набрал популярность: более 87 тысяч голосов «за» на Reddit и 208 тысяч лайков после републикации в социальной сети X. Журналист Кейси Ньютон из издания Platformer связался с автором, который прислал фото своего служебного бейджа от UberEats и 18-страничный «внутренний документ». В документе описывалась система оценки «отчаяния» курьеров с помощью искусственного интеллекта.

Однако при проверке выяснилось, что это была тщательно продуманная мистификация. Ньютон отметил, что раньше подобные документы казались правдоподобными из-за трудоёмкости их создания. Но с развитием AI-инструментов подделки стали настолько реалистичными, что отличить их от настоящих материалов крайне сложно.

Для подтверждения подлинности изображения журналист использовал Google Gemini, который распознал в фото водяной знак SynthID — технологию, позволяющую идентифицировать контент, созданный искусственным интеллектом. Это стало ключевым доказательством фальсификации.

Эксперты отмечают, что проблема AI-фейков становится всё острее. Макс Сперо, основатель компании Pangram Labs, специализирующейся на детекции AI-текстов, подчеркнул: «Качество подделок растёт, и это связано не только с развитием больших языковых моделей, но и с коммерческими интересами. Некоторые компании платят за искусственное продвижение брендов через вирусные посты».

Несмотря на существование инструментов для выявления фальшивок, они не всегда эффективны, особенно в случае мультимедийного контента. К тому моменту, когда подделка разоблачается, она уже может успеть распространиться по сети. Пользователям остаётся лишь критически оценивать информацию, проверяя факты и источники.

Этот случай — не единственный. Как выяснилось, за выходные на Reddit появилось сразу несколько подобных фейковых историй о службах доставки, что лишний раз подтверждает: доверять информации в сети нужно с осторожностью.

*Признаны экстремистскими организациями и запрещены на территории РФ.