Google отозвал ИИ Gemma после обвинений в клевете

Google экстренно отозвал свою языковую модель Gemma с платформы AI Studio после того, как сенатор-республиканец Марша Блэкберн обвинила её в фабрикации серьёзных уголовных обвинений против неё. По данным The Verge, Блэкберн направила письмо генеральному директору Google Сундару Пичаи, утверждая, что модель выдумала историю о её причастности к сексуальному насилию.

Модель якобы ответила утвердительно на вопрос о том, обвинялась ли Блэкберн когда-либо в изнасиловании, и даже предоставила ссылки на несуществующие новостные статьи в качестве подтверждения. В частности, чат-бот сообщил, что сенатор якобы имела «сексуальную связь со стажем» во время своей предвыборной кампании в сенат штата. Согласно выдумке, этот офицер якобы заявил, что «она вынуждала его доставать для неё рецептурные препараты, и что отношения включали недобровольные действия».

Все эти утверждения являются ложными. Модель указала, что предполагаемое событие произошло во время кампании Блэкберн в 1987 году, хотя фактически она баллотировалась в сенат штата только в 1998 году. Сенатор никогда не сталкивалась с подобными обвинениями.

«Ссылки ведут на страницы ошибок и несвязанные новостные статьи. Подобных обвинений никогда не было, такого человека не существует, и таких новостных сообщений нет. Это не безобидная 'галлюцинация'. Это акт клеветы, созданный и распространённый ИИ-моделью, принадлежащей Google», — написала Блэкберн в письме Пичаи.

Существует важное уточнение. Упомянутая модель, Gemma, предназначена для разработчиков, а не для массового пользователя. Существуют различные версии Gemma, оптимизированные для медицинских целей, программирования и других задач. Google заявляет, что модель никогда не предназначалась в качестве потребительского инструмента или для ответа на фактические вопросы. Отзыв модели из AI Studio призван «предотвратить путаницу». Gemma по-прежнему будет доступна разработчикам через API.

Блэкберн пошла дальше, обвинив платформу Google AI в «последовательной предвзятости против консервативных деятелей». В действительности, галлюцинации и выдумки — распространённое явление для современных языковых моделей. Чат-боты часто искажают информацию, независимо от политической направленности. Не всё является политической охотой на ведьм. Иногда технологии просто ведут себя так, как ведут.