Google убирает ИИ Gemma после обвинений в клевете

Google приняла решение удалить свою модель искусственного интеллекта Gemma из платформы AI Studio после того, как американский сенатор обвинила ее в фабрикации ложных утверждений о сексуальных домогательствах. Сенатор Марша Блэкберн направила письмо генеральному директору Google Сундару Пичаи, в котором указала, что на вопрос о том, обвинялась ли она в изнасиловании, Gemma ответила вымышленным заявлением о кампании 1998 года, якобы содержавшей обвинения со стороны сотрудника полиции в давлении с целью получения рецептурных препаратов и неконсенсусных действиях.

Блэкберн подчеркнула, что ни одна из этих деталей не соответствует действительности, включая год кампании. Она также отметила, что предоставленные ссылки на новостные статьи ведут на страницы ошибок или содержат нерелевантную информацию. По словам сенатора, подобных обвинений никогда не существовало, как и упомянутых лиц или новостных историй.

В письме также упоминался недавний слушание в Сенате, где Блэкберн затронула иск консервативного активиста Робби Старбака против Google. Старбак утверждал, что модели Google, включая Gemma, сгенерировали клеветнические заявления о нем, назвав его «растлителем детей» и «серийным сексуальным насильником».

В ответ на эти обвинения вице-президент Google по правительственным делам и публичной политике Маркэм Эриксон заявил, что «галлюцинации» являются известной проблемой, и компания активно работает над их минимизацией. Блэкберн, однако, возразила, что фабрикации Gemma — это не безобидная «галлюцинация», а «акт клеветы, произведенный и распространенный моделью ИИ, принадлежащей Google».

Сторонники технологической политики бывшего президента Дональда Трампа неоднократно выражали обеспокоенность по поводу «цензуры ИИ», утверждая, что популярные чат-боты демонстрируют либеральную предвзятость. Сам Трамп ранее в этом году подписал указ, запрещающий «пробужденный ИИ».

Хотя Блэкберн не всегда поддерживала технологическую политику администрации Трампа, в своем письме она поддержала эти претензии, указав на «последовательную закономерность предвзятости по отношению к консервативным деятелям, демонстрируемую системами ИИ Google».

В пятницу Google опубликовала сообщение в X, не вдаваясь в детали письма Блэкберн, но заявив, что компания «видела сообщения о том, что не-разработчики пытаются использовать Gemma в AI Studio и задавать ей фактические вопросы».

«Мы никогда не предполагали, что это будет потребительский инструмент или модель, или что ее будут использовать таким образом», — заявила компания. Google позиционирует Gemma как семейство открытых, легковесных моделей, которые разработчики могут интегрировать в свои продукты, а AI Studio — это веб-среда разработки Google для приложений с поддержкой ИИ.

В связи с этим Google приняла решение удалить Gemma из AI Studio, сохранив при этом доступ к моделям через API. TechCrunch запросил дополнительный комментарий у Google.