Anthropic и Пентагон: переговоры об ИИ и массовой слежке

Компания Anthropic, как сообщается, ведёт переговоры с Министерством обороны США о заключении нового соглашения. Это может позволить ей избежать статуса риска для цепочки поставок.

По информации изданий Financial Times и Bloomberg, генеральный директор Anthropic Дарио Амодеи возобновил диалог с ведомством относительно использования его моделей искусственного интеллекта. В частности, сообщается о его обсуждениях с заместителем министра обороны по исследованиям и инженерии Эмилем Майклом.

Переговоры о контракте на использование моделей Anthropic ранее были прерваны, а отношение правительства к компании ухудшилось. Как пишет The Times, стороны не смогли согласовать формулировки, которые гарантировали бы, что технология не будет применяться для массовой слежки.

Согласно внутреннему меморандуму для сотрудников, на который ссылается издание, Амодеи заявил, что министерство было готово принять условия компании при удалении конкретной фразы об «анализе массово полученных данных». Он подчеркнул, что именно эта строка в контракте в точности соответствовала сценарию, вызывающему наибольшие опасения.

Anthropic, которая изначально заключила сделку с ведомством на 200 миллионов долларов в 2025 году, отказалась выполнять требования Пентагона. В ответ агентство пригрозило расторгнуть действующий контракт и присвоить компании статус «риска для цепочки поставок» — обозначение, обычно применяемое к китайским компаниям. Впоследствии президент Трамп распорядился государственным учреждениям прекратить использование технологий Anthropic.

Однако, как сообщается, благодаря «шестимесячному периоду поэтапного отказа» правительство смогло использовать инструменты ИИ от Anthropic для планирования воздушной атаки на Иран.

Амодеи также, по данным The Times, заявил в меморандуме, что сообщения, которые пытается донести OpenAI, являются «откровенной ложью». Он намекнул, что одной из причин охлаждения отношений его компании с правительством стало то, что он не воздавал «диктаторских похвал Трампу», в отличие от Сэма Олтмана из OpenAI.

Напомним, что OpenAI объявила о достижении соглашения вскоре после того, как стали известны проблемы Anthropic с министерством. Её генеральный директор Сэм Олтман заявил на платформе X*, что говорил правительству о нецелесообразности присвоения Anthropic статуса риска для цепочки поставок. Во время сессии вопросов и ответов на этом сайте он отметил, что не знает деталей контракта Anthropic, но если бы он был аналогичен подписанному OpenAI, то, по его мнению, Anthropic следовало бы согласиться на его условия.

Чат-бот Claude от Anthropic возглавил чарт самых популярных бесплатных приложений Apple после анонса OpenAI контракта с Министерством обороны, обойдя ChatGPT.

Позже Олтман сообщил на X*, что OpenAI внесёт поправки в свою сделку, включив язык, явно запрещающий использование её системы ИИ для массовой слежки за американцами. Что касается военного применения технологий, то, по данным CNBC, Олтман заявил сотрудникам, что компания «не принимает оперативных решений». На общем собрании он, как сообщается, сказал: «Возможно, вы считаете, что удар по Ирану был хорошим, а вторжение в Венесуэлу — плохим. Вы не можете влиять на это».

*Признаны экстремистскими организациями и запрещены на территории РФ.