Anthropic против Пентагона: конфликт из-за ИИ и нацбезопасности

Министерство обороны США (Пентагон) назвало компанию Anthropic «неприемлемой угрозой для национальной безопасности». Это стало официальным ответом на иск ИИ-лаборатории, которая оспаривает решение министра обороны Пита Хегсета.

В 40-страничном иске, поданном в федеральный суд Калифорнии, Пентагон выражает опасение, что Anthropic может «попытаться отключить свою технологию или превентивно изменить поведение модели» во время боевых операций, если сочтет, что переступаются её корпоративные «красные линии».

Летом 2023 года Anthropic заключила с Пентагоном контракт на $200 млн для внедрения своих систем в секретные сети. Однако в ходе переговоров компания заявила, что не хочет, чтобы её ИИ использовался для массовой слежки за американцами, и что технология не готова для принятия решений о применении смертоносного оружия. Пентагон же считает, что частная компания не должна диктовать военным, как использовать технологии.

Юрист Крис Матеи, специализирующийся на вопросах свободы слова, отмечает, что у Пентагона нет доказательств для своих conjectural, спекулятивных опасений. По его мнению, правительство не смогло объяснить, почему отказ Anthropic от условия «все законные применения» делает компанию риском для цепочки поставок, а не просто нежелательным подрядчиком.

Позицию Anthropic поддерживают несколько технологических компаний (включая OpenAI, Google и Microsoft), группы по защите прав. Иск Anthropic обвиняет Пентагон в нарушении её прав по первой поправке и наказании на идеологических основаниях.

Слушание по запросу Anthropic о предварительном запрете назначено на следующую неделю.