Anthropic: Разъяснения по политике ИИ и обвинениям

Генеральный директор Anthropic Дарио Амодеи выступил с заявлением, чтобы «прояснить» позицию компании относительно политики в области искусственного интеллекта, реагируя на «недавний всплеск неточных утверждений о политических позициях Anthropic».

«Anthropic строится на простом принципе: ИИ должен быть силой прогресса человечества, а не угрозой», — написал Амодеи. «Это означает создание продуктов, которые действительно полезны, честное обсуждение рисков и преимуществ, а также сотрудничество с любым, кто серьезно относится к достижению этой цели».

Ответ Амодеи последовал за критикой в адрес Anthropic со стороны лидеров в области ИИ и высокопоставленных представителей администрации Трампа. Среди них были ИИ-координатор Дэвид Сакс и старший советник Белого дома по политике в области ИИ Срирам Кришнан, которые обвинили технологического гиганта в разжигании страхов с целью навредить индустрии.

Первый удар нанес Сакс после того, как соучредитель Anthropic Джек Кларк выразил свои надежды и «обоснованные опасения» относительно ИИ, отметив, что ИИ — это мощное, загадочное и «несколько непредсказуемое» явление, а не надежная машина, которой легко управлять и которую можно использовать в работе.

Реакция Сакса была следующей: «Anthropic проводит сложную стратегию захвата регулирования, основанную на нагнетании страха. Компания несет основную ответственность за ажиотаж государственного регулирования, который наносит ущерб экосистеме стартапов».

Сенатор Калифорнии Скотт Винер, автор законопроекта о безопасности ИИ SB 53, встал на защиту Anthropic, раскритиковав «попытки президента Трампа запретить штатам действовать в области ИИ без продвижения федеральных гарантий».

Далее последовали комментарии, в том числе от сторонников дерегуляции, таких как операционный директор Groq Санни Мадра, которые заявили, что Anthropic «сеет хаос во всей индустрии», выступая за минимальные меры безопасности ИИ вместо неограниченных инноваций.

В своем заявлении Амодеи подчеркнул, что управление социальными последствиями ИИ должно быть вопросом «политики, а не политики», и выразил уверенность, что все хотят обеспечить лидерство Америки в разработке ИИ, одновременно создавая технологии, приносящие пользу американскому народу. Он защитил соответствие Anthropic политике администрации Трампа в ключевых областях ИИ и привел примеры своего личного взаимодействия с президентом.

В частности, Амодеи указал на работу Anthropic с федеральным правительством, включая предложение платформы Claude для государственных нужд и соглашение на сумму 200 миллионов долларов с Министерством обороны (которое Амодеи назвал «Департаментом войны», используя предпочтительную для Трампа терминологию, хотя изменение названия требует одобрения Конгресса). Он также отметил, что Anthropic публично одобрила План действий Трампа в области ИИ и поддержала усилия президента по расширению энергетических мощностей для «победы в гонке ИИ».

Несмотря на демонстрацию сотрудничества, Anthropic столкнулась с критикой со стороны коллег по отрасли за отход от консенсуса Кремниевой долины по некоторым политическим вопросам.

Компания впервые вызвала недовольство официальных лиц, связанных с Кремниевой долиной, когда выступила против предложенного 10-летнего запрета на регулирование ИИ на уровне штатов — положения, которое столкнулось с широким двухпартийным противодействием.

Многие представители Кремниевой долины, включая руководителей OpenAI, утверждали, что государственное регулирование ИИ замедлит отрасль и позволит Китаю вырваться вперед. Амодеи возразил, что реальный риск заключается в том, что США продолжат заполнять дата-центры Китая мощными ИИ-чипами от Nvidia, добавив, что Anthropic ограничивает продажу своих ИИ-услуг компаниям, контролируемым Китаем, несмотря на возможные финансовые потери.

«Есть продукты, которые мы не будем создавать, и риски, на которые мы не пойдем, даже если они принесут прибыль», — заявил Амодеи.

Anthropic также потеряла расположение некоторых влиятельных фигур, поддержав законопроект SB 53 штата Калифорния — законопроект с легкими мерами безопасности, требующий от крупнейших разработчиков ИИ публиковать протоколы безопасности передовых моделей. Амодеи отметил, что законопроект содержит исключение для компаний с годовым валовым доходом менее 500 миллионов долларов, что освободит большинство стартапов от чрезмерных обременений.

«Некоторые предположили, что мы каким-то образом заинтересованы в нанесении ущерба экосистеме стартапов», — написал Амодеи, ссылаясь на публикацию Сакса. «Стартапы — одни из наших самых важных клиентов. Мы работаем с десятками тысяч стартапов и сотрудничаем с сотнями акселераторов и венчурных фондов. Claude лежит в основе совершенно нового поколения ИИ-компаний. Нанесение ущерба этой экосистеме не имеет для нас смысла».

В своем заявлении Амодеи сообщил, что за последние девять месяцев компания выросла с 1 до 7 миллиардов долларов годового дохода, при этом ей удалось «вдумчиво и ответственно» развернуть ИИ.

«Anthropic стремится к конструктивному взаимодействию по вопросам государственной политики. Когда мы согласны, мы это говорим. Когда не согласны, мы предлагаем альтернативу для рассмотрения», — написал Амодеи. «Мы будем оставаться честными и прямолинейными и будем отстаивать политику, которую считаем правильной. Ставки в этой технологии слишком высоки, чтобы мы могли поступать иначе».