OpenAI: этические дилеммы капитализма в эпоху ИИ

Компания OpenAI, отмечающая свое десятилетие в декабре 2025 года, стала одним из мировых лидеров с капитализацией около 1 триллиона долларов. Однако ее путь начался с некоммерческой организации с важной моральной миссией, и эта история ярко демонстрирует сложности сочетания этики и капитализма.

Недавно OpenAI трансформировалась в корпорацию, приносящую общественную пользу (public benefit corporation). Это означает, что помимо своей основной деятельности, компания теперь обязана приносить прибыль акционерам, среди которых — Microsoft. Это существенное изменение по сравнению с первоначальным статусом.

Изначально, под влиянием движения «эффективного альтруизма», OpenAI стремилась к тому, чтобы «обеспечить, чтобы общий искусственный интеллект […] приносил пользу всему человечеству», включая предотвращение сценариев, когда ИИ мог бы поработить или уничтожить человечество. Статус некоммерческой организации был ключевым элементом этой миссии. Если бы продвижение ИИ в опасных направлениях стало самым прибыльным путем, коммерческая компания неизбежно пошла бы по нему, тогда как некоммерческая организация — нет. Как заявлял генеральный директор Сэм Альтман в 2017 году: «Мы никогда не хотим принимать решения в интересах акционеров. Единственные, перед кем мы хотим нести ответственность — это человечество в целом».

Что же изменилось?

Некоторые считают, что компания просто «продалась», и Альтман с коллегами сделали выбор в пользу огромного состояния, отказавшись от своих принципов. Многие основатели и первые сотрудники OpenAI предпочли покинуть компанию.

Однако существует и другая точка зрения. Возможно, OpenAI осознала, что для реализации своей моральной миссии ей необходимо зарабатывать деньги. Разработка ИИ — чрезвычайно дорогостоящее предприятие, а конкуренты OpenAI, такие как Google, Amazon и Meta, являются гигантскими корпорациями с огромными финансовыми ресурсами. Чтобы оказывать положительное влияние на развитие ИИ, OpenAI должна была конкурировать с ними. А для конкуренции требовались инвестиции, привлечь которые без перспективы прибыли сложно.

Альнтман комментировал предыдущий переход к модели, ориентированной на прибыль: «Мы пытались и потерпели неудачу в привлечении средств как некоммерческая организация. Мы не видели там пути вперед. Поэтому нам потребовались некоторые преимущества капитализма».

Капиталистическая конкуренция

Вместе с преимуществами капитализма приходят и ограничения. Карл Маркс называл их «принудительными законами конкуренции», которые означают, что на конкурентном рынке компании практически лишены выбора и вынуждены ставить прибыль превыше всего, независимо от их моральных принципов. Если компания отказывается от чего-то прибыльного по этическим соображениям, она рискует быть вытесненной менее добросовестным конкурентом. В итоге она не только проваливается как бизнес, но и не достигает своих моральных целей.

Философ Айрис Мэрион Янг иллюстрировала этот парадокс на примере владельца «потогонной мастерской», который хотел бы улучшить условия труда своих работников. Однако повышение зарплаты и улучшение условий сделали бы его продукцию менее конкурентоспособной, что привело бы к проигрышу соперникам, эксплуатирующим работников еще сильнее. Таким образом, проявление большей доброты к работникам не принесло бы никакой пользы.

Аналогично, если бы OpenAI отказалась от выпуска ChatGPT из-за опасений по поводу энергопотребления, вреда для пользователей или распространения дезинформации, она, вероятно, потеряла бы долю рынка в пользу другой компании. Это, в свою очередь, затруднило бы привлечение инвестиций, необходимых для выполнения ее миссии по формированию развития ИИ в позитивном ключе.

Таким образом, даже когда ее моральная миссия, казалось бы, была первостепенной (до перехода к статусу public benefit corporation), OpenAI уже действовала как коммерческая фирма. Ей приходилось это делать, чтобы оставаться конкурентоспособной. Нынешний юридический переход просто делает это официальным. Тот факт, что некоммерческий совет, приверженный моральной миссии, теоретически сохраняет определенный контроль над компанией, вряд ли остановит стремление к прибыли на практике. «Принудительные законы конкуренции» Маркса вытесняют мораль из бизнеса.

Маркс и Милтон

Если Маркс — самый известный критик капитализма, то, пожалуй, самым известным его сторонником был экономист Милтон Фридман. Однако Фридман, как и Маркс, считал, что смешивать бизнес и мораль сложно. В 1971 году он писал, что у руководителей бизнеса есть только одна социальная ответственность: получение прибыли для акционеров. Любая другая цель, по его мнению, означала бы трату чужих денег на собственные частные принципы. И на конкурентном рынке, утверждал Фридман, бизнесмены столкнутся с тем, что клиенты и инвесторы могут быстро переключиться на компании, «менее добросовестные в выполнении своих социальных обязанностей».

Все это говорит о том, что мы не можем ожидать от бизнеса выполнения первоначальных обещаний OpenAI — ставить человечество выше акционерной стоимости. Даже если компания будет пытаться, «принудительные законы конкуренции» заставят ее стремиться к прибыли.

Фридман и Маркс, вероятно, согласились бы в том, что для заботы о человечестве необходимы иные институты. Хотя Фридман в основном скептически относился к государству, «гонка вооружений в области ИИ» — это именно тот случай, когда даже он признавал необходимость государственного регулирования.

Для Маркса решение более радикальное: заменить «принудительные законы конкуренции» более кооперативной экономической системой. И мои собственные исследования показывают, что обеспечение безопасности будущего человечества может действительно потребовать некоторого ограничения капитализма, чтобы дать работникам сферы технологий возможность совместно разрабатывать безопасные и этичные технологии, свободные от давления рынка.

*Instagram признаны экстремистскими организациями и запрещены на территории РФ.