В документах к IPO компания признала, что даже её собственные меры безопасности не гарантируют защиту от катастрофических последствий развития искусственного интеллекта
Anthropic включила предупреждение о возможных катастрофических последствиях развития искусственного интеллекта в документы для выхода на биржу. Компания указала, что достаточно мощные ИИ-системы могут представлять «катастрофические или экзистенциальные риски для общества», если их разработка и применение не будут проходить ответственно. При этом Anthropic не может гарантировать, что собственные меры безопасности позволят предотвратить такие последствия.
В проспекте компания объясняет, что по мере роста возможностей ИИ увеличивается и потенциальная тяжесть вреда от неправильно настроенных или злонамеренно используемых моделей. Anthropic приходится принимать решения о безопасности своих систем, однако она признаёт отсутствие гарантий успеха. Компания также не уверена, что другие участники отрасли будут применять сопоставимые меры защиты.
Источник изображения: сгенерировано Muse
Предупреждение появилось на фоне подготовки Anthropic к IPO. По оценке авторов публикации, компания может претендовать на оценку до $2 трлн. При этом в первом полугодии 2026 года она, согласно приведённым в материале данным, потеряла $80 млрд. В документах также перечислены другие риски для бизнеса: нехватка электроэнергии и инфраструктуры для дата-центров, сопротивление их строительству и возможные юридические претензии из-за использования продуктов компании.
Anthropic ранее призывала замедлить разработку наиболее мощных ИИ-моделей на уровне всей отрасли. Компания представляет такой подход как способ снизить риски, связанные с развитием технологии. Однако в проспекте она одновременно предупреждает инвесторов, что более медленное развитие рынка её моделей, платформы и приложений или сокращение спроса могут привести к замедлению роста бизнеса и ухудшению финансовых результатов.
Таким образом, Anthropic предстоит объяснить инвесторам сразу две стороны своей стратегии: почему её модели могут быть коммерчески востребованы и каким образом компания собирается контролировать риски, которые сама же считает потенциально катастрофическими. В документах она прямо признаёт, что существующие меры безопасности не дают полной гарантии.
