Руководители технологических компаний призывали к сдержанности в сфере искусственного интеллекта, однако давление капитала подстегивает новую гонку

Руководство ведущих лабораторий искусственного интеллекта публично заявляет о стремлении контролировать или замедлить стремительные темпы разработки передовых моделей, в то время как внутренние стратегии и презентации для частных инвесторов по-прежнему ориентированы на быстрое развертывание и завоевание доминирующего положения на рынке. По данным технологического корреспондента Gerrit De Vynck, генеральный директор Anthropic Dario Amodei, наряду с руководителями OpenAI и SpaceX (чей основатель Elon Musk возглавляет конкурирующий стартап xAI), выступал за ограничение стремительного развития отрасли, однако всего шесть недель спустя вернулся к агрессивной стратегии разработки. Расхождение между призывами к регуляторной осторожности и операционными реалиями финансируемых венчурным капиталом передовых исследований подчеркивает устойчивое противоречие между декларируемыми принципами безопасности и жесткими коммерческими стимулами, определяющими развитие самого капиталоемкого сектора Silicon Valley.

## Ключевые факты

- Генеральный директор Anthropic Dario Amodei публично поддержал призывы ограничить или умерить быстрые темпы развития искусственного интеллекта. - Руководители конкурирующих организаций, включая руководство OpenAI и основателя SpaceX Elon Musk, ранее выражали схожие мнения о необходимости системного сдерживания процесса обучения передовых моделей. - Примерно через шесть недель после этих публичных заявлений лаборатории передовых разработок дали понять частным инвесторам, что намерены сохранять или ускорять темпы конкурентной борьбы, а не снижать их. - Компания Anthropic, основанная в 2021 году как public-benefit corporation с четким акцентом на безопасность ИИ, опирается на многомиллиардные обязательства в сфере облачных вычислений со стороны таких корпоративных партнеров, как Amazon и Google. - Конкурентная динамика среди ведущих разработчиков передовых моделей по-прежнему сосредоточена на приобретении новейших графических процессоров, расширении инфраструктуры центров обработки данных и привлечении многомиллиардных раундов финансирования.

## Что произошло

Согласно материалу Gerrit De Vynck, в течение примерно шести недель видные руководители технологических компаний демонстрировали двойственную позицию: публично предупреждая о бесконтрольном ускорении развития искусственного интеллекта, они одновременно заверяли финансистов в намерении расширять границы коммерческой конкуренции. В центре этих событий оказался Dario Amodei, генеральный директор базирующейся в San Francisco компании Anthropic, который присоединился к коллегам, включая руководство OpenAI и Elon Musk, заявив о необходимости обуздать безудержный прогресс технологии.

Однако за закрытыми дверями и на презентациях для финансовых партнеров практически не наблюдалось признаков операционного замедления. Согласно репортажу, компании продолжали запрашивать масштабные объемы финансирования, заявляя инвесторам о стремлении вырваться вперед для захвата доли рынка и достижения технических рубежей следующего поколения. Хотя топ-менеджеры на открытых политических форумах и в публичных заявлениях утверждали, что неконтролируемые технологические скачки несут системные риски для общества и национальной безопасности, их корпоративные дорожные карты по-прежнему ориентированы на выпуск более продвинутых моделей в сжатые сроки.

Эта динамика иллюстрирует институциональную ловушку, в которой оказались разработчики передового ИИ. На встречах с венчурными инвесторами одностороннее замедление темпов часто воспринимается распорядителями капитала как уступка технологического первенства прямым конкурентам. В результате публичные признания корпоративных лидеров о чрезмерно быстром развитии технологий не привели к подтвержденным остановкам циклов обучения моделей, сворачиванию развертывания вычислительных кластеров или прекращению агрессивного найма специалистов по машинному обучению.

## Почему это важно

Противоречие между риторикой руководства и реальными корпоративными действиями влечет за собой конкретные последствия для регуляторов, инвесторов, корпоративных покупателей программного обеспечения и общественности. Для законодателей в Washington, London и Brussels этот эпизод демонстрирует ограниченность добровольного отраслевого саморегулирования. Когда руководители компаний признают, что технический прогресс идет угрожающе быстрыми темпами, но при этом прямо или косвенно дают понять инвесторам, что конкурентное давление не позволяет им взять паузу, законодательные органы получают наглядное доказательство: добровольное самоограничение редко выдерживает рыночную конкуренцию.

На финансовых рынках нарратив о неизбежном и быстром прогрессе критически важен для обоснования рекордных оценок стоимости, которые сегодня присваиваются передовым венчурным проектам в сфере ИИ. Ведущие лаборатории ежегодно расходуют миллиарды долларов на операционные затраты, обусловленные в первую очередь доступом к передовым полупроводниковым кластерам на чипах Nvidia H100 и Blackwell, а также к специализированной энергетической инфраструктуре. Если бы отдельная лаборатория объявила об односторонней паузе или длительном периоде затишья при отсутствии обязательного для всех многостороннего соглашения, ее капиталоемкость резко ухудшилась бы на фоне сохраняющихся постоянных затрат на инфраструктуру. В связи с этим инвесторы требуют наглядных технических итераций и высокой коммерческой скорости в качестве условия для продолжения финансирования.

Для корпоративных клиентов и гражданского общества ускоренные темпы усугубляют проблемы контроля и управления. Организации, внедряющие передовые системы в рабочие процессы, вынуждены непрерывно адаптироваться к меняющимся функциональным возможностям, циклам вывода технологий из эксплуатации и возникающим уязвимостям в системе безопасности. В то же время независимые оценки рисков био- и кибербезопасности моделей, а также опасений относительно их автономной репликации не успевают за темпами внедрения, продиктованными ожиданиями инвесторов, а не всесторонней проверкой безопасности.

## Контекст

Напряженность между техническими возможностями и экзистенциальными рисками сопровождает Anthropic с момента ее создания. Основанная в 2021 году Dario Amodei и его сестрой Daniela Amodei — бывшими топ-менеджерами OpenAI, — Anthropic была зарегистрирована как public-benefit corporation в штате Delaware. Команда основателей покинула OpenAI главным образом из-за опасений, что коммерческие партнерства и форсированная коммерциализация продуктов, в особенности углубляющийся альянс с Microsoft Corporation, подчиняют фундаментальные исследования в области безопасности коммерческим интересам.

Чтобы закрепить обязательства по ответственной разработке, Anthropic учредила Long-Term Benefit Trust и приняла добровольный регламент Responsible Scaling Policies (RSP). В рамках этих правил компания обязалась увязывать разработку и внедрение более мощных моделей с заранее определенными уровнями безопасности, требуя применения конкретных технических и операционных мер предосторожности до начала обучения систем, превышающих установленные пороги риска. Аналогичным образом OpenAI опубликовала собственную структуру Preparedness Framework для оценки катастрофических рисков в химической, биологической, радиологической и кибернетической сферах.

Публичные призывы к сдержанности звучали на протяжении всей недавней истории ИИ. В марте 2023 года Future of Life Institute опубликовал открытое письмо, подписанное тысячами технических специалистов, ученых и руководителей, включая Elon Musk, с призывом ввести шестимесячный мораторий на обучение систем мощнее GPT-4 от OpenAI. Несмотря на общественный резонанс вокруг петиции, ни один крупный разработчик передовых моделей не приостановил инвестиции в инфраструктуру или обучение новых систем. Более того, Musk впоследствии создал собственную конкурирующую лабораторию xAI, которая в сжатые сроки построила суперкомпьютерный кластер Colossus в Memphis, Tennessee, задействовав 100 000 графических процессоров для обучения моделей семейства Grok.

Федеральные власти пытались регулировать сектор с помощью административных механизмов. В октябре 2023 года администрация Biden издала Executive Order 14110 о безопасном, надежном и заслуживающем доверия искусственном интеллекте, задействовав Defense Production Act, чтобы обязать разработчиков базовых моделей двойного назначения, превышающих определенные вычислительные пороги (установленные на уровне 10^26 операций с плавающей запятой), направлять отчеты о результатах тестирования безопасности федеральному правительству и недавно созданному U.S. Artificial Intelligence Safety Institute при National Institute of Standards and Technology. Однако на федеральном уровне в United States законных полномочий принудительно вводить паузы или замедлять темпы разработки по-прежнему не существует, что оставляет решения о скорости прогресса исключительно на усмотрение советов директоров и руководства компаний.

## Реакция

Контраст между публичными предостережениями и сигналами для инвесторов, зафиксированный в материале De Vynck, как ожидается, усилит внимание со стороны Capitol Hill и международных регуляторных органов. Законодатели, ранее приглашавшие Amodei, генерального директора OpenAI Sam Altman и других представителей технологической сферы на слушания в Конгрессе по надзору за искусственным интеллектом, вероятно, усомнятся в том, что добровольные заверения компаний могут служить адекватной основой для государственной политики.

Общественные организации и научные исследователи, занимающиеся вопросами алгоритмической подотчетности, давно утверждают, что корпоративные обещания сдерживать темпы разработок служат PR-маневрами, призванными предотвратить введение обязательных законодательных ограничений. Ожидается, что эти наблюдатели укажут на сообщения для инвесторов как на доказательство того, что рыночная конкуренция берет верх над декларируемыми этическими рамками.

И наоборот, представители венчурной экосистемы, особенно сторонники технооптимизма и концепции открытого исходного кода, традиционно критикуют призывы к регуляторному замедлению, расценивая их как попытку регуляторного захвата рынка (regulatory capture). По мнению этих критиков, влиятельные игроки публично выступают за замедление ради безопасности с целью возвести высокие регуляторные барьеры для новых конкурентов, в то время как за кулисами реализуют агрессивные стратегии по укреплению собственного рыночного доминирования.

## Что пока неизвестно

Некоторые важнейшие детали относительно упомянутых контактов остаются нераскрытыми. В материале не уточняются точные площадки, даты и конкретная финансовая документация, в рамках которой Amodei и его коллеги излагали свои планы инвесторам; также не указано, предполагались ли предложенные ограничения в виде добровольных взаимных соглашений, официальных регуляторных лимитов или условных международных договоров.

Кроме того, остается неясным, рассматривала ли какая-либо из ведущих лабораторий официальное задействование своих внутренних механизмов приостановки (таких как триггеры Responsible Scaling Policy в Anthropic или пороги Preparedness Framework в OpenAI) в указанный период, либо текущие оценки безопасности не выявили технических оснований для остановки процессов. Также нет данных о том, как отреагировали на эти публичные высказывания ключевые корпоративные спонсоры, такие как Amazon, Google и Microsoft, и оказывали ли эти партнеры контрактное давление на руководство лабораторий с целью сохранения коммерческих темпов для защиты выручки от облачной инфраструктуры.

## За чем следить

Практическая траектория развития сектора в ближайшие кварталы будет определяться несколькими конкретными контрольными точками. Наблюдателям предстоит отслеживать, объявят ли Anthropic, OpenAI или xAI об официальных изменениях в своих добровольных стандартах безопасности или сообщат ли они о достижении установленных порогов риска, запускающих внутреннюю приостановку обучения. Любая отчетность в рамках требований федеральных исполнительных указов или формирующихся мер на уровне штатов, таких как текущие законодательные инициативы в California и поэтапное внедрение AI Act в European Union, предоставит проверяемые свидетельства того, меняются ли реальные темпы работы.

Финансовая отчетность и заявки на привлечение венчурного финансирования станут еще одним важным индикатором. Если Anthropic и ее конкуренты закроют последующие раунды многомиллиардной капитализации на условиях, предполагающих быстрое наращивание вычислительных мощностей и выпуск новых моделей в ближайшей перспективе, это подтвердит, что рыночные стимулы по-прежнему полностью противоречат идее замедления. Наконец, предстоящие слушания в Конгрессе и международные саммиты по безопасности ИИ покажут, призовут ли руководителей под присягой объяснить расхождение между их публичными предупреждениями о неконтролируемом прогрессе и их частными обязательствами перед инвесторами.

Материал подготовлен на основе репортажа журналиста Gerrit De Vynck, освещающего вопросы технологий.