Исследователь Anthropic уволился, предупредив, что разработка ИИ грозит человечеству вымиранием

Исследователь лаборатории искусственного интеллекта Anthropic публично уволился из организации, выступив с резким предупреждением о потенциальных катастрофических рисках, связанных с передовыми технологиями ИИ. Согласно материалу журналиста Mike Pearl, опубликованному 9 сентября 2026 года, уволившийся сотрудник заявил, что ключевые фигуры, отвечающие за создание искусственного интеллекта, искренне верят, что эта технология может привести к вымиранию человечества. Исследователь охарактеризовал текущие усилия по разработке ИИ как самую опасную деятельность, которой человечество занимается в настоящее время. Это громкое увольнение подчеркивает растущую внутреннюю напряженность в передовых ИИ-компаниях, где технический персонал, сосредоточенный на безопасности и согласовании (alignment), все чаще сталкивается с коммерческими стимулами к внедрению все более автономных и мощных систем машинного обучения.

## Key facts - Исследователь компании Anthropic, занимающейся искусственным интеллектом, уволился, выступив с публичными предупреждениями об экзистенциальных рисках, связанных с разработкой ИИ, согласно материалу Mike Pearl. - Уволившийся сотрудник заявил, что разработчики, работающие над передовыми ИИ-моделями, искренне верят, что технология обладает катастрофическим потенциалом, способным вызвать вымирание человечества. - Исследователь охарактеризовал продолжающиеся глобальные усилия по созданию продвинутого искусственного интеллекта как самое опасное предприятие в истории человечества. - Компания Anthropic была основана в 2021 году в San Francisco, California, как public benefit corporation (общественно полезная корпорация), ориентированная исключительно на исследования безопасности и согласования ИИ. - Уход сотрудника происходит на фоне более широкой серии увольнений специалистов по безопасности из ведущих ИИ-лабораторий, включая OpenAI и Google DeepMind.

## What happened Согласно материалу Mike Pearl, исследователь, работавший у разработчика искусственного интеллекта Anthropic, подал в отставку, сопроводив ее публичным комментарием о серьезных опасностях, связанных с продвинутыми системами машинного обучения. В своих прощальных заявлениях исследователь утверждает, что видные фигуры в экосистеме искусственного интеллекта искренне убеждены, что технологии ИИ могут нанести катастрофический ущерб, вплоть до полного уничтожения человеческой цивилизации.

Исследователь также заявил, что совокупные ресурсы и усилия, направленные в настоящее время на создание передовых ИИ-моделей, представляют собой самое опасное предприятие в истории человеческого общества. Хотя подробные внутренние разногласия и личные обстоятельства, предшествовавшие уходу, не были полностью изложены в первоначальном отчете, увольнение отражает явный раскол в одной из флагманских организаций Кремниевой долины в сфере искусственного интеллекта.

В первоначальном материале остается неподтвержденным ряд конкретных деталей, включая личность сотрудника, его точную должность в Anthropic и точную дату вступления увольнения в силу. Кроме того, в отчете не уточняется, входил ли уволившийся сотрудник в ключевой отдел согласования Anthropic, группу исследований интерпретируемости или команду по государственной политике. Тем не менее, главный посыл увольнения подчеркивает глубокую убежденность некоторых специалистов отрасли в том, что технический прогресс опережает существующие механизмы управления безопасностью и сдерживания.

## Why it matters Увольнение инсайдера из Anthropic — организации, изначально созданной как альтернатива традиционным технологическим конгломератам с приоритетом безопасности — имеет существенные последствия для государственной политики, корпоративного управления и доверия инвесторов во всем технологическом секторе. Когда технические эксперты, работающие непосредственно с передовыми системами, приходят к выводу, что технология несет угрозу уровня вымирания, это напрямую ставит под сомнение тезис лидеров отрасли о том, что саморегулирования и добровольных обязательств по безопасности достаточно для управления технологическими рисками.

Для лиц, принимающих решения в ключевых юрисдикциях, таких как Washington, D.C., Sacramento и Brussels, публичные предупреждения инсайдеров лабораторий служат важнейшим доказательством в продолжающихся дискуссиях об обязательных нормативно-правовых рамках. Законодательные органы, оценивающие требования к соблюдению безопасности, правила аудита и стандарты юридической ответственности для разработчиков передового ИИ, часто опираются на свидетельства инсайдеров, чтобы оценить, строго ли компании придерживаются заявленной политики безопасности.

Для корпоративных клиентов и финансовых рынков увольнения высокого уровня в ведущих ИИ-компаниях сигнализируют о возможных операционных и этических уязвимостях. Anthropic позиционирует себя как безопасного и ориентированного на бизнес разработчика благодаря семейству моделей Claude, привлекая миллиарды долларов стратегических инвестиций от таких технологических корпораций, как Amazon и Google. Если исследователи в области безопасности раз за разом приходят к выводу, что коммерческие цели ставятся выше предотвращения катастрофических рисков, корпоративные клиенты могут столкнуться с повышенными репутационными, регуляторными и операционными рисками.

Более того, эти предупреждения обостряют глобальную дискуссию о сроках создания общего искусственного интеллекта (AGI) и управлении катастрофическими рисками. Если персонал, непосредственно участвующий в разработке передовых моделей, испытывает глубокую тревогу по поводу экзистенциальных угроз, это указывает на то, что техническое согласование — обеспечение того, чтобы системы ИИ надежно действовали в соответствии с намерениями человека — остается нерешенной научной задачей даже на фоне стремительного ускорения внедрения технологий.

## The background Чтобы оценить контекст этого ухода, необходимо изучить историю Anthropic и движения за безопасность ИИ в целом. Компания Anthropic была основана в 2021 году в San Francisco, California, бывшими топ-менеджерами OpenAI, включая брата и сестру Dario Amodei и Daniela Amodei. Компания была структурирована как Public Benefit Corporation — правовая форма, позволяющая руководству учитывать общественные интересы и вопросы безопасности наряду с финансовой отдачей акционеров. Основатели создали Anthropic после ухода из OpenAI из-за разногласий относительно коммерческой траектории организации и приоритетов безопасности, в частности после многомиллиардного партнерства OpenAI с Microsoft.

Anthropic представила свое флагманское семейство ИИ-моделей Claude, разработанное с использованием методологии обучения, известной как "Constitutional AI". Этот подход направлен на согласование поведения модели с набором письменных принципов, с целью предотвратить вредоносные ответы без опоры исключительно на ручной человеческий фидбек. Для управления рисками безопасности по мере роста возможностей моделей Anthropic приняла "Responsible Scaling Policy". Эта политика определяет конкретные уровни безопасности — AI Safety Levels — и обязывает компанию приостановить обучение или внедрение моделей, если необходимые меры предосторожности и сдерживания не будут успешно реализованы.

Несмотря на эти формальные обязательства, в секторе искусственного интеллекта в последние годы наблюдается стремительная коммерциализация и интенсивные инвестиции капитала. Anthropic привлекла инвестиционные обязательства на сумму $4 billion от Amazon и $2 billion от Google, интегрировав свои модели в крупнейшие инфраструктуры облачных вычислений. В то же время конкурирующие лаборатории, включая OpenAI, Google DeepMind и Meta, вступили в жесткую конкуренцию по выпуску все более мощных мультимодальных и рассуждающих моделей.

Это конкурентное давление совпало с заметной волной увольнений в сообществе специалистов по безопасности ИИ. В OpenAI известные фигуры из команды "Superalignment", включая сооснователя Ilya Sutskever и соруководителя команды Jan Leike, уволились в 2024 году, сославшись на утрату доверия и приоритет запусков продуктов над фундаментальными исследованиями безопасности. Аналогичные увольнения и открытые письма бывших сотрудников крупных ИИ-лабораторий неоднократно предупреждали о том, что коммерческая конкуренция подрывает добровольные обязательства по безопасности во всем секторе.

## Reaction После ухода официальные публичные реакции со стороны ключевых участников отрасли остаются ограниченными. На момент публикации материала Mike Pearl компания Anthropic не выпустила официального заявления относительно увольнения исследователя и не ответила напрямую на конкретные утверждения, сделанные в его комментарии.

Ожидается, что в сообществе исследователей безопасности ИИ, аналитиков и правозащитных групп этот уход будет наглядно иллюстрировать системные риски, присущие саморегулируемой разработке технологий. Организации по этике ИИ и некоммерческие институты согласования регулярно отслеживают увольнения инсайдеров, чтобы отслеживать, не компрометирует ли коммерческое давление в передовых лабораториях внутренние мандаты безопасности.

Конкуренты по отрасли и регуляторные органы аналогично хранят молчание по поводу конкретного события, хотя законодатели в ключевых юрисдикциях внимательно наблюдают за подобными событиями. Члены законодательных комитетов в Конгрессе США и AI Office Европейского союза регулярно включают показания экспертов и заявления информаторов из числа действующих и бывших сотрудников лабораторий в текущие оценки политики соблюдения стандартов безопасности и законов о раскрытии информации о моделях.

## What we don't know yet Вокруг этого события сохраняются значительные пробелы в информации. В материале Mike Pearl не раскрывается личность, официальная должность или конкретная роль уволившегося исследователя Anthropic. Следовательно, неясно, был ли данный сотрудник непосредственно задействован в red-teaming, исследованиях интерпретируемости, исполнительной политике или разработке передовых моделей.

Также остается неизвестным, подавал ли исследователь официальные внутренние жалобы, использовал ли внутренние каналы эскалации, предусмотренные Responsible Scaling Policy компании Anthropic, или направлял ли обращения в юридические регуляторные органы до увольнения. Кроме того, точные сроки ухода и полный письменный текст прощального заявления не были опубликованы в полном объеме.

Наконец, неясно, отражает ли этот отдельный уход изолированное личное решение или свидетельствует о более широком недовольстве среди технического персонала в подразделениях безопасности Anthropic. Сделают ли дополнительные сотрудники публичные заявления или последуют ли их увольнения, остается открытым вопросом, который может существенно повлиять на внутреннюю стабильность и публичную репутацию компании.

## What to watch В ближайшие недели и месяцы несколько ключевых показателей продемонстрируют более широкие последствия этого ухода:

- Официальные заявления или обновления политики руководства Anthropic в отношении протоколов безопасности, прав сотрудников на раскрытие информации и исполнения Responsible Scaling Policy. - Возможные публичные раскрытия или расширенные заявления уволившегося исследователя с подробным описанием конкретных внутренних технических проблем или организационных практик. - Законодательные и регуляторные слушания в США и Европе, на которые действующие или бывшие сотрудники по безопасности ИИ могут быть вызваны для дачи показаний о практиках отрасли и надзоре за катастрофическими рисками. - Внутренние кадровые тенденции в командах Anthropic по согласованию и исследованиям безопасности, включая то, решат ли другие ключевые сотрудники остаться или уйти. - Запланированный выпуск будущих передовых ИИ-моделей Anthropic, и то, введет ли компания добровольные ограничения возможностей или паузы в целях безопасности, как предусмотрено ее системой управления рисками.

Этот отчет основан на оригинальном материале, опубликованном Mike Pearl.