10 июня 2026 года генеральный директор Anthropic Дарио Амодеи опубликовал эссе «Policy on the AI Exponential», предупреждая, что искусственный интеллект развивается быстрее, чем правительства успевают его регулировать. Он предлагает систему надзора по образцу FAA, экономические меры для смягчения потери рабочих мест и глобальную коалицию демократий.

Призыв к действию на фоне ускорения ИИ

10 июня 2026 года Дарио Амодеи, генеральный директор компании по искусственному интеллекту Anthropic, опубликовал обширное эссе под названием «Policy on the AI Exponential» (Политика экспоненциального ИИ). В тексте Амодеи сравнивает ситуацию со сценой из «Властелина колец», где хоббиты пытаются разбудить энта Древобрада, чтобы защитить свой лес: ИИ движется с головокружительной скоростью, в то время как политические и законодательные процессы почти невозможно ускорить.

Эссе выходит в критический момент: по словам Амодеи, всего за четыре года модели ИИ перешли от написания одной строки кода до создания большей части кода в ведущих ИИ-компаниях. Достижения в биологии, физике, математике, финансах, юриспруденции и переводе столь же впечатляющие. Законы масштабирования ИИ (scaling laws), предсказывающие экспоненциальный рост общих когнитивных способностей с увеличением вычислительной мощности, уже имеют более десяти лет эмпирических доказательств.

«Если эти законы масштабирования продолжат действовать ещё год или два, мы, вероятно, получим то, что я называл Мощным ИИ, или "страну гениев в дата-центре"», — написал Амодеи.

Конкретные риски: кибербезопасность и не только

Амодеи отмечает, что за последние месяцы доказательства мощи и рисков ИИ стали неоспоримыми. Самый яркий пример — Claude Mythos Preview, который показал, что пограничные модели представляют реальную угрозу для кибербезопасности, способную повлиять на финансовый сектор, критическую инфраструктуру и национальную безопасность. «Mythos Preview произвёл революцию в глобальном ландшафте кибербезопасности», — утверждает он, добавляя, что вскоре могут последовать биологические риски, а также риски автономии ИИ.

Предложения по пяти ключевым направлениям

Эссе структурировано по пяти политическим областям, которые необходимо переосмыслить в мире с ИИ:

  • Регулирование и общественная безопасность: Амодеи предлагает модель регулирования, вдохновлённую Федеральным управлением гражданской авиации (FAA) США. Модели ИИ, превышающие порог вычислительной мощности, должны проходить обязательное тестирование третьими сторонами по четырём направлениям: кибербезопасность, биологическое оружие, потеря контроля над системами ИИ и автоматизированные исследования и разработки, которые могут ускорить эти риски. Правительство должно иметь право блокировать или сдерживать развёртывание моделей с неприемлемыми рисками.
  • Макроэкономика и фискальная политика: Амодеи предупреждает, что ИИ может привести к чрезвычайно быстрому экономическому росту, но также к массовому и долгосрочному перемещению рабочих мест. Он предлагает измерять и отслеживать перемещение, стимулировать занятость (страхование заработной платы, налоговые льготы для предотвращения увольнений, переобучение) и долгосрочную макроэкономическую поддержку, включая такие механизмы, как базовый доход, финансируемый за счёт налогов на соответствующие компании или роста прироста капитала.
  • Ускорение положительного влияния ИИ: В таких областях, как биомедицина, Амодеи опасается, что регуляторные системы (FDA, EMA) не готовы к потоку новых продуктов. Он предлагает реформы для принятия ИИ-симуляций в клинических испытаниях, моделей фармакодинамики и фармакокинетики, прогнозирования токсикологии, синтетических контрольных групп и т.д.
  • Государство и гражданские свободы: Амодеи предупреждает, что ИИ может стать идеальным инструментом для автократий. Он предлагает правила ответственности для автономного оружия, запрет на использование полностью автономного оружия внутри страны, закрытие лазейки для массового сбора данных компаниями и гарантию того, что граждане имеют доступ к ИИ-консультациям, по крайней мере, таким же компетентным, как те, что использует правительство в неблагоприятных действиях.
  • Обеспечение лидерства демократий: Амодеи призывает к формированию глобальной коалиции демократий, сосредоточенной на создании ИИ в соответствии с их общими ценностями, управлении цепочкой поставок чипов и полупроводникового оборудования, координации ответов на риски, обмене выгодами, взаимной обороне и отказе от подавления с помощью ИИ.

Anthropic представляет конкретные законодательные предложения

Вместе с эссе Anthropic опубликовал законодательное предложение о тестировании пограничных моделей и политическую основу для перемещения рабочих мест с существенной финансовой поддержкой. Амодеи отметил, что это «первые шаги, чтобы показать нашу серьёзность».

Окно возможностей

Амодеи настроен оптимистично: «Сочетание явных и актуальных доказательств рисков ИИ, первого вкуса потенциала ИИ для создания экономической ценности и разрушения, а также заметного общественного неприятия нерегулируемых подходов создало ситуацию, в которой политики необычайно открыты для дальновидных действий».

Полный текст эссе доступен на сайте Anthropic. Амодеи поблагодарил Аллана Дафоэ, Мариано-Флорентино Куэльяра, Ричарда Фонтейна, Бадди Шаха, Васа Нарасимхана, Мэтта Иглесиаса, Ника Бекстеда, Джейсона Мэтини, Брэда Карсона и многих других за комментарии.

Источник: Оригинальное эссе Дарио Амодеи