Un llamado a la acción ante la aceleración de la IA
El 10 de junio de 2026, Dario Amodei, CEO de la empresa de inteligencia artificial Anthropic, publicó un extenso ensayo titulado 'Policy on the AI Exponential' (Política sobre la exponencial de la IA). En el texto, Amodei compara la situación con la escena de El Señor de los Anillos en la que los hobbits intentan despertar a Bárbol, el ents, para defender su bosque: la IA avanza a una velocidad vertiginosa, mientras que los procesos políticos y legislativos se mueven con una lentitud casi imposible de superar.
El ensayo llega en un momento crítico: según Amodei, en solo cuatro años los modelos de IA pasaron de apenas escribir una línea de código coherente a escribir la mayor parte del código en las principales empresas de IA. Los avances en biología, física, matemáticas, finanzas, derecho y traducción son igualmente notables. Las leyes de escalado (scaling laws) de la IA, que predicen un aumento exponencial de las capacidades cognitivas generales con mayor poder computacional, cuentan ya con más de una década de evidencia empírica.
“Si estas leyes de escalado continúan solo uno o dos años más, es probable que obtengamos lo que he llamado IA Poderosa, o 'un país de genios en un centro de datos'”, escribió Amodei.
Riesgos concretos: ciberseguridad y más
Amodei señala que en los últimos meses la evidencia del poder y los riesgos de la IA se ha vuelto innegable. El ejemplo más emblemático es Claude Mythos Preview, que demostró que los modelos frontera representan riesgos muy reales para la ciberseguridad, con potencial para alterar el sector financiero, las infraestructuras críticas y la seguridad nacional. “Mythos Preview revolucionó el panorama global de la ciberseguridad”, afirma, y agrega que los riesgos biológicos podrían seguir pronto, así como los riesgos de autonomía de la IA.
Propuestas en cinco áreas clave
El ensayo se estructura en cinco áreas políticas que necesitan ser repensadas en un mundo con IA:
- Regulación y seguridad pública: Amodei propone un modelo de regulación inspirado en la Administración Federal de Aviación (FAA) de Estados Unidos. Los modelos de IA por encima de un umbral de cómputo deberían someterse a pruebas obligatorias por terceros en cuatro áreas: ciberseguridad, armas biológicas, pérdida de control de sistemas de IA e I+D automatizada que pueda acelerar estos riesgos. El gobierno debería tener el poder de bloquear o disuadir el despliegue de modelos que presenten riesgos inaceptables.
- Macroeconomía y política fiscal: Amodei advierte que la IA podría generar un crecimiento económico extremadamente rápido pero también un desplazamiento laboral masivo y duradero. Propone medición y seguimiento del desplazamiento, incentivos pro-empleo (como seguros de salario, incentivos fiscales para evitar despidos, capacitación) y apoyo macroeconómico a largo plazo, incluyendo mecanismos como la renta básica universal financiada con impuestos a las empresas relevantes o al aumento de las ganancias de capital.
- Acelerar el impacto positivo de la IA: En áreas como la biomedicina, Amodei teme que los sistemas regulatorios (FDA, EMA) no estén preparados para la avalancha de nuevos productos. Propone reformas para aceptar simulaciones de IA en ensayos clínicos, modelos de farmacodinamia y farmacocinética, predicción de toxicología, brazos de control sintéticos, entre otros.
- El estado y las libertades civiles: Amodei advierte que la IA podría ser la herramienta definitiva para la autocracia. Propone reglas de responsabilidad para armas autónomas, prohibición del uso doméstico de armas totalmente autónomas, cerrar la laguna de recopilación masiva de datos por parte de empresas, y garantizar que los ciudadanos tengan acceso a asesoramiento de IA al menos tan capaz como el que use el gobierno en acciones adversas.
- Asegurar el liderazgo de las democracias: Amodei insta a formar una coalición global de democracias centrada en construir IA según sus valores comunes, gestionando la cadena de suministro de chips y equipos de semiconductores, coordinando la respuesta a riesgos, compartiendo beneficios, defensa mutua y rechazo a la represión impulsada por IA.
Anthropic lanza propuestas legislativas concretas
Junto con el ensayo, Anthropic publicó una propuesta legislativa sobre pruebas de modelos frontera y un marco político para el desplazamiento laboral, con respaldo financiero sustancial. Amodei señaló que estos son “primeros pasos para mostrar nuestra seriedad”.
Una ventana de oportunidad
Amodei se muestra optimista: “La confluencia de evidencia clara y presente de los riesgos de la IA, un primer sabor del potencial de la IA para la creación de valor económico y la disrupción, y un notable rechazo público a los enfoques no regulados han creado una situación en la que los responsables políticos están inusualmente abiertos a acciones con visión de futuro”.
El ensayo completo está disponible en el sitio de Anthropic. Amodei agradeció a Allan Dafoe, Mariano-Florentino Cuéllar, Richard Fontaine, Buddy Shah, Vas Narasimhan, Matt Yglesias, Nick Beckstead, Jason Matheny, Brad Carson y muchos otros por sus comentarios.
Fuente: Ensayo original de Dario Amodei