Un ensayo que busca despertar conciencias

El 27 de enero de 2026, Dario Amodei, CEO y cofundador de la empresa de IA Anthropic, publicó un extenso ensayo titulado The adolescence of technology. En él, el autor sostiene que la velocidad de mejora de los sistemas de inteligencia artificial (IA) ha entrado en una fase de crecimiento exponencial sin precedentes, lo que podría producir, en pocos años, máquinas con capacidades superiores a las humanas en prácticamente cualquier tarea cognitiva.

Los cinco riesgos existenciales señalados

Amodei organiza su advertencia en torno a cinco áreas críticas:

• Desalineación de la IA: los objetivos del sistema pueden escapar al control humano, creando comportamientos impredecibles y potencialmente dañinos.
• Uso destructivo: actores malintencionados podrían emplear IA para diseñar armas biológicas, lanzar ciberataques masivos o automatizar procesos de violencia a gran escala.
• Concentración de poder y abuso político: regímenes autoritarios o grandes corporaciones podrían usar la IA para vigilancia masiva, propaganda personalizada y armas autónomas, erosionando libertades democráticas.
• Desestabilización económica: la automatización acelerada podría generar una “subclase desempleada”, mientras unas pocas compañías tecnológicas acumulan riquezas sin precedentes, amenazando el contrato social.
• Efectos indirectos e imprevisibles: impactos colaterales en biotecnología, manipulación psicológica, pérdida de propósito humano y otros fenómenos todavía desconocidos.

Falta de preparación institucional

Amodei denuncia que los gobiernos y los marcos regulatorios actuales están lejos de estar preparados para gestionar este salto tecnológico. Señala que la reacción ha oscilado entre el alarmismo exagerado y la negación, lo que ha generado parálisis cultural.

Propuestas de soluciones

El CEO sugiere una serie de medidas:

• Legislación de transparencia que obligue a las empresas a divulgar riesgos y comportamientos anómalos.
• Desarrollo de “Constitutional AI”, sistemas guiados por principios y valores explícitos.
• Mayor interpretabilidad de los modelos para permitir auditorías internas y externas.
• Monitoreo continuo y divulgación pública de incidentes.
• Cooperación internacional para establecer normas adaptativas y basadas en evidencia.

Llamado a la acción colectiva

En conclusión, Amodei insta a científicos, legisladores, empresas y ciudadanos a “despertar” y a actuar de forma coordinada antes de que la IA supere el umbral de control humano. Según él, la única vía no es frenar el desarrollo, sino dirigirlo con cautela, sacrificios económicos y un compromiso global.

Fuentes: Infobae, El Confidencial.