Un appel à l'action face à l'accélération de l'IA
Le 10 juin 2026, Dario Amodei, PDG de l'entreprise d'intelligence artificielle Anthropic, a publié un long essai intitulé 'Policy on the AI Exponential' (Politique sur l'exponentielle de l'IA). Dans ce texte, Amodei compare la situation à la scène du Seigneur des Anneaux où les hobbits tentent de réveiller Sylvebarbe, l'Ent, pour défendre leur forêt : l'IA avance à une vitesse vertigineuse, tandis que les processus politiques et législatifs se déplacent avec une lenteur presque impossible à surmonter.
L'essai arrive à un moment critique : selon Amodei, en seulement quatre ans, les modèles d'IA sont passés d'à peine écrire une ligne de code cohérente à écrire la majeure partie du code dans les principales entreprises d'IA. Les progrès en biologie, physique, mathématiques, finance, droit et traduction sont tout aussi remarquables. Les lois de mise à l'échelle (scaling laws) de l'IA, qui prédisent une augmentation exponentielle des capacités cognitives générales avec une puissance de calcul accrue, reposent déjà sur plus d'une décennie de preuves empiriques.
« Si ces lois de mise à l'échelle continuent ne serait-ce qu'un ou deux ans de plus, il est probable que nous obtenions ce que j'ai appelé l'IA Puissante, ou 'un pays de génies dans un centre de données' », a écrit Amodei.
Risques concrets : cybersécurité et plus encore
Amodei souligne que ces derniers mois, les preuves de la puissance et des risques de l'IA sont devenues indéniables. L'exemple le plus emblématique est Claude Mythos Preview, qui a démontré que les modèles frontières représentent des risques très réels pour la cybersécurité, avec un potentiel pour perturber le secteur financier, les infrastructures critiques et la sécurité nationale. « Mythos Preview a révolutionné le paysage mondial de la cybersécurité », affirme-t-il, ajoutant que les risques biologiques pourraient bientôt suivre, ainsi que les risques liés à l'autonomie de l'IA.
Propositions dans cinq domaines clés
L'essai est structuré autour de cinq domaines politiques qui doivent être repensés dans un monde avec l'IA :
- Régulation et sécurité publique : Amodei propose un modèle de régulation inspiré de la Federal Aviation Administration (FAA) des États-Unis. Les modèles d'IA dépassant un seuil de calcul devraient être soumis à des tests obligatoires par des tiers dans quatre domaines : cybersécurité, armes biologiques, perte de contrôle des systèmes d'IA et R&D automatisée qui pourrait accélérer ces risques. Le gouvernement devrait avoir le pouvoir de bloquer ou de dissuader le déploiement de modèles présentant des risques inacceptables.
- Macroéconomie et politique fiscale : Amodei avertit que l'IA pourrait générer une croissance économique extrêmement rapide mais aussi un déplacement massif et durable de la main-d'œuvre. Il propose de mesurer et de suivre le déplacement, des incitations pro-emploi (comme des assurances salariales, des incitations fiscales pour éviter les licenciements, la formation) et un soutien macroéconomique à long terme, y compris des mécanismes comme le revenu de base universel financé par des impôts sur les entreprises concernées ou sur l'augmentation des gains en capital.
- Accélérer l'impact positif de l'IA : Dans des domaines comme la biomédecine, Amodei craint que les systèmes réglementaires (FDA, EMA) ne soient pas préparés à l'avalanche de nouveaux produits. Il propose des réformes pour accepter les simulations d'IA dans les essais cliniques, les modèles de pharmacodynamie et de pharmacocinétique, la prédiction de la toxicologie, les bras de contrôle synthétiques, entre autres.
- L'État et les libertés civiles : Amodei avertit que l'IA pourrait être l'outil ultime pour l'autocratie. Il propose des règles de responsabilité pour les armes autonomes, l'interdiction de l'utilisation domestique d'armes totalement autonomes, la fermeture de la lacune de collecte massive de données par les entreprises, et la garantie que les citoyens aient accès à des conseils d'IA au moins aussi capables que ceux utilisés par le gouvernement dans les actions défavorables.
- Assurer le leadership des démocraties : Amodei exhorte à former une coalition mondiale des démocraties centrée sur la construction de l'IA selon leurs valeurs communes, la gestion de la chaîne d'approvisionnement en puces et équipements semi-conducteurs, la coordination de la réponse aux risques, le partage des bénéfices, la défense mutuelle et le rejet de la répression alimentée par l'IA.
Anthropic lance des propositions législatives concrètes
Parallèlement à l'essai, Anthropic a publié une proposition législative sur les tests des modèles frontières et un cadre politique pour le déplacement de la main-d'œuvre, avec un soutien financier substantiel. Amodei a indiqué qu'il s'agissait de « premiers pas pour montrer notre sérieux ».
Une fenêtre d'opportunité
Amodei se montre optimiste : « La confluence de preuves claires et présentes des risques de l'IA, un premier aperçu du potentiel de l'IA pour la création de valeur économique et la disruption, et un rejet public remarquable des approches non réglementées ont créé une situation où les décideurs politiques sont exceptionnellement ouverts à des actions visionnaires ».
L'essai complet est disponible sur le site d'Anthropic. Amodei a remercié Allan Dafoe, Mariano-Florentino Cuéllar, Richard Fontaine, Buddy Shah, Vas Narasimhan, Matt Yglesias, Nick Beckstead, Jason Matheny, Brad Carson et bien d'autres pour leurs commentaires.
Source : Essai original de Dario Amodei