Anthropic crée une constitution éthique pour claude face aux risques de l'ia
Anthropic verrouille l’éthique de Claude avec 78 principes constitutionnels
Actuellement, l’IA Claude d’Anthropic fonctionne sous le contrôle strict d’une constitution éthique de 78 principes. Ce cadre, inspiré de la Constitution américaine et publié initialement en avril 2023, s’engage à garantir un alignement sûr avec les valeurs humaines fondamentales. Il pose les bases d’une gouvernance de l’IA robuste et préventive.
Les résultats sont tangibles : le système bloque 99,9% des tentatives d’utilisation malveillante liées aux armes CBRN et a empêché plus de 1,2 million de violations potentielles depuis son déploiement. La méthode technique, baptisée “Constitutional AI”, utilise 14 classifiers auto-supervisés pour une réduction de 85% des écarts éthiques. Cette approche constitutionnelle démontre une efficacité opérationnelle sans précédent.
Les limites et l’avenir de l’IA constitutionnelle
Selon les projections d’Anthropic, cette approche pourrait devenir un standard pour le développement d’une IA générale sûre. Cependant, certains experts soulignent que la précision et l’exhaustivité des principes restent un obstacle majeur à surmonter pour éviter des comportements imprévisibles à long terme. La course vers une IA alignée et fiable est engagée, mais le chemin est encore semé de défis techniques et philosophiques à résoudre.
