La propuesta de Anthropic para regular la IA en EE. UU. es criticada por limitar la supervisión pública

2–3 minutos

La empresa creadora de Claude presentó un proyecto de regulación para sistemas avanzados de inteligencia artificial en Estados Unidos. El texto prevé evaluaciones externas, divulgación de riesgos y un procedimiento judicial para suspender modelos en situaciones de peligro inminente. La organización Americans for Responsible Innovation (ARI) argumentó que la propuesta otorga a las empresas el poder de definir sus propios estándares de seguridad y no garantiza que el gobierno tenga autoridad suficiente para supervisar los sistemas.

Críticas al proyecto

ARI sostiene que el gobierno debe establecer criterios obligatorios y tener capacidad para probar e inspeccionar las plataformas. Según la entidad, el borrador permitiría que los desarrolladores elaboraran y ajustaran sus propias reglas, lo que debilitaría la protección pública. Además, la propuesta sustituiría parte de las exigencias estatales por normas federales, lo que podría debilitar las salvaguardas ya existentes en los estados.

Mecanismo para detener los modelos

Según la propuesta, el Departamento de Comercio tendría que recurrir a un tribunal federal en Washington para solicitar la paralización del desarrollo, el lanzamiento o el uso interno de un modelo. La solicitud tendría que demostrar un riesgo inminente y justificar por qué una medida menos drástica no sería suficiente. Los límites establecidos son el riesgo de muerte o lesiones graves a más de 50 personas o pérdidas patrimoniales superiores a 1.000 millones de dólares. Los escenarios abarcan armas biológicas, ataques cibernéticos, pérdida de control de la IA e investigaciones automatizadas que amplifiquen estos peligros.

Disputa sobre las leyes estatales

El concepto de preeminencia federal permite que una ley nacional sustituya las exigencias estatales sobre los mismos temas, como la transparencia, las evaluaciones externas y la comunicación de incidentes. ARI advierte que esta sustitución puede reducir las protecciones ya existentes en los estados y defiende que una norma federal sea más rigurosa y capaz de seguir la evolución tecnológica. La propia Anthropic, en su Advanced AI Framework publicado en junio, ya condicionaba la sustitución de las normas estatales a un régimen federal robusto, manteniendo espacio para la actuación estatal en áreas no expresamente cubiertas.

Respuesta de Anthropic

Anthony Cimino, responsable de los asuntos federales de la compañía, anunció el domingo 18 que la redacción sobre las leyes estatales será revisada. En una publicación en X, afirmó que el objetivo es preservar el papel de los estados en cuestiones como los estándares para los evaluadores y la capacidad de los laboratorios para desconectar los modelos. Cimino también defendió un equilibrio entre la necesidad de una acción gubernamental rápida en emergencias y la protección contra los abusos del poder de detener una IA. La empresa discute requisitos más severos para la notificación de incidentes y formas de evitar que la elección de evaluadores se base en la conveniencia de los resultados.

Contexto y otras propuestas

El debate sobre quién debe supervisar el sector fue llevado a la opinión pública por los líderes de Anthropic, OpenAI y Google DeepMind. El FRONTIER Act, presentado en julio por los representantes Jay Obernolte y Lori Trahan, propone la licencia de evaluadores y permite al secretario de Comercio emitir órdenes de emergencia para restringir modelos. Para los usuarios, los puntos críticos implican la divulgación de los riesgos y la retirada de productos peligrosos del mercado. El borrador no tiene fuerza de ley y no genera obligaciones en Brasil.