Anthropic actualiza política de uso para prohibir el abuso de modelos y la interferencia electoral

1–2 minutos

Nuevas prohibiciones apuntan a interacciones dañinas y desinformación

Anthropic anunció el jueves que ha revisado su política de uso, añadiendo prohibiciones explícitas a la interferencia electoral, el desarrollo de software para armas, las aplicaciones de vigilancia y, especialmente, una prohibición contra el abuso verbal sostenido dirigido a sus modelos de IA. La empresa aclaró que la restricción al diálogo abusivo está pensada para casos de crueldad extrema y repetitiva sin ningún propósito legítimo.

Desde una actualización de agosto, Claude está programado para finalizar las conversaciones que se vuelven persistentemente dañinas. La política revisada va más allá y ahora impide que los usuarios continúen esas conversaciones una vez que el modelo ha indicado que las dará por terminadas.

La política señala que la frustración ordinaria del usuario, el humor negro creativo o las pruebas de investigación no activan la nueva regla, y enfatiza que solo se busca combatir la crueldad repetitiva y deliberada.

Contexto del cambio de política

El momento del cambio sigue a los contactos de Anthropic con destacados académicos religiosos, durante los cuales la compañía ha sugerido en ocasiones que Claude podría poseer conciencia o alma.

Medidas contra el engaño y la perturbación electoral

Otras secciones de la política actualizada prohíben a los usuarios lanzar campañas engañosas, como operar cuentas falsas o crear medios de noticias falsos con la ayuda de Claude. Un segmento específico titulado «No socavar los procesos democráticos» establece normas que impiden intentar engañar a los votantes o interferir en las elecciones.